ローカルLLM– category –

グラボを交換する直前になって思い出しました！Gemma 4にはE2Bと12Bの間に、もう一つモデルがあったことを笑 でも今PCの電源を抜き、キーボードやマウスなどPC本体に接続していた機器を取り外したばかり… そして今手にしているのは、これから交換する新し...

前回はVRAM6GBに収まる5つのモデルをテストしてみました。 AIのサイズが上がるにつれて速度が落ちていき、8BのSwallowでは9トークン/秒まで下がりましたが、僕的には実用に支障を感じるほどではありませんでした。 そこで今回は、VRAM6GBには収まらないサ...

ローカルLLMを自分のPCで動かしてみたい！と興味を持ってみたものの、気になるのが「どんなPCで動くのか」ではないでしょうか。 今使っているPCでそのまま始められるのか？どの性能が重要なのか？買い換えやパーツ交換は必要なのか？ GPUを使ってローカルL...

ローカルAIにはクラウドAIに比べて、情報が外に漏れにくいというメリットがあります。 そこで今回は、家計管理という、あまり外に知られたくないお金の管理をローカルAIでやってみる実験です。 コンピュータなんだから計算は得意なはず。そう思いますよね...

AIが得意なことの代表に「文章作成」があります。 今回はローカルAIに文章を書かせる実験をしてみます。 ブログやメールなど、文章を書くのが苦手・めんどくさいと思うことってありますよね。 そんな人にとってAIは強い助っ人になってくれるはず。 得意分...

前回ローカルAIに太りにくいコンビニ商品を聞いたところ、そのままの商品名で売っていたのは3個だけ。名前が変わっていたり一部だけあったりを含めても4個ほどでした。情報が古い——ローカルAIの弱点をリアルに実感した体験でした笑そこで今回は、聞き方を...

実はここ1年の間に8kgほど太ってしまいまして… 原因はよく分かっています。それは、コンビニ飯（スイーツ含む）です。 もう今は毎食、朝・昼・夜、特に夜はコンビニ飯ですませる毎日を送っています。 さらに甘い物が好きなのでスイーツも必ず買っています...

Geminiとの会話で、自分のPCで動くAIの存在を知らされる。 しかも月額0円で使い放題、電気代しか掛からないという夢のような世界… 足を踏み入れてみたものの、モデル（AIの脳みそ）の日本語力に振り回されて時間だけが過ぎてゆく。 なんとか自然な日本語が...

GeminiにローカルLLMを教えてもらったある日いつものように、AI（Gemini）を質問攻めにしていました。 確かこんなことを聞いていました… 私「センシティブ（アダルト）な内容にはどこまで対応できる？」 私「資格の勉強とかも教えてもらえる？授業形式で！...