GTX980Ti– tag –

グラボを交換する直前になって思い出しました！Gemma 4にはE2Bと12Bの間に、もう一つモデルがあったことを笑 でも今PCの電源を抜き、キーボードやマウスなどPC本体に接続していた機器を取り外したばかり… そして今手にしているのは、これから交換する新し...

前回はVRAM6GBに収まる5つのモデルをテストしてみました。 AIのサイズが上がるにつれて速度が落ちていき、8BのSwallowでは9トークン/秒まで下がりましたが、僕的には実用に支障を感じるほどではありませんでした。 そこで今回は、VRAM6GBには収まらないサ...