📝 backspace.fm のネタ帳
番組で話してほしいネタを、みんなで投稿して投票する場所

ネタ帳は neta.backspace.fm からここへ引っ越しました

← ep681 のランキング

12年前のPS4で90億パラメーターのAIが動作、毎秒最大43トークンを実現

ラッキン☕️2026/11/17 23:04

Garlic LLMは改造済みのPS4上でQwen3.5-9Bをオフライン実行できる。GPUへの実行命令を自前で組み立て、モデルの量子化と投機的デコードを組み合わせることで、限られた共有メモリーを活用している。

記事を開く(xenospectrum.com)

コメント

まだコメントはありません