📝 backspace.fm のネタ帳
番組で話してほしいネタを、みんなで投稿して投票する場所

ネタ帳は neta.backspace.fm からここへ引っ越しました

← ep673 のランキング

Taro L. Saito: Jevも合成データと大規模モデルのラベルで学習をしているらしいので、重み157GBのDeepSeek V4 Flashの判断をDGX Sparkで26時間かけて蒸留・学習し、4Bモデルに移してみた。20分の1のサイズで教師の即答モードを超え、1判断あたり約22ms。Local LLMだけでここまでできるとは。

🎙 番組で話したドリキン2026/09/20 23:25

Jevも合成データと大規模モデルのラベルで学習をしているらしいので、重み157GBのDeepSeek V4 Flashの判断をDGX Sparkで26時間かけて蒸留・学習し、4Bモデルに移してみた。20分の1のサイズで教師の即答モードを超え、1判断あたり約22ms。Local LLMだけでここまでできるとは。

記事を開く(x.com)

コメント

まだコメントはありません