📝 backspace.fm のネタ帳
番組で話してほしいネタを、みんなで投稿して投票する場所

ネタ帳は neta.backspace.fm からここへ引っ越しました

← ep665 善司・松尾の二人回。革ジャン来日狂騒を語る のランキング

『ローカルLLMは節約』は半分ウソ、検証で見えた分岐点|ひろと@人生hack

横浜MM032026/07/15 22:59

「ローカルでLLMを回せば、もうAPI課金に怯えなくていい」——半年前の私は本気でそう思っていました。結論から言うと、それは使い方によっては大ウソでした。 国産LLM(ELYZAやSwallow、PLaMoなどの日本語特化モデル)を自宅マシンで動かすローカル運用と、GPT系やClaude系の国外APIを叩く運用。この2つを、私が実際に1年ぶん回して電気代・初期費用・速度・日本語精度を全部記録しました。 先に一番大事な数字だけ言います。私の環境では、月の実利用が約120時間を超えたあたりでローカルが得、それ未満だとAPIの方が安いという分岐点が出ました。「とりあえずローカルにすれば安

記事を開く(note.com)

コメント 1