📝 backspace.fm のネタ帳
番組で話してほしいネタを、みんなで投稿して投票する場所

ネタ帳は neta.backspace.fm からここへ引っ越しました

← ep670 のランキング

NVIDIA DGX Spark 互換機 を 2 台購入し、 ローカルで DeepSeek V4 Flash 0731 の運用を開始した雑感

mazzo2026/08/17 15:29

NVIDIA DGX Spark 互換機 (以下 Spark) を 2 台購入し、クラスター起動して ローカルで DeepSeek V4 Flash 0731 の運用を開始したので雑感を書いて行く。 前提 悪いのでそもそもコスパを検討するなら API 利用をすべきなので、コスト面でのメリットはとても薄い。 速度 まずローカル LLM の一番気になっていた「速度」だが「仕事で十分利用できるレベル」という判断になった。 0:00 /0:21 1× ローカル LLM は主に社員に使って貰っており、社員からは「今まで API で利用していたのと特に違和感なく利用できている。API の料金やサブスクの制限を考えず、完全クローズド環境で使える安心感はとても良い」とのフィードバックを貰った。 安定面 以下のレシピを使わせて頂いている。 Commits · MiaAI-Lab/

記事を開く(voluntas.ghost.io)

コメント

まだコメントはありません