📝 backspace.fm のネタ帳
番組で話してほしいネタを、みんなで投稿して投票する場所

ネタ帳は neta.backspace.fm からここへ引っ越しました

← Bluesky日本カントリーマネージャー 高野直子さんと語る分散型SNSの未来 ep655 のランキング

余っているMacをAIクラスタにする「exo」入門:ローカルLLMを複数台で動かす|kaki

横浜MM032026/05/09 17:51

ローカルLLMを試したい。でも、手元の1台だけだとメモリが足りない。クラウドにデータを出すのは少し気になる。余っているMacBookやサブPCを、ただ眠らせておくのももったいない。 そんな人にとって面白い選択肢になりそうなのが、オープンソースの exo です。 結論から言うと、exoは「複数のデバイスを束ねて、ローカルのAIクラスターとして使う」ためのツールです。1台では動かしにくい大きなLLMを、複数台に分けて動かせる可能性があります。 ただし、ここは最初に強調しておきたいです。exoは「複数台にすれば必ず速くなる魔法のツール」ではありません。ノード間の通信が増えるため、Wi-

記事を開く(note.com)

コメント

まだコメントはありません