ネタ帳は neta.backspace.fm からここへ引っ越しました
- これまでの週のネタと「聞きたい」の数は、そのまま引き継いでいます。
- 読むのは、だれでもログインなしでできます。
- 「聞きたい」・投稿・コメントには、backspace.fm の無料登録が要ります。メールアドレスだけで、お金はかかりません。右上の「ログイン / 無料登録」からどうぞ。
- すでに backspace.fm に登録している方(BSM の会員の方も)は、同じメールアドレスでログインしてください。
2013年製ゴミ箱MacのAI性能は今でもそこそこいける?
The “Trash Can” Mac Pro, once the most expensive machine you could buy from Apple, mine was just shy of £10,000 in 2016 — that’s £14k in today’s money. Until recently mine was just running as a kubernetes single node development platform, it’s 64gb of ram and 24 logical cores made it perfect for that. Its most powerful asset, a pair of D700 GPUs, essentially sat idle for years… that is until yesterday when I discovered that while its old southern islands based GPUs weren’t supported in ROCm, they were now supported under Vulkan — thanks to new drivers and a new Linux kernel. That means it can run basically any model that llama cpp can throw at its 12gb of VRAM. Time to do some benchmarks, right? Qwen 3.5 9B Q4 MTP — 11 t/s output at 70k context Qwen 2.5 coder q4 — 22 t/s output at 70k context
記事を開く(reddit.com)コメント
まだコメントはありません