大東 信仁（ものくろ） 
ローカルLLM専用機として注文していた Mac Studio を、注文し直しました。
M5 Ultra(メモリ96GB / SSD 2TB)をキャンセルして、M5 Max(18コアCPU / 40コアGPU / メモリ128GB / SSD 2TB)へ。
速さを取るか、容量を取るか。
10月15日に注文してから、11月7日に変更するまで、本当に迷いました。
最後は、Claude Code と、Codex にも相談しながら、「容量」に決めました。
その悩みの流れを、時系列で残しておきます。
なぜ、ローカルLLM専用機が欲しかったのか
目的は3つです。
- お客さんのデータを外に出せない仕事に対応したい
- 24時間動くAIエージェントに、トークン量を気にせず大量の作業をさせたい
- ローカルLLMを組む知見そのものを、AIコンサルの仕事にしたい
今、24時間動いているのは Mac mini(M1 メモリ16GB)です。
これはエージェント用に残して、ローカルLLM専用の機械を新しく足す、という計画でした。
最初は「年明けに、96GBを」の予定だった(9月末〜10月12日)
検討を始めたのは、9月の終わり。
当初の案は、M5 Ultra 96GB / 64コアGPU / 1TB(949,800円)を、年明けに買う、でした。
決め手は、メモリの帯域です。
M5 Ultra は1.2TB/s。256GBモデルと速さは同じで、違うのは「載るモデルの大きさ」だけ。
256GBにすると、+72万円。
月々の支払いが一気に増えるので、「いまは払う価値がない」で決着しました。
賢さも、96GBに載る 27B のモデルと、256GBが要る 125B のMoEモデルで、ほぼ同じ(SWE-bench Pro で61.7%と62.5%)。
Xで8機種を同じ条件で比べている方がいて、M5 Ultra は読む速さが1位でした。
僕は「いつもケチって失敗する」自覚があります。
でも、96GBは必要なものを削っていない。なので、今回は大丈夫、と整理しました。
年明けを待たずに、ポチッと(10月15日)
512GBのモデルが出たら、納期がもっと伸びそう。
そう思って、年明けを待たずに、Apple で注文しました。
SSDは外付けで足す予定を、内蔵2TBに変更。到着は12月上旬の予定でした。
「本当に良いの?」とゼロから考え直した(11月5日)
注文して3週間。
届くのを待っている間に、やっぱり気になってきました。
Claude Code に「ゼロベースで考えて。Mac Studio 96GB、買う意味ある?」と聞いてみたら、返ってきたのは、
「今のままなら、95万円を出して買う意味は薄い」
ズバッと。
Claude の代わりにはならないし、普段の作業も速くならない、と。
でも、そこで気づいたんです。
今、ローカルLLMの仕事をやっていないのは、機材がないから。機材があれば、やるようになる。
Claude Code を司令塔にして、作業はトークンを気にせず手元のAIに回す。
そう伝えると、「それなら買う意味はある。帯域優先の96GBで合っている」に変わりました。
Linux+GPUの機械も考えた(11月6日)
次に気になったのは、そもそもMacでいいのか、です。
YouTubeで、M5 Ultra 512GBを予約していた方がキャンセルした、という話を見ました。
Macより、GPUを積んだ機械のほうが賢い、という内容です。
そこで、Linux を入れたGPU機とも比べてみました。
性能あたりの値段は、GPU機のほうが有利。
でも、ドライバーの更新、音、熱、相性問題。誰かが面倒を見続ける必要があります。
僕が欲しいのは「手間をかけずに、静かに、確実に回せる機械」。
お客さん(社内にIT担当がいない中小企業)に求められているのも、それなんですよね。
なので、Macで決まり。
一番、迷った日(11月7日)
翌朝、shi3zさんの note 記事「MacStudio 512GBがAI用途に不向きな理由」を、有料部分まで読みました。
前提は512GBで、僕の使い方とは条件が違います。
でも、気になる点がいくつかあって、そこから質問が止まらなくなりました。
- 96GBで、大きいMoEモデルは動かない?
- 128GBにしたら、遅くても、動かないものが動く?
- そもそも、Macのほうがいいの?
- メモリの不足をSSDで補う技術も、出てきているよね?
迷うわけですよ。
SSDから読みながら動かす技術(Kapitsa・Strata・llama.cpp など)を使えば、MoEモデルは「載らない」が「少し遅い」に変わります。
それなら、Ultra 96GBのままでいい、と着地しかけました。
でも、Ultraって、Maxの2倍速いわけじゃないよね?
調べてもらうと、実際の速さは、Maxの約1.5倍(長い資料の読み込みは約2倍)。
速さは力。
だけど、載らないのは困る。
ここで、Codex にもセカンドオピニオンを求めました。
答えは「Macで妥当。同じぐらいの総額なら Max 128GB」。
そして、最後に自分の中から出てきた一言。
一番は、データを外に出さない処理。
外に出せないデータは、クラウドの Claude に確認してもらえません。
手元だけで、品質を出すことになります。
それなら、大きくて精度の高いモデルを載せたい。
「作る役」と「確かめる役」の2つのモデルを、同時に載せたい。
そうなると、効くのは速さより、容量。
ここで、決まりました。
キャンセルは、あっけなかった
Apple のサイトで、Ultra の注文をキャンセル。
「請求は行われません」と表示されて、終わりです。
そして、M5 Max 128GB / 2TB を注文。1,031,800円。
到着予定は、11月19日〜27日。
予算の約95万円は、8万円ほど超えました。
でも、12月上旬の予定が、少し早まりました。
嬉しい誤算です。
その日の夕方、フリマで中古の M3 Ultra 256GB(139万円)を見かけましたが、これは見送り。長い資料を読む速さは M5 世代のほうが上で、保証も返品も期待できないからです。
