アフィリエイト広告を利用しています

Mac Studio M5 Max 128GBが届きました【ローカルLLM】Ultraの速さより、モデルが載る容量を選んでよかった

棚に置いた Mac Studio M5 Max 128GB

Mac Studio の M5 Max 128GB が、届きました。

使って、半日。

メモリは、多いほどいい。

128GBを選んで、よかったです。

Apple から届いた茶色の段ボール箱。机の上に置いてある
段ボールを開けると、白い Mac Studio の化粧箱。側面に背面の端子の写真が印刷されている
電源を入れると、ゴールデンゲートブリッジと海岸の写真に「ようこそ」の文字。下に「はじめよう」のボタン

Ultra 96GBと、最後まで迷った

M5 Ultra 96GB の注文をキャンセルして、M5 Max 128GB に変えたいきさつは、前回の記事に書きました。

届いたのは、Mac Studio(M5 Max 18コアCPU / 40コアGPU / メモリ128GB / SSD 2TB)です。

Apple の注文画面。「お客様の新しいMac。」の見出しの下に、M5 Maxチップ搭載Mac Studio、128GBユニファイドメモリ、2TBストレージ、18コアCPU、40コアGPU、16コアNeural Engine と並んでいる

速さなら、Ultra。

Max と比べて、実際の速さは約1.5倍。

長い資料の読み込みなら、約2倍。

正直、その速さには、最後まで惹かれていました。

速さの前に、まず「載るか」

で、半日使ってみて、あらためて感じたこと。

AIのモデルは、メモリに入りきらなければ、速いも遅いもない。

動かない。

ローカルLLMは、モデルをメモリに載せて動かします。

載らなければ、スタートラインにも立てません。

例えば、OpenAI の gpt-oss-120b。

ダウンロードするだけで、約65GBあります(Ollama の場合)。

しかも、Mac はメモリをすべてAIに使えるわけではありません。

GPUが使えるのは、初期設定でメモリの約75%まで。

96GB なら、約72GB。

gpt-oss-120b は、ギリギリ載ります。

でも、長い資料を読ませる分の余裕は、ほとんど残りません。

128GB なら、約96GB。

30GBほど残るので、余裕があります。

速さの差は、待てば済みます。

でも、載らないモデルは、待っても動かない。

なので、速さの前に、容量。

予定より、早く届いた

Ultra のほうは、12月上旬に届く予定でした。

Max は、11月17日に到着。

2週間以上、早く使い始められました。

まとめ

前回の記事で、届いたら確かめると書いたのは、この3つです。

  • メモリをたくさん使って一晩回しても、固まらないか
  • 2つのモデルを同時に載せて回せるか
  • 日本語の議事録・要約の品質が、お客さんに出せる水準か

これから、じっくり試します。

結果は、また記事に書きます。

この記事を書いた人

大東 信仁

カンパチが好きです。

プロフィールはこちら

10月14日開催 参加者募集中
(画像をタップ→詳細へ)

ミッションナビゲート モニター
(画像をタップ→詳細へ)

広告