ローカルAIを動かすために、Ryzen AI Max+ 395、メモリ64GBのPCを購入しました。ChatGPTの使用量を気にせず、コード生成や実装をもっと自由に進められるようにしたい。それが大きな動機でした。
先に今の感想を書くと、AI開発用として「買ってよかった」と十分に実感できるところまでは、まだ来ていません。動く環境は作れましたが、日常的に安心して任せる作業は探している段階です。
一方で、購入前の比較や、構築して試す過程で分かったことはかなりありました。今回は、なぜこの構成を選び、使ってみて何が想定と違ったのかを紹介します。
家計簿の開発と並行して、ローカルAIを考えていた
当時はChatGPT Plusを使って、自分用の家計簿アプリを開発していました。相談や作業を続けるうちに、使用量の限界を感じることが増えました。
せめて実装やコード生成をローカルAIに任せられれば、もっと自由に、規模の大きいものを作れるのではないか。そう考えたのが、専用機を用意する動機です。
家計簿を完成させてから次の目標としてサーバーを買った、という順番ではありません。家計簿づくりと、ローカルAIの環境を準備することは、ほぼ同じ時期に進めていました。
最初の案は、メインPCへのGPU増設だった
最初から「サーバーを立てよう」と考えていたわけではありません。メインのゲーミングPCにグラフィックボードを2枚挿して、その中でローカルLLMを動かすような構想でした。
そこから、YouTubeでMac miniやMac Studioなどを使ったローカルLLMの紹介を見て、特にユニファイドメモリがローカルでLLMを動かすうえで有利だと知りました。それをきっかけに、どんな機器ならどのくらいのモデルを動かせるのかを調べるようになりました。
さらに、今使っているRyzen機を比較的安く入手できるという情報を、動画などで見つけました。この頃に、Sakana ChatのFuguが無償で利用できるということだったので試しに性能や構成についていろいろ質問していました。
相談の途中では、メインPCで試せるかも確認しています。ただ、普段のコーディングに使うPCでもあるため、LLMを動かす機器は別にしたいと考えるようになりました。
なお、現在（2026年9月22日）確認した公式FAQでは、Sakana Chatは現在も無料で、一定時間内のリクエスト数に上限があると案内されています。また、9月17日の公式発表では、Sakana ChatのFuguが「Fugu Max」に切り替わり、全ユーザーへ提供されたと発表されています。なかなか攻めた感じになっていますが、開発元のSakana AIは日本のAI企業なので頑張ってもらいたいですね。
生成速度を、数字だけでなく感覚でも確認した
選ぶときに見ていたのは、価格と、それに対してどの程度の性能が得られそうかという点です。
動かすモデルの大きさとして、当時は27B級を一つの目安にしていました。Sakana ChatやChatGPTで、毎秒何トークンくらい生成できそうかを相談し、候補を比較しました。
ただ、「毎秒10トークン」と言われても、それが自分にとってどれくらいの待ち時間なのかは分かりません。そこでSakana Chatに、その速さを再現してほしいと頼みました。文字が出てくる様子を見て、速度の感覚をつかもうとしたんです。
これは実機のベンチマークではなく、表示で速さをイメージするためのものでした。それでも、予測値を眺めるだけより、待てそうかどうかを考えやすくなりました。
当時比較していた候補では、MacよりRyzen機の方が明らかに安いと感じました。性能が非常に高いわけではなくても、個人で使うなら許容できそうだ、という判断でした。
64GBか128GBか。最後は運用方法を相談して決めた
メモリを64GBにするか128GBにするかは迷いました。自分が考えていたのは、一つのモデルだけにすべてを任せる使い方ではなく、設計・実装・試験などでモデルを使い分ける構想だったからです。
ChatGPTとの相談では、別のPCからAPI経由で使う専用機にすることや、必要なときだけモデルを読み込み、使わなくなったらメモリから外す運用も検討しました。
価格と性能で候補を絞ったあと、最後の決め手になったのは、こうした運用の相談です。希望している使い方を具体的に考え、この構成でも実現できそうだと納得できたところで購入しました。購入したサーバー機器は以下のものです。
なお、検討中にはクラウドの月額料金とも比較し、PCを買う費用に見合うのだろうかと迷っています。購入によって必ず安くなる、と結論が出たわけではありません。
一台のサーバーで、役割ごとにモデルを切り替える構成
今のサーバーは、複数のモデルを用意し、作業に合わせて切り替える構成です。別のPCからAPI経由で呼び出し、要件整理、設計、実装、レビューなどに、それぞれ担当させたいモデルを選びます。
2026年9月時点では、LLMを9モデル登録し、そのうち次の7モデルに役割を割り当てています。
| 割り当てている役割 | モデル名 |
|---|---|
| 要件整理 | Swift-Qwen3.8-27B |
| 基本・詳細設計、設計修正 | Signal-3.8-27B |
| 実装、ビルド、試験実行、通常修正 | Qwen3-Coder-30B-A3B-Instruct |
| 実装タスクの分割・指示・管理 | Muse Glimmer 30B |
| 各フェーズの成果物のレビュー | NVIDIA Nemotron 3 Nano Omni 30B-A3B |
| テスト項目の設計・受入確認 | gpt-oss-20b |
| 日常の質問、画像・スクリーンショットの確認 | Ornith-1.5 35B-A3B |
このほか、Qwen3.8-27BとQwen3.5-35B-A3Bも登録しています。役割の割り当ては、何を担当させたいかを整理したもので、すべての作業を安定して任せられると確認できたわけではありません。
64GBのメモリにすべてのLLMを同時に載せる運用にはしていません。普段使っているllama-swapが、必要なモデルを一つずつ読み込みます。別のモデルを呼ぶと前のモデルを停止して切り替え、使わない時間が続けばメモリから外します。音声認識は別サービスとして常駐させています。
モデル同士が自動で仕事を受け渡す仕組みまで完成しているわけではなく、呼び出す側でモデルを選び、役割を指示する形です。この中で、要件整理や設計の中核として考えてきたのがQwen3.8-27Bとその派生モデルです。
環境を作れても、使い勝手には別の難しさがあった
購入後の構築では、AIに手順やコマンドを出してもらいながら、自分が考えていた環境を形にできました。購入前から用途を相談していたことが、構築の話を進めるうえでも役立ちました。
ところが、実際にローカルAIを使ってみると、生成速度以外に気になる点が出てきました。モデルへ情報を渡し、作業を進めるハーネスの部分です。
私はHermes Agentを使っています。それなりに使える一方、自分で調整しないと、想定以上にコンテキストを使ってあふれたり、思考がループしたりすることがありました。ループに入ると、周辺の仕組みからもうまく制御できないと感じる場面もありました。
この経験で、普段使っているChatGPTやGeminiは、モデルを使うための仕組みまでかなり作り込まれているのだと実感しました。
今も、モデルと使い方を調整している
別の記事でもふれていますが、コンテキストの扱いなどは、ChatGPTで開発していた時に覚えたことを意識しています。ハーネスの設定を見直し、出力する文章を簡潔にするスキルも使い始めてみました。
このサーバーで中核に据えたいと考えたQwen3.8-27Bは、そもそもローカルLLMを使いたいと思うきっかけになったモデルでもあります。ただ、私の環境では長考や思考のループが頻発して使いにくかったので、それらの癖を抑えることを期待して派生モデルへ変更してきました。現在、要件整理にはSwift-Qwen3.8-27B、設計にはSignal-3.8-27Bを割り当てています。元のQwen3.8-27Bも登録は残していますが、今はこの二つが要件整理と設計を担う構成です。それでも挙動がおかしくなったら、自分で一度止めて指示し直したりしてみてます。想定した役割をうまくこなせなければ、モデルを入れ替えたり、担当する範囲を減らしたりしています。
こうした工夫で使えるようになる場面はありますが、今はモデルの能力にも、ハーネスの使い勝手にも難しさを感じています。ここはまだまだ勉強不足でこれからもっと勉強していきたいところですね。
実装を任せることには手応えがあるものの、日常的な作業を安定して任せるところまでは至っていません。今後は個人ブログの執筆補助や情報収集にも使いたいのですが、そこもこれからです。
現時点では、実験を楽しむための買い物という面も大きい
購入の効果を聞かれると、正直な答えは「まだこれから」です。実用目的で検討した一方、自分でいろいろ試して遊ぶ、趣味のための買い物に近い部分もあります。
家計簿では手作業が減ったという成果を感じていますが、ローカルLLMでは同じところまで来ていません。この違いは、そのまま書いておきたいと思います。
ただ、常時稼働するサーバーがあることで、AI以外に役立ったこともあります。各機器のスピーカー出力をサーバーに集約したり、音声入力を自前で動かしたりする用途です。
その日常での使い道と管理については、「自宅AIサーバーの日常の使い道と、AIに管理を任せて分かったこと」で紹介します。
コメント