投資の動機
最近、IT系の専門誌ではAIをローカルで動かすことが流行のテーマです。
もちろんAIはCPUリソースを大量消費します。
気付いたのですが、Macは普段使っているぶんには便利です。それは間違いない。
今回、インテルアーキテクチャCPUのPCを買う理由はAIをローカルで動作させ、DIFYを動かしたかったからです。
DIFYを一言でいえば「AIエンジンを自分のナレッジでカスタマイズできる」オープンソースのソフトウェアです。今はAIそのものの評価でchatGPTがいい、Perplexityがいい、いやいやGeminiだなどと言ってますが、それはユーザーが製品を評価しているだけで、ビジネスにはなり得ません。
「AIには正しいプロンプトを渡す必要がある」などというくだらない話のセミナーで商売している会社がありますが、私の想像ではGoogleのSEO対策が意味を持たなくなってきたので、業態を変更しようとしているのでしょう。付け焼き刃の知識でする商売はAIの進歩で消え去ります。これは予想ではなく、AIの進歩の方向を見ていればわかることです。
もちろんAIはCPUのみならず、GPUリソースを大量消費します。
GPUというと、NVIDIAのGeForceシリーズがすぐ出てきますが、GPUメーカーはNVIDIAだけではありません。
AMDもRadeonシリーズをもっています。Ryzen9は8945HSというグラフィックボードがついています。
さらにいいことは、BIOSの設定でGPUに割り振るVRAMを設定できることです。
これはAMDがCPUとGPUの両方を設計し、共通のメモリーバスを利用するように設計しているからこそできる技です。AMDのアーキテクチャーは先進的だなと思っています。
もちろん、CPUとは別のグラフィックボードに勝てるわけはないです。しかし、NVIDIAのグラフィックボードを使おうとすると、デスクトップの筐体のPCを必要とし、5万円以上のさらなる投資が必要です。eGPUという別筐体のGPUとPC本体を接続する場合、10万円以上の予算が必要です。
ちなみにローカルでLLMを扱う時にお世話になるOllamaは8945HSをサポートしています。利用の仕方はこのシリーズで説明します。
なにを買ったか
AMDを使った機種で流行っているMini PCを調べました。Mini PCとはNote PC用のパーツを利用して超小型に仕上げたデスクトップ用PCです。
いろいろ考えてちょっと長めに使いたいのでGEEKOM A8というパソコンを買いました。AMD Ryzen 9 8945HS搭載機種です。メモリーは32GBですが、メモリーは増設し64GBにしてあります。（過程は後述）
Google Geminiの調査によれば16GBをVRAMに割り当てるとそれなりにリッチなLLMのテスト環境となります。もちろん同程度のVRAMを積んだRTX3090に比べてもダメダメです。しかし場所を取らない。圧倒的に安いことは個人にとってはとてもありがたいことです。後ほどLLMを動かしましたが対話型ならば問題ない速度で動きます。CPUオンリーとは全く違います。
Amazonで94,904円で買いました。キャンペーンで少しだけ安くなっていました。
中を開けてみたら、このようなPCはノートPCのパーツで作られているのですね。なるほど。
小さいマシンは冷却ファンがうるさいかな、と思いましたが、NASに比べたら全然静かです。
これをうるさいって人はたぶん６畳１間でずっと近くにいる人じゃないだろうか。
しかし、新興パソコンメーカーの悲しさでサポートがイマイチです。
マニュアルというものが雑で、メンテナンスやトラブルシューティングについてなにも書いてありません。
BIOSはOSに関係ありませんから、プリインストールのWindowsが動いているうちにダウンロードして最新のものにしました。
ところで買ったばかりの私のA8はどうもUSB端子のひとつが壊れていたようです。
ただいま、サポートに問い合わせ中。土日には返事がありません。元サポート部門にいた私としては土日はしっかり休んでほしいので、喜ばしいことです。
サポートは日本在住ながら中国人のようで、日本語がなかなか通じません。「USB端子がうまく動作しないため、ブートデバイスを選べない」と言っているのにWindowsを再インストールしろといいます。何度も繰り返してようやく交換の話に進みました。
10月28日に送り返しました。これからどうなるでしょうか？
30日に代替品が送られてきました。やれやれ。
さて、AMD Ryzen9 8945HSのドライバーはこちらから入手できます。AMD Adrenalin Editionとはドライバーとユーティリティをパッケージングしたものです。インストールしましょう。
AMDはGPUへのメモリー割当をBIOSで変更します。ブート時にF7を連打していたら、ブートデバイス選択画面が出るので、そこのAdvancedオプションで変更します。
なお、WindowsタスクマネージャのGPUのタブで出てくるメモリについて解説します。
専用GPUメモリ (Dedicated VRAM): BIOS設定で予約したGPU専用のメモリーです。
共有GPUメモリ (Shared Memory): 専用GPUメモリが足りないときにOSが貸し出すとされていますが、そんなにうまくいきません。専用GPUメモリがいっぱいになったら、AIはハングします。
後日談
このmini PCと同時に32GBのメモリーを１枚買っておいたのです。将来、増強しようと思っていました。価格は12980円でした。(2025/10/15)
そこからあれよ、あれよという間にメモリー価格はあがり、12月に同じ32GBを買うと21,945円でした。価格コムやらで探し回って最安値でこの値段でした。合計で64GBで34,925円。
ここでminiPCについていた16GBx2のメモリーカードをメルカリに出し、手数料、送料を除き28,950円で売れました。差額5,975円で64GBにアップグレードできたので、よしとしましょう。32GBを2枚買っていたら、儲かったでしょうけれどね。
最初に気まぐれで12980円でメモリーを買っておいたことと、メモリー高騰で得しました。何十年もパソコン作ったり、買ったりしていて始めて経験しました。
