投資の動機
最近、IT系の専門誌ではAIをローカルで動かすことが流行のテーマです。
もちろんAIはCPUリソースを大量消費します。
気付いたのですが、Macは普段使っているぶんには便利です。それは間違いない。
今回、インテルアーキテクチャCPUのPCを買う理由はAIをローカルで動作させ、DIFYを動かしたかったからです。
DIFYを一言でいえば「AIエンジンを自分のナレッジでカスタマイズできる」オープンソースのソフトウェアです。今はAIそのものの評価でchatGPTがいい、Perplexityがいい、いやいやGeminiだなどと言ってますが、それはユーザーが製品を評価しているだけで、ビジネスにはなり得ません。
「AIには正しいプロンプトを渡す必要がある」などというくだらない話をしている会社がありますが、私の想像ではGoogleのSEO対策が意味を持たなくなってきたので、業態を変更しようとしているのでしょう。しかし、そんな付け焼き刃の商売はAIの進歩で消え去ります。これは予想ではなく、AIの進歩の方向を見ていればわかることです。
もちろんAIはCPUのみならず、GPUリソースを大量消費します。
GPUというと、NVIDIAのGeForceシリーズがすぐ出てきますが、GPUメーカーはNVIDIAだけではありません。
AMDもRadeonシリーズをもっています。Ryzen9は8945HSというグラフィックボードがついています。
さらにいいことは、BIOSの設定でGPUに割り振るVRAMを設定できることです。
もちろん、CPUとは別のまともなグラフィックボードに勝てるわけはないです。しかし、NVIDIAのグラフィックボードを使おうとすると、デスクトップの筐体のPCを必要とし、5万円以上のさらなる投資が必要です。eGPUという別筐体のGPUとPC本体を接続する場合、10万円以上の予算が必要です。
そのカネがあれば、PCのメモリーを増やしてGPUへの割当を増やしたほうが経済的です。まぁ、予算と性能のせめぎあいから決めました。
なにを買ったか
インテルCPU→AMDを使った機種で流行っているMini PCを調べました。Mini PCとはNote PC用のパーツを利用して超小型に仕上げたデスクトップ用PCです。
いろいろ考えてちょっと長めに使いたいのでGEEKOM A8というパソコンを買いました。AMD Ryzen 9 8945HS搭載機種です。メモリーは32GBですが、メモリーが安くなったら増設するつもりです。
Amazonで買いました。仕上げはきれいだと思います。
中を開けてみたら、このようなPCはノートPCのパーツで作られているのですね。なるほどね。
小さいマシンは冷却ファンがうるさいかな、と思いましたが、NASに比べたら全然静かです。
これをうるさいって人はたぶん6畳1間でずっと近くにいる人じゃないだろうか。
しかし、新興パソコンメーカーの悲しさでサポートがイマイチです。
マニュアルというものが雑で、メンテナンスやトラブルシューティングについてなにも書いてありません。
BIOSはOSに関係ありませんから、プリインストールのWindowsが動いているうちにダウンロードして最新のものにしました。
ところで買ったばかりの私のA8はどうもUSB端子のひとつが壊れているようです。
ただいま、サポートに問い合わせ中。土日には返事がありません。元サポート部門にいた私としては土日はしっかり休んでほしいので、喜ばしいことです。
サポートは日本在住ながら中国人のようで、日本語がなかなか通じません。「USB端子がうまく動作しないため、ブートデバイスを選べない」と言っているのにWindowsを再インストールしろといいます。何度も繰り返してようやく交換の話に進みました。
10月28日に送り返しました。これからどうなるでしょうか?
30日に代替品が送られてきました。やれやれ。
さて、AMD Ryzen9 8945HSのドライバーはこちらから入手できます。AMD Adrenalin Editionとはドライバーとユーティリティをパッケージングしたものです。インストールしましょう。
また、Docker(コンテナという概念でシステム環境を管理するツール)を使ってシステムを作ります。インストールしておきます。
PythonパッケージはMiniCondaをインストールしておきます。




