ITで遊ぶ

AIをローカル環境で動かす(3:GUI編)

  • AI

以下は購入したminiPCで稼働するWindows11前提の話です。

黒画面でAIは動き、会話できます。
でも、世界中のみんなが思ったようです。「愛想ないなぁ」

Ollama GUI

Windowsならば右下のアイコンでOllamaマークを右クリックしてOpen OllamaするとGUIが出ます。
これがなかなかスグレモノで、モデルファイルを書き換えたら、New Chatをクリックするだけで古いモデルは除去され、リロードが始まります。
テストはOllama GUIですね。

とても簡単なWEBクライアントアクセス

リモートからのアクセスはできないか?
そこでインストールすべきなものがOpen Web UIです。定番です。ん、ダメです。設定がちょーめんどくさい。

AIといろいろ相談しても、簡単なパッケージは見つかりませんでした。
でも、おかしな話です。Ollamaとはポート11434でAPI通信ができ、REST APIの用意があるんですよ?

ならばシンプルなJavascriptをもったページを作ってしまえ、ということで作りました。
ここに置いておきます。1ページWEBアプリです。
中身は意外と長いです。Open WebUIよりなによりもシンプルなだけに、トラブルが起きてもわかりやすいメリットがあります。

 

関連記事

  1. ローカルLLMでAIを強化する(6:Ollamaのプログラム版編)

  2. AIをローカル環境で動かす(2:Ollama)

  3. ローカルLLMのAIの向こう(8. 最先端の議論)

  4. AI彼女をローカル環境で動かす (5:大人編)

  5. AI彼女をローカル環境で動かす(4:モデルチューニング)

  6. ローカルLLMのAIを強化する(7.RAG編)

  7. AIの若干の歴史

  8. AIをローカル環境で動かす(1:基礎)