最近、ローカル環境で簡単にAIを実行できるツールがいろいろと開発されており、GPT4ALLもその一つです。Windowsにもインストーラーに従うだけで簡単にインストールでき、モデルのダウンロードも一発です。確かに簡単ではありますが、LM Studioの方が使いやすいかもしれません。この記事では、GPT4ALLのインストールと使い方について解説いたします。
GPT4ALLとは
GPT4ALLの概要と、よくある質問、LM Studioとの違いについて解説します。
GPT4ALLの概要
GPT4ALLとは、ニューヨークのNomic AI社が提供する、ローカル環境で大規模言語モデル（LLM）を実行できるツールです。
オープンソースで開発されており、完全にオフラインで動作するので、ユーザーのプライバシーや機密情報を保護することができます。
また、軽量なハードウェアでも動作するように設計されています。
無料で利用できる？
Community版は無料で利用することができます。
Enterprise版は応相談となっています。
商用利用できる？
Community版は、MITライセンスにて商用利用をすることができます。
ただし、利用するモデルによっては、そのモデルのライセンスに従う必要があります。
Enterprise版は完全に商用利用が可能ですが、改変や再配布は応相談となっています。
日本語に対応している？
UIは日本語に対応していません。
AIとのやり取りは、利用するモデルによります。
デフォルトモデルは日本語対応していないので、別途ダウンロードする必要があります。
LM StudioとGPT4ALLの比較
同じようにローカル環境で簡単にAIを実行できるツールとして、LM Studioがあります。
特に日本語環境の場合は、LM Studioの方が使いやすいと思います。
GPT4ALLは、プログラミング言語のPythonと親和性が高いので、Pythonの開発環境に組み込むのであれば、利用する価値はあります。
Pythonエンジニアではない一般ユーザーにとっては、正直なところ、利用する必要はないのではないかと思います。
-
WindowsでAIを実行するなら一番簡単な方法？ LM Studioの使い方
2025/2/18 LLM
ローカル環境でAIを利用するための様々なツールが開発されていますが、現状Windowsで一番簡単に使えるのが、LM Studioです。クラウドベースのAIを利用すると、個人情報や機密情報が特定の企業に ...
GPT4ALLの使い方
GPT4ALLのインストールとモデルのダウンロード、LocalDocsについて解説します。
インストール
GPT4ALLをWindows PCにインストールする方法をご紹介します。
ブラウザで「https://www.nomic.ai/gpt4all」を開き、「Download for Windows」をクリックします。
ダウンロードしたファイルを実行します。
「次へ」をクリックします。
インストール先のフォルダを選択します。
必要であれば変更し、「次へ」をクリックします。
インストールするコンポーネントを選択とあるのですが、1つしかないので、よく分かりません。
「次へ」をクリックします。
「使用許諾に同意します。」にチェックを入れ、「次へ」をクリックします。
必要であればスタートメニューの名前を変更し、「次へ」をクリックします。
「インストール」をクリックします。
インストールが開始されます。
数分～数十分かかると思われます。
「完了」をクリックします。
モデルのダウンロード
このままではまだモデルがないので、使用することができません。
モデルは別途ダウンロードする必要があります。
GPT4ALL用モデル
左のタブで「Models」を選択し、「Add Model」をクリックします。
「GPT4ALL」タブでは、GPT4ALL用に調整されたモデルをダウンロードすることができます。
サイズ等で分かりやすく整理されている⋯⋯と思いきや、フィルタリングやソートができないので、微妙に使いにくいです。
適当なモデルを選択し「Download」をクリックします。
ダウンロードが完了したら、「Chats」画面の上部でモデルを選択します。
ここでは「Llama 3 8B Instruct」を選択しました。
日本語で質問したのに、英語で回答されてしまいました。
日本語対応モデル
ということで、別途、日本語向けに調整されたモデルをダウンロードします。
「HunggingFace」とは、オープンソースのAIモデルやツールを共有するコミュニティサイトです。
GPT4ALLでは、アプリ内で直接HuggingFaceのモデルをダウンロードすることができます。
これも一見便利に見えるのですが、HuggingFaceの該当ページに飛べないなど、微妙に使いにくいです。
それはともかく「japanese」で検索して、一番人気のものを選択するとよいでしょう。
ここでは、DeepSeekの蒸留モデルを、サイバーエージェントが日本語チューニングし、さらにそれをGPT4ALLでも使用できるように変換したモデルを選択しました。
こちらのモデルであれば、日本語で回答をしてくれました。
LocalDocs
GPT4ALLには「LocalDocs」という、外部ファイルを参照してくれる機能があります。
例えば、製品マニュアルやカタログをインデックス化して、チャットBOTとして利用したりできます。
フォルダごと取り込んでくれるのが便利です。
AIモデルの「再学習」や「ファインチューニング」をしている訳ではありません。
私はObsidianを使って、VPNやセキュリティに関するニュース記事をクリッピングして保存しているのですが、試しにそのフォルダを取り込んでみました。
-
ノートをリンクでつないで管理できるObsidianの使い方
情報をただ保存するだけでなく、いじくり回しながらアイデアをまとめたいという方に向いているノートアプリがObsidianです。Obsidianは、ノート間のリンクを重視しているので、発想を広げたり、まと ...
左で「LocalDocs」を選択し、「Add Doc Collection」をクリックします。
取り込むフォルダを指定し、「Create Collection」をクリックします。
226個のMarkdown形式ファイルがあったのですが、全て取り込まれるのに数十分かかりました。
使用するには、右上の「LocalDocs」をクリックし、使用するコレクションにチェックを入れます。
試しに、WinRARについて質問をしたところ、前日に取り込んだニュースの内容も踏まえた回答をしてくれました。
しかし何度か試してみたところ、情報がどの程度参照されるかは結構気まぐれなので、業務に使用するには、しっかりとしたワークフローの構築とチューニングが必要になると思われます。
アンインストール
Windowsの場合、GPT4ALLをアンインストールするには、標準の「設定 - アプリ」からで大丈夫です。
もしゴミ情報を残さずに完全にアンインストールしたいという場合は、「Revo Uninstaller」などのツールを使うとよいでしょう。
-
アンインストールできないアプリを強制削除するRevo Uninstallerの使い方
2024/9/9
Windowsのアプリがアンインストールできない、アンインストールする方法が分からないという場合、Revo Uninstallerを使えば、だいたい解決します。この記事では、Revo Uninstal ...
