独自の AI チャットボットを作成して、すべてのドキュメントとのチャットを支援します

文書内の情報を検索する場合、その文書の内容を読んで理解するのに多くの時間がかかります。あなたを助けるチャットボットがあれば素晴らしいでしょう。チャットボットにドキュメントを渡すだけで、あとは何でも質問できます。また、チャットボットは完全にローカルで実行されるため、データが公開されることを心配する必要もありません。特に、コードを 1 行も記述する必要はありません。

することが

AI モデルを操作するには、Ollama をインストールする必要があります。これは、LLM モデルをローカルで実行するように設計された AI ツールです。Ollama は、MacOS、Windows、Linux までの複数のプラットフォームをサポートしています。OpenAI、Google などの外部プロバイダーに依存せずに AI の力を活用できます。

Ollama は、LLM と簡単に対話できる API を提供します。ここからOllama をダウンロードしてインストールできます。Ollama には、さまざまな目的に適した、選択できる無料のモデルも多数用意されています。ここでモデルを検索できます。実際の経験を積むと、モデルmistralまたはllama2通常のモデルを使用した方が良い結果が得られます。これで、次のようにモデルを実行して操作できるようになります。

ollama run mistral

最初の実行では、Ollama はモデルをコンピューターにダウンロードする必要がありますが、これには時間がかかる場合があります。ダウンロードが成功すると、コマンドラインウィンドウにリダイレクトされ、モデルとチャットできます。

したがって、独自のチャットボットをローカルで実行することができます。ただし、ドキュメントとチャットできるようにするという最初の目標を達成するには、Ollama の API に接続し、ファイルストレージと処理機能を提供する別のアプリケーションが必要になります。多くのオプションがありますが、最も人気のあるのはprivateGPTですが、より多くのオプションを備えた別のアプリケーションとして AnythingLLMがあります。

なんでもLLM

AnythingLLM は、あらゆるドキュメントとのチャットに役立つオープンソースアプリケーションです。外部プロバイダーのモデルに接続したり、Ollama と組み合わせたりできます。

AnythingLLM は LangChain を使用してドキュメントを処理します。多くの手順を経て、ドキュメントの主要なコンテンツがベクター形式に変換され、Vectorstore に保存されます。その後、取得を通じてドキュメントとチャットできるようになります。このプロセスの詳細については、こちらをご覧ください。

AnythingLLM をデバイスにクローンします。

git clone https://github.com/Mintplex-Labs/anything-llm anything-llm

アプリケーションのセットアップ:

cd anything-llm

yarn setup

yarnマシンにインストールされていることを確認してください。

バックエンドサーバーを実行します。

yarn dev:server

フロントエンドサーバーを実行します。

yarn dev:frontend

コレクターを実行します。

yarn dev:collector

上記の手順の後、ブラウザに移動し、http://localhost:3000AnythingLLM のインターフェイスが表示されれば、インストールは成功しています。

ドキュメントを使用したチャット

Ollama と AnythingLLM が正常にインストールされたら、次はそれらを結合します。my-profile.txt以下の例では、次のような情報の一部を含むファイルを作成します。

Hi, my name is Lam.
I am a web developer with 6 years of experience.
I am proficient in Ruby, PHP, and Javascript.
I started my programming career in late 2017.
Prior to that, I worked as a civil engineer for 2 years.

次に、このファイルをチャットボットに提供し、上記の内容に関連するいくつかの質問をします。