7分で知識Q&AのAIツールとエージェントを作る方法

自分のデータを使用して簡単なチャットGPTのような体験を作成する方法

• Relevance AiのRoche Singh氏によれば、自分のデータを使用して簡単なチャットGPTのような体験を作成する方法が紹介されています。

• 最初に、データタブに移動し、ファイルをアップロードします。今回は単一のドキュメントを使用するため、テーブルを作成し、サンプルの侵入テストレポートをアップロードします。

• 次に、ベクトル化と呼ばれる別のプロセスを実行し、データにコンテクスト検索を行います。その後、それをQ&Aに組み込むことができます。

• ファイルのアップロードが完了したら、AIツールを作成し、その知識に基づいたQ&Aを実行する準備が整います。知識としては、アップロードしたファイルが使われます。

• そして、質問に対する単純なテキスト入力を行い、それを組み込んでQ&Aを行う準備が整います。

自分のデータを使用して簡単なチャットGPTのような体験を作成する方法

LLM Promptの設定

• 変数に適切な名前を付けることが重要です。そして、質問を変数と呼びます。

• ツールのステップを追加します。この場合、ツールステップは非常にシンプルで、LLMプロンプトを追加します。

• デフォルトでは、コンテキストにはアップロードしたすべてのデータセットを表す知識が含まれます。この場合は、1つだけです。

• LLMプロンプに関連する最も適切なデータを見つけるために、クエリ内に質問を入れることで、ベクトル検索を実行します。

• これによって、プロンプ自体のデータが多すぎないようにし、同時にプロンプの正確性を最適化します。

LLM Promptの設定

ペネトレーションテスト結果の分析

• 最初に尋ねるべき質問は、ペネトレーションテストの結果は何だったのかということです。

• この結果は、知識を探し、回答を得ることになります。

• ドキュメントにウィンドショックという言葉はどこかに記載されているかという質問もできます。

• 回答があるべきであり、実際にはその記載があります。

• この質問に追加の機能をもたせることもできます。

• 例えば、回答のソースファイル名を提供するようにプロンプトに追加することができます。

• これによって、回答が適切なドキュメントから来たかどうかを確認できるようになります。

• さらに、ルールも追加できます。

• 例えば、情報が含まれていない場合は回答を作り上げないようにするルールや、可能な限り詳細な情報を含めるようにするルールなどです。

ペネトレーションテスト結果の分析

QA AIツールの作成方法

• 異なるモデルを使用することも可能で、GPT 3.5を使用しているが、より多くの文脈が必要な場合は、4倍の文脈を利用できるGPT 3.5 16kを使用することもできる。

• また、より高価だがより正確なGPT4や、1回のプロンプトで最大10万トークンまで利用可能なClaude V2なども存在する。

• これが、私たちがQA AIツールを作成する方法である。

• さらに、これを他者のノートブックに共有できるように、テンプレートを作成してリンクを埋め込んだり、完全管理されたAPIエンドポイントを利用したりすることも可能である。

• AIエージェント機能を使用すれば、より会話形式にアプローチすることもできる。

• ベータ版ではあるが、AIツールに会話形式を導入する方法について紹介されている。

QA AIツールの作成方法

AIツールの活用

• エージェントには、仕事を遂行するために必要なAIツールを装備することが重要です。

• 例えば、パープルスティックのQ&Aを与えて、それに実行権限を付与することができます。

• また、AIツールの呼び出しを毎回促さないように設定することもできます。

• このようにして、チャットボットの経験を作成し、自身のデータに展開し、必要に応じてフロントエンドに組み込むことができます。

AIツールの活用

Conclusion:

自分のデータを使用して簡単なチャットGPTのような体験を作成する方法を紹介しました。ペネトレーションテストの結果分析からAIツールの活用まで、手順と注意点を解説しています。これらの手順を確認して、AIツールとエージェントを作成しましょう。