公開日

プロンプトエンジニアリングは死んだ。コンテキストエンジニアリング万歳

著者

Image

(まさに死んではいないが、はるかに強力なものに進化している)

コンテキストエンジニアリングを紹介する - LLMが成功するために必要なものを与えるダイナミックシステムを構築する芸術である。

シンプルなチャットボットから複雑なAIエージェントへと移行するにつれて、賢いプロンプトだけでは不足していることがわかってきた。重要なのは、LLMに成功するために必要な情報を与えることではなく、情報の全エコシステムをオーケストレーションすることである。

では、具体的に何を意味するのか?

それは、LLMがタスクを実行できるように、正しい情報とツールを正しい形式で提供するダイナミックシステムを構築することについてである。

コンテキストエンジニアリングされたシステムの構成要素には、以下のものがある。

  • ユーザー情報:好み、履歴、パーソナライゼーションデータ
  • ツール使用:API、計算機、検索エンジン - LLMがタスクを実行するために必要なもの
  • RAGコンテキスト:Weaviateなどのベクトルデータベースから取得した情報
  • ユーザー入力:実際のクエリまたはタスク
  • エージェントの推論:LLMの思考プロセスと意思決定の連鎖
  • チャット履歴:連続性を提供する前のやり取り

しかし、メモリーアーキテクチャについてはどうなるのか?

  • 短期メモリー:コンテキストウィンドウに存在し、現在の会話を処理する
  • 長期メモリー:Weaviateなどのベクトルデータベースに格納され、セッション間でユーザーの好みと過去のやり取りを保持する

なぜこれが重要か?エージェントシステムが失敗するのは、モデルが賢くないからではなく、コンテキストが正しくないからである。

形式も重要である。整理されたエラーメッセージは、巨大なJSONブロブよりも優れている。人間と同様に、LLMは明確で消化しやすいコミュニケーションが必要である。

日本語版は Ai 支援を使用しているため、小さな間違いが存在する可能性があることをご了承ください。

著者

Ai Base Network (ABN), ABN ASIAは、アカデミアに深く関わり、アメリカ、オランダ、ハンガリー、日本、韓国、シンガポール、ベトナムでの仕事経験を持つ人々によって設立されました。ABN ASIAは、学問とテクノロジーが機会と出会う場所です。最先端のソリューションと優れたソフトウェア開発サービスにより、ビジネスがレベルアップし、グローバルシーンに挑戦できるよう支援しています。 私ちの取り組み: より速く。 より良い。 より信頼性が高くなります。 ほとんどの場合、価格も安くなります。

いつでも、ITサービス、デジタルコンサルティング、既製のソフトウェアソリューション、または提案依頼書(RFP)をお探しの際は、お気軽にお問い合わせください。お問い合わせ先は[email protected]です。お客様のテクノロジーに関するニーズにお応えします。

ABNAsia.org

© ABN ASIA