読書:Context RetrivalによるRAGの精度向上
· 約2分
- LLMがプライベートデータを使って問題を解決する場合は、RAGで関連知識を検索し、コンテキストとして背景知識に取り込むのが基本
- RAGが抱える課題の一つは、チャンク分割によって知識が分断され、活用できなくなることである
- Context Retrievalによってチャンクごとにコンテキストを追加し、背景情報を補足することで、知識を補完できる
- さらに、検索結果のリランキングによって検索精度を向上させ、より適切な知識を抽出し、質の高いコンテキストを生成できる
RAGによる知識補足
LLMをビジネス問題を取り込むときに、ビジネス関連の背景知識不足は一つ大きな制約です。オーブンデータで訓練したLLMは、特化したビジネス知識(特には特定会社のプライベートデータ)への勉強不足、 関連問題を思った通りの解決はできない。
