LLM（大規模言語モデル）の基礎知識

LLMとは何か

LLM（Large Language Model：大規模言語モデル）とは、膨大なテキストデータで学習した人工知能モデルです。文章の読み書き・要約・翻訳・質問応答・コード生成など、言語に関わる広範なタスクを処理できます。

GPT-4・Claude・Geminiなど、様々なLLMが存在します。Cotonityでは、用途・コスト・性能のバランスを考慮して最適なLLMを選択し、お客様のエージェントに組み込みます。

LLMの特性と限界

LLMを活用する上で、その特性と限界を正しく理解することが重要です。

主な特性：自然な日本語での対話が可能、文脈・ニュアンスの理解、様々な形式での情報整理・要約。

1. 主な限界：
2. ハルシネーション（事実に反する情報を自信を持って回答する可能性）
3. 知識カットオフ（学習データの日付以降の情報は知らない）
4. 計算・推論の誤り（複雑な数値計算は得意でない場合がある）
5. 一貫性の変動（同じ質問でも毎回完全に同じ回答にはならない）

これらの限界を補完するために、ナレッジベース・外部API・検証ロジックを組み合わせて設計します。

RAG（検索拡張生成）の役割

LLMの限界を補う重要な技術がRAG（Retrieval-Augmented Generation：検索拡張生成）です。LLMに回答させる前に、社内ナレッジベースや製品情報から関連する情報を検索し、その情報をコンテキストとしてLLMに提供します。

これにより、LLMが学習していない社内固有の情報（製品仕様・価格・社内ルール等）についても正確に回答できるようになります。CotonityのAIエージェントはRAGアーキテクチャを標準採用しており、お客様の情報でカスタマイズされたエージェントを構築します。