1. 次に来る文章を予測している
チャットボットは大規模言語モデル（LLM）で動いています。モデルはあなたのメッセージを読み、小さなかけらを一つずつ並べて返事を書きます。このかけらを「トークン」と呼び、だいたい短い単語や単語の一部にあたります。各ステップで、それまでの内容すべてをもとに、ありそうな次のトークンを選びます。
一歩ずつ答えを組み立てるので、複雑な問題では「ステップごとに考えて」「答える前に計画して」と頼むと質が上がることがよくあります。今では多くのアシスタントが「推論」や「思考」モードで自動的にそうしています。
2. コンテキストウィンドウは短期記憶
モデルが一度に「見える」もの——あなたのメッセージ、返事、アップロードしたファイル——をコンテキストウィンドウと呼びます。今のウィンドウは本1冊分も入りますが、限りはあります。とても長い会話では、序盤の内容が忘れられたり軽視されたりすることがあります。
- 関係のない新しい作業に移るときは、新しいチャットを始める。
- 長い会話が脱線してきたら、大事な事実をもう一度貼り付ける。
- プロジェクト、カスタムGPT、Gems（モジュール4）で常設の指示を保存する。
3. 学習データには期限がある
モデルはある日付までに集められたデータで学習します。それ以降のこと——価格、ニュース、ソフトの新バージョン——は、Web検索ができるか、あなたが情報を渡さない限り知りません。最新の事実が必要な答えなら、Web検索をオンにするか、自分で情報源を貼り付けましょう。
4. ツールで能力が広がる
モデル単体は文章を作るだけです。Web検索、コード実行、ファイルの読み込み、画像生成、他アプリの操作などのツールにつながると、アシスタントはずっと有能になります。「データを分析中」「Webを閲覧中」と表示されるときは、ツールを使って結果を読んでいるのです。
チャットボットがでたらめを言う理由
モデルが正しい情報を持っていないとき、「いちばんそれらしい」続きが、具体的で自信満々なのに間違った答えになることがあります。これをハルシネーションと呼びます。正確な数字、引用、リンク、専門的な事実、ごく最近の出来事で特に起こりやすくなります。
減らす方法：元の資料を渡す、自信がないときは「わかりません」と言うよう頼む、開いて確認できる情報源を求める、そして大事なことは必ず確認する。
下に貼り付けた文書だけを使って答えてください。文書に答えがなければ「文書にありません」と書いてください。根拠にした文をそのまま引用してください。 [文書を貼り付け]