GPT-5でハルシネーションが減ったわけ ～OpenAIの論文から
ユーザー企業が生成AIの導入を検討するときに、プライバシーや情報漏洩と共に懸念材料として挙げられるのが、「ハルシネーション（幻覚）」です。これは、生成AIの本体であるLLM（Large Language Model：大規模言語モデル）が、間違ったことを自信たっぷりに答えてしまうという現象で、ChatGPTが公開された当時から問題視されていました。
そのような中、ChatGPTの開発元であるOpenAIが、なぜ生成AIでハルシネーションが起きるのか、どうしたら減らせるのか、そしてGPT-5でハルシネーションが激減した理由について論文を公開しました。しかし、内容には納得できるものの、何かすっきりしない気持ちになります。
現在の生成AIでは、仕組み上ハルシネーションを無くすことはできないとされていますが、生成AIベンダーはハルシネーションを減らすための工夫を重ね、現在ではハルシネーション率はかなり下がり、今では間違いを起こす確率は人間よりも低くなったとも言われています。しかし、人間は自分には甘く、他には厳しいもの。AIが起こす間違いには相変わらず厳しい目が向けられています。
これがOpenAIの論文です。ハルシネーションが起きる理由などはこれまで指摘されていたこととも合致しますが、私が注目したのは最新のGPT-5と旧バージョンo4-miniのハルシネーション率の比較表です。
「答えない」＝「改善」で良いのか？
o4-miniでは、ベンチマークに対して正確な答えを返す確率が24%、間違いが75%と、ハルシネーションの率は非常に高くなっています。残りの1%は「棄権」で、「わからない」と返すパターンですね。これに対し、GPT-5では正確な答えを返す確率は22%と低くなりますが、間違いは26%と激減しています。これをもってGPT-5のハルシネーションは減った、ということになるわけですが、実は「棄権」が52%になっているのです。
間違いが正解になったわけではなく、間違いを「わからない」にした結果、間違いが減った、という状況なわけです。まあ、ハルシネーションが減ったことは事実ですし、間違いを認めないよりはよほど良いのですが、なんともモヤモヤする話ではあります。
ただまあ、私たちも日常、実はわからないのに憶測で行動して失敗することはたくさんあり、「わからないことはわからないと言いましょう」みたいなことも言われますので、AIがより人間に近づいたと見ることもできますけれど。
OpenAIの論文では「正確性が100%に達することは決してない。」と明言しており、ハルシネーションについては「防ぐことはできる。言語モデルは不確かな場合、回答を控えることができます。」ということですので、今後もハルシネーション対策としては「棄権」が最も有効な手段と考えているようです。
しかし、OpenAI自身がハルシネーションへの取り組み方法を明確にしたのは良いことです。これまでOpenAIを含む一部ベンダーは、AIへの期待を煽ることでビジネスを拡大してきた面があります。しかし、AIはただのツールであり、そう簡単に人間を置き換えるものでもありません。AIの限界を知り、使えるところだけ使いこなすことが賢い姿勢なのだと思います。
【募集中】ITソリューション塾・第50期（2025年10月8日〜）
次期ITソリューション塾・第50期（2025年10月8日 開講）の募集を開始しました。
ITベンダーにお勤めの方、ユーザー企業でDXやAIに取り組んでいる方向けに、毎週一回、さまざまなトピックを取り上げ、最新のITトレンドについて知識を深めていただきます。また、現在注目されているさまざまな技術が相互にどのように連携しているのか、歴史的な視点を交えて解説することで、技術の本質を理解していただきます。知識を真に内面化するためには、表層的な概念では無く、本質を理解することが重要です。
たとえば、AIサービスを賢く使いこなすためには、AIの仕組みやこれまでの進化の過程を理解することが重要です。そしてそれをビジネスに適用していくためには、AIそのものももちろん重要ですが、Web3やIoT、アジャイル開発/DevOpsといった分野にAIがどのような影響を与えていくのかを、幅広い視点から捉える必要があります。ビジネス環境全体を俯瞰し、各々のテクノロジーがどのように関連し、連携しているかを捉えることで、トレンドを掴むことができるのです。
ITソリューション塾では、最新技術の中身を紹介するだけで無く、他の技術との関わりや歴史的経緯を理解していただくことで、より広い視野の元で最新のトレンドを考えていただけるような講義を目指しています。
- 日程 ：初回2025年10月8日(水)～最終回12月17日(水) 毎回18:30～20:30
- 回数 ：全10回＋特別補講
- 定員 ：120名
- 会場 ：オンライン（Zoomによるライブ配信と録画）
- 料金 ：¥90,000- （税込み¥99,000） 全期間の参加費と資料・教材を含む
詳細なスケジュールは、こちらです。