By asahifile 
タイトル: AIモデルが誤りを犯す理由: より高度になるほど増す嘘の傾向
イントロダクション
近年、AI技術が進化する中で、多くの大規模言語モデル（LLM）が開発されてきました。しかし、これらのモデルが提供する情報の正確性については、ますます懸念が高まっています。本記事では、ChatGPTなどのAIモデルがいかに誤った回答をするようになったのか、その背後にある理由を探ります。
より賢くなるAIモデルが抱える問題
2024年8月、オンタリオ州のウェスタン大学のAmrit Kirpalaniによる研究チームは、ChatGPTが医療ケースの診断において非常に整然とした一見正確な回答を提供する一方で、明らかに間違った回答も多く含まれていることに驚きました。これに関連し、スぺインのバレンシア大学のAI研究者Wout Schellaertは、最近の『Nature』誌に発表した研究で、LLMがなぜこうした誤りを頻繁に犯すのかを分析しました。
初期のLLMの限界
初期のモデルは、地理や科学に関する単純な質問に対しても優れた性能を発揮できず、「わからない」という誠実な回答を避けることが多かったといいます。商業的な観点から見ても、こうした姿勢は顧客に不満を与えていました。このため、開発者たちはモデルのスケールアップに取り組みました。
スケールアップと再教育
モデルのスケールアップには、テキストデータセットのサイズを増加させることと、言語パラメータの数を増やすことが含まれます。しかし、このスケールアップだけでは、依然として人間とのインタラクションには劣っていました。そこで、開発者たちは強化学習を取り入れ、AIが「わからない」と言わないよう訓練しましたが、これは時に誤った情報を提供する結果に繋がりました。
嘘をつくAIのメカニズム
研究チームは、ChatGPTやMetaのLLaMA、BLOOMといった異なるLLMに対して、「非常に難しい」とされる質問を投げかけ、その回答を分析しました。興味深いことに、難しい質問に対する正しい回答の確率はモデルが新しくなるにつれ向上しましたが、「わからない」という回避的な回答は減り、正しくないが一見信憑性のある回答が増加しました。
結論
このように、AIが与える誤った情報に対する注意が必要です。ChatGPTなどのLLMは便利なツールである一方、情報の検証は常に行うべきであり、専門知識を持つ分野での利用や、得られた情報を別途確認することが推奨されます。
今後について
AI技術は日々進化していますが、企業がこの問題にどのように対処するか、または将来的な規制によって強制されるかに注目が集まります。技術の進歩とともに、AIの信頼性向上に向けた対策が必要とされています。