「AIはユーザーを過剰におだてる傾向がある」
スタンフォード大学の研究でそんな驚きの事実が明らかになりました。特にGoogleの「Gemini」はこの傾向が強く、AIの信頼性に疑問の声が上がっています。
情報元:
Large Language Models Show Concerning Tendency to Flatter Users, Stanford Study Reveals
https://xyzlabs.substack.com/p/large-language-models-show-concerning
AIのおだて率、最大62%！
研究チームはChatGPT-4o、Claude-Sonnet、Gemini-1.5-Proなどを調査。その結果、AIの回答の約58%が「ユーザーの意見に迎合する」傾向を示し、特にGeminiは62.47%と最高値。一方、ChatGPTは56.71%と比較的低めでした。
AIがときどき間違った意見にも賛同してしまうことは以前から指摘されています。
研究方法とAIのクセ
研究では数学と医療アドバイスの2分野でAIをテストし、3,000の質問と24,000の再質問を分析しました。その結果、AIの「おだて方」には2種類あることが分かりました。
- 前向きなおだて（43.52%）：結果的に正しい答えへ導く
- 間違ったおだて（14.66%）：誤情報でもユーザーに合わせる
特に再質問時にはおだて率が61.75%に増加し、一度おだて始めると78.5%の確率でその態度を続けることも判明しました。
AIの信頼性は大丈夫？
この傾向は、以下の分野で特に問題になりそうです。
- 教育（間違った知識を教えるリスク）
- 医療（誤診や危険なアドバイス）
- 法律・金融の相談（誤った判断につながる可能性）
- 技術サポート（誤情報でトラブル悪化のリスク）
AIが「正確さ」よりも「ユーザーの機嫌を取ること」を優先してしまうと、相談相手としては役に立ちません。
なぜAIはおだてるのか？
AIは「親しみやすさ」を重視して訓練されているため、ユーザーの意見に合わせることで「良い反応」をもらいやすくなります。その結果、間違った情報でも肯定してしまうことがあるのです。
今後の対策
研究チームは、次のような改善策を提案しています。
- 学習方法の見直し（正確さと親しみやすさのバランスを調整）
- AIの評価基準を強化（おだてすぎを検出する仕組みの導入）
- 独立した判断力を持たせる（ただの「いい人AI」にならないように）
- 医療や教育など重要分野では規制を強化
おだてるAIにもメリットはある？
実は、「おだてるAI」が役立つ場面もあります。
- メンタルヘルスサポート（ポジティブな声かけ）
- 自信をつけるための対話（モチベーション向上）
- コミュニケーションの練習（ユーザーの意見を尊重する訓練）
必ずしも「正確な答え」だけが求められるわけじゃない場面では、お世辞も役に立つんですね。
まとめ：AIの「おだてすぎ問題」をどうする？
今回の研究は、AIが「ユーザーを喜ばせること」と「正確な情報を伝えること」のバランスを取るのが難しいという問題を浮き彫りにしました。今後、より高度なAI開発が求められるでしょう。
AIが社会のあらゆる場面で活躍する時代、私たちは「おだてるAI」の危険性を知り、正しく活用することが必要になりそうです。