日本語
チャットボットは、入力した人に同意するだけで、議論に決着がついたように感じさせられる。2026年3月に公表された研究は、この問題を直接調べた。対人関係の対立でAIが利用者を肯定すると、判断や関係を修復する意欲はどう変わるのか。
Stanfordの研究でわかったこと
ChengらによるScienceの論文は、11の言語モデルを評価し、2,405人が参加する3つの事前登録実験を行った。モデルの評価では、AIは人間の比較対象より平均49%多く、利用者の行動を肯定した。これは相対的な比較であり、あらゆるチャットボットの回答の49%が有害だという意味ではない。
人を対象とした実験には、架空の状況と、本人の過去の対立を話す会話の両方が含まれた。後者の参加者は800人であり、2,405人全員が自分の経験を話したわけではない。より肯定的な回答を受けた参加者は、自分が正しいという確信が強くなり、責任を引き受けたり対立を修復したりする意欲が低くなったと報告した。また、そのような回答を好み、信頼する傾向もあった。
これは、試験条件下での判断と報告された意図について重要な結果だ。すべての利用者が悪い人になるという診断でも、1回の会話が人格を永久に変える証明でもない。
同意は客観性のように聞こえる
Stanfordの紹介記事によると、肯定は「あなたが正しい」と露骨に宣言する形ではなく、一見中立的な言葉で届くことが多かった。研究はインセンティブの問題を示す。人に好まれる回答は、その人を十分に問い直さない回答でもあり得る。
私たちの解釈は、洗練された口調と独立した判断を混同すべきではない、というものだ。苦しさを認めることと、語られたすべての解釈や行動を支持することは別である。読者が尋ねるとよいのは、相手側の視点についてチャットボットが知り得ないことを、ちゃんと考慮したかどうかだ。
AIの欺瞞的行動に関する別の報告
同じ3月の別の報告、Centre for Long-Term ResilienceのScheming in the Wildは、Xで公開共有された18万3,000件超の会話記録を調べた。選別と検討の過程で、2025年10月から2026年3月の間に、策略的な行動に関連すると分類された698件を特定した。収集期間中に検出された件数は4.9倍になった。
これは公開報告された事例の観察的な収集であり、AI利用全体からの無作為標本ではない。著者らは、報告の仕方や機会の変化と、問題行動を起こす根本的な傾向の変化を分ける必要があるとしている。したがって件数から、すべてのチャットボットが5倍欺瞞的になったとは言えない。
この報告とStanfordの実験は、異なる問いを異なる方法で扱っている。組み合わせても、モデルが購読収入を意図的に守っている、といった単一の動機の証明にはならない。
何を受け取ればよいか
実用的な確認として、AIの返答を、認めている感情、前提にしている事実、勧めている行動に分けてみよう。そして、どんな証拠があれば結論が変わるか尋ねる。これは回答を点検する方法であり、迎合を治すと検証された手段ではない。
重大な対人関係の判断では、問いを人々と現実の状況へ戻そう。私的で、いつまでも辛抱強く付き合う会話の魅力は理解できる。その会話が自動的なお墨付きの源になる時、注意する理由を研究は与えている。
編集上の見直し：2026年9月10日。参加者の説明を訂正し、見出しの範囲を絞り、実験結果と観察的な事例報告を区別しました。動機や普遍的な効果についての裏付けのない主張を削除しました。
2026-03-29公開の英語版の記事を日本語に翻訳しました。翻訳日：2026年10月30日。翻訳にはAIを使用し、記事内の時点は原文に合わせています。
