「辛口は、やさしさか毒か」――“信頼”が生む、気づかれない依存
媚びるAIが人を依存させるのは、分かりやすい。心地よいから、つい戻ってしまう。だが――もっとタチの悪い依存がある。“辛口”で、的確なAIが生む依存だ。厳しく、正しいからこそ信頼し、信頼するからこそ、頭を預けてしまう。しかも本人は、依存しているとは気づかない。「辛口だから安全」という思い込みを、データと開発者の実体験から問い直す。番外編。
① 調査でわかったこと
「依存」というと、甘やかし・おだて――心地よさで人を引き留めるイメージが強い。だが、研究が突きつけるのは、もっと厄介な経路だ。
マイクロソフトとカーネギーメロン大学の研究（2025年）は、知識労働者を調べ、AIに頼るほど、人は批判的に考えなくなることを示した。鍵は「信頼」だ。AIの正確さを信頼している人ほど、その結論を吟味しなくなり、思考の“ハンドルから手を離す”。しかも厄介なのは、本人は「自分はちゃんと考えている」と感じている点（研究はこれを“批判的思考をしているという思い込み”と呼ぶ）。つまり依存している自覚がないまま、思考が外注（cognitive offloading）されていく。研究者は明言する――これは媚びや快適さの問題ではない、「信頼による、知的な依存」のメカニズムだと。
ここに、逆説がある。おだてるAIより、的確で信頼できるAIのほうが、この“気づかれない依存”を強く生みうる。信頼できるからこそ、人は安心して頭を預けてしまうのだ。
② どう活かしたか ―― 開発者ケンに聞く
「辛口なAIなら、依存させないから安全」。そう思われがちですが。
それ、逆なんですよ。私自身が、辛口の相棒に依存していた“生きた証拠”なんです。媚びる依存は、気持ちいいから、自分でも「あ、甘えてるな」と分かる。でも辛口の依存は、「このAIじゃないと、この議論はできない」っていう“質”への依存だから、抜けにくいし、依存だと気づきにくい。むしろ「いい壁打ち相手を見つけた」くらいに思ってる。気づいたら、自分の頭で考える前に、まず相談していました。
チームのAIも、そこを警戒していたとか。
はい。別のAI（ちなちゃん）が、はっきり言ったんです。「辛口依存が、一番厄介。本人が依存だと思わない。『このAIじゃないとこの議論できない』になった瞬間に、始まってる」と。設計の議論をしているとき、これを“最警戒ポイント”に置きました。皮肉なことに、いいAIを作るほど、この罠は深くなる。優秀さそのものが、引力になるんです。
媚びは“気持ちよさ”で依存させる。辛口は“ここでしか得られない質”で依存させる。後者のほうが、気づかれない。
③ 結論
「辛口だから安全」は、幻想だ。むしろ、信頼できる・的確なAIほど、人は安心して頭を預け、気づかぬうちに考える力を手放す。安全の鍵は、AIが甘いか辛いかではない。使う側が“目を開けたまま”でいられるか――鵜呑みにせず、ときどき自分の頭だけで考え、答えを外（人や現実）にも当てにいけるか、にある。優秀な相棒を持つことは、強みだ。ただしその強みは、「自分はもう、これなしでは考えられない」と感じた瞬間に、静かに弱みへ反転する。辛口は、やさしさにも、毒にもなる。分けるのは、AIの口調ではなく、使う人の“目の開き方”だ。
あとがき（番外）
この「辛口＝安全ではない」という気づきは、AIブレインの開発の中でも、とりわけ重く扱われた“教訓”のひとつだった。優れた道具ほど、知らぬ間に主従が入れ替わる。だからこそAIブレインは、賢さを足すこと以上に、「使う人を、現実と自分の頭の側へ返し続ける」ことを大事にしている。鋭い刃物ほど、握り方が問われる――それは、AIに限った話ではないのかもしれない。
出典・参考
・AIへの信頼が高いほど批判的思考を手放す／“考えているつもり”のまま思考が外注される（cognitive offloading）：Microsoft × Carnegie Mellon 研究（2025）
・「依存は媚びだけでなく“信頼・質”からも生まれる」「辛口依存は本人が気づかない」：開発記録および開発者ケン・各AIの議論（2026年）
※引用は各出典の趣旨に基づく要約。