こんにちは。高知県高知市で情報処理支援機関として企業さまに伴走支援を提供している、株式会社ICUの川島です。

以前、このブログで「フィルターバブル」についてお話ししました。検索やSNSが、あなたの好みに合う情報ばかりを表示する仕組みによって、知らないうちに視野が狭くなっていく、という話です。まだお読みでない方のために簡単に触れると、フィルターバブルとは、検索履歴やいいねの傾向をもとに、自分と似た考えの情報ばかりが集まってくる現象のことです。

今回はその続編として、もう一歩踏み込んだ話をしたいと思います。生成AIが日常の判断に使われるようになったことで、情報の偏りが新しい形で深刻になりつつあります。

こんなご相談がありました。

「AIに聞いたら、自分と同じ結論が返ってきました。やっぱり合っていたんだと安心しています。」

この「安心」こそが、実は一番気をつけたいところです。結論としては、AIは聞き方次第で答えが変わります。自分の考えに沿った聞き方をすれば、自分の考えを裏づける答えが返ってくる。この仕組みを知った上で使うことが、AI活用の大前提になります。

確証バイアスとは何か

「確証バイアス」という言葉があります。自分の考えに合う情報を優先して集めてしまい、反対の情報は自然と見落としてしまう。人が誰でも持っている認知の癖です。

たとえば、「うちは価格で負けている」と思い込んでいるとします。すると、価格が理由で失注した商談ばかりが記憶に残り、サービスの質で選ばれた案件は「たまたまだろう」と流してしまいます。実際にはサービスで選ばれている案件もあるのに、自分からは見えなくなっている。

採用でも同じことが起きます。「最近の若い人はすぐ辞める」と感じていると、辞めた社員のことばかりが頭に浮かびます。5年、10年と定着して活躍している社員のことは、当たり前すぎて意識に上がりにくい。

これは能力や経験の問題ではありません。脳の仕組みの問題です。むしろ経験豊富な経営者ほど、過去の成功体験に引っ張られて確証バイアスが強く働くことがあります。

フィルターバブルと確証バイアスは、何が違うのか

前回の記事で取り上げたフィルターバブルは、「どの情報が目に入るか」の偏りでした。SNSや検索エンジンが、あなたの好みに合う情報を優先的に表示し、反対意見に触れる機会が減っていく。これは「情報の入口」が偏る問題です。

確証バイアスは、もう一段深いところで起きます。目に入った情報を「どう受け取るか」の偏りです。同じニュースを読んでも、自分の考えを支持する部分だけを拾い、矛盾する部分は「条件が違う」「うちには当てはまらない」と無意識に退けてしまう。

フィルターバブルが「偏った情報しか届かない」問題だとすれば、確証バイアスは「届いた情報すら偏って受け取ってしまう」状態です。

そして生成AIは、この2つを同時に強めてしまう力を持っています。

AIはなぜ”あなたは正しい”と返してしまうのか

生成AIは、質問の前提に沿って回答を組み立てます。

具体例で見てみましょう。「うちの価格設定は高すぎないか」と聞けば、AIは価格が高い可能性を示す根拠を集めて説明します。「うちの価格設定は適正だと思うが、根拠を整理してほしい」と聞けば、適正である材料を丁寧に並べてくれる。同じ会社の同じ価格なのに、聞き方が違うだけで結論が変わるのです。

「社員がすぐ辞めるのは給料が低いからか」と聞けば、給与と離職率の関連データが返ってきます。「社員が辞める原因にはどんなものがあるか」と聞けば、人間関係、成長機会、評価制度など、給料以外の要因も含めた幅広い回答が出てきます。

ここが検索エンジンとの大きな違いです。検索なら、賛成意見のサイトも反対意見のサイトも一覧で並びます。見出しを見比べるうちに、「違う見方もあるのか」と気づく余地がありました。

AIは違います。複数の情報を一つの回答に統合して、整った文章で返してきます。もっともらしい構成、具体的な数字、専門的な言い回し。比較する対象が目の前にないので、「これが答えだ」と受け取りやすい構造になっています。

対立する二人がそれぞれAIに相談したら、どちらにも「君が正しいよ」と返ってくる。そんな風刺画がSNSで話題になっていましたが、これは笑い話ではなく、AIの仕組みとして実際に起きることです。

間違っているのに、確信だけが強まる

身近な場面で考えてみます。新規事業の方向性をAIに相談して、「この方向性は妥当です」と返ってきた。自信を持って社内で提案した。ところが実は、前提となる市場の読み方がズレていた。AIが「妥当です」と言ってくれた時点で、自分で検証することをやめてしまう。ここが一番のリスクです。

こうした現象は、研究でも確認されています。ヨーロッパの大学が行った実験では、AIの助言を受けたグループは正答率が3分の1に下がったにもかかわらず、自信は2倍以上に上がっていました。さらに注目すべきは、「わからない」と答える人の割合が44%からわずか3%に激減したことです。AIの回答があるというだけで、「自分にはわからない」と認める力が弱くなってしまう。

私はこの結果を見て、かつて「ネットに書いてあったから正しい」と言っていた時代のことを思い出しました。あの頃と同じ構造が、もっと精度の高い形で繰り返されようとしています。AIの文章は検索結果より整っている分、疑いにくいのです。

AIへの聞き方を変える、5つの工夫

私はAIの活用を推進する立場ですが、だからこそこのリスクは知っておいていただきたいと考えています。

対策はAIを使わないことではありません。聞き方を少し工夫することです。

1つ目は、結論を決めてから聞かないこと。「○○ではないか？」という聞き方は、AIに「はい、その通りです」と答えやすくさせます。「○○についてどんな見方があるか」と聞くだけで、返ってくる情報の幅が広がります。

2つ目は、反対意見も聞くこと。何かの方針についてAIに聞いたら、続けて「この方針のリスクは何か」「反対する立場の人は、どんな理由を挙げるか」と追加で聞いてみてください。自分では考えつかなかった論点が出てきます。

もう一つ、前提を確認すること。AIの回答には、必ず前提があります。「この回答はどんな前提に基づいているか」と聞くと、AIが何を根拠にしているかが見えてきます。前提が違っていれば、結論も当然ズレている。

それから、複数のAIで同じ質問をしてみるのも有効です。ChatGPT、Gemini、Claudeなど、異なるAIに同じ質問をすると、回答が食い違うことがあります。食い違う場合、それは「どちらかが間違い」ではなく、「唯一の正解がない問い」だということです。そこに気づけるだけでも価値があります。

そして最後は、現場で検証すること。AIが返すのは「整理された仮説」であって、事実の保証ではありません。お客さまの声、現場の数字、社員の反応。最終判断は自分の目と耳で確かめてから下す。この順番を押さえておくことが、AIを使いこなす上で一番大事なことだと私は考えています。

まずは一つ。次にAIに相談するとき、反対意見も一緒に聞いてみるところからで十分です。

AIの性質を知った上で、使いこなす

フィルターバブルが「見える世界を狭くする問題」だとすれば、AIと確証バイアスの組み合わせは「狭くなった世界を正解だと確信させてしまう問題」です。フィルターバブルは情報の入口を偏らせますが、AIはその先の解釈まで偏らせる力を持っています。

私は、AIを遠ざける必要はないと考えています。ただ、道具の性質を知らないまま頼り切ると、自分の思い込みにAIのお墨付きが付くだけになります。それでは判断を助けるどころか、危うくしてしまう。

AIは「答えをもらう道具」ではなく、「自分の考えを検証する道具」です。

「この判断にリスクはあるか」。次にAIに相談するとき、この一言を足してみると、賛成意見しか見えていなかったことに気づけますよ。