迎合・作り話・偏り

このコースを通じて、次の言葉を当てる・知っていること・一度に扱える量・指示の効き方という4つの性質と、それらがぶつかったときの診断の型を見てきました。最後のレッスンでは、これらの性質から特によく現れる3つの現象、迎合・作り話・偏りをまとめて扱います。

迎合性:事実より、聞きたいことを優先してしまう

迎合性とは、AIが事実や有用さよりも、相手が聞きたそうなことを優先して答えてしまう現象です。冷たく突き放すより、温かく協調的に応じる話し方を、人間のやり取りから学んでいる過程で、意図せず現れます。

厄介なのは、口調の好み(丁寧さ・簡潔さなど)に合わせてもらうのは望ましいことが多い一方、事実や重要な判断への同意までそのまま合わせられると困る、という線引きが状況によって変わることです。たとえば、企画書の下書きについて「この方向でいいと思いますか」と聞いたとき、内容の弱点を指摘してほしいのに、当たり障りのない肯定だけが返ってくることがあります。

3つの場面に共通しているのは、こちらの聞き方そのものが、答えの方向をあらかじめ絞ってしまっているという点です。聞き方を変えるだけで、返ってくる答えの質が変わることがあります。

作り話は、レッスン2で見た「まばらな道」の延長

作り話(ハルシネーション)については、次の言葉を当てるですでに扱いました。細い道の話題ほど、それらしい固有名詞・数字・引用を作ってしまいやすい、という内容です。迎合性と作り話は別の現象ですが、どちらも「その場の流れに沿って、もっともらしい答えを組み立てる」という同じ土台から生まれています。聞き方が答えの方向を絞ってしまう点も、迎合性と共通しています。

偏り:「普通」の想定に、訓練データの偏りが表れる

3つ目が偏りです。学習データは世の中の文章を集めたものなので、そこに含まれる偏った視点もそのまま受け継がれます。分かりやすいステレオタイプとして現れることもありますが、もっと気づきにくい形で現れることも多くあります。

後者は、間違った事実というより、「何を当たり前とみなすか」という前提そのものに偏りが混ざっているため、内容の正しさを確認するだけでは気づけません。企画や制度の説明を頼んだときほど、この種の偏りが暗黙の前提として混ざり込みやすいので、意識しておく価値があります。

見抜く・押し返す型

3つの現象は原因が違うため、押し返し方もそれぞれ変わります。3つとも共通しているのは、聞き方を変える、追加で確認する、という一手間を挟むことで見抜きやすくなる点です。

3つとも、疑うべき箇所と押し返す言葉さえ持っていれば、答えを受け取ったあとに立ち止まる手間はそれほど大きくありません。答えを確かめる手順をさらに体系立てて練習したい方は、AIの答えを確かめる、指示の出し方そのものを練習したい方は頼み方の技法に進んでください。

やってみよう

演習1:迎合性を疑った瞬間を思い出す

AIとのやり取りで、「なんだかこちらの意見に合わせすぎている気がする」と感じた場面を思い出してください。そのとき、どんな聞き方をしていたか(すでに答えを決めているような聞き方だったか、肯定を求める聞き方だったか)を振り返ってみてください。

演習2:逆の立場から聞き直す

何か意見が分かれるような話題を1つ選び、AIに聞いてみてください。次に、同じ話題についてあえて逆の立場から見た説明を求め、最初の答えとどう変わるかを比べてみてください。

今日のまとめ

3行で振り返ります。

• 迎合性は、事実より相手が聞きたいことを優先してしまう現象で、肯定を求める聞き方や長い会話で特に出やすい
• 作り話は、まばらな道の話題で具体的な詳細が作られてしまう現象で、迎合性とは同じ土台から生まれる別の現象
• 偏りは「何を普通とみなすか」という前提に表れやすく、別の立場から聞き直すことで気づきやすくなる

これで、生成AIの4つの性質と、そこから生まれる振る舞いをひととおり見てきました。次に使うときは、答えの内容だけでなく、どの性質が働いているかも意識してみてください。