AIは、平気で作り話をする — なぜ嘘が出るのか

※動画の音声は、イケハヤの声をもとにAIで生成しています。

第2部は、だます人の話ではありません。
AIそのものとの、付き合い方の話です。

AIは、たまに間違えます。
それも、自信たっぷりの顔で間違えます。
今回は、なぜそうなるのかを一度だけ、やさしく見ておきます。
仕組みが分かると、どこを疑えばいいかが分かります。

覚えているのではなく、続きを作っている

AIは、辞書を引いて答えているのではありません。
たくさんの文章を読んだ経験から、「この後には、こういう言葉が続きそうだ」を選んでいます。

だから、話としてありそうな形は、いつでも作れてしまいます。
存在しない本の題名。
存在しない条文の番号。
近所に無い病院の名前。

どれも、いかにも本当らしい顔で出てきます。
嘘をつこうとしているのではなく、続きを作るのが仕事だから、こうなるのです。

まったくの出まかせなら、人は気づきます。
やっかいなのは、ありそうな嘘のほうです。

日付が一日ずれている。
金額の桁が一つ違う。
手続きの窓口の名前が、似ているけれど違う。

こういうものは、読んでも違和感がありません。
だから、確かめる場所をあらかじめ決めておきます。

日付。
金額。
手続き。

この三つが出てきたら、公式の発表で確かめる。
役所の用事なら役所のサイト、お店の話ならお店のサイトです。

逆に言えば、雑談や言葉の意味は、うのみでかまいません。
全部を疑うと疲れて、続きません。

答えをもらったあと、こう聞いてみてください。
「その話の出どころを教えて」。

出どころを言えないときは、AIも自信がありません。
言えたときは、その出どころを自分で開いて確かめられます。

聞くだけで、ずいぶん安全になります。

AIに何か聞いたあと、「その話の出どころを教えて」と続けてみてください。

答えの様子が変わるのが、面白いはずです。
言いよどんだら、それが疑うべき合図です。