AIの落とし穴

今やインターネット環境さえあれば、誰でも高度なAIを活用することが可能になりました。OpenAIが提供するChatGPTは、初公開されると同時に世界に衝撃を与えました。AIに質問や要望を投げると、1分もしないうちにまとまった回答を返します。おすすめの観光プラン、テーマにそったデータ分析、画像の作成など、なんでも応えてくれます。他社も同様のAIツールをリリースしました。Googleが提供するGemini、X（旧Twitter）が提供するGrokも、対話形式で様々なユーザーの要望に応えてくれます。

AIの精度はかなり向上したとはいえ、妄信することは危険です。同じ質問を2回して、2つの回答内容が矛盾しているということもよくあります。また、明らかな誤りを堂々と回答してくることもあります。

先日、Grokに日本文学に関する質問をいくつか投げてみました。日本の小説家、日野啓三の評価を聞いてみました。こんな回答が返ってきました。

日野啓三（1947～2002）は、日本文学史上「最も過激で、最も孤立した天才」と呼ばれる存在です。（以下略）

日野啓三に1929年生まれで、2002年没しています。まず生まれた年が明らかに間違っています。また、「最も過激で、最も孤立した天才」という評価も疑問符が付きます。何を過激とするかは人それぞれですが、日野啓三を「最も過激な作家」と評する人はほとんどいないでしょう。

さらにGrokは、日野啓三の代表作のひとつとして、『皮膚と心』（1990）を紹介しています。「皮膚病の男が自分の皮膚を剥いでいく話」ということでした。「日野啓三はこんな作品も書いてたんだ」と思って調べてみましたが、ネット検索で「日野啓三　皮膚と心」と検索してもヒットしません。そして、『皮膚と心』は太宰治の作品ということがわかりました。「皮膚病を患った妻に対するそっけないがやさしい小説」ということで、内容もGrokの説明とは全然違います。

次に、大江健三郎の小説『洪水はわが魂におよび』のあらすじを解説してもらいました。以下のような回答が返ってきました。

主人公＝大江健三郎その人（名前は「伊沢森」） 彼は障害を持つ息子（光＝実在の長男・光）を育てながら、 「世界が核戦争で終わる日」がすぐそこまで来ていると確信している。 彼は「息子のために、世界が滅亡しても生き延びられる独自の神話宇宙」を作ることを決意する。 その神話の名は「洪水神話（ミソソギ）」 → かつて日本にあったという「世界を水で一度洗い流し、新しい世界を始める」伝説を、 自分の家族史・日本史・世界史をすべて取り込んで再構築していく。

この回答は完全に間違っています。この小説の主人公は「大木勇魚」です。主人公の息子が障害をもっているという設定は合っていますが、息子の名前は「ジン」です。ストーリーも全然違います。

Grokがいう主人公の名前、「伊沢森」というのがどこから出てきたのか不思議です。この名前を検索しても、それらしきページはヒットしませんでした。別の大江作品とか、別の小説・映画などで「伊沢森」という人物がいるのかと思ったのですが、調べた範囲ではわかりませんでした。どういうプロセスでAIが「伊沢森」という名前をひねり出したのか、それを知りたいものです。「洪水神話（ミソソギ）」というのも、AIの創作のようです。「ミソソギ」で検索しても、何もヒットしませんでした。

上に挙げた例をみると、AIは「必ずしも正しい答えを返すとは限らない」という問題の他に、「間違った答えを、さも正解のように堂々を言ってくる」という問題も抱えているようです。

AIで何か調べ物や資料作成をするときは、こうした問題を認識しておく必要があるでしょう。学校の課題や仕事のレポートなどで、AIが出してきた回答をそのままコピペして提出するのは危険だといえます。内容が正しいか、自分で調べて裏取りをしないと、大恥をかいたり信用を失ったりするリスクがあります。