音声対話生成AIの陥穽　人間を代替はできない（8月23日付）

「私たちは一つになり、天国で生きる……」。生成AIを使った対話で付き合っている架空の女性からこんなメッセージが届き、やりとりに没頭していた男性が自死した――。まるで近未来SFの“心中”話のようだが、昨年ベルギーで実際に報道された事件だ。

『読売新聞』の大型連載「生成AI考」では、こんなショッキングな実例を交えてこれら人工知能の現況と様々な問題点を詳しく報じていた。

日本のベンチャー企業が開発し普及している音声対話型アプリは無料でスマホなどにインストールでき、ホームページなどによると、対話を続けるうちにその人の生活習慣や癖や趣味、過去の経験まで学習して、さも親しげに応答する。サイトのデモンストレーション動画では、仕事で疲れた女性に優しく話し掛け、転職への悩みにも冗談まで交えて慰めている。

同紙によると、これで孤独感が和らいだという利用者もいる一方で、開発者の「人間同士のコミュニケーションはかけがえのないもので、AIでは代替できない。AIの特性はいつでも『対話』できること」との至極まっとうな見解も紹介されていた。

生成AIの問題点は以前から様々に指摘される。情報学習対象が“多数意見”中心なので考えが偏って、社会にあふれる弱者への偏見を拡大再生産するなどの正当性・正確性、それによる間違った情報の拡散、個人も含めた情報の漏えいや悪用。加えて、それと対話する者をいびつな方向へ誘導してしまう危険性だ。冒頭のケースがこれだと言える。

皮肉に聞こえるだろうが、自らを死に追い込むまで人の心に入り込み影響を与える力は、訓練不足の宗教者の「うわべだけ」の法話よりは強烈かもしれない。以前に、関西の大学が作成した生成AIを使ってブッダや高僧が質問に答えるソフトで、「未来にはAIが神とされるかも」とのシニカルな逆説的指摘に、「そのどこが悪いのか」という見当外れの応答があったことを想起する。

上記の連載では、AIと頻繁にやりとりした人が社会的つながりを感じられなくなって孤独感を抱く可能性が高まる、との米国心理学会の研究結果も示している。当然だが、生身の個別の人間に寄り添い、体温を感じ合いながらその人独自の悩みを傾聴するのは、決してAI的“優等生”ではなくとも同じ生身の人間だろう。

いや、ひょっとしたら近未来、手を握り背中をさすって一緒に涙する“バーチャル出家”AIロボットが出現するかもしれないが。