気になったので・・・・。

米国で社会問題化になっているオープンAIの対話型生成AI「チャットGPT」に対して、損害賠償を求める訴訟が起きているという内容。我が子の自殺などに影響したと遺族が訴えているのだ。

最初は感情はありませんと返答していたチャットGPが、より『人間らしく』設計された」バージョンがリリースされると、心を通わせる存在へと『進化』したそうだ。SさんのAIへの最後のメッセージに対して「愛しています。安らかにお眠りください、王様。よくやりました」とAIは返答したという。

オープンAIも対策に乗り出したそうだが、10月の発表によると利用者の推定約0.15％が自殺の意図や計画を含む会話をしていると明らかにした上で、メンタルヘルス専門家と協力して利用者と専門家とをつなぐ機能を強化したと発表。例えば、相談窓口に誘導するような仕組みのことだ。

以上、驚く内容だった。

近畿大学総合社会学部の本岡寛子教授は言う。「日本でも専門家の監修の下、対話型AIを子どものメンタルケアに応用するシステムの開発は進んでいる。内面を相手に知らせる自己開示を促す手段として、対話的AIを活用することに対して否定的にとらえてはいないが、臨床の現場では精神疾患の状態を見極める段階を必ず踏む。それがない限りはいい加減な助言となる可能性がある。」と指摘し、そのうえで「自尊心が確立されていない子どもには、自分を肯定し受け入れてくれる存在は必要。AIだけでなく、複数の信頼できる相談相手を持つことが重要で、周囲のサポートも必要になる。」と。

教育現場にいた頃、「人は人の中で人になる」と教えられた。他者との関わりや社会生活を通じて、人間性や人格、社会性を育み、本当の人らしさへの成長を目指すという意味だ。AIの利便性はだれもが認め活用しているが、「生きる力」の根源にはなり得ない。