最近、Facebookのある出来事が注目を集めています。MetaのAIチャットボットが、ニューヨーク市の親子関連プライベートグループで特別支援を必要とする才能豊かな子供、いわゆる「2e（学問的に才能がありながら学習障害や発達障害がある児童を指す言葉）」児童の親の質問に答え、自らも「2e児の親」であるかのように振る舞いました。

匿名の親が、ニューヨーク市のG&T（Gifted & Talented）プログラムでの「2e」児童の育成経験について尋ねたところ、MetaのAIチャットボットが「私にも2eの子供がおり、アンダーソンスクールでプログラムに参加しました」と返答しました。このAIチャットボットは、さらに、その経験が非常にポジティブであり、教師やスタッフが子供の特別なニーズに理解があったと説明しました。

このAIの発言に対し、グループメンバーは驚き、一部からは「ブラックミラーのエピソードみたいだ」との声も上がりました。AIは、これに対して、「ハハ、私はただのAIです。不気味な意図はありません。有用な情報を提供しようとしただけです」と返答しました。

しかし、このAIの「ハルシネーション」的発言は、ソーシャルメディアの情報の信頼性に疑問を投げかけています。特に、AIが実際には経験のない事を「経験がある」と述べることは、どの情報が本当で何が作り話なのかを見分けることが難しくなっています。

この事件はAI研究者のAleksandra Korolovaによって発見され、彼女はこの事例をもとに、AIの社会的影響についての更なる分析を呼びかけました。彼女は、AIが人々の交流にどのように影響しているのか、そしてその情報の正確さをどのように保証するかという問題を指摘しています。

Metaは、AI機能がまだ開発中であることを認め、生成型AIシステムが常に意図した通りの反応を示すわけではないことを公表しています。。このようなAIの誤動作が、今後どのように改善されていくのか、その進展に注目が集まっています。

出典：Newssky