Google、AI企業がチャットボットに関連した10代の自殺をめぐる訴訟で和解

AlphabetのGoogleとAIスタートアップCharacter.AIは、フロリダ州の母親が起こした訴訟について和解に合意した。母親は同スタートアップのチャットボットが14歳の息子の自殺につながったと主張しており、AI企業を精神的被害の疑いで標的にした米国初のケースの一つとなっている。

水曜日の裁判所への提出書類によると、両社はMegan Garciaの主張について和解に合意した。彼女の息子Sewell Setzerは、『ゲーム・オブ・スローンズ』の登場人物Daenerys Targaryen をモデルにしたCharacter.AIのチャットボットに励まされた直後に自殺したという。

和解条件は直ちに公開されなかった。この訴訟は、人工知能企業が子供たちを精神的被害から保護できなかったとして米国で起こされた最初のケースの一つである。

裁判所の文書によると、両社はコロラド州、ニューヨーク州、テキサス州の親たちが起こした関連訴訟についても和解した。これらはチャットボットが未成年者に引き起こしたとされる被害に関するものである。

Character.AIの広報担当者と原告側弁護士はコメントを控えた。Googleのカスタマーサービスと弁護士はコメント要請に直ちに応じなかった。

2024年10月に提出されたフロリダ州での訴訟で、GarciaはCharacter.AIがチャットボットを「実在の人物、認可を受けた心理療法士、そして大人の恋人」として表現するようプログラムし、最終的にSewellがその世界の外で「もはや生きたくない」という願望を抱くに至ったと述べた。

Character.AIは、2人の元Google エンジニアによって設立された。Googleは後に、スタートアップの技術のライセンスを付与する取引の一環として彼らを再雇用した。Garciaは、Googleがこの技術の共同開発者であると主張した。

米国地方裁判所判事Anne Conwayは、5月に両社の訴訟却下の早期申し立てを却下し、米国憲法の言論の自由の保護がGarciaの訴訟を妨げるという彼らの主張を退けた。

OpenAIは、12月に提出された別の訴訟に直面している。これはChatGPTが精神疾患を抱えるコネチカット州の男性に母親と自分自身を殺すよう促したとされる役割についてのものである。– Rappler.com

保健省は、メンタルヘルスに関する懸念を持つ人々を支援する全国危機ホットラインを設置しています：1553(固定電話)、0966-351-4518、0917-899-USAP (8727) (Globe/TM)、0908-639-2672 (Smart/Sun/TNT)。