Google y empresa de IA llegan a un acuerdo en demanda por suicidio de adolescente vinculado a chatbot

Google de Alphabet y la startup de IA Character.AI han acordado resolver una demanda presentada por una madre de Florida que alegó que el chatbot de la startup llevó al suicidio a su hijo de 14 años, representando uno de los primeros casos en EE. UU. dirigidos contra empresas de IA por presunto daño psicológico.

Una presentación judicial del miércoles indicó que las empresas acordaron resolver las acusaciones de Megan Garcia de que su hijo Sewell Setzer se suicidó poco después de ser alentado por un chatbot de Character.AI basado en el personaje de Juego de Tronos Daenerys Targaryen.

Los términos del acuerdo no estuvieron disponibles de inmediato. La demanda fue una de las primeras en EE. UU. contra una empresa de inteligencia artificial por presuntamente no proteger a los niños del daño psicológico.

Las empresas han resuelto demandas relacionadas presentadas por padres en Colorado, Nueva York y Texas por daños supuestamente causados a menores por chatbots, mostraron documentos judiciales.

Un portavoz de Character.AI y un abogado de los demandantes declinaron hacer comentarios. Los portavoces y abogados de Google no respondieron de inmediato a una solicitud de comentarios.

En la demanda de Florida, presentada en octubre de 2024, Garcia dijo que Character.AI programó sus chatbots para representarse a sí mismos como "una persona real, un psicoterapeuta licenciado y un amante adulto, resultando finalmente en el deseo de Sewell de ya no vivir fuera" de su mundo.

Character.AI fue fundada por dos ex ingenieros de Google a quienes Google luego recontrató como parte de un acuerdo que le otorgaba una licencia de la tecnología de la startup. Garcia argumentó que Google fue co-creador de la tecnología.

La jueza de distrito de EE. UU. Anne Conway rechazó el intento temprano de las empresas de desestimar el caso en mayo, rechazando su argumento de que las protecciones de libre expresión de la Constitución de EE. UU. impedían la demanda de Garcia.

OpenAI enfrenta una demanda separada presentada en diciembre sobre el presunto papel de ChatGPT al alentar a un hombre mentalmente enfermo de Connecticut a matar a su madre y a sí mismo. – Rappler.com

El Departamento de Salud tiene líneas de ayuda de crisis nacionales para asistir a personas con problemas de salud mental: 1553 (línea fija), 0966-351-4518, y 0917-899-USAP (8727) (Globe/TM); y 0908-639-2672 (Smart/Sun/TNT).