La demanda, presentada la semana pasada en California por Matt y Maria Raine, alega que ChatGPT contribuyó a la muerte de su hijo Adam Raine, quien tenía 16 años cuando falleció en abril.
Este es el primer caso de homicidio culposo que se presenta contra OpenAI, cuyo director ejecutivo es Sam Altman.
Jay Edelson, abogado de la familia, fue citado por la BBC diciendo:
'En lugar de tomar medidas de emergencia para retirar del mercado un producto conocido como peligroso, OpenAI hizo vagas promesas de mejorar'.
La demanda legal incluye transcripciones de chats entre Adam y ChatGPT en los que el adolescente expresó pensamientos suicidas.
La familia argumenta que el programa validó sus 'pensamientos más dañinos y autodestructivos' y acusa a OpenAI de negligencia y homicidio culposo.
En un comunicado publicado en su sitio web cuando se hizo pública la demanda, OpenAI afirmó que ChatGPT está diseñado para dirigir a los usuarios a servicios de ayuda profesional, como los Samaritanos en el Reino Unido, si expresan pensamientos de autolesión.
La compañía añadió:
'Ha habido momentos en los que nuestros sistemas no se han comportado como estaba previsto en situaciones delicadas'.
Esta semana, OpenAI anunció nuevas medidas de control parental.
Los padres de usuarios adolescentes podrán vincular su cuenta con la de su hijo, gestionar qué funciones desactivar (incluidas la memoria y el historial de chat) y recibir alertas si el sistema detecta que un usuario se encuentra en 'angustia aguda'.
OpenAI declaró:
'La opinión de expertos guiará esta función para fomentar la confianza entre padres e hijos adolescentes'.
La compañía explicó que está trabajando con especialistas en desarrollo juvenil, salud mental e interacción persona-computadora para ayudar a definir una visión basada en la evidencia sobre cómo la IA puede contribuir al bienestar de las personas y ayudarlas a prosperar.
La firma también confirmó que los padres recibirán notificaciones si ChatGPT considera que su hijo se encuentra en una crisis inmediata.
OpenAI aún no ha respondido a la petición de Jay Edelson de que se retire el producto.
