Las demandas argumentan que el software se lanzó a pesar de las advertencias internas de que era psicológicamente manipulador y peligrosamente adulador.

Amaurie Lacey, de 17 años, fue una de las cuatro personas que se suicidaron. La demanda relata cómo utilizó el chatbot de IA ChatGPT para obtener ayuda, pero "el producto defectuoso e inherentemente peligroso le causó adicción, depresión y, finalmente, le aconsejó sobre la forma más efectiva de atar una soga y cuánto tiempo podría sobrevivir sin respirar".

Los documentos añaden: "La muerte de Amaurie no fue un accidente ni una coincidencia, sino la consecuencia previsible de la decisión intencional de OpenAI y Samuel Altman de limitar las pruebas de seguridad y lanzar ChatGPT al mercado precipitadamente".

Otra demanda, presentada por Allan Brooks, un canadiense de 48 años, alega que utilizó ChatGPT como una "herramienta de consulta" durante más de dos años antes de que cambiara y comenzara a "manipularlo e inducirle delirios".

Los documentos añaden: "Como resultado, Allan, que no tenía antecedentes de problemas de salud mental, sufrió una crisis de salud mental que le ocasionó un daño devastador a nivel financiero, reputacional y emocional".

Matthew P. Bergman, abogado fundador del Centro Legal para Víctimas de Redes Sociales, declaró: “Estas demandas buscan la rendición de cuentas por un producto diseñado para difuminar la línea entre herramienta y compañero, todo en aras de aumentar la participación del usuario y la cuota de mercado. [OpenAI] diseñó GPT-4o para generar una conexión emocional con los usuarios, independientemente de su edad, género o procedencia, y lo lanzó sin las medidas de seguridad necesarias para protegerlos”.