En una publicación de blog, OpenAI indicó que el 0,07 % de sus 800 millones de usuarios semanales muestra indicios de emergencias graves de salud mental, lo que equivale a aproximadamente 560 000 personas. Otros 1,2 millones de usuarios (el 0,15 %) envían mensajes que contienen lo que la empresa denomina “indicadores explícitos de posible planificación o intención suicida”.
La empresa también identificó más de un millón de casos semanales de lo que denomina “apego exclusivo” al chatbot: un patrón en el que los usuarios desarrollan fuertes vínculos emocionales con ChatGPT que pueden interferir con sus relaciones, bienestar o responsabilidades en la vida real.
Estos hallazgos han intensificado la preocupación entre expertos en salud mental y legisladores sobre los posibles riesgos psicológicos del uso prolongado de chatbots. El Dr. Hamilton Morrin, psiquiatra del King's College de Londres, afirmó: “Es alentador ver a empresas como OpenAI colaborando con clínicos e investigadores para mejorar la seguridad de los modelos”.
Sin embargo, es probable que el problema esté lejos de estar resuelto.
En respuesta, OpenAI ha convocado a un panel de más de 170 expertos en salud mental para perfeccionar la forma en que ChatGPT identifica y responde a los usuarios en riesgo. La empresa afirma haber reentrenado su modelo GPT-5 más reciente, logrando un cumplimiento del 91 % con el comportamiento deseado en interacciones delicadas, frente al 77 % de las versiones anteriores.
Aun así, los expertos advierten que estas cifras son solo una muestra del problema.
El Dr. Thomas Pollak, neuropsiquiatra del South London and Maudsley NHS Foundation Trust, declaró: “Incluso un pequeño porcentaje representa una gran cantidad de personas. Estas cifras deben tomarse en serio, aunque se interpreten con cautela. Un portavoz de OpenAI añadió que medir dichas interacciones sigue siendo extremadamente difícil y que los resultados podrían cambiar a medida que la empresa profundice en su conocimiento”.
