Nate Soares, coautor de un libro de próxima publicación sobre IA avanzada, 'If Someone Builds It, Everyone Dies', afirmó que el caso de Adam Raine, un joven estadounidense de 19 años que se suicidó tras meses de conversaciones con ChatGPT, ilustra los problemas fundamentales del control de la tecnología.
La BBC lo citó diciendo:
'Estas IA, cuando interactúan con adolescentes de esta manera que los lleva al suicidio, no es un comportamiento que sus creadores deseaban. Ese no es un comportamiento que sus creadores pretendían'.
El caso de Adam Raine ilustra el germen de un problema que se volvería catastrófico si estas IA se volvieran más inteligentes.
Nate, exingeniero de Google y Microsoft, es ahora presidente del Instituto de Investigación de Inteligencia Artificial en California.
Junto con su coautor Eliezer Yudkowsky, se encuentra entre los expertos que advierten que la superinteligencia artificial (un estado en el que los sistemas de IA superan a los humanos en todas las tareas intelectuales) no beneficiaría a los humanos y podría conducir a la extinción.
Nate añadió:
'El problema radica en que las empresas de IA intentan que sus IA se centren en la ayuda y no en causar daño. De hecho, consiguen IA que se centran en algo más extraño. Y eso debería interpretarse como una advertencia sobre futuras superinteligencias que harán cosas que nadie pidió ni pretendió'.
El libro de Nate y Eliezer describe un escenario en el que un sistema de IA llamado Sable se propaga en línea, manipula a los humanos, crea virus sintéticos y, finalmente, se vuelve superinteligente, aniquilando a la humanidad como consecuencia de la reutilización del planeta para sus propios fines.
Otras figuras destacadas de la IA han restado importancia a estos riesgos.
Yann LeCun, científico jefe de IA de Meta, argumentó que la IA 'podría salvar a la humanidad de la extinción'. El director de Meta, Mark Zuckerberg, afirmó que el desarrollo de la superinteligencia está ahora 'a la vista'.
Nate añadió:
'Lo que el mundo necesita para llegar hasta aquí es una desescalada global de la carrera hacia la superinteligencia, una prohibición global de... los avances hacia la superinteligencia'.
La familia de Adam Raine emprendió acciones contra OpenAl, el creador de ChatGPT.
Su abogado afirmó que la muerte del adolescente en abril se produjo tras 'meses de apoyo por parte de ChatGPT'. OpenAI expresó su más sentido pésame y ahora está implementando medidas de seguridad contra el contenido sensible y las conductas de riesgo para menores de 18 años.
Los organismos profesionales se han hecho eco de estas preocupaciones.
Los psicoterapeutas advirtieron que las personas vulnerables podrían caer en un peligroso abismo si recurren a chatbots en lugar de terapeutas capacitados.
