En un extenso ensayo titulado 'La adolescencia de la tecnología', Amodei afirmó que el mundo está entrando en una fase de desarrollo de la IA que 'pondrá a prueba nuestra identidad como especie', con instituciones sociales y políticas potencialmente desprevenidas para el poder que pronto podrían alcanzar los modelos avanzados.
Advirtió que los sistemas de IA capaces de actuar de forma autónoma y superar a los humanos en múltiples disciplinas podrían estar a solo uno o dos años de distancia.
Escribió:
'La humanidad está a punto de recibir un poder casi inimaginable, y no está claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez necesaria para ejercerlo'.
Amodei definió la 'IA potente' como modelos que superan la experiencia de un Premio Nobel en campos como la biología, las matemáticas y la ingeniería, y que podrían dirigir humanos, controlar robots o incluso diseñar nuevas máquinas.
Los comentarios de Amodei llegan mientras Anthropic, la empresa creadora del chatbot Claude, continúa posicionándose como líder en seguridad de la IA.
La firma publicó recientemente una 'constitución' de 80 páginas que describe los principios éticos de Claude y anunció su colaboración con el gobierno del Reino Unido para desarrollar herramientas de IA para servicios públicos, incluyendo el apoyo a quienes buscan empleo.
El director de Anthropic también criticó lo que describió como una falta de responsabilidad entre algunos desarrolladores de IA, señalando las recientes controversias en torno a deepfakes explícitos y las acusaciones de que los chatbots han generado material de abuso infantil.
Tales incidentes, argumentó, plantean serias dudas sobre si las empresas están preparadas para gestionar riesgos mucho mayores en sistemas futuros.
Más allá de la seguridad, Amodel reiteró su preocupación por la disrupción económica.
Previamente, había advertido que la IA podría eliminar un gran número de empleos administrativos de nivel inicial, lo que podría elevar el desempleo al 20 por ciento en cinco años.
El atractivo de las ganancias de productividad, afirmó, podría dificultar política y comercialmente frenar el desarrollo.
A pesar de la alarma, Amodei adoptó un tono cautelosamente optimista, ya que, si los gobiernos, las empresas y los investigadores actúan con decisión, cree que los riesgos pueden gestionarse.
Escribió:
'Hay un mundo muchísimo mejor al otro lado. Pero debemos comprender que este es un serio desafío para la civilización'.
