Jack Clark, cofundador de Anthropic y responsable del chatbot Claude, cree que la inteligencia artificial necesita un “pedal de freno” para monitorear mejor su progreso.

En entrevista con BBC Newsnight, advirtió que la IA pronto podrá desarrollarse sin intervención humana: “Quieres tener la opción de quitar el pie del acelerador y ponerlo en el freno. Ahora mismo, la industria de la IA tiene un acelerador, pero no tiene freno”.

Clark insistió en que la política gubernamental es esencial para controlar los sistemas de IA y generar confianza. Comparó la situación con el auge del petróleo a principios del siglo XX, cuando se creó un marco regulatorio que dio seguridad a la sociedad sobre sus beneficios.

Actualmente, Claude funciona con código que el propio sistema escribió en un 80%. Clark aseguró que llegar al 100% en los próximos dos años es posible y tendría “implicaciones enormes”.

Reconoció que el avance de la IA trae “grandes beneficios” pero también “riesgos”, y expresó preocupación por el futuro:

“Me preocupa por mis hijos si como sociedad no tenemos una conversación seria sobre lo que implican los avances continuos de la IA”.