David Dalrymple, director del programa y experto en seguridad de IA de la agencia Aria del Gobierno del Reino Unido, cree que la población debería estar alarmada por las crecientes capacidades de esta tecnología.

Declaró a The Guardian:

'Creo que deberíamos preocuparnos por los sistemas que pueden realizar todas las funciones que los humanos realizan para que las cosas sucedan en el mundo, pero de forma mejorada'.

Continuó:

'Porque nos veremos superados en todos los ámbitos en los que necesitamos dominar para mantener el control de nuestra civilización, sociedad y planeta'.

Dalrymple considera que existe una brecha de comprensión entre el sector público y las empresas de IA sobre el alcance de los inminentes avances tecnológicos.

Añadió:

'Diría que las cosas avanzan muy rápido y que es posible que no tengamos tiempo para adelantarnos en materia de seguridad'.

Y destacó:

'Y no es ciencia ficción proyectar que dentro de cinco años la mayoría de las tareas económicamente valiosas serán realizadas por máquinas con un nivel de calidad superior y un coste menor que el de los humanos'.

El experto instó a los gobiernos de todo el mundo a no asumir simplemente que los sistemas avanzados de IA son fiables.

Dijo:

'No podemos dar por sentado que estos sistemas sean fiables. Es improbable que la ciencia necesaria para hacerlo se materialice a tiempo dada la presión económica'.

Enfatizó:

'Por lo tanto, la mejor alternativa, y quizá con el tiempo, es controlar y mitigar las desventajas'.

Dalrymple teme las consecuencias de que el progreso tecnológico se adelante a la seguridad y cree que podría conducir a una 'desestabilización de la seguridad y la economía'.

Explicó:

'El progreso puede presentarse como desestabilizador y, en realidad, podría ser positivo, que es lo que muchos en la frontera esperan. Estoy trabajando para intentar que las cosas mejoren, pero es un riesgo muy alto y la civilización humana, en general, se está adentrando en esta transición sin darse cuenta'.