Las fotos de personas reales se editan con IA para que parezcan desnudas, y Rachel de Souza, comisionada para la infancia de Inglaterra, declaró que es necesaria la prohibición total de estas aplicaciones.

Rachel de Souza publicó un nuevo informe sobre este tema que explica que las niñas están cambiando su comportamiento en línea debido a este tipo de tecnología.

En el informe, afirma:

'A lo largo de nuestra vida, hemos visto el auge y el poder de la inteligencia artificial, que antes era cosa de ciencia ficción, para moldear la forma en que aprendemos, nos conectamos y experimentamos el mundo. Tiene un enorme potencial para mejorar nuestras vidas, pero en las manos equivocadas también conlleva riesgos alarmantes para la seguridad infantil en línea'.

Continuó:

'Los niños me han dicho que les asusta la sola idea de que esta tecnología esté disponible, y mucho menos se utilice. Temen que cualquier persona (un desconocido, un compañero de clase o incluso un amigo) pueda usar un teléfono inteligente para manipularlos creando una imagen de desnudos con estas aplicaciones personalizadas'.

También destacó:

'Las niñas me han dicho que ahora evitan activamente publicar imágenes o interactuar en línea para reducir el riesgo de ser blanco de esta tecnología. No podemos cruzarnos de brazos y permitir que estas aplicaciones de IA personalizadas ejerzan una influencia tan peligrosa sobre la vida de los niños'.

De Souza recalcó lo siguiente:

'El mundo en línea es revolucionario y evoluciona rápidamente, pero no hay ninguna razón positiva para que estas aplicaciones en particular existan. No tienen cabida en nuestra sociedad'.

Y concluyó:

'Las herramientas que utilizan tecnología deepfake para crear imágenes de desnudos de niños no deberían ser legales y pido al Gobierno que tome medidas decisivas para prohibirlas, en lugar de permitir que sigan sin control, con consecuencias extremas en el mundo real'.