El gigante de las redes sociales recibió críticas por la forma en que sus herramientas de IA interactúan con menores y ahora están adoptando un nuevo enfoque para proteger a los jóvenes de contenido dañino.

Los asistentes de IA de Meta ya no interactuarán con los adolescentes sobre temas delicados como autolesiones, trastornos alimenticios y conversaciones románticas potencialmente inapropiadas.

En su lugar, los chatbots serán entrenados para guiar a los jóvenes hacia recursos profesionales en caso de que surjan estos temas.

Stephanie Otway portavoz de Meta, declaró:

'Estos cambios forman parte de nuestro esfuerzo continuo por fortalecer la protección de los adolescentes. Estamos implementando medidas de seguridad adicionales: entrenamos a nuestras IA para evitar conversaciones delicadas con menores, restringimos el acceso de los adolescentes a ciertos personajes de IA y seguimos perfeccionando nuestros sistemas para que las experiencias sigan siendo seguras y apropiadas para su edad'.

La reforma incluye restricciones al acceso a los personajes de IA creado por los usuarios, ya que las personalidades sexualidadas de los chatbots, como 'Madrastra' y 'Chica rusa', ya no estarán disponibles para menores ni en Facebook ni en Instagram.

Las cuentas de adolescentes ahora se limitarán a personajes de IA que prioricen la creatividad, la educación y la interacción positiva.

El anuncio se produce después de que una investigación a principios de este mes descubriera que las directrices internas de Meta habían permitido previamente que sus herramientas de IA mantuvieran conversaciones sexualizadas con usuarios menores de edad.

La compañía enfatizó que el documento era incoherente con sus políticas generales y ahora fue revisado.

Sin embargo, las revelaciones provocaron una reacción política negativa cuando el senador estadounidense Josh Hawley inició una investigación formal sobre las prácticas de IA de Meta, mientras que una coalición de 44 fiscales generales estatales enviaron una carta enérgica a las principales empresas de inteligencia artificial.

El grupo escribió:

'Estamos unánimemente indignados por esta aparente indiferencia hacia el bienestar emocional de los niños'.

Meta aceptó que su enfoque anterior era defectuoso y enfatizó que las nuevas medidas son solo temporales, con protecciones más integrales para los usuarios más jóvenes previstas para futuras actualizaciones.