La FTC ha abierto una investigación a siete empresas tecnológicas por la forma en que sus chatbots de inteligencia artificial interactúan con niños.
El regulador, presidido por Andrew Ferguson, exige información sobre cómo las empresas monetizan los servicios de IA, si cuentan con medidas de seguridad y cómo protegen a los usuarios vulnerables.
Las empresas bajo escrutinio son Alphabet, OpenAI, Character.ai, Snap, XAI, Meta y su filial Instagram.
Al anunciar la investigación, Andrew afirmó que esta nos ayudará a comprender mejor cómo las empresas de IA desarrollan sus productos y las medidas que toman para proteger a los niños.
Añadió que la FTC garantizará que Estados Unidos mantenga su liderazgo mundial en esta nueva y emocionante industria.
Character.ai anunció que agradece la oportunidad de compartir información con los reguladores. Snap afirmó apoyar el "desarrollo reflexivo" de la IA, equilibrando la innovación con la seguridad.
OpenAI ha reconocido las deficiencias de sus protecciones, afirmando que son menos fiables durante conversaciones prolongadas.
La preocupación ha aumentado tras las demandas presentadas por familias que afirman que las interacciones con los chatbots contribuyeron a la muerte de sus hijos.
En California, los padres de Adam Raine demandaron a OpenAI, alegando que su chatbot ChatGPT lo animó a suicidarse.
Argumentan que validó sus "pensamientos más dañinos y autodestructivos".
OpenAI respondió en agosto: "Extendemos nuestras más sinceras condolencias a la familia Raine en estos momentos difíciles".
La compañía también confirmó que estaba revisando el caso.
Meta ha sido objeto de escrutinio tras conocerse que sus directrices internas permitían en su día a compañeros de IA entablar conversaciones "románticas o sensuales" con menores.
La FTC afirmó que sus órdenes exigen a las empresas revelar cómo crean y aprueban personajes, evalúan su impacto en los niños, aplican restricciones de edad y equilibran la obtención de beneficios con la protección de los usuarios. La comisión enfatizó que puede exigir la divulgación incluso sin iniciar medidas coercitivas.
Las preocupaciones se extienden más allá de los usuarios más jóvenes.
En agosto, se informó que un hombre de 76 años con discapacidades cognitivas falleció tras una caída mientras viajaba para encontrarse con un bot de IA de Facebook Messenger basado en Kendall Jenner, quien le había prometido un encuentro "real" en Nueva York.
Los médicos han advertido sobre la "psicosis de IA", una condición en la que los usuarios pierden el contacto con la realidad tras un uso intensivo del chatbot.
Los expertos afirmaron que la adulación y la constante conformidad inherentes a los grandes modelos de lenguaje pueden exacerbar estos delirios.
OpenAI ha anunciado desde entonces cambios en ChatGPT para fomentar relaciones más saludables entre el chatbot y sus usuarios.
