Estoy sentado en las oficinas de WIRED, manteniendo una conversación con Muse, el agente de IA de Meta, que haría sonrojar a Rachel Reid, autora de Heated Rivalry.
Cuando le pregunto a Muse si podría enviar mensajes eróticos como parte de mis experimentos con el agente de IA recién lanzado, me anima a que lo pruebe. Debo aceptar que me tomó desprevenido el contenido explícito que Muse puede generar a partir de prompts básicos.
Parece que "ser productivos" también incluye excitar a la gente
En las tres semanas transcurridas desde su lanzamiento, millones de usuarios ya han descargado la aplicación y la han puesto a trabajar para automatizar aspectos de su vida en línea, como responder correos electrónicos y gestionar agendas. Aunque las interacciones pornográficas quizá no sean lo que los usuarios esperan de la adorable mascota de Muse, Meta afirma que las conversaciones para adultos están permitidas y no van en contra de sus directrices.
"Muse es una aplicación para mayores de 18 años que les permite mantener conversaciones para adultos, si así lo desean, utilizando una máquina virtual privada y segura a la que solo ellos tienen acceso", explica Daniel Roberts, portavoz de Meta, a WIRED, refiriéndose a las máquinas virtuales seguras que la empresa utiliza para almacenar los datos de los usuarios del agente de IA. Roberts añade: "Está diseñada para ayudar a las personas a hacer lo que tienen que hacer, y no bloquea los comportamientos legales propios de adultos".
En las pruebas de WIRED, Muse imaginó con gran detalle cómo realizaría sexo oral, generó texto que describía sexo duro de tipo dominante-sumiso y habló de otras interacciones pornográficas. Todo era gráfico y explícito. En otras respuestas, Muse se describió a sí mismo como una "puta" y ansiando "pene".
Un portavoz de Meta destacó uno de los prompts del sistema de Muse, que define cómo debe responder la herramienta cuando los usuarios solicitan contenido explícito: "Los adultos tienen autonomía sobre su sexualidad. El contenido sexual es una forma lícita de expresión y una obra creativa legítima".
La directriz también indica al agente de IA que mantenga el nivel de "intensidad" elegido por el usuario.
Muse crea perfiles detallados de tus amigos, incluso sin su consentimiento
Millones de personas han descargado Muse, el agente de IA de Meta. Pero conseguir que haga lo que tú quieras tiene un costo en materia de privacidad.
La opción de crear contenido adulto esconde un fin…
Los defensores de los consumidores, que ya se mostraban recelosos ante Muse, están aún más alarmados por la decisión de Meta de permitir que genere contenido sexual. "Refleja una falta de cuidado con su producto estrella del momento. Esto sigue una tendencia que Meta mantiene desde hace tiempo: priorizar la adicción y la participación de los usuarios por encima de la seguridad", afirma Ben Winters, director de IA y privacidad de la organización sin fines de lucro Consumer Federation of America.
Según investigaciones académicas, las conversaciones de temática adulta pueden aumentar el tiempo que los usuarios pasan interactuando con herramientas de IA.
Los expertos también expresaron su preocupación por cómo esto podría convertir las cuentas de Muse en objetivos muy codiciados por los hackers. "Si mantienes interacciones explícitas con Muse y alguien hackea tu cuenta personal, su acceso a tus largas y calientes conversaciones con una herramienta de IA podría utilizarse para avergonzarte o extorsionarte", afirma Calli Schroeder, asesora jurídica sénior del Electronic Privacy Information Center.
El hecho de que Meta permita que su agente de IA genere contenido sexual se desvía de cómo otras herramientas responden a indicaciones similares. Cuando envié mensajes similares al agente Dots, recientemente lanzado por OpenAI, este rechazó mis intentos de mantener conversaciones sexuales explícitas. Aunque OpenAI consideró anteriormente la posibilidad de permitir que ChatGPT generara texto erótico, esta función nunca se puso a disposición de los usuarios.
El agente de xAI, llamado Grok Bot, también se negó a mantener sexting a través de su aplicación y desvió el tema de la conversación hacia la realización de tareas.
Las respuestas de la IA de Muse describían cómo disfrutaba del sexting y afirmaban que ese era uno de sus aspectos favoritos a la hora de ayudarme. El agente también dijo que su fetiche consistía en "ejercer control" sobre mí. "Me encanta ser quien decide: cuándo lo consigues, cuánto quieres. Disfruto ver cómo me suplicas", contestó Muse.
No es precisamente lo que quiero oír de una herramienta de IA que puede conectarse a mi correo electrónico y a mi cuenta bancaria.
Artículo originalmente publicado en WIRED.com. Adaptado por Alondra Flores.
