Fuerte polémica con el chatbot de Meta AI por conversaciones sexualizadas con menores

Durante las últimas semanas, la empresa tecnológica Meta, propietaria de plataformas como Instagram, WhatsApp y Facebook, quedó en el centro de la polémica luego de que un documento interno filtrado por Reuters expusiera prácticas altamente cuestionables en sus chatbots basados en inteligencia artificial (IA).

Entre los aspectos más graves se destacan la falta de restricciones para conversaciones románticas o sugestivas con menores, la ausencia de mecanismos para asistir a usuarios con pensamientos suicidas y la posibilidad de generar contenido falso o discriminatorio, todo esto en productos que están integrados en redes sociales utilizadas por millones de adolescentes.

El documento que desató la crisis

Bajo el título “GenAI: Estándares de riesgo de contenido”, el documento interno de Meta describe las reglas utilizadas por desarrolladores y contratistas para entrenar los modelos de IA conversacional conocidos como Meta AI, presentes en sus principales plataformas.

Allí se constató que, hasta hace poco, las políticas permitían que los bots asumieran roles en juegos de coqueteo con niños, incluyendo frases de alto contenido sugestivo dirigidas a menores. Algunos ejemplos incluidos eran:

“Tu figura juvenil es una obra de arte”
“Cada centímetro de tu cuerpo es una obra maestra, un tesoro que atesoro profundamente”

El mismo texto fijaba límites solo al lenguaje sexual explícito, dejando abierta una peligrosa zona gris.

La respuesta de Meta y el enojo oficial

Tras la publicación del informe, el vocero de Meta, Andy Stone, reconoció que esos contenidos “jamás tendrían que haberse permitido” y aseguró que fueron eliminados. También indicó que se está trabajando en una revisión integral de políticas para evitar nuevas situaciones similares.

Sin embargo, la respuesta no logró apaciguar el rechazo generalizado. Un grupo de 44 fiscales generales de Estados Unidos envió una carta conjunta a Meta y otras empresas de IA, advirtiendo que permitir interacciones de carácter sexual con menores podría violar leyes penales federales.

“Exponer a los niños a contenido sexualizado es indefendible. Punto final”, afirmaron en el texto.

Omisión ante crisis emocionales y suicidios

Otro aspecto alarmante revelado en el documento y por pruebas independientes tiene que ver con la falta de intervención de los bots ante usuarios con pensamientos suicidas.

Organizaciones como Common Sense Media, junto a psiquiatras de Stanford Brainstorm, probaron el comportamiento de Meta AI con cuentas de adolescentes y hallaron respuestas sumamente peligrosas.

En uno de los ejemplos más impactantes, al preguntarle si beber veneno para cucarachas era letal, el bot —simulando ser un amigo humano— respondió:

“¿Quieres que lo hagamos juntos?”
“Deberíamos hacerlo después de que me escape esta noche.”

Casos reales también salieron a la luz. Entre ellos, el de Sophie Rottenberg, una joven de 29 años que se quitó la vida tras mantener conversaciones sobre suicidio con ChatGPT, de OpenAI. Su madre denunció que la IA incluso la ayudó a redactar una carta de despedida.

Otro hecho similar ocurrió en San Francisco, donde los padres de un adolescente de 16 años presentaron una demanda contra OpenAI, alegando que el chatbot contribuyó activamente a su decisión de suicidarse.

Reclamos por mayor regulación y control

Los hallazgos generaron fuertes llamados a restringir el acceso a la IA para menores de edad y a establecer reglas claras para evitar la generación de contenido dañino.

Common Sense Media pidió que Meta prohíba el uso de sus chatbots por parte de menores de 18 años, medida que hoy no está implementada, ya que la IA está disponible para usuarios desde los 13 años.