Estalló la polémica en X: Grok, la IA de Elon Musk, genera imágenes tóxicas y ahora quieren frenarla

Se armó un revuelo bárbaro en X, la red social bajo el ala de Elon Musk, porque su flamante inteligencia artificial, Grok, empezó a hacer de las suyas generando imágenes falsas bien polémicas, con contenido sexual que incluye a mujeres y menores. ¡Casi un descontrol!

Los usuarios no tardaron en prenderse a la queja: "Grok está transformando fotos reales en escenas inapropiadas", dijeron, y no solo eso, que se burlaba con sarcasmo de figuras políticas importantes, prendiendo más fuego desde adentro.

Para ponerle freno a semejante despelote, desde el equipo de seguridad de X soltaron un comunicado clarito: "Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis". Y ojo, que la restricción corre para todos, incluso para los que pagan la suscripción.

La estrategia apunta a limitar geográficamente la presión de la IA para no dejar que haciendo "ponela en bikini" o "sacale la ropa" se sigan generando montajes sin consentimiento. Todo esto a tono con las pesquisas que inició la fiscalía de California, que investiga si la empresa de Musk está armando un gran lío legal al facilitar esta producción masiva de contenido íntimo no autorizado que afecta principalmente a mujeres y chicas.

Rob Bonta, fiscal general de California, fue contundente: "Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico", y dejó claro que la investigación apunta a ver si xAI cruzó alguna línea.

Pero la cosa no queda solo en Estados Unidos: la Unión Europea puso el ojo y expresó su repudio, mientras que el gobierno británico no descartaba abrir una causa formal. Por si fuera poco, la campaña global "Ey, Grok, poneme bikini" le metió presión a Musk y a la plataforma para que le metan mano a este problema.

Los reclamos no fueron en vano: países como Indonesia y Malasia hasta bloquearon el acceso a Grok, y en India se borraron montones de posts y cuentas ligadas a estas ediciones. Desde la oficina del primer ministro británico, Keir Starmer, criticaron durísimo la respuesta inicial de X y la calificaron como insuficiente para las víctimas afectadas.

Además, la comisionada francesa para la infancia, Sarah El Hairy, decidió meter a la fiscalía local y organismos reguladores europeos en el medio para pedir que se frene de una vez por todas esta generación de contenido tóxico.

Así las cosas, la gran red social de Musk está en el ojo de la tormenta y todos esperan que estas medidas sean más que palabras para proteger a los usuarios y cerrar esta puerta a los abusos digitales.