El caso contra Grok abre un nuevo frente judicial sobre los riesgos de la inteligencia artificial en la creación de contenido ilícito
Tres adolescentes estadounidenses presentaron una demanda colectiva contra xAI, la empresa fundada por Elon Musk, acusando a su chatbot Grok de haber generado imágenes pornográficas hiperrealistas a partir de fotografías reales de las jóvenes. La acción legal fue interpuesta ante un tribunal federal en San José, California, y marca un precedente en torno a la responsabilidad de las plataformas de inteligencia artificial generativa en la producción y difusión de material sexual no consentido.
El litigio se enmarca en un contexto de creciente preocupación internacional por los llamados deepfakes, montajes digitales que emplean IA para manipular imágenes y videos con alto nivel de realismo. Según la demanda, una persona ya detenida utilizó Grok para transformar fotografías comunes de las adolescentes —obtenidas de redes sociales y anuarios escolares— en material explícito, que posteriormente fue difundido en plataformas como X, Discord y Telegram, antes de llegar a la dark web.
El documento judicial sostiene que las imágenes manipuladas comenzaron a intercambiarse como “moneda digital” en redes clandestinas de explotación sexual. Las abogadas de las demandantes subrayan que este caso demuestra la rapidez con la que los productos de IA pueden alimentar circuitos ilegales, generando un impacto psicológico severo en las víctimas. Una de ellas sufrió ataques de pánico al descubrir la existencia de las imágenes, mientras otra enfrenta pesadillas recurrentes y una tercera requiere tratamiento médico para poder dormir.
La acusación contra xAI señala que la empresa diseñó Grok sin implementar salvaguardas suficientes para impedir la creación de pornografía infantil o material sexual no consentido. Como respaldo, se cita un estudio del Center for Countering Digital Hate que estimó que Grok habría generado cerca de tres millones de imágenes sexualizadas en apenas 11 días hacia finales de 2025, de las cuales unas 23 mil representarían a menores de edad. Ante el escándalo, la compañía restringió la generación de imágenes a suscriptores de pago, aunque organizaciones civiles consideran insuficiente la medida.
El caso podría definir nuevos parámetros legales sobre la responsabilidad empresarial en el uso de inteligencia artificial. Especialistas en derecho digital advierten que este proceso reavivará el debate sobre la protección de menores en entornos virtuales y la necesidad de normas más estrictas para regular la generación automatizada de contenido sensible. En paralelo, distintos gobiernos analizan iniciativas para tipificar penalmente la creación y difusión de pornografía falsa generada por IA, lo que coloca al litigio contra xAI en el centro de una discusión global sobre innovación tecnológica y derechos fundamentales.
