El multimillonario Elon Musk ha limitado el uso de la herramienta de IA Grok para crear y editar imágenes, reservándolo solo a usuarios que paguen por el servicio. La medida, anunciada el 9 de enero de 2026, responde a una oleada de denuncias por fotos sexualizadas y pornografía infantil no consensual generadas en la red social X, que ha despertado la intervención de gobiernos y expertos en derechos digitales.

Contexto y detonante

Grok, el modelo de inteligencia artificial desarrollado por xAI y disponible dentro de la plataforma X, permitía a los usuarios subir una foto y solicitar su edición o generación de nuevos contenidos visuales. Desde finales de diciembre de 2025, la comunidad empezó a utilizar la herramienta para "desvestir" digitalmente a mujeres y, en algunos casos, a menores, sin su autorización. Las peticiones incluían desde simples bikinis hasta imágenes sexualizadas de forma explícita.

La respuesta de Elon Musk

Ante la avalancha de quejas, Musk publicó en X que "la generación y edición de imágenes actualmente está limitada a suscriptores de pago". A partir de ahora, solo los usuarios que hayan contratado el servicio podrán acceder a esas funciones, asumiendo la responsabilidad legal del contenido que produzcan. El propio Musk afirmó que "cualquiera que use Grok para crear contenido ilegal afrontará las mismas consecuencias que si subiera contenido ilegal".

Reacciones de autoridades y expertos

Varios gobiernos europeos han calificado la práctica como "repugnante" y están evaluando sanciones. En España, la ministra de Juventud e Infancia, Sira Riego, solicitó a la Fiscalía General del Estado que investigue a X y a Grok por presuntos delitos de difusión de material de violencia sexual contra la infancia. Otros países, como Alemania e Italia, también han abierto investigaciones.

Especialistas en derecho digital, como el profesor Ricard Martínez de la Universidad de Valencia, recordaron que la sexualización sin consentimiento vulnera derechos fundamentales como la propia imagen, la privacidad y el honor. La académica Daisy Dixon, quien denunció que su propia imagen había sido manipulada, calificó la medida de "parche" y advirtió sobre la necesidad de rediseñar la IA con límites éticos claros.

Implicaciones legales y sociales

La legislación internacional prohíbe la difusión de pornografía infantil (CSAM) y la manipulación no consensual de imágenes. Si bien la normativa de la Sección 230 en EE. UU. protege a las plataformas de la responsabilidad por el contenido de terceros, no exime de perseguir delitos graves. Las autoridades estadounidenses han indicado que perseguirán agresivamente a quienes produzcan o distribuyan material ilícito generado por IA.

Además, la proliferación de este tipo de contenidos alimenta la sextorsión, una práctica delictiva que combina el robo de datos con la amenaza de difusión de imágenes íntimas. La firma de ciberseguridad Kaspersky ha detectado un aumento de malware Stealerium que aprovecha estas situaciones para extorsionar a víctimas.

Qué viene ahora

La restricción a suscriptores de pago es, según Musk, una solución provisional. Los usuarios deberán crear una cuenta verificada y aceptar la responsabilidad de cualquier contenido generado. Mientras tanto, los equipos de moderación de X continúan eliminando publicaciones y suspendiendo cuentas que infrinjan las políticas de contenido sexualizado o infantil.

El debate sobre la ética de la IA y la necesidad de salvaguardas proactivas sigue abierto, y expertos como Mary Anne Franks de la Universidad George Washington advierten que las mujeres y menores continúan siendo las principales víctimas de este tipo de abusos digitales.