Elon Musk, es evidente, no quiere pasar desapercibido en este siglo XXI. El magnate y empresario tecnológico de 54 años no solo ha popularizado uno de lo coches eléctricos más elegantes del mercado, el Tesla, también quiere llevarnos a Marte -muchos sueñan ya con ese viaje-, y defiende a capa y espada la libertad de expresión, casi siempre de forma controvertida. 

Dueño desde 2022 de la red social X (antes Twitter) ha comenzado el año pisando fuerte y ha levantado una polvareda mediática a nivel europeo, norteamericano y global por los contenidos generados estas últimas semanas por los usuarios de su inteligencia artificial Grok. Esta IA, como todas, es capaz de crear y editar imágenes hiperrealistas en tiempo real, y también imágenes de contenido sexual explícito muchas veces no consentido. 

Ya lo advertíamos en junio de 2024, Querido Elon, no todo vale, cuando anunció que en pro de la libertad de expresión permitiría publicar contenidos pornográficos explícitos en la red social X. ¿Pero libertad es siempre publicar lo que quiera, como quiera y cuando quiera?, ¿y si eso vulnera los derechos de los demás, no será más bien una forma de abuso?

Desde hace tiempo se ha venido abusando sistemáticamente de mujeres, adolescentes, niños y niñas a quienes se ha desvestido -sin su consentimiento, como es lógico-, dejado en ropa interior, e incluso desnudado para placer y excitación de otros. ¿De verdad podemos hacer eso con la imagen de los demás aunque se trate de cuerpos no reales, aparentemente inofensivos? Estas deepfakes son un tipo de violencia sexual que vulnera el derecho al honor y a la propia imagen.

¿Y qué dicen las leyes?

Como casi siempre sucede, los avances tecnológicos van mucho más deprisa que las regulaciones legales que parecen ir a paso de tortuga. En España, los deepkafes sexuales no están tipificados específicamente en el Código Penal, aunque la nueva directiva europea obligará a penalizar la difusión no consentida de imágenes generadas con IA, cuando se implemente…., a partir de junio de 2027. Parece que habrá que esperar, como mínimo, año y medio. 

En el caso de menores existe, al menos, una regulación más eficaz. No en vano el Gobierno español ha pedido a la Fiscalía investigar a Grok por pornografía y abuso sexual infantil ya que el Ministerio de Juventud e Infancia considera que «estas prácticas son una grave vulneración a los derechos de la infancia».

Es importante saber que las víctimas en España pueden denunciar este tipo de imágenes a través del canal prioritario de la Agencia Española de Protección de Datos (AEPD) quien puede obligar a las plataformas a retirar los contenidos e incluso solicitar la indemnización de las víctimas a través de sanciones a las propias plataformas con multas. 

Aunque desde xAI, la empresa desarrolladora de Grok, reafirman su intención de ir contra el contenido ilegal, lo cierto es que en lugar de implementar medidas estrictas de bloqueo de contenido sexual explícito, han decidido hacer de la generación de imágenes pornográficas una función de pago exclusiva para los usuarios verificados. 

De este modo, pretenden desligar su responsabilidad de moderación del contenido que se genera con su IA y trasladarlo directamente a los usuarios creadores y divulgadores de contenido, algo que ha sido criticado como una forma de lucrarse con contenido potencialmente ilegal. Es decir, lavarse las manos. Aunque pueda ser delictivo o, como mínimo, inmoral, que se arreglen ellos, los que pagan, que para eso pagan…

Un debate que va más allá de Grok

La polémica no se limita a una sola herramienta, ya que la IA está transformando drásticamente la industria pornográfica. Grok se ha convertido en un símbolo de un problema más amplio: la facilidad con la que la inteligencia artificial puede utilizarse para ejercer violencia digital y abuso sexual online. 

¿Quién es el responsable, o quién es más responsable: el que usa la IA, la empresa propietaria de la IA, la plataforma que la difunde, o incluso el usuario que comparte? Según Musk, «cualquiera que use Grok para crear contenido ilegal o use X para publicar contenido ilegal afrontará consecuencias. La responsabilidad legal sigue siendo de la persona que crea o sube el contenido». Sí y no, en nuestra opinión. Tanto el usuario, con sus decisiones y su libertad; como la plataforma, con su poder y sus herramientas de control, tienen ambos una parte de responsabilidad.

La respuesta, a nuestro juicio, no pasa sólo por limitar las funciones de la inteligencia artificial y verificar los materiales que se generan, sino por la educación digital, la responsabilidad empresarial y personal, y los marcos legales que protejan a las personas más vulnerables, especialmente las mujeres y los menores de edad. 

La pregunta ya no es si la inteligencia artificial puede hacer o no una determinada función, sino si como sociedad y personas somos capaces de poner límites y actuar con un marco ético de referencia en el que el respeto al otro sea fundamental. Aquí el problema es que los límites son ilimitados. Es decir, es evidente que la generación de un desnudo o dejar en ropa interior es una vulneración, un delito. ¿Y si «solo» modificamos un poco su apariencia física, o incluso otros objetos o personas de la imagen? 

En definitiva, más allá de escribir la petición «Grok, ponle un bikini» a esta chica de la foto u otras frases más o menos explícitas, habrá que cuestionarse qué es el sentido común, la educación en sus niveles más básicos y el respeto al honor y a la imagen de cualquier persona. Y cada uno, con su responsabilidad a cuestas: «Grok, ni te quites la ropa, ni te quites de enmedio», o como dice el viejo dicho: que cada palo aguante su vela.

Referencias:

La Vanguardia, 11/01/2026. https://www.lavanguardia.com/vida/20260111/11425886/grok-bikini-como-actuar-ia-deepfake-x-mujeres-menores.html

Maldita.es, 09/01/2026. https://maldita.es/malditatecnologia/20260109/grok-ia-twitter-desnudar-personas/

El País, 09/01/2026. https://elpais.com/tecnologia/2026-01-09/elon-musk-limita-las-funciones-de-edicion-de-imagenes-de-grok-ante-la-avalancha-de-pornografia-no-consentida.html

El Mundo, 09/01/2026. https://www.elmundo.es/tecnologia/2026/01/09/6960dbdbe85ececc268b45b5.html

RTVE, 07/01/2026. https://www.rtve.es/noticias/20260107/gobierno-pide-a-fiscalia-investigar-inteligencia-artificial-por-posible-pornografia-infantil/16885643.shtml

Cierval.es, 07/01/2026. https://cierval.es/tecnologia/x-legaliza-la-produccion-de-pornografia-consensuada-con-grok/

Imagen The Verge