IA Y PORNOGRAFÍA
¿QUÉ ESTÁ PASANDO?
Accesibilidad
La Inteligencia Artificial Generativa (IAG) ha dejado de ser una tecnología accesible únicamente para los expertos en la materia o para instituciones con grandes recursos, para generalizarse su uso entre la población. Su fácil acceso gratuito o muy asequible, y utilización, a partir de simples comandos de textos, permite que cualquier persona pueda crear videos o imágenes ficticias de contenido sexual con apariencia real.
Herramientas y difusión
- Swapface
- Deepfake Studio
- Grok (IA de X)
Estas Inteligencias Artificiales han sido creadas con la finalidad de facilitar la generación de imágenes y vídeos. A pesar de que la intención inicial puede ser creativa o incluso divertida, se puede convertir rápidamente en una forma de suplantar la identidad, o crear imágenes falsas perjudiciales sin consentimiento. Sólo hace falta una foto para destrozar vidas.
En 2019 tuvo lugar uno de los primeros casos más sonados de la IA generativa: DeepNude, una web que permitía desnudar a cualquier persona que apareciera en una foto o vídeo.
La principal herramienta son los bots de Telegram, destinados a la creación de imágenes o vídeos de personas reales desnudas.
Los “deepfakes” han aumentado un 464% estos dos últimos años, y más del 99% de ésta está protagonizada por mujeres.
¿CUÁL ES LA OPINIÓN PÚBLICA?
El uso de la inteligencia artificial para producir contenido pornográfico sin el consentimiento de las personas involucradas, ha despertado una gran preocupación social. Ejemplos como el caso de Almendralejo, en el que se utilizó IA para crear imágenes manipuladas de menores, han despertado la urgencia de establecer una regulación y mecanismos de supervisión en este terreno.
¿Qué se ha hecho al respecto?
Se ha elaboro el Real Decreto 729/2023, de 22 de agosto, que aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA). Es un organismo pionero en Europa dedicado a la supervisión, asesoramiento y formación en el uso adecuado de sistemas de inteligencia artificial (IA). La AESIA tiene como objetivo minimizar los riesgos asociados al uso de la IA, garantizando la protección de derechos fundamentales como la integridad, la intimidad y la igualdad de trato.
Expectativas hacia la AESIA:
La sociedad española espera que la AESIA actúe como un organismo regulador que garantice un uso ético y responsable de la IA, protegiendo derechos fundamentales y abordando desafíos como la creación de contenido pornográfico no consentido. La agencia tiene el reto de generar confianza y educar a la ciudadanía sobre los alcances y limitaciones de la IA.
IA y Delitos Sexuales: Casos en España
CASO ALMENDRALEJO
15 menores manipularon imágenes de 20 chicas, de entre 12 y 15 años, obtenidas a través de RRSS. Usando IA generaron fotos falsas de contenido sexual explícito. Fueron compartidas a través de WhatsApp.
SENTENCIA: 1 año de libertad vigilada y formación en el uso responsable de tecnologías, educación afectivo-sexual, e igualdad de género.
CASO NAVARRA
Un joven de 18 años creó y difundió imágenes falsas de dos compañeras de su instituto usando IA.
Las imágenes fueron enviadas a través de Instagram, acompañadas de acoso y mensajes denigrantes.
SENTENCIA: 1 año de prisión y una
indemnización de 1,500 euros a cada víctima.
Las víctimas sufrieron daño emocional y psicológico, debido al acoso y humillación generados por imágenes falsas, cuya alta calidad dificultaba distinguirlas de las reales. En Almendralejo, el activismo de las familias logró detener la difusión, mientras que en Navarra se evidenció la necesidad de regular la IA.
Resaltan la IMPORTANCIA de la educación, sensibilización social, y normativas claras para prevenir el uso indebido de estas tecnologías.
INICIATIVAS SOCIALES PARA PREVENIR RIESGOS:
1. Desarrollo de Herramientas Tecnológicas:
Bouncer: Es una herramienta española de IA que utiliza un escáner facial para confirmar la edad de los usuarios, bloqueando el acceso de menores a material pornográfico. Su propósito es combatir el consumo temprano de pornografía entre los jóvenes.
2. Propuestas Legislativas:
• Anteproyecto de Ley Orgánica para la Protección de Personas Menores de Edad en los Entornos Digitales del 11 de junio de 2024.
• Propuesta del Partido Popular de ampliar la definición legal de pornografía infantil para incluir imágenes generadas por IA que representen a menores en conductas sexualmente explícitas o que afecten su intimidad.
• Diversas iniciativas en la Unión Europea: se pretende seguir analizando peticiones para intervenir en el desarrollo de la IA, especialmente en el contenido pedófilo.
3. Acciones de Plataformas Digitales:
Políticas de Contenido: medios como Reddit, Pornhub y X, antes Twitter, han implementado prohibiciones sobre la creación y difusión de contenido pornográfico generado con inteligencia artificial sin el consentimiento de las personas involucradas, conocido como «deepfake porn». Estas acciones están orientadas a salvaguardar la privacidad y los derechos de quienes podrían verse perjudicados.
RECUERDA: UTILIZA LA IA DE MANERA ÉTICA, SEGURA Y RESPETUOSA CON LOS DERECHOS FUNDAMENTALES.
¡CONCIENCIATE SOBRE ESTE PELIGRO!
ERES RESPONSABLE DE UN DELITO
Autor: serán responsables criminalmente de los delitos, los autores y los cómplices, y se considerarán autores de un delito a quienes realicen el hecho por sí solos, conjuntamente o por medio de otro.
Delito en contra del honor:
La alteración o uso de la imagen/voz de una persona sin su permiso puede representar una violación ilegítima de este derecho.
El derecho al honor abarca la dignidad personal, (la valoración que uno tiene de sí mismo) y la reputación o el prestigio que se proyecta hacia los demás.
Por tanto, cualquier contenido humillante o denigrante para ella, constituye una gran vulneración de este derecho.
Delito contra la propia imagen:
El derecho a la propia imagen permite a los individuos decidir qué aspectos de su figura desea mantener en el ámbito privado. Este derecho prohíbe que terceros no autorizados obtengan, reproduzcan o difundan su imagen sin consentimiento, sin importar el propósito ni el lugar donde se realice, incluso en espacios públicos.
Cualquier obtención o difusión de una imagen sin su consentimiento es una vulneración de este derecho.
Delito de pornografía infantil:
El uso de imágenes de menores en “deepfakes” de contenido sexual puede ser considerada pornografía infantil, cuando estas imágenes sean realistas a pesar de que no reflejen la realidad.
Será penada la difusión de todo material visual que represente, a un menor participando en una conducta sexual explícita, real/simulada, o cualquier otra representación de los órganos sexuales, con fines de excitación sexual.
QUÉ HACER SI ERES LA
VÍCTIMA
ELIMINAR EL CONTENIDO
Se puede solicitar a los buscadores y a las redes sociales la retirada del material. Se debe rellenar el formulario que tienen habilitado para ello. Suelen tardar menos de un mes en retirarlas, en caso contrario hay que acudir a la Agencia Española de Protección de Datos (AEPD).
PROCEDIMIENTO AEPD
La AEPD dispone de un canal prioritario para solicitar la retirada del material de carácter sexual. Pueden acudir a este canal tanto el afectado como cualquier persona que tenga conocimiento de la difusión de este tipo de contenidos. En menos de 24 horas, se intentará evitar que se siga difundiendo esa información.
DEMANDA / DENUNCIA
La vía civil, se tendrá que presentar una demanda en un juzgado por vulneración del derecho al honor o la propia imagen, reclamando daños y perjuicios.
La vía penal permite presentar cargos criminales contra los responsables de los “deepfakes”. Se debe poner una denuncia en el cuerpo de policía indicado.
Elena Caballero Luque, Inés Martinez Landinez, Sara Motero Martínez y María Muniz Herrador