La Eurocámara presiona a la Comisión Europea para que actúe contra los deep fake sexuales en redes

La Comisión Europea ha solicitado documentación a 'X' después de que la herramienta de inteligencia artificial asociada a la red social, 'Grok', haya permitido a los usuarios crear imágenes falsas de mujeres y menores desnudos sin su consentimiento, pero la Eurocámara pide a Bruselas una investigación formal y más medidas contra las plataformas. 

Los eurodiputados quieren que sea imposible en la UE utilizar herramientas que permitan desnudar a personas en imágenes falsas sin su consentimiento

"Desnudar a otras personas sin su consentimiento, especialmente a niños, nunca está bien, pero puedes elegir hacer negocios de mil maneras innovadoras, ¿y aun así eliges niños en bikini?", ha dicho la eurodiputada eslovaca Veronika Cifrová, que ha explicado cómo un vídeo generado con inteligencia artificial de ella bailando en bikini se hizo viral cuando entró en política para tratar de desacreditarla. El vídeo, a pesar de las denuncias, sigue circulando en la red. "Soy adulta. Estoy preparada para lidiar con esto, aunque no creo que deba", ha dicho la eslovaca. La eurodiputada ha alertado sobre el impacto brutal que esto puede tener para los colectivos más vulnerables, empezando por los adolescentes. 

Prohibición inmediata

"Pero este no es sólo un problema de una empresa. Tenemos que ir más allá y concentrarnos en hacerlo realmente imposible", ha defendido Cifrová. La eslovaca, como muchos de sus colegas, ha pedido a la Comisión Europea que se asegure de que sea imposible en la UE utilizar herramientas que permitan desnudar a personas en imágenes falsas sin su consentimiento. 

"Necesitamos acciones: la prohibición en toda la UE del material de abuso sexual infantil generado por IA y los sistemas que lo producen"

Jeroen Lenaers, eurodiputado holandés del PPE

"Necesitamos acciones: la prohibición en toda la UE del material de abuso sexual infantil generado por IA y los sistemas que lo producen", ha dicho el eurodiputado popular holandés Jeroen Lenaers. "Las plataformas deben anteponer la responsabilidad a los beneficios; la seguridad debe estar incorporada desde el diseño", ha añadido. 

Para la Comisión, el bloque tiene herramientas de control; para la Eurocámara, el problema es que no les está dando suficiente uso

La eurodiputada de la Izquierda, Ilaria Salis, ha apuntado a que, en último término, el problema es "la horrenda mentalidad patriarcal y el sexismo que millones de usuarios albergan". Pero también ha apuntado a la responsabilidad de las plataformas. "La tecnología y la inteligencia artificial no son neutrales", ha dicho Salis, que ha llamado a crear plataformas públicas bajo control democrático. 

Una práctica "inaceptable"

La vicepresidenta de la Comisión al cargo de la agenda digital, Henna Virkkunen, ha reconocido que estas "horribles prácticas no son nuevas, pero sí la escala y la velocidad con la que la inteligencia artificial las está amplificando". La Comisión no ha abierto una investigación como tal, pero sí solicitó a ‘X’ hace unas semanas retener toda la documentación disponible sobre 'Grok', como parte de un análisis más amplio sobre posibles prácticas ilegales en la plataforma. 

"A nivel de la UE, podemos responder a estos riesgos mediante nuestro completo reglamento digital con la gobernanza de plataformas, la protección de datos, la Ley de IA y el derecho penal", ha explicado Virkkunen. Para la Comisión, el bloque tiene herramientas. Para la Eurocámara, el problema es que no les está dando suficiente uso. 

La Comisión exige a las plataformas que identifiquen, evalúen y mitiguen posibles riesgos relacionados con el uso de las herramientas de inteligencia artificial para prácticas ilegales, "incluyendo también imágenes íntimas no consentidas y material de abuso sexual infantil". Y ha calificado de "inaceptable" lo ocurrido con Grok. 

Bruselas investiga el caso

Virkkunen ha dicho que Bruselas se toma en serio la labor y ha dado los primeros pasos solicitando información a 'X' sobre el funcionamiento de la herramienta. El Ejecutivo comunitario ha informado a la red social de que la función que permite a los usuarios desnudar a personas sin su consentimiento "es inaceptable y debe eliminarse urgentemente". Esto habría llevado a la empresa a limitar su uso. 

Virkkunen ha confirmado que, en cualquier caso, la Comisión está ahora examinando la información recibida y evaluará si 'X' ha violado la normativa europea que regula la actividad de las empresas tecnológicas. "Necesitamos asegurarnos de que estas investigaciones conduzcan a resultados concretos", ha insistido el socialista maltés Alex Agius. "Si las pruebas sugieren que es el caso, no dudaremos en tomar medidas adicionales", ha dicho la comisaria. 

Suscríbete para seguir leyendo