La UE alcanza un polémico acuerdo para recortar su regulación de la IA e incluye la prohibición de las apps que generan desnudos

A principios de 2024, la Unión Europea sacó pecho al aprobar la primera ley sobre inteligencia artificial del mundo. Dos años y un ciclo electoral después, Bruselas ha alcanzado este jueves un acuerdo preliminar para "simplificar" una regulación en su día descrita como "histórica" y cuyas principales medidas aún no habían entrado en vigor.

El texto consensuado entre los negociadores del Parlamento Europeo y la presidencia del Consejo de la UE combina exenciones a las normas que favorecen principalmente a sectores industriales estratégicos con nuevas protecciones. La más notoria es la prohibición de aquellas aplicaciones que utilicen IA para generar desnudos sintéticos de sus víctimas sin su consentimiento, una enmienda propuesta por España. Los deepfakes permiten generar recreaciones hiperrealistas de personas, quitarles la ropa y ponerlas en situaciones sexuales que nunca han existido, una capacidad que también abre la puerta a la proliferación de material de abuso sexual infantil.

El pacto establece que la comercialización de este tipo de sistemas quedará completamente vetada. Esa restricción podría afectar a Grok, el modelo de IA generativa propiedad de Elon Musk, que a principios de año protagonizó un escándalo global al sexualizar, en tan solo 11 días, al menos tres millones de imágenes de personas reales, la mayoría de ellas mujeres, aunque también menores de edad. Las empresas tendrán hasta el 2 de diciembre de 2026 para adaptar sus sistemas.

La Comisión Europea ha celebrado el acuerdo preliminar para unas "normas más sencillas y que favorezcan la innovación", una iniciativa impulsada por la presidenta Ursula Von der Leyen con la intención de satisfacer las demandas de las empresas e "impulsar la competitividad de Europa". Sin embargo, el portal Euractiv señala que habría cierto malestar en el Ejecutivo comunitario, pues el pacto "supone una nueva carga de trabajo" para añadir nuevos requisitos.

Recorte a la ley

La simplificación legislativa, también conocida como Omnibus, supone un alivio principalmente para la industria digital, pero también para otros sectores afectados, pues aplaza la aplicación de todo tipo de obligaciones establecidas con la intención de proteger a los ciudadanos. Si el acuerdo provisional es aprobado formalmente tanto por el Parlamento como por el Consejo, tendrán más margen para adaptarse a la ley.

La normativa pactada hace dos años fijó restricciones al uso de los sistemas de IA considerados de alto riesgo, desde el reconocimiento facial a aquellos desplegados para la contratación laboral o la gestión de infraestructuras críticas como el agua. Estas debían entrar en vigor el 2 de agosto de 2026. Sin embargo, el acuerdo fijado hoy aplaza esa aplicación un año hasta el 2 de agosto de 2027, un retraso celebrado por la industria.

También se pospondrá hasta el 2 de diciembre de 2026 la medida que obliga a las empresas de IA —como OpenAI, Google o Anthropic— a marcar los contenidos sintéticos que generan sus productos —como ChatGPT, Gemini o Claude— para facilitar tanto su detección como su rastreo, considerada capital para minimizar su impacto como amplificador de la desinformación.

Menos solapes

Además, el texto también elimina solapamientos legislativos. Por ejemplo, las industrias que utilizan sistemas de IA para la maquinaria y que ya cumplen con las normas de seguridad sectoriales no deberán adaptarse a la AI Act. La Comisión será la encargada de establecer qué casos se verán afectados.

Ese espaldarazo al sector privado europeo también se traducirá en una ampliación de las exenciones de las pequeñas y medianas empresas (pymes) para eliminar barreras regulatorias y "apoyar su crecimiento" económico.

"Para que Europa se convierta en un continente de la IA, debemos fomentar la innovación, apoyar a las empresas emergentes y en expansión, y facilitar el desarrollo de la IA en Europa", ha señalado la conservadora sueca Arba Kokalari, coponente del acuerdo y miembro de la Comisión de Mercado Interior y Protección del Consumidor.

Críticas a la desregulación

El acuerdo preliminar ha despertado las críticas de organizaciones especializadas en la defensa de los derechos digitales, que temen que la desregulación abra la puerta a modificar las decisiones democráticas "cada vez que a los actores poderosos no les guste el resultado". "Aunque se haya evitado lo peor (...) las medidas de protección fundamentales se retrasan, mientras que las normas se vuelven más complejas y desiguales", ha señalado Itxaso Domínguez de Olazábal, asesora politica de European Digital Rights (EDRI).

El pacto tampoco satisface a asociaciones comerciales como CCIA, que representa a empresas del sector de las comunicaciones y la tecnología. En un comunicado, este ente ha señalado que el acuerdo "se queda corto" en su intento por promover una "simplificación genuina" y lamenta que no se haya eliminado el requisito que obliga al registro de los sistemas de IA considerados de bajo riesgo —como videojuegos o filtros de spam— en una base de datos de la UE.

Suscríbete para seguir leyendo