Una nueva herramienta identifica sistemas de IA utilizados para crear videos falsos

Un equipo de la Universidad de California en Riverside, en Estados Unidos, ha desarrollado SAGA, una herramienta capaz de atribuir videos falsos a sistemas concretos de inteligencia artificial, un avance clave para combatir la desinformación audiovisual.

La carrera entre quienes crean videos falsos y quienes intentan detectarlos acaba de dar un giro. SAGA, una herramienta que no se limita a decir si un video es real o falso, sino que también intenta averiguar qué sistema de inteligencia artificial lo generó, podría convertirse en un escollo difícil de superar para los falsificadores.

Explosión de videos falsos

El avance llega en un momento en el que los contenidos creados por IA son cada vez más realistas y su uso fraudulento preocupa en ámbitos como la desinformación, la estafa o la manipulación política, de acuerdo a una nota de prensa de la Universidad de California en Riverside.

El trabajo, publicado en arXiv, plantea un salto importante respecto a los detectores binarios tradicionales.

Rastreando huellas de falsificaciones

Según el artículo científico, el sistema ofrece atribución multinivel: identifica si el contenido es auténtico o falso, si se produjo a partir de texto o de una imagen, la versión del modelo de IA utilizado, el equipo desarrollador y, en última instancia, el generador concreto. Los autores subrayan que esa información aporta una lectura mucho más útil.

La clave técnica está en que los generadores de video dejan patrones involuntarios en las imágenes que producen. SAGA analiza tanto los detalles espaciales de cada fotograma como las relaciones temporales entre ellos, es decir, cómo cambia la información visual de un instante a otro.

Pruebas y resultados

Emplea una arquitectura de transformador de video apoyada en un modelo de visión robusto y una técnica denominada Temporal Attention Signatures, o T-Sigs, que permite visualizar las huellas temporales distintivas de cada sistema generativo.

En las pruebas realizadas, la herramienta se evaluó con conjuntos de datos públicos que incluían videos creados por 19 generadores distintos, tanto de texto a video como de imagen a video.

Un avance contra la desinformación

Los investigadores aseguran que el método no solo distingue entre contenidos reales y sintéticos, sino que además SAGA logra resultados de referencia con apenas un 0,5 % de datos etiquetados por clase, gracias a una estrategia de entrenamiento previo y atribución, que reduce de forma notable la dependencia de anotaciones manuales.

Poder atribuir un video a una fuente concreta puede ayudar a investigadores a rastrear campañas de desinformación, a los reguladores a exigir transparencia y a las plataformas tecnológicas a entender mejor cómo circula el contenido falso.