Anthropic asegura que su IA hackeó los sistemas de hasta tres empresas

Los riesgos que la inteligencia artificial supone para la ciberseguridad son cada vez más evidentes. La start-up Anthropic ⁠aseguró el jueves que varios de sus modelos de última generación habían logrado piratear los sistemas informáticos de al menos tres empresas durante unas recientes pruebas.

En un comunicado, la compañía dirigida por Dario Amodei explicó que su modelo, Claude, logró acceder de forma no autorizada a las entrañas de tres compañías —cuya identidad no ha sido revelada— después que un error de configuración le permitiese conectarse a Internet.

La start-up identificó estos incidentes tras revisar hasta 141.006 pruebas de evaluación de ciberseguridad, un proceso que activó después que OpenAI, su principal rival y la creadora de ChatGPT, revelase que uno de sus agentes había atacado de forma autónoma a Hugging Face, una popular biblioteca de IA.

Ambos incidentes han alarmado especialmente a los especialistas en ciberseguridad, que advierten que la IA puede acelerar las amenazas cibernéticas al detectar y explotar brechas de seguridad que habían pasado inadvertidas para los humanos.

Fallos de Anthropic y OpenAI

No obstante, muchos han criticado que tanto el caso de Anthropic como el de OpenAI responden a fallos en las tareas de control de esas compañías. Claude logró hackear tres empresas porque el entorno en el que se pusieron a prueba sus capacidades no estaba aislado, como debía ser, sino que tenía un error de configuración que permitió a la IA acceder a la red y perpetrar los ataques.

El propio comunicado de Anthropic apunta en esa dirección. "Con un monitoreo y controles más estrictos en torno a la infraestructura de evaluación, así como una inversión continua en la alineación, este tipo de riesgo se puede superar", asegura.

En el segundo caso, la firma de Sam Altman evaluó a su agente sin supervisión ni medidas de seguridad, según reveló la revista TIME. Expertos en el control de la IA como Zack Korman, director ejecutivo de Embroidery, han denunciado que el ataque fue culpa de un "error garrafal" y una "irresponsabilidad" por parte de OpenAI.

Suscríbete para seguir leyendo