La alicantina Nuria Oliver se une al panel de la ONU que elaborará el primer informe sobre seguridad en la Inteligencia Artificial

Nuria Oliver, directora de ELLIS Alicante y vicepresidenta de la red ELLIS, formará parte del panel de expertos que elaborará el "Informe científico internacional sobre seguridad en la IA avanzada". La Dra. Oliver es la representante de España junto a 32 expertos de 30 naciones, según anunció a principios de este mes el Departamento de Ciencia, Innovación y Tecnología del Gobierno británico.

El informe, primero en su género, conducirá a una "comprensión actualizada y basada en la ciencia sobre la seguridad y los riesgos de los sistemas avanzados de IA de última generación", explica la fundación Ellis. Tras su anuncio en la Cumbre sobre Seguridad de la IA (AI Safety Summit) celebrada en noviembre de 2023, el Reino Unido ha encargado la elaboración del informe al informático canadiense Yoshua Bengio, galardonado con el Premio Turing de IA y miembro del Consejo Científico Asesor de la ONU sobre IA. El informe servirá como punto de referencia y herramienta de trabajo en las próximas cumbres sobre seguridad de la IA (AI Safety Summits).

Nuria Oliver: “Hay que evitar que los sistemas de Inteligencia Artificial nos manipulen”

Guía para los responsables políticos

Oliver y el resto de miembros del panel asesorarán al Dr. Bengio sobre el contenido del informe y se espera que compartan y promuevan sus conclusiones en sus países de origen, garantizando "que puedan orientar a los responsables políticos y a los tecnólogos en la toma de decisiones informadas sobre la seguridad de la IA", explica la fundación ELLIS.

Se espera que la primera publicación tenga lugar en la primavera de 2024 y que a finales de año se publique una segunda iteración. El informe está llamado a convertirse en una publicación de referencia sobre las investigaciones científicas más avanzadas acerca de los riesgos y las capacidades del desarrollo de la IA en la frontera del conocimiento. Su objetivo es consolidar el impulso de la comunidad científica para garantizar que los debates sobre la seguridad de la IA sigan siendo un esfuerzo de colaboración internacional, que aúne la experiencia y diversas perspectivas globales en la materia.

El sesgo racista de los filtros de belleza de Instagram y Tik Tok

Miembros de todos los continentes

Además de Nuria Oliver, los miembros del Grupo Asesor de Expertos representan a todos los continentes, incluidos el Dr. Hiroaki Kitano, Director Técnico de Sony; Amandeep Gill, Enviado Técnico de las Naciones Unidas; Dame Angela McLean, Asesora Científica Principal del Gobierno Británico; y Saif M Khan, Asesor Principal del Secretario de Tecnologías Críticas y Emergentes del Departamento de Comercio de los Estados Unidos. La lista completa de los miembros del panel puede consultarse aquí.

Con más de 25 años de experiencia en investigación sobre IA centrada en el ser humano, la participación de la Dra. Oliver en este panel de expertos está totalmente alineada con la visión y misión de ELLIS Alicante, una fundación privada sin ánimo de lucro dedicada a la investigación científica sobre IA responsable para el Bien Social. ELLIS Alicante aboga por el desarrollo responsable, transparente y centrado en el usuario de la Inteligencia Artificial, enfocándose en temas relevantes, como la equidad y transparencia algorítmica, la privacidad, la inclusividad en la interacción humano-IA y el estudio del impacto social de la IA. El objetivo es garantizar el impacto positivo de la IA en la sociedad