La Conselleria de Innovación ultima los trámites para la puesta en marcha del Observatorio Valenciano para la Inteligencia Artificial, ahora en proceso de información pública.
El impulso y la cantidad de proyectos que se están lanzando sobre Inteligencia Artificial (IA) desde la Comunitat Valenciana – también en relación al Big data, Blockchain, Internet de las cosas o 5G… -, hacen necesaria la creación de este organismo, para que vele porque la IA “sea integrada de manera transversal e igualitaria” y monitorice los avances que se dan.
En concreto, según apunta la conselleria, el Observatorio tendrá “un papel destacado en la prevención de sesgos de género, raza, edad o ideología” -los más comunes-, ya que si la IA replica comportamientos o patrones presentes en la sociedad, caerá en, por ejemplo, el machismo o el racismo a través de los algoritmos. De hecho, ya hay proyectos e investigaciones que así lo apuntan, como “AlgoRace”, que denuncia el "sesgo racial" y "el impacto de la IA en las vidas de las personas racializadas", porque los algoritmos también discriminan.
Vigilancia y evaluación
En concreto, el borrador del decreto que crea el organismo detalla que tendrá un “importante papel” al “prever que el desarrollo de la IA contribuya a evitar los sesgos”; con el objetivo de redundar en un “beneficio para el conjunto de la sociedad” y de ayudar y asesorar en el “diseño de las políticas públicas” en esta materia.
Por esto, una de las primeras acciones que se detallan para el Observatorio es la elaboración de “un sistema de evaluación con indicadores y elementos cualitativos que servirán para identificar las necesidades sobre las que se han de generar propuestas de intervención”; además de establecer “mecanismos de vigilancia”.
También trabajará para solventar las posibles “incertidumbres” que pueda provocar la puesta en marcha de proyectos; generará estudios para identificar nuevas líneas de cara al desarrollo de la IA en el futuro; y formulará recomendaciones “tendentes a mejorar la implantación y sistemas de información relacionados con la IA”.
Órgano consultivo
Se tratará de un órgano “de carácter colegiado y consultivo” dependiente de la dirección general para el Avance de la Sociedad Digital, de Innovación, y que también pretende ser “punto de encuentro entre todos los sectores vinculados a la IA” y “plataforma de intercambio de ideas”, entre sociedad civil, administración y la industria, así como difundir actividades e iniciativas relacionadas con la IA.
Entre otras cosas, también “evaluará el ritmo de integración de la IA en los distintos sectores productivos y estratos sociales”; y “explorará los datos relacionados con el acceso y uso de tecnologías de IA, competencias digitales y el buen uso de la IA”.
En la composición de este nuevo órgano -que tendrá diferentes comisiones- habrá representantes de las conselleries de Innovación, Economía y Sanidad; además de titulares de diferentes direcciones generales de estas conselleries y otras como Educación; y miembros de ValgrAI o la Federación Valenciana de Representantes de Municipios y Provincias, entre otros. El pleno se reunirá “al menos, una vez al año”, reza el borrador.
