Pero mientras avanzamos en su adopción, aparece una pregunta bastante sencilla:
¿Puede la ciudadanía saber qué inteligencia artificial utiliza su Administración, para qué la utiliza y bajo qué garantías?
La transparencia debe evolucionar al mismo ritmo que evoluciona la Administración. Por eso, vamos a incorporar a nuestros índices un nuevo bloque de indicadores de transparencia y gobernanza de la inteligencia artificial.
No parten de cero. Hemos mirado hacia algunos de los principales referentes internacionales que están construyendo este nuevo estándar de transparencia pública.
La OCDE lleva años situando la transparencia, la explicabilidad y la rendición de cuentas entre los principios esenciales de una IA confiable, incluyendo que las personas puedan saber cuándo interactúan con estos sistemas y, cuando resulte pertinente, comprender y cuestionar sus resultados.
El Reglamento Europeo de Inteligencia Artificial avanza en la misma dirección: supervisión humana, obligaciones específicas para las administraciones que utilizan determinados sistemas de alto riesgo, registro, evaluación del impacto sobre derechos fundamentales e información a las personas cuando la IA interviene en determinadas decisiones o interacciones.
Y otros gobiernos ya han empezado a convertir estos principios en transparencia activa.
Reino Unido cuenta con el Algorithmic Transparency Recording Standard (ATRS), que permite publicar de forma estandarizada quién es responsable de un sistema, para qué se utiliza, cómo se integra en el proceso administrativo, qué datos emplea, cuáles son sus riesgos y qué posibilidades de revisión existen.
Países Bajos, por su parte, dispone de un Registro público de Algoritmos para que la ciudadanía pueda localizar los sistemas utilizados por sus administraciones, conocer su finalidad y entender mejor su funcionamiento e impacto.
A partir de estos referentes, se incorporarán cinco nuevas exigencias de transparencia para las entidades evaluadas.
IA.1. Política de uso responsable de la IA: que la entidad publique las reglas internas que determinan cómo puede utilizarse.
IA.2. Gobernanza y responsabilidad: que podamos saber quién supervisa y responde por el uso de la IA dentro de la organización.
IA.3. Inventario de sistemas: que exista un catálogo público y actualizado de los sistemas de IA y algoritmos utilizados, su finalidad, responsable, estado y proveedor cuando corresponda.
IA.4. Protección de datos e información: que sean públicas las garantías aplicables al tratamiento mediante IA de datos personales, documentos no públicos, información confidencial o contenidos protegidos.
IA.5. Información y garantías para la ciudadanía: que sepamos cuándo estamos interactuando con una IA o cuándo esta interviene de manera relevante en un servicio o decisión, qué supervisión humana existe y qué mecanismos tenemos para solicitar información, revisión o reclamar.
Porque transparencia algorítmica no significa publicar un código fuente que la mayoría de la ciudadanía no podría interpretar.
Significa algo mucho más básico: poder saber qué se está utilizando, para qué, quién responde, con qué garantías y cómo puede una persona defender sus derechos.
Durante años hemos pedido a las administraciones transparencia sobre sus presupuestos, contratos, subvenciones, decisiones o estructura.
Ahora también tendremos que empezar a preguntarles por sus algoritmos.
La Administración del futuro será inevitablemente una Administración con inteligencia artificial.
El reto es conseguir que sea también una Administración abierta, responsable y comprensible para la ciudadanía.