El gobierno del Reino Unido ha publicado su estándar de transparencia de algoritmos públicos y se trata de uno de los primeros estándares nacionales del mundo para la transparencia algorítmica.
Este movimiento cumple los compromisos asumidos por el gobierno en la Estrategia Nacional de Inteligencia Artificial y la Estrategia Nacional de Datos.
La publicación de este estándar viene motivada por la recomendación del Centro de Ética e Innovación de Datos (CDEI), quien al realizar una revisión sobre el sesgo en la toma de decisiones basadas en algoritmos, recomendó al gobierno imponer una obligación de transparencia obligatoria a las organizaciones del sector público que utilizaran algoritmos para respaldar decisiones importantes que afectan a las personas.
Esta recomendación de transparencia ha sido fuertemente apoyado a nivel nacional e internacional, por organizaciones como el Instituto Alan Turing y el Instituto Ada Lovelace , y organizaciones internacionales como la OCDE y Open Government Partnership .
La Oficina Central de Datos y Digitales de la Oficina del Gabinete (CDDO) ha trabajado en estrecha colaboración con el CDEI para diseñar el estándar. También se ha consultado a expertos de todos los ámbitos para su desarrollo.
El estándar de transparencia de algoritmos públicos está organizado en dos niveles. El primero incluye una breve descripción del algoritmo, incluyendo cómo y por qué se está utilizando, mientras que el segundo incluye información más detallada sobre cómo funciona la herramienta, los conjuntos de datos que se han utilizado para entrenar el modelo y el nivel de humanos. vigilancia. El estándar ayudará a los equipos a ser significativamente más transparentes sobre la forma en que se utilizan las herramientas algorítmicas para respaldar las decisiones, especialmente en los casos en que puedan tener un impacto legal o económico en las personas.
Se espera que se apruebe por varios departamentos gubernamentales y organismos del sector público en los próximos meses. Después de la fase de prueba, CDDO revisará el estándar en función de los comentarios recopilados y buscará el respaldo formal de la Autoridad de Estándares de Datos en 2022.
Además de Reino Unido, algunas ciudades, incluidas Ámsterdam , Helsinki y Nueva York , han comenzado a experimentar con distintos enfoques para aumentar la transparencia sobre el uso que hacen de los algoritmos de forma local. Francia y los Países Bajos también han avanzado en el desarrollo de medidas y normas que faciliten la transparencia que hacen de esta tecnología.
