El gobierno del Reino Unido ha publicado su estándar de transparencia de algoritmos públicos y se trata de uno de los primeros estándares nacionales del mundo para la transparencia algorítmica.

Este movimiento cumple los compromisos asumidos por el gobierno en la Estrategia Nacional de Inteligencia Artificial y la Estrategia Nacional de Datos.

La publicación de este estándar viene motivada por la recomendación del Centro de Ética e Innovación de Datos (CDEI), quien al realizar una revisión sobre el sesgo en la toma de decisiones basadas en algoritmos, recomendó al gobierno imponer una obligación de transparencia obligatoria a las organizaciones del sector público que utilizaran algoritmos para respaldar decisiones importantes que afectan a las personas.

Esta recomendación de transparencia ha sido fuertemente apoyado a nivel nacional e internacional, por organizaciones como el Instituto Alan Turing y el Instituto Ada Lovelace , y organizaciones internacionales como la OCDE y Open Government Partnership . 

La Oficina Central de Datos y Digitales de la Oficina del Gabinete (CDDO) ha trabajado en estrecha colaboración con el CDEI para diseñar el estándar. También se ha consultado a expertos de todos los ámbitos para su desarrollo.

estándar de transparencia de algoritmos públicos

El estándar de transparencia de algoritmos públicos está organizado en dos niveles. El primero incluye una breve descripción del algoritmo, incluyendo cómo y por qué se está utilizando, mientras que el segundo incluye información más detallada sobre cómo funciona la herramienta, los conjuntos de datos que se han utilizado para entrenar el modelo y el nivel de humanos. vigilancia. El estándar ayudará a los equipos a ser significativamente más transparentes sobre la forma en que se utilizan las herramientas algorítmicas para respaldar las decisiones, especialmente en los casos en que puedan tener un impacto legal o económico en las personas.

Se espera que se apruebe por varios departamentos gubernamentales y organismos del sector público en los próximos meses. Después de la fase de prueba, CDDO revisará el estándar en función de los comentarios recopilados y buscará el respaldo formal de la Autoridad de Estándares de Datos en 2022.

Además de Reino Unido, algunas ciudades, incluidas Ámsterdam , Helsinki y Nueva York , han comenzado a experimentar con distintos enfoques para aumentar la transparencia sobre el uso que hacen de los algoritmos de forma local. Francia y los Países Bajos también han avanzado en el desarrollo de medidas y normas que faciliten la transparencia que hacen de esta tecnología.

¿Encontraste este artículo interesante? Sigue a DDR en Twitter, Mastodon, LinkedIn, Tiktok y Facebook o suscríbete a nuestra newsletter.