Funcionarios gubernamentales en el Reino Unido confían cada vez más en la inteligencia artificial (IA) y algoritmos complejos para influir en decisiones que afectan aspectos cruciales de la vida cotidiana de los ciudadanos. Esto se desprende de una investigación realizada por el periódico británico The Guardian, que destaca el uso generalizado de la IA en al menos ocho departamentos de Whitehall y en algunas fuerzas policiales. Si bien la IA se emplea en diversas áreas, su enfoque principal está en decisiones relacionadas con bienestar, inmigración y justicia penal. Sin embargo, esta tendencia plantea inquietudes sobre posibles resultados discriminatorios.

Entre los casos que han llamado la atención se encuentra un algoritmo del Departamento de Trabajo y Pensiones (DWP), que según un miembro del Parlamento, ha llevado a la pérdida indebida de beneficios para varias personas. Además, una herramienta de reconocimiento facial utilizada por la Policía Metropolitana ha demostrado cometer más errores al reconocer rostros de personas negras que blancas en ciertos contextos. Asimismo, un algoritmo del Ministerio del Interior se utiliza para detectar matrimonios falsos, pero se ha señalado que selecciona de manera desproporcionada a personas de ciertas nacionalidades, lo que suscita preocupaciones sobre la discriminación.

A pesar de estas controversias, el Ministro de Hacienda del Reino Unido, Rishi Sunak, ha elogiado el potencial transformador de la tecnología en los servicios públicos, desde el ahorro de tiempo para los maestros hasta la mejora de diagnósticos médicos. Sin embargo, The Guardian subraya que la utilización de la IA en el sector público no está exenta de controversias, como lo demuestra el ejemplo de Países Bajos, donde las autoridades fiscales enfrentaron multas significativas debido a decisiones erróneas impulsadas por IA que afectaron a miles de familias.

Los expertos están preocupados por la falta de transparencia y coherencia en la forma en que se emplea la IA en el sector público. La abolición de una junta asesora gubernamental independiente que supervisaba el uso de la IA en organismos públicos ha agravado estas inquietudes.

A pesar de las promesas de beneficios, se reconoce que la IA conlleva riesgos significativos. La falta de claridad en la toma de decisiones y la posibilidad de sesgo en los algoritmos pueden tener consecuencias graves para las personas afectadas. Para abordar estas preocupaciones, la Oficina del Gabinete ha lanzado un “estándar de informes de transparencia algorítmica” que alienta a los departamentos y autoridades policiales a revelar dónde y cómo utilizan la IA en decisiones que pueden afectar al público.

El futuro de la IA en la toma de decisiones gubernamentales en el Reino Unido es un tema que se debatirá en una cumbre internacional sobre seguridad en IA convocada por Sunak en Bletchley Park. Se espera que esta cumbre defina las condiciones para el desarrollo de la tecnología en el mundo, centrándose en la amenaza potencial que los modelos algorítmicos avanzados representan para la sociedad en su conjunto.