Algoritmos, sesgo y legitimidad institucional: un análisis empírico del uso de inteligencia artificial en la gestión pública

Resumen

Este artículo analiza el uso de sistemas algorítmicos en la gestión pública a partir de un estudio comparado de dos casos de política social: el Sistema de Indicadores de Riesgo (SyRI) implementado en los Países Bajos y el Registro Social de Hogares en Chile. Lejos de concebir la inteligencia artificial como una herramienta tecnológica neutral, el estudio adopta una perspectiva empírica e institucional para examinar cómo los sistemas algorítmicos se insertan en los procesos de toma de decisiones administrativas y cómo reconfiguran la discrecionalidad, la rendición de cuentas y la legitimidad institucional. Mediante un enfoque cualitativo basado en estudios de caso, el artículo analiza las racionalidades que sustentan la adopción de sistemas algorítmicos, su funcionamiento operativo y sus efectos diferenciados sobre poblaciones vulnerables. Los hallazgos muestran que estos sistemas no eliminan la discrecionalidad administrativa, sino que la redistribuyen hacia etapas menos visibles, como el diseño de los modelos, la selección de datos y los procesos de clasificación. Asimismo, la comparación evidencia que el sesgo algorítmico no se limita a sistemas orientados al control del fraude, sino que también puede emerger en instrumentos diseñados para la asignación de beneficios sociales cuando sus clasificaciones adquieren efectos acumulativos y transversales. El artículo subraya además la importancia de la rendición de cuentas y la legitimidad institucional en contextos de automatización de decisiones públicas. Mientras que el caso de SyRI muestra cómo la opacidad y la falta de mecanismos de impugnación pueden derivar en una ruptura institucional resuelta por vía judicial, el caso chileno evidencia desafíos más sutiles pero persistentes asociados a la normalización de la clasificación algorítmica. En conjunto, el estudio contribuye al debate sobre inteligencia artificial y gestión pública al destacar la necesidad de análisis comparados, situados y sensibles al contexto institucional.