Un registro público de algoritmos y evaluaciones de impacto para servicios sociales
Contexto
Una administración que usaba modelos de puntuación para priorizar ayudas sociales sin documentación pública ni supervisión humana definida.
Qué hicimos
- Inventario de 23 sistemas algorítmicos y clasificación por riesgo
- Evaluación de impacto en derechos de los tres sistemas de mayor riesgo
- Registro público, protocolo de supervisión humana y vía de reclamación
Resultado buscado
Cumplir con la nueva regulación, explicar cada decisión automatizada a la ciudadanía y corregir sesgos detectados.