Eticas, una de las consultoras especializadas en auditoría algorítmica más potentes de España, enumera en un informe 8 algoritmos que ya usan la Administración Pública. La mayoría está en manos de cuerpos policiales, pero el patrón común es que hay poca información y poco auditado sobre cómo funcionan estos procesos automatizados.

Falta de transparencia, infravaloración de la violencia psicológica, preguntas “rígidas” que no permiten explicaciones o evaluaciones que tienen en cuenta los recursos policiales disponibles a la hora de asignar un nivel de riesgo a la víctima. Son algunos de los “problemas” que una auditoría externa ha encontrado en el algoritmo VioGén, un sistema automático empleado en las comisarias para calificar el riesgo personal que tiene cada denunciante de violencia de género.

El funcionamiento de es aparentemente sencillo: los agentes que toman declaración a la denunciante rellenan después un cuestionario específico en el que deben valorar diversas cuestiones y que se complementa con información disponible del agresor y la víctima. El peso de las respuestas se pondera automáticamente y arroja una calificación de riesgo que, en caso de ser alta, activa las medidas de protección policial. Estas pueden ir desde hacer llamadas de seguimiento a poner un coche patrulla las 24 horas del día en la puerta del...

El Ministerio del Interior ha recurrido a la tecnología de inteligencia artificial para "reforzar" a través del software de una empresa su proceso de clasificación del riesgo de reincidencia de agresiones en casos de violencia de género, con lo que pretende "poder identificar mejor los casos más graves y los recursos más apropiados" para hacer frente a esta problemática.