¿Los sistemas predictivos te catalogarían como un criminal?

Las fuerzas policiales y las autoridades de justicia penal de toda Europa están utilizando datos, algoritmos e inteligencia artificial (IA) para “predecir” si ciertas personas representan un “riesgo” delictivo, y si es probable que los cometan en el futuro, y si la delincuencia se producirá en ciertas áreas en el futuro y dónde.

En Fair Trials pedimos que se prohíban los sistemas policiales y judiciales “predictivos”. Responde al siguiente cuestionario para saber si serías perfilada como persona de “riesgo”, y descubre cómo apoyar nuestra campaña.

¿Podrías ser calificado como un "riesgo" de cometer un delito? Responde a nuestro cuestionario y descúbrelo.

¡A diferencia de las autoridades, por supuesto no recopilaremos ni conservaremos ninguna información sobre ti o tus respuestas!

Cómo funciona nuestro algoritmo

Estos sistemas automatizados y algorítmicos suelen ser secretos y opacos, y las autoridades se niegan a facilitar información sobre su funcionamiento. Sin embargo, por supuesto que nosotros explicaremos nuestro "algoritmo".

Todas las preguntas de nuestro ejemplo de herramienta de elaboración de perfiles coinciden directamente con la información que utilizan activamente las autoridades policiales y judiciales en sus propias versiones de sistemas y bases de datos predictivos y de elaboración de perfiles. La realidad es que si una persona encaja sólo con algunos de los datos (según nuestras preguntas), puede ser suficiente para ser señalada como "de riesgo". Del mismo modo, si una zona se ajusta a un perfil similar, también se marcará como zona de "riesgo" de que se produzcan delitos. Estas evaluaciones son obviamente discriminatorias e injustas: hemos elaborado nuestra propia versión, transparente y explicable, para demostrar lo discriminatorios e injustos que son estos sistemas.

Nuestro algoritmo funciona de la manera siguiente :

0 - 3 respuestas afirmativas: resultado de riesgo ‘bajo’

4 - 5 respuestas afirmativas: resultado de riesgo ‘medio’

6 - 10 respuestas afirmativas: resultado de riesgo ‘alto’