Una abuela pasa 5 meses en la cárcel porque una IA la confundió con una estafadora: prefirieron creer a la IA
Pasar cinco meses en la cárcel por un crimen que no cometiste, acusado por la IA, es indignante. Ya ha ocurrido nueve veces.
El gran problema de la inteligencia artificial no es que falle. El problema surge cuando sus responsables dan por buena su respuesta, sin comprobar si es verdad. Aunque suponga que una abuela pase cinco meses en la cárcel, porque una IA la acusa de ser una estafadora.
Angela Lipps estaba haciendo de niñera de cuatro niños en casa, en Tennessee (Estados Unidos), cuando la policía llamó a su casa. A punta de pistola se la llevaron a comisaría acusada de cuatro fraudes bancarios en Dakota del Norte. Una IA la había identificado como la estafadora, mediante reconocimiento facial.
Puesto que, a efectos legales, era una fugitiva, fue enviada a prisión sin fianza en Tennessee, a la espera de que las autoridades de Fargo, en Dakota del Norte, se hiciesen cargo de ella.
Un doble fallo policial con la IA como protagonista
Según el informe policial que recoge el medio Inforum, los detectives analizaron las imágenes de las cámaras de vigilancia de los bancos con un software de reconocimiento facial, que dio como resultado una coincidencia con Angela Lipps.
A continuación, un detective comparó su carné de conducir de Tennessee y las imágenes de las redes sociales con las de la sospechosa, y concluyó que ella era la autora del delito basándose en los rasgos faciales, el tipo de complexión y el cabello.
Esta mujer fue enviada a prisión solo por la decisión de la IA, y la capacidad de reconocer rostros de un agente. Pese a que la acusada aseguraba que no había estado nunca en Dakota del Norte, ni había cogido un avión en su vida.
Lipps pasó más de cinco meses en la cárcel, hasta que la policía de Fargo retomó su caso. Le asignaron un abogado de oficio, que lo primero que hizo fue pedir los registros bancarios de la acusada.
Así demostró que Angela había comprado cigarrillos y depositado cheques de la seguridad en un banco físico en Tennessee, en el mismo momento en que se cometían los fraudes en Dakota del Norte, a 1.500 kilómetros de distancia. Caso cerrado en unos minutos, con un trabajo que debería haber hecho la policía, antes de enviarla a prisión.
En los cinco meses que pasó en la cárcel, perdió su trabajo, su casa, al no pagar el alquiler, y a su perro. Aún está esperando una disculpa, que nadie le ha dado.
Lo más asombroso es que este es el noveno caso en Estados Unidos en el que una persona es encarcelada injustamente, por una acusación de una inteligencia artificial.
Esto demuestra el verdadero peligro de la IA. El problema no es que falle, como hace a menudo. El riesgo es que la gente responsable de comprobar sus resultados los dé por buenos, porque se fía de la IA. No solo en casos llamativos como este, sino en temas cotidianos como un cálculo bancario, la creación de código, o que te rechacen o te admitan en un trabajo.