Esta herramienta de IA condenó a cadena perpetua a un criminal y ahora las pruebas no son tan claras

En el verano de 2020, un tiroteo en Ohio, dejó un bebé fallecido y dos adultos heridos. La policía, con la idea de resolver el caso, recurrió a una herramienta llamada Cybercheck. Esta tecnología, desarrollada por la empresa canadiense Global Intelligence, prometía localizar sospechosos utilizando solo datos públicos disponibles en internet. Sonaba demasiado bueno para ser verdad, y como vas a ver, quizás lo era.

Cybercheck afirma poder rastrear la ubicación de una persona en tiempo real o en el pasado, utilizando más de 700 algoritmos que analizan las interacciones de su "perfil cibernético" con redes wifi y puntos de acceso. 

El fundador de Global Intelligence, Adam Mosher, asegura que el proceso es completamente automatizado y no requiere intervención humana. Si esto fuera cierto, se estaría hablando de una capacidad de vigilancia sin precedentes, al alcance de cualquier policía a nivel mundial, por tan solo 309 dólares por caso.

Sin embargo, un análisis realizado por Wired ha puesto bastantes "peros" sobre la eficacia y la precisión de Cybercheck. En varios casos, la herramienta fue incorrecta o imposible de verificar. 

Doctor inteligencia artificial: la IA llega a tu médico, pero ¿estás preparado para ello?

Cybercheck no deja de expandirse entre la policía de EEUU pese a sus fallos

Se puede decir que esta herramienta cuenta con dos grandes problemas: falta de transparencia y veracidad. Por un lado, el sistema no conserva evidencias que respalden lo que ha encontrado. No registra de dónde obtiene los datos o cómo establece conexiones entre ellos. 

Por otro, muchos expertos explican que es muy difícil que cierta información que aparece en los informes de Cybercheck pueda obtenerse solo de fuentes públicas. Por ejemplo, determinar cuándo un dispositivo específico se ha conectado a una red wifi normalmente requeriría acceso físico al dispositivo o a los registros de la red.

IA o humanos, ¿es posible crear una inteligencia artificial digna de tu confianza?

Volviendo al caso de Ohio, Cybercheck creó un informe que supuestamente ubicaba al sospechoso, Phillip Mendoza, en la escena del crimen. Sin embargo, el abogado defensor descubrió que la herramienta había generado dos informes idénticos para fechas diferentes, ambos con una precisión del 93,13%.

A medida que más abogados comenzaron a poner en duda esta tecnología, los fiscales en varios estados empezaron a retirar los informes de Cybercheck como evidencia. En Ohio, la Fiscalía del Condado de Summit decidió no utilizarla en varios casos de asesinato. En Texas, los fiscales retiraron un informe a la mitad del proceso cuando se dieron cuenta de que no podían autenticar los datos.

Por ahora, el futuro de Cybercheck pende de un hilo. Mientras algunos departamentos de policía siguen utilizando la herramienta, otros la han abandonado. Lo que está claro es que la promesa de resolver crímenes con solo unos clics sigue siendo tentadora para muchos.

A pesar de todo esto, esta herramienta con inteligencia artificial se ha extendido rápidamente entre los departamentos policiales de Estados Unidos. La empresa ofrece pruebas gratuitas y se promociona a través del boca a boca entre departamentos. Muchas agencias, desesperadas por resolver casos difíciles, la están usando pese a sus fallos.

Otros artículos interesantes: