Una IA decidirá en Estados Unidos si los desempleados reciben ayudas
En un momento de incertidumbre y preocupación, como es quedarte sin trabajo... ¿Debe decidir una IA de primera generación si recibes una ayuda?
¿Recuerdas las películas de ciencia-ficción de hace unos años en las que una IA tenía la capacidad de decidir aspectos críticos de la vida de una persona? Ese momento ha llegado. En Estados Unidos van a usar una IA para decidir si un desempleado recibe o no un subsidio de desempleo.
El Departamento de Empleo, Formación y Rehabilitación de Nevada (DETR) ha contratado a la IA de Google Vertex AI Studio, por un montante de casi 1,4 millones de dólares.
Esta IA, que funciona en la nube de Google, generará recomendaciones basadas en transcripciones de recursos, entrevistas y audiencias de desempleo, comparando la información con casos anteriores.
La IA que decide sobre los desempleados
Según informa Techspot, los funcionarios de Nevada usarán estas recomendaciones para decidir si aprueban un subsidio de desempleo para el empleado en cuestión.
La excusa que ha puesto el DETR, es que los funcionarios tardan una media de tres horas en redactar uno de estos informes, recopilando todos los datos. Con la IA, se tarda cinco minutos. El paro ha subido desde la pandemia en Nevada, y tienen pendientes 40.000 recursos de ayuda al desempleo.
El Departamento de empleo de Nevada asegura que las recomendaciones de la IA serán revisadas al menos por un humano. Pero si el humano se fía de lo que dice la IA, no cambiará esa decisión.
El problema de fondo, no es solo confiar decisiones críticas en la vida de los seres humanos a la IA, sino hacerlo con una IA de primera generación que ha demostrado estar muy lejos de ser infalible.
Una inteligencia artificial que, en todas sus variantes y con todos los modelos de lenguaje de todas las compañías de IA, es propensa a ofrecer respuestas erróneas, tomar decisiones en función de sesgos raciales y de género, y alucinar.
¿Se debe poner en manos de la IA decisiones económicas que afectan a personas desempleadas? Es un debate que los ciudadanos de Nevada, en Estados Unidos, ya están teniendo.