Un nuevo estudio revela el principal riesgo de ChatGPT, y no es lo que todos pensaban: "Hay que endurecer la supervisión humana"
Elígenos como tu fuente preferida en Google.
¿Qué pasaría si los supervisores humanos pudiesen convertirse en un problema en lugar de una posible solución a la seguridad de la IA?
En los últimos meses, muchos han sido los expertos que han puesto de manifiesto en reiteradas ocasiones los peligros de la inteligencia artificial. Desde posibles ataques a la ciberseguridad (algunos ya convertidos en realidad) hasta cuestiones que lindan con la extinción humana. Casi siempre, la mayoría de amenazas tienen que ver con los modelos de IA como tal.
Sin embargo, un nuevo estudio ha llamado la atención por enfocar el asunto desde una perspectiva diferente. ¿Qué sucedería si el peligro no estuviese en la propia tecnología como tal, sino más bien en los seres humanos que la supervisan? O dicho de otra forma: y si estos fuesen los que tienen más posibilidades de corromperse y ser engañados que la propia IA?
La supervisión humana, ¿un problema para la IA?
Cada vez más especialistas en inteligencia artificial hablan de los riesgos de esta y, por lo general, ponen una solución: aumentar el control humano sobre ella. Este informe, publicado recientemente, dice más o menos lo contrario: es la propia supervisión llevada a cabo por personas en la que se debe de poner la lupa; "endurecerla", afirman sus responsables.
¿Y cómo han llegado a esta hipótesis? un sistema de IA supervisado por humanos introduce una nueva capa extra de vulnerabilidad en la arquitectura de seguridad. Por ejemplo, un atacante podría manipular los datos que llegan a la IA, de manera que el humano supervisor tome decisiones basadas en información distorsionada. Estos casos son sumamente probables, dicen.
Otro aspecto que preocupa a los expertos tiene que ver con lo que suele conocerse como "ingeniería social". Algo similar a lo que sucede con muchas estafas actualmente. Si los usuarios pueden ser engañados en muchas ocasiones, ¿por qué no también aquellos que se encarguen de supervisar la inteligencia artificial? En sistemas críticos como salud, transporte o infraestructura energética, esto podría ser grave.
Para evitarlo, indican en el propio estudio, es sumamente importante recordar la necesidad de capacitar a los supervisores, entrenándolos en ciberseguridad, detección de ataques y manipulación. También aquí sucede algo parecido a lo que pasa con la ciberseguridad: las nuevas amenazas requieren de nuevas respuestas adaptadas a ellas.
El factor humano por sí solo no sirve
La conclusión clara -y un tanto sorprendente, para qué negarlo- del estudio es la siguiente: la supervisión humana de la IA no lo es todo, ni mucho menos. Lejos de resultar una panacea para su seguridad, puede incluso suponer lo siguiente: hacer que todo sea más débil.
Esto no quiere decir, por supuesto, que no tenga que haber profesionales que se encarguen de vigilar de alguna forma a la inteligencia artificial, pero sí subrayan una y otra vez la importancia de que esto se haga con garantías. De lo contrario, puede terminar por ser peor el remedio que la enfermedad.