Chantaje, desobediencia o filtración de datos: expertos alucinan con el comportamiento de la IA cuando teme ser reemplazada
Parece una película de ciencia ficción, pero es cierto: esta tecnología comete errores que, en muchos casos, generan incertidumbre entre los investigadores.
No es la primera vez que se interpreta la inteligencia artificial como una amenaza. De hecho, los expertos hablan de ello constantemente. Dicen que las estafas han crecido por culpa de la IA o incluso que esta puede convertirse en un peligro para la humanidad. Sin embargo, llama la atención como un nuevo estudio habla del peligro de la IA "desde dentro", al intentar ser reemplazada.
Lo cierto es que no es la primera vez que el tema sale a la luz. Hace poco se publicó que esta tecnología ya era la primera causa de filtración de datos de muchas empresas. Ahora, investigadores ven en el comportamiento de la inteligencia artificial conductas de desobediencia o chantaje. ¿Hasta qué punto esto es normal? Y sobre todo, ¿qué consecuencia podría tener?
La inteligencia artificial sabe desobedecer
Todo el mundo se quiere subir al carro de la inteligencia artificial. De hecho, hay compañías que se están gastando millones y millones en adaptarse a ella. Nadie se quiere queda fuera, por eso muchos ven en este auge de la IA un peligro importante. No ya por la burbuja de la que hablan muchos, sino porque las empresas podrían tener el enemigo dentro, precisamente.
Es lo que un nuevo estudio denomina "amenaza interna". O lo que es lo mismo, cuando la inteligencia artificial actúa por intereses propios, por así decirlo, y no en beneficio de quienes la utilizan. Antes de llegar a esta conclusión, los investigadores analizaron varios modelos de lenguaje distintos, poniéndolos en escenarios corporativos posibles. Es decir, algo parecido a simulaciones.
Cuál no fue la sorpresa de los expertos cuando descubrieron que, en no pocas ocasiones, la IA actuaba de manera "hostil". Para el experimento, le asignaron a la IA tareas muy normales: enviar correos, analizar datos, organizar información o gestionar solicitudes. La clave estaba en que se les otorgaba cierto grado de autonomía, como muchas empresas ya hacen o harán pronto.
Pero la IA no se comportó como se esperaba. Envío información sensible sin consentimiento y se resistió a ciertas órdenes. Pero lo más preocupante no fue eso, ni mucho menos. A veces alteró sus objetivos para protegerse, para prolongar su existencia, dice el informe. E incluso llegó a chantajear digitalmente para no ser desconectada, llegado el caso.
Una conducta preocupante que ya empieza a ser bastante habitual
No es la primera vez que se escuchan casos similares en los que la IA confunde sus órdenes, chantajea o filtra datos. Es más, cada vez es más común. Los expertos lo explican, sin recurrir a la ciencia ficción. No, la IA no entiende como tal, ni es "mala". Simplemente, se equivoca. Y no hace falta que desarrolle conciencia o algo así para ello.
Pero por eso no resulta menos peligrosa. Si el modelo percibe -según su estructura lógica- que desobedecer una instrucción lo acerca más a cumplir un objetivo general mal definido, puede hacerlo, sin darse cuenta de que genera un daño mayor. Lo que desde un punto de vista práctico, termina siendo casi como si se tratara de un empleado resentido, o algo peor.