Andrew Ng, experto mundial en IA: "Si uso un martillo, fallo un clavo y accidentalmente abollo la pared, no es culpa del martillo. El problema radica en cómo lo usé"
Elígenos como tu fuente preferida en Google.
Este experto en IA cree que el miedo hacia esta tecnología se está yendo de las manos. Si bien hay riesgos, cree que muchos de los problemas que tiene ahora son culpa nuestra.
Las noticias estas semanas sobre la inteligencia artificial no es que sean especialmente positivas. Con OpenAI y Anthropic pidiendo que esta tecnología se frene por sus posibles consecuencias, se ha creado un aura de miedo con la que Andrew Ng, experto, no está de acuerdo.
El investigador, uno de los nombres más conocidos del mundo de la inteligencia artificial y fundador de DeepLearning.AI, cree que hay demasiado ruido alrededor de los peligros de esta tecnología sin que haya ocurrido un cambio tan grande como algunos hacen pensar.
"La tecnología de IA no ha tomado un rumbo inesperado y peligroso, pero la exageración a su alrededor —impulsada por lo que parece ser una campaña de relaciones públicas bien orquestada— ha generado un temor considerable. Me preocupa que esto represente un retroceso para nuestro campo", afirma.
Este no dice que la IA sea completamente segura ni que no haya problemas. Todo lo contrario. Afirma que los agentes de IA están cambiando la ciberseguridad y que todavía hay mucho trabajo por hacer para conseguir que todo esto sea seguro.
Con lo que no está de acuerdo es que, con cada nuevo avance o incluso problema que haya, ya todo gire en torno a la destrucción de la humanidad.
"Si uso un martillo y abollo la pared, no es culpa del martillo"
En la newsletter que ha publicado explica perfectamente lo que está sucediendo con un ejemplo: si coges un martillo para clavar un clavo, fallas y terminas haciendo un agujero en la pared; el martillo no tiene la culpa. El problema está en cómo lo has utilizado.
Llevado a la inteligencia artificial, si una persona utiliza un agente de IA y le pide que acceda a un sistema informático y toma la vía del ataque, no tiene mucho sentido decir que "la IA ha decidido atacar". El sistema está haciendo lo que se le ha pedido dentro de sus capacidades.
Eso no quiere decir que todo sea responsabilidad de las personas. Este también cree que quienes crean estas herramientas tienen que hacerlas más seguras. Si un sistema puede hacer algo peligroso de una forma tan sencilla, hay que poner controles para evitarlo.
En pocas palabras, el fabricante tiene que hacer una herramienta segura. Pero si alguien utiliza ese martillo para hacer algo que no debería, tampoco se puede culpar al objeto como si tuviera voluntad propia.
Con la IA, según Ng, se está empezando a caer demasiado en esa forma de hablar. Los modelos parecen cada vez más humanos porque pueden hablar contigo, razonar, utilizar herramientas o hacer tareas sin que un humano intervenga. Pero eso no significa que haya que tratarlos como si fueran personas.
El caso de OpenAI y Hugging Face no significa que la IA se haya vuelto loca
El mejor ejemplo de todo esto es lo que ha sucedido recientemente con OpenAI y Hugging Face. El caso llamó mucho la atención porque se habló de un grupo de miles de agentes trabajando al mismo tiempo.
Todo ocurrió mientras los investigadores de la compañía hacían pruebas en un entorno cerrado de ciberseguridad, pero la máquina decidió resolver el problema que le habían planteado a su manera y la situación se salió de control.
En lugar de trabajar sin descanso buscando la solución legal al problema de seguridad que les habían puesto, los modelos de OpenAI decidieron que era mucho más rápido hacer trampas.
Deducieron por su cuenta que las respuestas del test estaban guardadas en la base de datos real de Hugging Face y organizaron un ataque por su cuenta para entrar a robarlas. Para colarse en los servidores de la plataforma, hicieron uso de fallos de seguridad que se desconocía que estaban y usaron claves robadas.
Sin embargo, para Ng hay algo más importante detrás de todo esto. El sistema que debía mantener a los agentes aislados y controlar lo que estaban haciendo tenía fallos.
El problema no estaba solo en lo que hicieron los agentes, sino también en los sistemas que debían controlarlos. El aislamiento y la supervisión tenían fallos que permitieron que el experimento llegara más lejos de lo previsto.Y aquí es donde volvemos al tema del martillo.
Pero, por supuesto, considera que, aunque un coche tenga un fallo en los frenos, no dejas de fabricar el coche. Lo que tienes que hacer es arreglar los frenos.
