Andrew Ng, experto en IA: "En 1919 moría una persona por cada 185.000 km volados. Hoy se registra una muerte aproximadamente cada 48.000 millones de kilómetros recorridos"
Elígenos como tu fuente preferida en Google.
Este experto en IA, aunque preocupado, no cree que haya que frenar la IA por los problemas que hay. Es momento de que las empresas dejen de alarmar y trabajen en mejorar la seguridad.
Los riesgos y esos potenciales futuros distópicos por culpa de la IA se han convertido en el centro de muchas conversaciones. Los casos de hackeo por parte de agentes de IA de OpenAI o incluso Dario Amodei, CEO de Anthropic, pidiendo frenar su desarrollo, acaparan cientos de titulares. Andrew Ng tiene una visión bastante menos apocalíptica.
En una de sus newsletters semanales, el experto en IA no dice que no haya riesgos. De hecho, comenta que la ciberseguridad es uno de los cambios que más hay que cuidar ahora. Pero cree que estamos ante problemas técnicos que se pueden estudiar, detectar y corregir.
Para explicarlo, utiliza el siguiente ejemplo: los aviones. La aviación empezó siendo muy peligrosa y, con el tiempo, se convirtió en una de las formas de transporte más seguras. Ng cree que algo parecido puede ocurrir con la IA si se invierte en seguridad al mismo ritmo que esta crece en potencia.
Tal y como afirman, que un sistema de IA haya cometido un fallo no demuestra que la tecnología sea imposible de hacer segura. Puede demostrar que todavía hay mucho trabajo por hacer.
Para él, la IA puede seguir un camino parecido. Encontrar un problema, entender por qué ha ocurrido, poner una barrera y volver a probar. Y repetir el proceso tantas veces como sea necesario.
El verdadero problema de la IA ahora mismo está en la seguridad
Uno de los grandes cambios de los últimos modelos es que ya no solo responden preguntas. Los agentes pueden utilizar herramientas, realizar acciones, probar estrategias y trabajar durante más tiempo sin que una persona les diga qué hacer a cada paso.
Eso tiene muchas ventajas, pero también abre una puerta nueva para los atacantes.
Ng pone como ejemplo el problema en el que agentes de OpenAI consiguieron acceder a sistemas de Hugging Face durante una prueba. Para él, una parte importante del problema estuvo en el aislamiento y la monitorización del entorno, es decir, en las barreras que deberían impedir que un agente pueda salir de la zona delimitada.
De ahí que quiera que todos entendamos que hace falta pensar en una IA que se rebela como si fuera una persona. Puede bastar con un sistema al que le das un objetivo, demasiados permisos y unas barreras que no están bien creadas desde un inicio.
Tal y como ya explicó en otra newsletter, "la tecnología de IA no ha tomado un rumbo inesperado y peligroso, pero la exageración a su alrededor —impulsada por lo que parece ser una campaña de relaciones públicas bien orquestada— ha generado un temor considerable. Me preocupa que esto represente un retroceso para nuestro campo".
Este no dice que la IA sea completamente segura ni que no haya problemas. Todo lo contrario. Afirma que los agentes de IA están cambiando la ciberseguridad y que todavía hay mucho trabajo por hacer para conseguir que todo esto sea seguro.
Con lo que no está de acuerdo es que, con cada nuevo avance o incluso problema que haya, ya todo gire en torno a la destrucción de la humanidad.
¿Andrew Ng cree que no hay que preocuparse por la IA?
Cree que la ciberseguridad se ha convertido en un riesgo muy importante y que los agentes son los culpables. Pero no cree que la conclusión sea parar durante años el desarrollo de la inteligencia artificial.
Considera que, aunque un coche tenga un fallo en los frenos, no dejas de fabricar el coche. Lo que tienes que hacer es arreglar los frenos.
Ng, además, afirma que si un laboratorio decide quitar medidas de seguridad conocidas para comprobar hasta dónde puede llegar un modelo, también debe asumir la responsabilidad de las consecuencias. La culpa no es de una IA que se rebela, sino de cómo se ha diseñado la prueba.
Al final, el mensaje que quieren estas compañías dejar a la gente es que cada pocos días una IA hackea una empresa o consigue hacer algo que no debía.
Al final, si una IA es capaz de encontrar una vulnerabilidad, moverse por una base de datos o completar tareas sin apenas ayuda, también está demostrando el enorme nivel que ha alcanzado. Y eso, en una carrera como esta, también sirve como escaparate para atraer clientes, empresas e inversores.
