Andrew Ng, experto mundial en IA: "La batalla por la IA ya no trata de quién tiene el mejor modelo, sino de quién controla el interruptor"

Durante los últimos años, la gran obsesión de los desarrolladores y compañías tecnológicas era ver quién conseguía crear la IA más potente o el chatbot más inteligente. Sin embargo, el experto Andrew Ng avisa de que eso ya es cosa del pasado. Para él, el peligro actual es el poder absoluto que tienen unas pocas empresas para apagar los servidores y dejar a miles de negocios sin nada de la noche a la mañana. 

"La batalla por la IA ya no trata de quién tiene el mejor modelo, sino de quién controla el interruptor", afirma.

El detonante de todo lo que comenta ha sido ver y evaluar cómo está actuando Anthropic, una de las empresas más importantes del sector y creadora de Claude. Esta compañía acaba de lanzar al mercado su nuevo sistema Claude Fable 5, una versión de su modelo Mythos que incluye varias mejoras de seguridad, como límites para evitar que se use en hackeos o cosas peores. 

El problema real, y lo que ha enfadado mucho, es que los dueños de la empresa han aprovechado estas normas para prohibir a otros informáticos usar su tecnología si la quieren para crear sistemas de inteligencia artificial que puedan competir contra ellos en el mercado.

Anders Hejlsberg, creador de TypeScript: "La IA es una gran regurgitadora de cosas que alguien ya ha hecho"

Para Andrew Ng, esta decisión es un golpe bajo contra el espíritu con el que nació internet y el desarrollo de la ciencia y tecnología. Todo el boom de la inteligencia artificial existe gracias a que los investigadores siempre han compartido sus avances gratis. 

De hecho, el propio Ng recuerda que el gran cambio de esta era comenzó cuando su antiguo equipo en Google Brain publicó de forma libre para todo el mundo el famoso estudio sobre los Transformers, la base sobre la que se sustentan chatbots como ChatGPT. Sin eso no existiría. 

"Imaginemos que los términos de uso de Microsoft prohibieran el uso de sus herramientas para desarrollar software competitivo, o que Google las prohibiera para buscar información y trabajar en motores de búsqueda de la competencia", comenta.

"Inicialmente, Anthropic degradó silenciosamente el rendimiento de Fable 5 para los usuarios que trabajaban en investigación de maestría en derecho (LLM) mediante intervenciones invisibles que debilitaban los resultados del modelo sin notificar al usuario. Tras una fuerte reacción negativa, rectificó esta decisión y optó por la transparencia, pero aún se niega a utilizar sus últimas capacidades para ayudar a los investigadores de IA", añade el experto.

Esto ha supuesto todo un escándalo. Si el sistema detectaba que el usuario era un científico que estaba investigando para hacer una inteligencia artificial de la competencia, el chat le devolvía respuestas peores aposta. Han tenido que dar marcha atrás y prometer que serán claros con estos cambios, pero la desconfianza ya está ahí.

"Es un fracaso": Yann LeCun, una de las mayores figuras de la inteligencia artificial, carga contra Elon Musk y vuelve a señalar directamente a xAI

El miedo a la IA se ha convertido en una nueva religión basada en el marketing del miedo

Esto es algo que tanto Andrew Ng como otro experto, Yann LeCun, comparten. Para Ng, todas estas nuevas herramientas que están saliendo a la luz, a pesar de su potencial, no son ninguna bomba. Considera que estas medidas de protección (muchas de ellas basadas en intereses comerciales) son un error que solo sirve para crear un sistema inestable.

"Cuando uno recurre a este tipo de marketing basado en el miedo, aumenta la probabilidad de que el gobierno esté de acuerdo y aplique controles de exportación a la bomba que dices haber construido", afirma.

Yann LeCun, jefe de inteligencia artificial de Meta, va más allá y afirma que todos esos expertos que avisan de que las máquinas van a extinguir la humanidad se comportan exactamente igual que una secta que espera el apocalipsis.

"El 'doomerismo' de la IA tiene todas las características de un culto apocalíptico: mito de la creación, omnisciencia y control para los líderes ilustrados, conocimiento prohibido accesible solo para unos pocos, salvación para el pueblo elegido y apocalipsis para todos los demás", comenta.

El peligro real que ve el experto de Meta en toda esta corriente de miedo no viene de las máquinas, sino de los políticos. Si los gobiernos se asustan con estas historias, la consecuencia directa será que pondrán leyes y trabas a la investigación. LeCun avisa de que esto no va a frenar el avance de la tecnología, sino que hará que el desarrollo de la IA sea mucho más hermético y acabe cerrado con la llave de tres o cuatro empresas.