Dario Amodei, CEO de Anthropic: "Decir que la IA curará el cáncer es más un cliché que algo inspirador, y la mayoría de la gente lo considera engañoso"
Elígenos como tu fuente preferida en Google.
El CEO de Anthropic se ha enzarzado en X con Gavin Baker, inversor tecnológico que cree que Amodei se está autosaboteando al defender la regulación de la inteligencia artificial.
En julio de este mismo año, más de 1.300 trabajadores y responsables de compañías de inteligencia artificial, entre las que se encuentra Anthropic o Google DeepMind, publicaron una carta en la que expresaban su preocupación sobre que los modelos más avanzados –los frontier– supusieran un avance mucho mayor que el de la capacidad de los profesionales para entenderlos.
Dario Amodei, CEO de Anthropic, ha sido una de las figuras que más reflexiones y ensayos ha compartido sobre los riesgos y beneficios de la IA, como en Pacing the frontier, de julio de 2026, o Machines of loving grace, de octubre de 2024.
Entre las hipótesis y conclusiones de su pensamiento, el CEO siempre ha querido expresar su preocupación sobre la falsa dicotomía de que haya una concentración del poder en el desarrollo de la IA en pocas manos o de que regular sea la solución definitiva al problema de un avance incontrolado.
Y lo ha dejado bastante claro en una discusión filosófica en X con Gavin Baker, un inversor relacionado con la industria tecnológica y CIO de Atreides Management, quien ha compartido uno de estos ensayos de Amodei, parafraseando que la IA "podría conducir a una concentración extrema del poder económico y, por lo tanto, necesita ser regulada cuidadosamente".
Según Baker, históricamente se ha demostrado ya con creces que dejar el poder en manos de "un poder absoluto que provea benévolamente a la humanidad si está lo suficientemente iluminado no ha llevado a resultados seguros o positivos".
El inversor se refiere especialmente a los modelos fronterizos ya mencionados, y no así a una descentralización en modelos más pequeños de IA, algo que Anthropic ha apoyado en diferentes rondas de inversión de este tipo de modelos, como ha defendido Amodei.
Baker ha continuado asegurando que el CEO de Anthropic se está lanzando piedras contra su propio tejado si avanza en la defensa de la regulación: "Sus esfuerzos de buena fe a favor de la regulación están aumentando ahora las probabilidades de que la IA no sea beneficiosa para los estadounidenses ni para los humanos en todas partes. Creo que hay una posibilidad razonable de que la IA nos ayude a curar la mayoría la mayoría de las enfermedades de tal manera que tengamos vidas prolongadas y podamos disfrutar de largas vidas en un futuro abundante similar al de Star Trek".
En una respuesta aún más larga, el CEO de Anthropic ha salido a romper esta falsa disyuntiva entre regulación o mayor concentración de poder, rectificando lo que verdaderamente quiso decir en los ensayos ya mencionados.
"Una analogía cruda es que el sistema judicial formal a veces puede parecer estirado y elitista, pero hace un trabajo mucho mejor defendiendo los derechos de las personas vulnerables que la alternativa, la justicia de las masas. En su mejor versión, las instituciones pueden otorgar poder a las ideas en lugar de a las personas, y de ese modo descentralizar ese poder".
Con ello, a pesar de ser el CEO de una de las compañías de IA más importantes del mercado actual, Amodei se muestra claramente a favor de una regulación y del uso de la legalidad para que la IA siga siendo justa, sin caer en predicciones del mundo de la ciencia ficción, como sí ha realizado Baker.
Y es bastante claro al respecto en su respuesta: "Decir que la IA curará el cáncer es más un cliché que algo inspirador, y la mayoría de la gente piensa que es engañoso. Lo que funcionará es curar realmente el cáncer. Creo que, con diferencia, la crítica más precisa a las empresas de IA, incluida Anthropic, es que aún no hemos cumplido nuestras grandes promesas de beneficiar al mundo".
Para él, la IA es una tecnología que de forma estructural tiende a concentrar el poder, y que eso no tiene nada que ver con la regulación, sino con las leyes a gran escala; y continúa asegurando que él defiende el enfoque planteado por la administración de Donald Trump y a la creación de un ente como ha planteado Demis Hassabis, de Google.
Como ves, ni siquiera las grandes figuras de la industria se ponen de acuerdo sobre el camino que debería llevar este sector, por un lado, con una concentración de poder cada vez más evidente y, por el otro, con la posibilidad de que una regulación estricta pueda derivar precisamente en esto.