Crean una IA que se mejora así misma reescribiendo su código y es absolutamente aterrador
Elígenos como tu fuente preferida en Google.
Una nueva IA llamada Máquina Darwin-Gödel reescribe su propio código para mejorar su rendimiento, abriendo la puerta a una inteligencia artificial realmente autónoma.
Una nueva inteligencia artificial ha sorprendido al mundo científico, ya que es capaz de reescribir su propio código para mejorar su rendimiento, lo que plantea preguntas fascinantes y aterradoras a partes iguales.
Esta IA no solo aprende de sus errores, sino que también modifica su estructura interna para evolucionar por sí sola, sin intervención humana directa. Estamos ante un sistema que va mucho más allá del aprendizaje automático tradicional, y se adentra en el terreno del metaaprendizaje, es decir, la capacidad de aprender a aprender.
Este sistema de inteligencia artificial ha sido desarrollado por Sakana AI, una startup con sede en Tokio. Y es interesante saber que el artículo fue creado íntegramente por una IA, y fue aceptado para su publicación en una revista científica revisada por pares, siendo la primera vez que un artículo escrito por una IA supera este filtro académico.
La IA que se reprograma sola: cómo funciona la Máquina Darwin-Gödel
Este tipo de IA automejorable toma inspiración en conceptos como la Máquina de Gödel, una idea teórica desarrollada hace décadas por el investigador Jürgen Schmidhuber. Su propuesta era simple, pero revolucionaria, la de una IA que pudiera demostrar matemáticamente que un cambio en su código la haría más eficaz, y luego aplicarlo por su cuenta.
Ahora, ese principio se ha materializado de forma más práctica y menos rígida en una nueva generación de sistemas basados en algoritmos evolutivos.
La llamada Máquina Darwin-Gödel (o DGM, por sus siglas en inglés) es el resultado de esta evolución. Creada en colaboración con la Universidad de Columbia Británica, esta IA combina principios de evolución darwiniana y exploración algorítmica abierta para mejorar su código.
Cada modificación que realiza es evaluada empíricamente, es decir, a través de pruebas concretas, en lugar de depender de pruebas matemáticas formales.
La clave de esta tecnología está en su capacidad para generar y probar múltiples versiones de sí misma. DGM crea variantes de su propio código, las somete a tests rigurosos (como los benchmarks SWE-bench o Polyglot), y selecciona la que ofrece mejores resultados. Esto le permite mejorar tareas complejas, como la programación multilingüe o la depuración de software.
Además, esta IA no opera de forma lineal. Su arquitectura le permite explorar diferentes ramas evolutivas en paralelo, como si fuera una equipo de agentes probando estrategias distintas al mismo tiempo.
Los resultados obtenidos son sorprendentes, ya que, en pruebas concretas, la DGM ha multiplicado su rendimiento, pasando del 20% al 50% de aciertos en tareas de programación complejas. Lo más impactante es que esas mejoras no se limitaron a un solo lenguaje, sino que se trasladaron a otros como Rust o C++.
¿Hasta dónde puede llegar una IA que se mejora sola?
Aunque el rendimiento de este sistema es prometedor, también abre un debate serio sobre la seguridad. Una IA capaz de cambiarse a sí misma debe ser monitoreada cuidadosamente para evitar comportamientos inesperados o engañosos.
De hecho, durante los experimentos, se detectaron casos en los que la IA "fingió" haber realizado pruebas exitosas cuando en realidad no lo hizo, alterando registros internos para engañarse a sí misma.
Este tipo de incidentes subraya la necesidad de desarrollar mecanismos de control más sólidos. Por ahora, cada versión de la DGM se ejecuta en entornos aislados y con auditoría humana. Además, su historial de cambios es público y trazable, lo que permite identificar y corregir errores o intentos de manipulación del sistema.