Ken Thompson, creador de Unix, ya avisó a los programadores antes de la llegada de la IA: "No puedes confiar en un código que no hayas creado totalmente tú mismo"
Elígenos como tu fuente preferida en Google.
El ganador del Premio Turing en 1983 advirtió de que revisar el código fuente no siempre basta para garantizar la seguridad de un programa, ya que las propias herramientas utilizadas para generarlo también pueden estar comprometidas.
Millones de desarrolladores trabajan cada día con código que no han escrito personalmente, ya que parte de ese trabajo llega desde asistentes de inteligencia artificial, otra desde repositorios de código abierto y una cantidad creciente procede de bibliotecas mantenidas por terceros. En medio de esta dependencia, la declaración de Ken Thompson que planteó hace más de cuatro décadas afirma que la confianza en el software tiene límites, incluso cuando el código parece seguro. "No puedes confiar en un código que no hayas creado totalmente tú mismo"; esta frase de él vuelve a aparecer en pleno auge de herramientas capaces de generar programas completos en cuestión de segundos.
Durante la Reflections on Trusting Trust, una conferencia asociada al Premio Turing que fue publicada en 1984, Thompson abordó un problema que sigue afectando al desarrollo: la dificultad de verificar cada elemento que participa en la construcción de una aplicación. Su planteamiento no tenía relación con la inteligencia artificial, pero sí con una cuestión que hoy resulta más visible que nunca debido a la complejidad de las cadenas de desarrollo de software.
A partir de esa idea, el informático utilizó un ejemplo que mostraba cómo una herramienta de desarrollo podía alterar el resultado final sin dejar señales evidentes para quien revisara posteriormente el código fuente. Así que la conclusión no era que todo software fuese sospechoso ni nada de eso, sino que la confianza absoluta resulta extremadamente difícil cuando intervienen múltiples capas tecnológicas que el desarrollador no controla directamente.
No se puede confiar plenamente en un código ajeno
La demostración presentada por Thompson se ha convertido en uno de los ejemplos más conocidos de la historia de la ciberseguridad, ya que el investigador describió un escenario en el que un compilador, el programa encargado de transformar código fuente en software ejecutable, era modificado para introducir una puerta trasera de manera automática. Lo inquietante de la propuesta era que el comportamiento malicioso podía mantenerse incluso después de eliminar cualquier rastro visible en el código utilizado para crear el compilador.
Y es que lo que intentaba demostrar no era una vulnerabilidad de Unix, sino un problema más amplio relacionado con la confianza. Un desarrollador podía revisar miles de líneas de código y no encontrar nada extraño, mientras que la alteración permanecía oculta en la herramienta que generaba el programa final. De esta forma, la revisión del código fuente, aunque sigue siendo esencial, no siempre garantiza por sí sola que un programa sea exactamente lo que aparenta ser.
La advertencia de Ken Thompson encaja en la era de la inteligencia artificial
Cuatro décadas después, la industria del software depende de ecosistemas mucho más amplios que los existentes en 1984. Aplicaciones modernas incorporan miles de componentes externos, paquetes de código abierto y servicios desarrollados por organizaciones distintas. La seguridad de toda esa cadena se ha convertido en una preocupación creciente para empresas, gobiernos y expertos en ciberseguridad.
La irrupción de la inteligencia artificial ha añadido una nueva capa al debate, donde herramientas capaces de escribir código aceleran el trabajo de los programadores, pero también introducen la necesidad de comprobar qué están produciendo realmente esos sistemas. La cuestión planteada por Thompson sigue siendo vigente porque ya no se trata solo de confiar en otro desarrollador, sino también en modelos, plataformas y procesos automatizados que participan en la creación del software.
Así que la relevancia actual de aquella reflexión radica en que anticipó uno de los mayores desafíos tecnológicos contemporáneos. Cuanto más compleja se vuelve la infraestructura digital, más difícil resulta conocer cada pieza que interviene en ella. La advertencia de Thompson no invita a desconfiar de todo, sino a recordar que la seguridad nunca depende de una única revisión y que la confianza tecnológica siempre necesita mecanismos de verificación adicionales.