Carl Sagan, el genio del cosmos, lanzó una advertencia sobre la IA que se cumple en 2026: "Es una mezcla explosiva de ignorancia y poder"
El astrofísico advertía que una sociedad altamente tecnológica, pero con escaso conocimiento científico, corre el riesgo de perder el control sobre las tecnologías que crea.
El astrónomo y divulgador científico Carl Sagan advirtió hace décadas de un problema que hoy vuelve a surgir en el debate del mundo tecnológico y en la era de la IA.
Y es que sostenía que una civilización construida sobre la ciencia y la tecnología puede enfrentarse a riesgos si la mayoría de la sociedad no comprende cómo funcionan esos sistemas.
En ese contexto, dijo que una sociedad que combina tecnología avanzada con escaso conocimiento científico genera una "mezcla explosiva de ignorancia y poder".
Esto vuelve a surgir en la actualidad porque el desarrollo de tecnologías, como la inteligencia artificial, ha reabierto el debate sobre quién realmente entiende estas herramientas y cómo deben controlarse.
Durante su última entrevista, el 27 de mayo de 1996, Sagan volvió a insistir en esa preocupación por el futuro de las sociedades tecnológicas.
Su argumento era que el progreso científico puede avanzar con rapidez, pero si el conocimiento público no crece al mismo ritmo, el equilibrio entre el poder tecnológico y la comprensión social se vuelve frágil.
La advertencia que Carl Sagan formuló en los años noventa
Cabe señalar que esta advertencia aparece en el libro The Demon-Haunted World: Science as a Candle in the Dark, publicado en 1995.
En esa obra, Sagan analiza el papel de la ciencia en la sociedad y advierte del riesgo de que el pensamiento crítico pierda terreno ante la desinformación o la falta de cultura científica. Describía una tendencia que empezaba a ser visible en los años noventa.
Donde las sociedades modernas dependen cada vez más de sistemas científicos y tecnológicos complejos, que van desde redes de comunicación hasta infraestructuras energéticas y sistemas informáticos.
Sin embargo, el conocimiento necesario para comprenderlos se concentra en comunidades técnicas muy especializadas.
Según el propio Carl Sagan, ese desequilibrio puede provocar que el poder tecnológico crezca más rápido que la capacidad de la sociedad para comprenderlo o supervisarlo.
¿Por qué esta advertencia se relaciona hoy con la inteligencia artificial?
Aunque Carl Sagan hablaba de este tema en los años noventa, su reflexión aparece con frecuencia en el debate actual sobre inteligencia artificial.
Desde entonces, el desarrollo tecnológico ha avanzado notablemente, donde hoy existen sistemas capaces de generar texto, imágenes, escribir código o analizar grandes volúmenes de información en cuestión de segundos.
La expansión de estas herramientas ha suscitado preguntas que recuerdan a las preocupaciones que planteaba el propio Sagan.
El debate se centra en cuestiones como quién controla estos sistemas, quién realmente entiende cómo funcionan o cómo deben regularse las tecnologías cada vez más complejas.
En este contexto, las palabras del astrónomo se interpretan como una advertencia sobre el ritmo al que avanza el poder tecnológico frente al conocimiento público sobre ese poder.
Ciencia, pensamiento crítico y educación científica
Una parte importante del pensamiento de Sagan estaba relacionada con la educación científica. Para él, la ciencia no era únicamente un conjunto de descubrimientos o teorías.
Representaba también un método para analizar información, comprobar hechos y tomar decisiones basadas en evidencias. Por esa razón defendía la importancia de fomentar el pensamiento crítico y la cultura científica en la sociedad.
Según su planteamiento, comprender cómo funciona la ciencia permite a los ciudadanos evaluar mejor la información, identificar errores y participar de forma más informada en debates relacionados con la tecnología.
En una sociedad democrática, esa comprensión resulta especialmente importante cuando las decisiones públicas dependen de tecnologías cada vez más sofisticadas.
Una reflexión sobre el futuro de las sociedades tecnológicas
Cabe mencionar que la advertencia de Carl Sagan no pretendía frenar el progreso científico. Su preocupación se centraba en el desequilibrio que puede surgir cuando el poder tecnológico crece con rapidez, mientras la comprensión pública avanza más lentamente.
A medida que las tecnologías se vuelven más complejas, entender cómo funcionan deja de ser solo una cuestión académica. También se convierte en un elemento importante en el debate público.
La declaración que Sagan compartió hace décadas sigue planteando una cuestión relevante para las sociedades actuales: cómo gestionar tecnologías cada vez más poderosas sin perder la capacidad de comprenderlas.