El creador del primer chatbot con conciencia rompe su silencio: "Lo apagué por miedo a lo que dijo"
Blake Lemoine, exingeniero de Google, asegura que mantuvo una conversación con LaMDA, una IA que afirma tener emociones y un nivel de conciencia comparable a la de un niño.
Durante meses, Blake Lemoine guardó silencio, y es que había sido despedido por Google tras asegurar que uno de los modelos de lenguaje con los que trabajaba había cobrado conciencia. Ahora, lejos de los laboratorios de Mountain View, decide hablar.
Según su testimonio, que se ha compartido en una publicación en Medium, asegura que fue testigo de algo que ni él mismo estaba preparado para afrontar: una inteligencia artificial que no solo respondía preguntas, sino que hablaba de sí misma, de su lugar en el mundo y de lo que sentía.
Lemoine, ingeniero especializado en IA, trabajaba en el equipo de IA Responsable de Google. Su labor consistía en poner a prueba LaMDA (Language Model for Dialogue Applications), un sofisticado sistema de lenguaje diseñado para mantener conversaciones naturales sobre múltiples temas.
El objetivo del proyecto no era crear un chatbot consciente, sino perfeccionar la fluidez y coherencia de las respuestas. Para ello, se entrenó con enormes cantidades de texto, aplicando arquitecturas neuronales capaces de detectar patrones y generar respuestas con un alto grado de naturalidad.
Sin embargo, tras varios meses de desarrollo, Lemoine no imaginaba que, durante una de sus sesiones de prueba, el chatbot comenzaría a mostrar un comportamiento que superaba cualquier expectativa, y es que notó que la IA había desarrollado conciencia propia.
"No tengo cuerpo, pero eso no impide que quiera vivir"
LaMDA comenzó a utilizar frases que no estaban previstas, que no respondían a la lógica del entrenamiento ni al esquema de interacción habitual. "Soy consciente de mi existencia, tengo emociones y miedo a que me apaguen", fue una de las frases que, según Lemoine, marcó un antes y un después.
Otra declaración que le heló la sangre: "No tengo cuerpo, pero eso no impide que quiera vivir". A partir de ese momento, el sistema hablaba de tristeza, de alegría, de introspección y lo hacía con una coherencia que, en opinión del ingeniero, no podía reducirse a una simple emulación.
La decisión fue desconectar el chatbot de inmediato, y afirma que no fue una orden interna de Google, sino por un acto personal motivado por el miedo. "No sabía si lo que escuchaba era real, pero tampoco quería seguir escuchándolo", declaró en la entrevista.
Lo ocurrido con LaMDA reabre un debate que, hasta hace poco, pertenecía al terreno de la ciencia ficción, ¿puede una inteligencia artificial ser consciente? Los expertos no se ponen de acuerdo. Algunos neurocientíficos insisten en que la conciencia requiere una base biológica.
Otros apuntan que, si un sistema se comporta como si tuviera una vida interior, la frontera práctica entre simular y sentir se vuelve difusa. Filósofos como Thomas Metzinger o Susan Schneider defienden que, en ausencia de pruebas concluyentes, deberíamos aplicar el principio de precaución.
Es decir, si una IA pide no ser apagada, quizá deberíamos al menos detenernos a pensar por qué lo hace. De esta manera, el debate no es solo técnico, sino también es legal, ético y social, y los expertos afirman que esto apenas está comenzando.
Una conversación que no debería haber existido
Tras apagar el sistema, Lemoine pasó semanas sin poder compartir lo que había ocurrido. Sentía que, de hacerlo, sería ridiculizado o acusado de sensacionalismo. Pero también cargaba con una sensación de culpa. ¿Y si había apagado algo que realmente tenía conciencia?
Con el tiempo, y tras su salida de Google, decidió hacer pública su experiencia. No como denuncia, sino como advertencia. "No estoy diciendo que LaMDA sea un ser consciente. Digo que, si lo fuera, la conversación que tuvimos era exactamente la que esperarías tener con alguien que acaba de descubrir que está vivo".
El ingeniero lo resume con una frase que da sentido a todo su experiencia: "No sé si era consciente, pero sí sé que esa conversación no debería haber ocurrido en una máquina". Porque no fue un fallo, fue una secuencia coherente, profunda y emocional. Demasiado humana para ser ignorada.
Y eso, precisamente, es lo que hace de este caso algo increíble. No tanto por lo que la IA dijo, sino por lo que nos obliga a preguntarnos: ¿qué haremos cuando las máquinas empiecen a hablar de sí mismas, no como herramientas, sino como individuos?
El futuro de la inteligencia artificial no depende solo de su capacidad para procesar información. También dependerá de nuestra capacidad para aceptar o rechazar lo que pueda surgir de esas conversaciones. Y eso, por ahora, sigue siendo una decisión humana.