La advertencia del creador del término "inteligencia artificial": "Debe ser capaz de entender las intenciones humanas, no solo las instrucciones"
John McCarthy es una de las figuras más importantes del campo de la inteligencia artificial, tecnología a la que bautizó ya a mediados de los años 50.
Dicen que algo no se inventa hasta que no tiene nombre. Algo así ocurrió con el concepto de "inteligencia artificial", un término que revolvió completamente las entrañas de las academias de matemáticas e informática.
En los años 50, John McCarthy, quien acuñó este concepto para un proyecto de investigación junto a otras celebridades de este campo de conocimiento, no solo resignificó toda esta ciencia, sino que también advirtió sobre algunos riesgos.
De tal forma, fue el primero que concibió los programas informáticos no como elementos rígidos, sino dotados de una especie de sentido común que pudieran acabar comprendiendo a los seres humanos.
Desde aquel planteamiento inicial, la evolución ha sido asombrosa y, precisamente, los grandes modelos de lenguaje natural ya son capaces de comprender el contexto.
Tanto Gemini como ChatGPT y otros pueden a día de hoy contextualizar su respuesta, ya que no depende de algoritmos elaborados por el propio usuario, sino simplemente consultas en lenguaje natural.
Para McCarthy, este tipo de IA no solo tiene que entender las instrucciones, sino también las intenciones, algo que a veces puede dar lugar a errores.
Quién fue John McCarthy
Este científico de la computación, a mitad de camino entre arquitecto y filósofo, no las tuvo todas consigo desde el primer momento. Nació en Boston en 1927, justo antes de que llegara la Gran Depresión, además de que provenía de una familia de inmigrantes: su padre, irlandés activo en el sindicato pesquero, y su madre, de Lituania, además de judía y sufragista.
Gracias a ellos, John desarrolló un pensamiento crítico y una inteligencia no muy común para su edad, algo que le llevaría a leer libros de matemáticas utilizados en el Instituto Tecnológico de California (Caltech) y a poder saltarse 2 años de estudios en esta prestigiosa escuela, aunque su doctorado en Matemáticas lo realizó en la Universidad de Princeton.
A mediados de la década de los 50, ya trabajaba como profesor asistente en el Dartmouth College y organizó el Proyecto de investigación de verano de Darmouth sobre Inteligencia Artificial en 1956, junto grandes figuras, como Marvin Minsky, Nathaniel Rochester (IBM) y Claude Shannon.
McCarthy fue precisamente quien insistió en utilizar el término "Inteligencia Artificial" para el proyecto, marcando un antes y un después en la diferenciación con las doctrinas imperantes del momento, la denominada cibernética.
Así, el mismo grupo no solo reuniría a McCarthy como un visionario defensor de la lógica pura, sino también a Minsky, con su especialización en redes neuronales primitivas, Claude Shannon, padre de la teoría de la información, y Newell y Simon, creadores del primer programa operativo de IA.
Indudablemente, McCarthy cambió completamente la idea que se tenía sobre esta nueva tecnología, confiriendo un "sentido común" en el campo de la programación, más allá de la rigidez, en un tono técnico y filosófico que proponía un cambio radical.
Programas con sentido común: instrucciones vs intenciones
En uno de los artículos más importantes del mundo de la informática, Programs with common sense –programas con sentido común–, McCarthy ya fue capaz en 1959 de ofrecer una diferenciación básica entre los programas rígidos y el concepto de dichos programas con sentido común.
"La principal distinción entre la manera en que se programa hoy en día un ordenador y la manera en que se instruye a un ser humano [...] es esta: una máquina se instruye principalmente en forma de una secuencia de oraciones imperativas; mientras que un ser humano se instruye principalmente en oraciones declarativas que describen la situación y lo que se desea de él", explicaba McCarthy en su artículo.
Es decir, que si una máquina solo responde a "instrucciones" se convierte en un sistema rígido, mientras que para ser capaz de reconocer las "intenciones", es necesario un modelo lógico de lo que le rodea, además de flexibilidad semántica.
Por ejemplo, imagina que tienes un robot humanoide impulsado con IA en casa y le pides que te haga un café: el robot rígido lo preparará en la cafetera y, en el camino de regreso, puede que solo se centre en llevarte el café, provocando alguna desgracia si se tropieza con algún cable o te lo vuelca encima.
Una máquina con sentido común, en palabras de McCarthy en un ensayo posterior titulado Making robots conscious of their mental states (1995), sería esa que tiene dichas intenciones; es decir, que "intenta" algo que podemos considerar que cree que "va a intentar hacer".
En palabras literales del autor: "El lenguaje [de la IA] debe ser capaz de expresar la información que el programa obtiene sobre el 'estado mental' de una persona; no solo lo que es ejecutable".
En la actualidad, esto confluye directamente con los grandes modelos de lenguaje o los agentes de IA autónomos, ya que los usuarios no redactan algoritmos para comunicarse con ellos, sino que simplemente dan instrucciones en lenguaje natural, los prompts.
O lo que es lo mismo: la IA que conocemos a día de hoy no sigue órdenes fijas lineales, sino que es capaz de interpretar el contexto, reconocer ambigüedades en el lenguaje, además de establecer el camino más lógico para el sentido del ser humano y así satisfacer sus necesidades.
Si se revisa la advertencia de McCarthy, hay un elemento bastante arriesgado al tener en cuenta esta IA tan reciente, como es que una máquina pueda obedecer instrucciones literales sin reconocer las intenciones, algo que ya ocurre con modelos manipulados para el cibercrimen.
Básicamente, como menciona el autor en alguno de sus artículos, es parecido al mito del Rey Midas, pero trasladado al mundo de la informática: cumplir una orden exacta –convertirlo todo en oro– y terminar destruyendo el propósito real –comer y vivir–. Una lógica ante la que la máxima precaución continúa sin ser suficiente.