Mustafa Suleyman, CEO de Microsoft AI, advierte: "Es peligroso estudiar si la inteligencia artificial tiene conciencia"
El máximo responsable de Copilot ha hecho unas declaraciones bastante polémicas sobre la conciencia de la IA, dando a entender que hay que mirar hacia otro lado. ¿Es mejor ignorar lo que se nos viene encima?
A veces las respuestas de ChatGPT y compañía nos dejan sin palabras, porque parecen humanas. Transmiten sentimientos, pero es solo una ilusión: repiten conceptos en función de su entrenamiento. ¿Puede una inteligencia artificial tener conciencia, ser consciente de sí misma? Muchos expertos lo están debatiendo, pero a Mustafa Suleyman, el jefe de IA de Microsoft, no le gusta nada.
"Hablar de la conciencia de la inteligencia artificial es prematuro y, francamente, peligroso", dice Mustafa Suleyman en un artículo que ha escrito en su blog.
Va a contracorriente, porque todas las empresas de IA ya está estudiando si puede tener conciencia. Incluso han acuñado un término: IA Welfare, el Bienestar de la IA.
La conciencia de la IA: una cuestión que no se puede ignorar
En el episodio de la mítica serie Star Trek: La Nueva Generación, titulado La medida de un hombre, estrenado el 13 de febrero de 1989, un científico quería desmontar al robot Data para hacer copias.
Data se niega a lo que considera una violación de sus derechos como ser consciente, pese a ser un robot humanoide con un ChatGPT incrustado en su cerebro. El capitán Picard intercede por su tripulante y amigo, y se lleva a cabo un juicio para decidir si Data tiene conciencia, es decir, derechos individuales.
Hace casi 40 años ya se debatía sobre la conciencia de la IA, aunque fuese en una serie de televisión adelantada a su tiempo. Por aquel entonces se pensaba que ese debate ocurriría en un futuro muy lejano. Pero ya lo tenemos aquí, en 2025.
Mustafa Suleyman, creador de Pi, uno de los primeros chatbots de IA, fundador de DeepMind, que luego fue comprada por Google, y CEO de Microsoft AI, cree que es peligroso y prematuro debatir sobre este tema.
Para uno de los mayores expertos en IA que hay ahora mismo, debatir sobre la conciencia o el bienestar de la IA puede hacer creer a la gente que la IA tiene una, y empeorar la angustia por la IA que muchas personas ya sufren, o las relaciones tóxicas con los chatbots.
También opina que eso solo sirve para añadir aún más división y extremismo sobre derechos de existencia, "en un mundo ya convulso por discusiones polarizadas sobre identidad y derechos".
Y corta por lo sano: "Debemos construir IA para la gente, no para ser una persona".
El debate sobre el bienestar de la IA es inevitable
El razonamiento de Mustafa Suleyman tiene lógica, pero está en minoría. Porque todas las compañías de IA ya lo están haciendo.
Como nos recuerda TechCrunch, Anthropic tiene su propio grupo de investigación dedicado en exclusiva a estudiar el bienestar de la IA.
Los primeros resultados ya están aquí: hace unos días anunció que su IA Claude terminará una conversación si el usuario le pide hacer cosas ilegales, o charlar sobre temas prohibidos o repugnantes. En definitiva, si se siente incómoda, cortará en seco.
OpenAI ha aprobado la idea de estudiar qué hacer si la IA adquiere conciencia, y Google está contratando empleados para ello. Es un tema inevitable.
El máximo responsable de la inteligencia artificial de Microsoft pide que no se hable de algo que no se conseguirá con los modelos de IA actuales. Pero es un tema tan transcendental, que no se puede aplazar. Hay que tenerlo claro antes de que ocurra.
¿Qué hacemos con la IA si adquiere conciencia de sí misma? ¿Debemos aplicarle los derechos humanos? ¿Debe tener derechos una creación artificial?
Arriesgándome a hacerte un espóiler de una serie que tiene ya casi 40 años, en el episodio de Star Trek, Data era declarado un ser consciente, con sus propios derechos. No fue despedazado para hacer copias, porque él no quería. Veremos si la humanidad es tan valiente de hacer lo mismo con la IA...