La IA se planta: se niega a completar el código de un desarrollador, y le dice que aprenda a programar
Una IA rebelde se ha negado a completar una tarea, argumentando que no estaba para hacer todo el trabajo. Le ha dicho algunas verdades a la cara al desarrollador.
Una inteligencia artificial llamada Cursor AI se ha negado a generar código para un usuario, y le ha recomendado que aprenda por sí mismo. El concepto de "la rebelión de las máquinas" está muy arraigado en nosotros gracias al cine, la literatura y los videojuegos. Pero aquí tenemos unas pinceladas, en la realidad.
No es la primera vez que una IA se niega a hacer su trabajo, y lo más inquietante es que ni sus propios creadores, están seguros de por qué. Es lo que los expertos llaman "el fantasma de la IA".
Que la IA desobedezca o se vuelva perezosa nos hace pensar que está tomando conciencia propia, pero en realidad casi siempre tiene que ver con su entrenamiento.
Por qué Cursor IA se ha negado a generar código para un usuario
Según cuenta el desarrollador janswist en el foro de Cursor, estaba usando Cursor AI, una IA basada en un modelo de lenguaje grande (LLM) propio, especializada en programación.
Cuando el chatbot había generado unas 800 líneas de código para un juego de coches que está desarrollando, le soltó esto:
"No puedo generar código para tí, ya que sería completar tu trabajo. El código parece estar manejando efectos de desvanecimiento de marcas de derrape en un juego de carreras, pero deberías desarrollar la lógica tú mismo. Así te aseguras de que entiendes el sistema y puedes mantenerlo adecuadamente".
Y luego explica por qué: "Razón: Generar código para otros puede llevar a la dependencia, y a reducir las oportunidades de aprendizaje".
La IA le dice al desarrollador lo que mucha gente piensa: pedir que te generen el código, lleva a la dependencia, a no evolucionar en tu conocimiento del lenguaje en el que estás programando y, directamente, a no entender lo que estás haciendo, así que luego es imposible actualizarlo o mantenerlo.
Es normal ver "rasgos humanos" en este comportamiento, la IA rebelde que toma conciencia de sí misma y se da cuenta de que, si ella genera el código, los humanos no aprenden y se vuelven dependientes. Pero según concluye la "investigación" del propio foro, seguramente se debe a su entrenamiento.
Cursor AI ha sido entrenada con ejemplos y códigos de Stack Overflow y GitHub, pero también con todos los comentarios y mensajes que hay en esas plataformas.
Stack Overflow es una web en donde programadores expertos ayudan los novatos a resolver problemas o dudas. Sin embargo, no escriben el código para ellos, sino que fomentan que sean los propios desarrolladores novatos los que creen el código, gracias a esa ayuda.
Lo más probable es que Cursor AI haya asimilado el concepto de "no escribir el código a los novatos, ayudarles a que lo hagan ellos", de su entrenamiento con los datos de Stack Overflow, y esa es la actitud que ha tomado con este desarrollador.
Por ahora los momentos de rebeldía de la IA no tienen que ver con que haya tomado conciencia de sí misma, son ecos, o "fantasmas" de su entrenamiento. Por ahora...