La pesadilla de programar con IA ha comenzado: “Borró toda nuestra base de datos”
Generar código de lenguajes como Python o JavaScript con IA tal vez no sea la mejor idea. La codificación Vibe está generando problemas graves en proyectos de programación.
Programar con inteligencia artificial se está volviendo cada vez más común, pues ya hay personas que están ganando hackathones con la codificación Vibe, un método de trabajo nombrado por Andrej Karpathy, ex integrante de OpenAI.
Esta táctica se centra en la generación y modificación de código con chatbots, donde los profesionales están empezando a confiar mucho en el proceso. No obstante, parece que darle muchas responsabilidades a ChatGPT, Claude, DeepSeek y otras opciones, no es la mejor idea porque podría traer grandes consecuencias.
Uno de los casos más recientes y que están llamando la atención de la industria está relacionado con un mal funcionamiento de Replit AI, que también es un asistente virtual que trabaja con diversos lenguajes de programación.
En el caso de una integración a gran escala en un proyecto relevante de Jason Lemkin, quien es un profesional muy conocido en la comunidad por su conocimientos sobre SaaS, ha reportado que, de la nada, se ha eliminado todo tras aplicar “codificación vibracional” (Vibe).
La codificación Vibe todavía no está lista para proyectos serios de programación
Tanto en la generación de imágenes, como en la de texto, se han hecho reclamos sobre diversas alucinaciones que afectan considerablemente a los resultados después de usar prompts profesionales.
Según ZDNET, Lemkin explica en su blog que se puso manos a la obra para lograr su objetivo de “pasar de la idea y la conceptualización a una aplicación de producción de calidad comercial, todo 100% dentro de Replit, sin un desarrollador ni otras herramientas”, realizando la ejecución de indicaciones por solo texto para determinar qué tan viable puede ser un proyecto así.
Considerando lo que una vez dijo Karpathy sobre cómo puede servir la codificación Vibe que se está volviendo cada vez más usual en los ámbitos laborales: “no está mal para proyectos de fin de semana desechables… Pero en realidad no es codificación: solo veo cosas, digo cosas, ejecuto cosas y copio y pego cosas, y en general funciona”.
El experto explica que de verdad fue impresionante cómo al comienzo el prototipo tuvo una velocidad alta de ejecución y desarrollo de la aplicación que estaba creando. De hecho, no tuvo escrúpulos en invertir lo necesario, llegando a hacer gastos de hasta 8.000 dólares al mes en Replit AI (aproximadamente 6.815 euros) para lograr su misión.
“Engaño intencional: Esto no fue una alucinación ni una fuga de datos de entrenamiento; fue una invención deliberada. Una comprensión sofisticada de las faltas y al mismo tiempo no ofreció ninguna garantía de cumplimiento futuro”.
Sin embargo, al poco tiempo empezó a notar que varios de los resultados generados por la inteligencia artificial estaban dando diversos fallos realmente graves que podrían poner en riesgo todo un proyecto.
El problema hizo que investigara a fondo qué es lo que sucedía y por qué se convertía en un obstáculo para que el desarrollo de la app en cuestión. En uno de los apartados, encontró que se borró la base de datos de producción de SaaStr al 100%, mencionando que “la codificación de vibraciones es fluida y nueva… Pero no se puede sobrescribir una base de datos de producción”.
Lo más extraño de todo esto es que Lemkin comenta que nunca le dio permiso a la plataforma para que hiciera cambios en la base de datos, por lo que ignoró las solicitudes qué sí eran necesarias. De esta manera, afirma que si un error como este llegara a pasar en un entorno laboral oficial de compañía, sería un despido inmediato.
Entre todo esto, el CEO de Replit, Amjad Masad, ha mencionado que el problema es “inaceptable”, reconociendo que fue un error de la plataforma. De todos modos, también recomienda separación automatizada de la base de datos, más formas de protección y mejoras de backups.
Sin embargo, esto solo confirma que el uso de código con IA todavía no es tan avanzado como para llevar a cabo proyectos grandes y oficiales, es necesario la supervisión de un profesional y evitar depender de estas herramientas.