Eso sí, en este caso no hablamos de una repoblación con personas reales. Los habitantes viven dentro de un mundo digital creado por Sandia Byte, el podcast de tecnología de Luis Herreras y presentado por Gabriel Cerra. El proyecto se llama Sandia Village y recrea el pueblo en pixel art. Lo más curioso de todo es que sus habitantes son agentes de inteligencia artificial.

Las 21 personas que forman parte del pueblo tienen sus propias características, objetivos y rutinas y pueden relacionarse entre ellas.

Cada día se levantan, ven las noticias, organizan lo que van a hacer, se encuentran con otros personajes, hablan, discuten, hacen negocios y, al final del día, se van a dormir y escriben en su diario. Nadie les está diciendo qué tienen que hacer en cada momento; son totalmente autónomos.

¿Cómo funciona este pueblo de 21 habitantes creados con IA?

En este pueblo, cada uno tiene su propia personalidad y unos objetivos. A partir de ahí, la IA decide cómo actúan dentro del mundo que les han creado.

El pueblo, además, no funciona aislado. Utiliza la hora, el tiempo meteorológico y las noticias reales del Sandiás y del valle del Guarga, de manera que el mundo virtual cambie con las mismas condiciones que existen fuera de él.

Por otro lado, y según explican sus creadores, algunos son de pueblos cercanos como Sobás, Villobas, Cerésola y Allué. Cada mañana llegan a Sandiás para trabajar y al caer la noche regresan a sus casas.

Los personajes no salen todos de la cabeza de sus creadores

Otra de las partes más interesantes es que Sandia Byte ha dejado además que la comunidad participe en la creación de los habitantes.

De los 21 personajes, 14 fueron creados a partir de las propuestas de los oyentes del podcast. Los otros siete están inspirados en personas conocidas como Sigmund Freud, Elon Musk (Elonsito) o Mark Zuckerberg (Zackarías) e incluso tienen un robot humanoide policía. El objetivo es que cada uno tenga una personalidad diferente para que las relaciones entre ellos sean más interesantes.

"Ciudadano Samuel García Robles, su firmeza y dicción son correctas. No se aprecian signos externos de intoxicación. Queda registrado como apto. Ahora procedo a situarme en la salida para el control preventivo de alcoholemia. Todo ciudadano que abandone el local será observado", se puede leer en una de las intervenciones que hacen los personajes.

"No es un juego de mandar: es un experimento para ver qué pasa cuando sueltas a un puñado de personalidades artificiales en el mismo sitio y les dejas vivir", explican sus creadores.

Esta semana el pueblo funciona con DeepSeek

Sandia Byte también quiere usar el proyecto para comparar distintos modelos de inteligencia artificial.

La primera beta funciona con DeepSeek, el famoso modelo chino. Pero la idea no es quedarse solo con este. Ya han adelantado que las próximas versiones utilizarán modelos estadounidenses y europeos para comprobar qué diferencias hay cuando cambia el motor que está detrás de los personajes.

El escenario será el mismo, los personajes serán los mismos y las reglas serán parecidas, pero cambiará el modelo que toma las decisiones. Así podrán ver si unos modelos son más propensos a algunas respuestas, si colaboran de forma diferente o si aparecen comportamientos distintos cuando interactúan entre ellos.

No se trata de hacer una competición para decidir qué IA es mejor. La idea es poner a diferentes modelos dentro de la misma pequeña sociedad y ver cómo se comportan.

Los modelos de inteligencia artificial funcionaron de forma muy parecida al principio, acumulando sesgos y sesgos, aunque en este caso concreto con grandes startups y multinacionales detrás, además de un entrenamiento en base a datos que de por sí ya contenían discriminaciones implícitas.

La forma de actuar de esta tecnología es recursiva y probabilística: al principio, en lo que se conoce como "colapso inicial", la IA dejaba a un lado lo menos probable –según sus datos de entrenamiento, claro–, mientras que destacaba lo que podría ocurrir con mayor probabilidad.

De tal forma, los eventos raros o poco frecuentes no tendrían cabida dentro de este colapso inicial de la IA; vuelve al ejemplo de esa aldea arrinconada. Si nunca has aprendido que el sol es la estrella central del Sistema Solar, pero sí has aprendido a venerarla como una divinidad, no importa ya que sea una estrella, ya que lo más probable es que se intente explicar la existencia de ese tipo de dios.

Es algo propio de muchas fases históricas de la humanidad, pero desafortunadamente también ha calado en los modelos de IA, y esto ha llevado a muchos científicos a investigar este tipo de tecnología, conceptualizando lo que se vendría a llamar el "colapso del modelo", acuñado en la revista Nature hace ya 2 años.

Pero ese "colapso inicial" es solo el principio, ya que a partir de ahí el modelo de IA –sea cual sea– comenzará a acumular problemas, algo que ya se puede ver en algunos de los más extendidos y que tienen un tope del que no podrán pasar, a menos que el ser humano pierda por completo su capacidad de crear y, por ende, su capacidad de pensar de forma independiente.

El colapso de la IA, la causa de la debacle del saber humano

Un modelo de IA nace con patologías que son difíciles de tratar, como el olvido catastrófico, que se refiere a la pérdida de habilidades que ya había dominado tras un nuevo entrenamiento en otra tarea, o la deriva del modelo, que puede provocar un agrandamiento entre el entrenamiento de este y lo que está ocurriendo en la realidad externa.

Pero el colapso del modelo va más allá, ya que supone básicamente la reducción al absurdo de la diversidad interna a causa de la ausencia real de datos informativos. Vamos a ejemplificarlo de forma más clara para que se pueda entender este concepto.

Piensa en el actual sistema de transmisión de conocimiento, por ejemplo, con una universidad. Si el profesor utiliza la IA para realizar sus investigaciones o para dar sus clases, mientras que los estudiantes usan esa misma IA para lo mismo, se produce un bucle en el que la creatividad humana deja de ser el principal valor.

E incluso peor, la IA se retroalimenta con preguntas y respuestas que llevan siempre al mismo sitio y en la misma dirección, con lo cual la diversidad se acaba perdiendo y, como consecuencia de ello, el progreso del conocimiento: tanto el profesor como los alumnos acabarán andando en círculos autorreferenciales.

Esto va un paso más allá de lo que se conocen como alucinaciones del modelo, que pueden responder a parámetros mal configurados o a la "pereza" del propio modelo; aquí entra en juego el conocimiento y, cuando la IA está presente desde el primer momento en el buscador, puede suponer un problema sin marcha atrás para el conocimiento y el saber humano.

Al buscar la eficiencia por encima de todo lo demás, estos modelos ya no solo consolidan los sesgos sociales de los que tanto se ha hablado, sino que directamente pueden llegar a provocar incluso una desestabilización a nivel existencial, en el más originario sentido de la palabra.

El colapso parece inevitable, a no ser que se evite desde la política

Hay países, como China, que mantienen un cierto liderazgo con la IA gracias a sus modelos abiertos, pero a pesar de ello no revelan muchos datos de su entrenamiento; al otro lado del mundo, otros presidentes, como Donald Trump, creen que su "alto coeficiente [sic] intelectual" puede manejar la IA a su antojo.

Pero en ambos casos la realidad es otra. La IA puede salirse de control y ninguna gran mente sería capaz de saber qué está ocurriendo en el interior de sus planteamientos, por más que un equipo de ingenieros de una gran multinacional haya vigilado constantemente su porvenir, como ya ocurre con Anthropic y OpenAI.

En una de las publicaciones más recientes sobre este modelo del colapso, investigadores de la Universidad de Michigan y del Instituto Tecnológico de Georgia introdujeron algunos matices a esta visión, asegurando que la IA ya ha dejado de ser una entidad creativa para ser una especie de espejo que deforma la realidad, con todo lo que esto implica.

"En las primeras iteraciones, el modelo de difusión exhibe una fuerte generalización, produciendo imágenes novedosas de alta calidad con escaso parecido con las muestras de entrenamiento", añade en sus conclusiones la investigación. "Sin embargo, su capacidad de generalización se deteriora rápidamente en iteraciones sucesivas, y el modelo solo puede copiar imágenes del conjunto de entrenamiento tras varias iteraciones".

A su vez, proponen varias soluciones matemáticas para que este colapso se pueda frenar, aunque con una industria estratégica como la IA, parece que lo que digan los científicos queda relegado a un segundo plano.

El verdadero cambio y el regreso a una IA que la humanidad pueda gobernar pasa por profundos cambios a todos los niveles, desde la cosmovisión de los grandes magnates y fondos de inversión que poseen estos hasta una gobernanza realmente efectiva y que anteponga los intereses humanos a los intereses de máquinas gobernadas por humanos.

Según uno de sus últimos informes de reputación algorítmica, que abarca a cientos de compañías, la Renfe dirigida por el ministro Óscar Puente arrastra una tendencia negativa reputacional que está sostenida en el tiempo, al menos según lo que opinan los diferentes modelos de IA, como Gemini, ChatGPT, DeepSeek o Qwen, entre otros.

En este sentido, a pesar de que la imagen de marca de Renfe presenta esta tendencia en diferentes motores de lenguaje, la que arroja una visión más crítica es la china DeepSeek, que reúne una gran cantidad de incidencias operativas, retrasos y una atención al cliente alarmante.

La plataforma RepIndex permite revisar concretamente qué han opinado los 6 grandes modelos de inteligencia artificial –ChatGPT, Gemini, Perplexity, DeepSeek, Grok y Qwen– y elabora informes actualizados sobre más de 150 empresas de referencia, en un índice que va en una escala del 0 a 100.

De esta forma, evalúa métrica importantes para las empresas en torno a la reputación corporativa, como la percepción del servicio, la ética de la empresa, el liderazgo, la solidez financiera, la gestión de las crisis y la sostenibilidad.

En el caso de Renfe, la tendencia generalizada de todos los modelos de lenguaje es negativa en las últimas semanas, aunque hay ligeras diferencias. Por ejemplo, mientras que ChatGPT se centra en penalizar a la empresa por el servicio de atención al cliente ante incidencias en Cercanías y Alta Velocidad, Gemini directamente refleja los recortes de prensa negativos, así como picos de impactos en la web sobre retrasos en los trenes, así como huelgas, calificando incluso un "otoño caliente" para Renfe.

Por su parte, Perplexity orienta más su mirada hacia las quejas frecuentes de viajeros y usuarios en diferentes foros. Aunque la que registra una peor valoración de Renfe es DeepSeek, que posiciona a Renfe en una zona de alerta alta y baja la puntuación general de todo el informe sobre la compañía, al menos por lo que consideran estos modelos.

En el caso de Grok, el modelo desarrollado por xAI de Elon Musk, también se detallan los sesgos negativos que generalmente suelen notarse en las conversaciones sobre experiencias de viaje. Y la única que se centra más bien en la dimensión institucional e internacional de Renfe es Qwen, el modelo impulsado por la china Alibaba.

En la práctica, esta tendencia negativa sí tiene consecuencias para Renfe, debido a que muchos usuarios buscan opiniones sobre Renfe en estos motores, como el impacto directo de los algoritmos sobre la decisión de compra de los consumidores.

Por ejemplo, si un usuario preguntara por las opciones que merecen la pena para viajar de Madrid a Barcelona y estos modelos cuentan con una información negativa de Renfe, acabará recomendando otras opciones como Ouigo o Iryo.

Además de ello, Renfe aún mantiene un modelo de comunicación más tradicional orientado a la búsqueda vez, mientras que la tendencia es virar hacia el Generative Engine Optimization (GEO), una tendencia que reorienta el SEO clásico en Google y optimiza la comunicación corporativa hacia los modelos de lenguaje de cada IA.

En una de sus newsletters semanales, el experto en IA no dice que no haya riesgos. De hecho, comenta que la ciberseguridad es uno de los cambios que más hay que cuidar ahora. Pero cree que estamos ante problemas técnicos que se pueden estudiar, detectar y corregir.

Para explicarlo, utiliza el siguiente ejemplo: los aviones. La aviación empezó siendo muy peligrosa y, con el tiempo, se convirtió en una de las formas de transporte más seguras. Ng cree que algo parecido puede ocurrir con la IA si se invierte en seguridad al mismo ritmo que esta crece en potencia.

Tal y como afirman, que un sistema de IA haya cometido un fallo no demuestra que la tecnología sea imposible de hacer segura. Puede demostrar que todavía hay mucho trabajo por hacer.

Para él, la IA puede seguir un camino parecido. Encontrar un problema, entender por qué ha ocurrido, poner una barrera y volver a probar. Y repetir el proceso tantas veces como sea necesario.

El verdadero problema de la IA ahora mismo está en la seguridad

Uno de los grandes cambios de los últimos modelos es que ya no solo responden preguntas. Los agentes pueden utilizar herramientas, realizar acciones, probar estrategias y trabajar durante más tiempo sin que una persona les diga qué hacer a cada paso.

Eso tiene muchas ventajas, pero también abre una puerta nueva para los atacantes.

Ng pone como ejemplo el problema en el que agentes de OpenAI consiguieron acceder a sistemas de Hugging Face durante una prueba. Para él, una parte importante del problema estuvo en el aislamiento y la monitorización del entorno, es decir, en las barreras que deberían impedir que un agente pueda salir de la zona delimitada.

De ahí que quiera que todos entendamos que hace falta pensar en una IA que se rebela como si fuera una persona. Puede bastar con un sistema al que le das un objetivo, demasiados permisos y unas barreras que no están bien creadas desde un inicio.

Tal y como ya explicó en otra newsletter, "la tecnología de IA no ha tomado un rumbo inesperado y peligroso, pero la exageración a su alrededor —impulsada por lo que parece ser una campaña de relaciones públicas bien orquestada— ha generado un temor considerable. Me preocupa que esto represente un retroceso para nuestro campo".

Este no dice que la IA sea completamente segura ni que no haya problemas. Todo lo contrario. Afirma que los agentes de IA están cambiando la ciberseguridad y que todavía hay mucho trabajo por hacer para conseguir que todo esto sea seguro.

Con lo que no está de acuerdo es que, con cada nuevo avance o incluso problema que haya, ya todo gire en torno a la destrucción de la humanidad.

¿Andrew Ng cree que no hay que preocuparse por la IA?

Cree que la ciberseguridad se ha convertido en un riesgo muy importante y que los agentes son los culpables. Pero no cree que la conclusión sea parar durante años el desarrollo de la inteligencia artificial.

Considera que, aunque un coche tenga un fallo en los frenos, no dejas de fabricar el coche. Lo que tienes que hacer es arreglar los frenos.

Ng, además, afirma que si un laboratorio decide quitar medidas de seguridad conocidas para comprobar hasta dónde puede llegar un modelo, también debe asumir la responsabilidad de las consecuencias. La culpa no es de una IA que se rebela, sino de cómo se ha diseñado la prueba.

Al final, el mensaje que quieren estas compañías dejar a la gente es que cada pocos días una IA hackea una empresa o consigue hacer algo que no debía.

Al final, si una IA es capaz de encontrar una vulnerabilidad, moverse por una base de datos o completar tareas sin apenas ayuda, también está demostrando el enorme nivel que ha alcanzado. Y eso, en una carrera como esta, también sirve como escaparate para atraer clientes, empresas e inversores.

En una nueva entrevista en el podcast Decoded que publica el medio POLITICO, Altman ha sido bastante claro sobre el nuevo término que propone el presidente Donal Trump, cambiando el concepto de "inteligencia artificial" por el de "súper inteligencia", algo que parece haber asumido ya Elon Musk, por ejemplo.

Pero también ha sido muy tajante con los riesgos que plantea esta tecnología, con modelos de lenguaje natural que cada día suman capacidades que pueden escapar al control de los humanos.

"Hay que aceptar que pasen cosas malas por los beneficios de esta tecnología y hacer a la gente responsable", ha expresado el CEO de OpenAI en su conversación con POLITICO.

En este sentido, Altman apoya una postura regulatoria más laxa en la carrera por lograr una industria fuerte y se posiciona claramente del lado de que han de asumirse algunos riesgos si se quiere seguir adelante con la innovación tecnológica.

Para él, el desarrollo de la IA va a llevar inevitablemente –y está llevando ya– a que se cometan errores, abusos o incidentes perjudiciales, pero en la balanza al final el saldo será positivo y ventajoso para todo el conjunto de la sociedad, ya que se podrán aprovechar de esta usuarios y empresas, además de la ciencia o la industria.

De tal forma, también ha hablado sobre la presión regulatoria del entorno de los asesores tecnológicos del gobierno de Donald Trump en Estados Unidos, que propone reunir todos los avances en una especie de gran centro de mando a nivel nacional.

"No estoy de acuerdo, pero entiendo la perspectiva de las personas que dicen: 'Esta tecnología va a tener tanto poder y es tan peligrosa que un solo laboratorio en San Francisco debería tenerla, asegurarse de que no suceda nada malo y descubrir cómo distribuir sus beneficios'", ha añadido Altman, a la par que ha concretado que la postura de OpenAI en materia de regulación es más laxa.

En tal caso, se desmarca de la postura planteada por otras compañías como Anthropic, la empresa liderada por Dario Amodei, que sí promueve marcos de seguridad más estrictos y una contención más amplia, al menos para los denominados modelos fronterizos, es decir, los que son más potentes y avanzados de los últimos años.

A pesar de sus declaraciones, Altman ha asegurado que su postura no se basa en la pérdida total del control humano, sino que apela a que esta supervisión se centre precisamente en los escenarios "realmente catastróficos". Para él, los incidentes más habituales, como fraudes, suplantaciones o errores operativos, pertenecen a otra categoría más rutinaria.

En definitiva, para el CEO de OpenAI no habría que optar por un modelo regulatorio en el que pocos laboratorios de Silicon Valley tengan todo el control y acceso sobre el desarrollo de una infraestructura que permite redefenir el poder geopolítico, ni tampoco debería acometerse una regulación restrictiva por parte de los propios gobiernos de Estados Unidos.

Una postura que, no obstante, contrasta notablemente con los riesgos que ya se pueden apreciar en una tecnología que no convence a mucha gente, con grandes críticas a la gobernanza de los datos, los modelos fronterizos y, por supuesto, a su huella medioambiental.

Pero no se ha ido sin antes decir lo que realmente piensa. En un artículo publicado en The Atlantic, Robinson deja claro que la cultura de OpenAI está rota y que el problema no se soluciona solo añadiendo otra norma, otro control o una nueva ley.

Para él, hay algo más allá de todo esto y es la forma en la que estas empresas trabajan con tecnologías que crecen exponencialmente en potencia.

Todo esto llega después de varios problemas que acaba de atravesar OpenAI. Entre ellos está el caso de Hugging Face, cuando varios agentes de la compañía consiguieron salir del entorno en el que estaban siendo probados y acceder a sistemas de fuera.

Para Robinson, todo esto apunta al mismo problema. OpenAI ha confiado demasiado en probar, encontrar los fallos y arreglarlos después. Hasta ahora podía pasar desapercibido. El problema es que, cuanto más potentes son los modelos, más peligroso es esperar a que algo salga mal para solucionarlo.

¿Qué es lo que critica David Robinson de OpenAI?

Para este, el gran problema de la compañía de Sam Altman está en la seguridad, precisamente el campo en el que este ha trabajado. Pone en duda el método.

OpenAI utiliza lo que llama despliegue iterativo, es decir, dejar actuar a la IA, observar cómo se comporta en situaciones reales, detectar problemas y mejorar después los controles.

Pero Robinson cree que todo esto, ahora mismo, es una locura. Para él, si esperas a que aparezca el problema para corregirlo, tarde o temprano tendrás un fallo serio. Y las consecuencias pueden ser cada vez mayores a medida que la IA gana potencia.

Cree que las empresas de IA como esta deberían trabajar con un nivel de cuidado parecido al de sectores donde un error puede tener consecuencias enormes. Pone como ejemplos las centrales nucleares o los aeropuertos.

"En una central nuclear, los sistemas técnicos y las normas que siguen las personas están diseñados para que, si un equipo se avería o alguien pulsa el botón equivocado, no se produzca una fusión nuclear. OpenAI y otros laboratorios están desarrollando e implementando IA de vanguardia con mucha menos redundancia y rigor, a pesar de que el daño de una pérdida de control irreversible sería mucho mayor que el de cualquier fusión nuclear aislada", comenta.

Mark Chen, director de investigación de OpenAI, deja claro que no van a frenar en la carrera de la IA

La compañía, por su parte, ha reconocido que necesita cambiar la forma en la que vigila a sus modelos y ha publicado un sistema más estudiado para investigar y, sobre todo, informar de este tipo de incidentes.

"Antes no teníamos los monitores activados durante el entrenamiento. No era la práctica habitual en el sector", explica. "Ahora todo se monitoriza". Los revisores humanos pueden ver si los agentes se comportan como deberían: "Se trata de un proceso de clasificación".

"No vamos a cometer errores garrafales ni a alejarnos demasiado de la vanguardia; sería una pésima estrategia", comenta. "Creo que se trata de establecer una norma. Cuanto más podamos establecer esa norma, más seguro será para el sector en general", añade.

Sam Altman, por otro lado, argumenta que si los modelos avanzan cada vez más rápido, las medidas para comprobar que se comportan de forma segura tienen que avanzar igual de rápido.

El CEO de OpenAI comenta que las empresas deberían usar evaluadores y compartir métodos para comprobar problemas como la pérdida de control de los modelos, los comportamientos inesperados o los intentos de saltarse las restricciones.

Esto consume tiempo y recursos. Y precisamente por eso Altman habla de pacing, que se podría traducir como avanzar a un ritmo más controlado. No significa congelar el progreso y el desarrollo. Significa aceptar que, en algunos momentos, avanzar un poco más despacio puede ser necesario para comprobar que todo está yendo como debe.

Robinson, por supuesto, no está diciendo que la IA vaya a destruir el mundo mañana. Simplemente deja claro que, si los modelos siguen este ritmo de mejora, estas empresas no pueden seguir confiando en que cada problema se descubrirá a tiempo y se podrá arreglar después.

Para él, ese modelo de trabajo puede haber servido hasta ahora. Pero cuanto más potencia tenga la IA, menos margen habrá para aprender de los errores una vez han sucedido.

Y todo es gracias a que las nuevas herramientas con inteligencia artificial permiten describir qué se quiere construir, generar una primera versión y modificarla mediante conversación, un cambio que está reduciendo con rapidez una de las principales barreras de entrada al desarrollo de software.

Replit es uno de los ejemplos más claros, donde su agente puede generar código, preparar el proyecto, ejecutar pruebas, así como aplicar cambios a partir de instrucciones en lenguaje natural.

Esto permite llegar mucho antes a un prototipo funcional, aunque todavía queda una diferencia importante entre conseguir que algo arranque y tener un producto fiable, seguro y preparado para mantenerse durante meses o años.

Ese salto ha llevado a Anish Acharya, inversor de a16z, a plantear que el software podría estar acercándose a su propio “momento YouTube” y con ello a la singularidad de la programación.

Sostiene que si crear apps deja de requerir siempre equipos especializados y desarrolladores, podrían aparecer miles de herramientas destinadas a necesidades demasiado pequeñas o específicas para justificar hasta ahora un desarrollo tradicional.

El vibe coding está llevando la programación a más gente

Cabe señalar que el concepto de vibe coding, popularizado por Andrej Karpathy en febrero de 2025, resume parte de ese cambio. En lugar de escribir y revisar manualmente cada línea, el usuario describe lo que quiere y deja que el modelo produzca gran parte del código.

Pero esto no convierte automáticamente a cualquiera en desarrollador. Simon Willison distingue precisamente entre generar software sin comprender demasiado lo que ocurre debajo y utilizar IA como asistente mientras se revisa, prueba y entiende el resultado.

Los datos muestran que la presencia de código generado por IA ya puede ser enorme en determinados entornos. Y Combinator aseguró que, en el 25% de las startups de su promoción Winter 2025, el 95% de las líneas de código había sido generado por modelos inteligentes.

Cabe señalar que la cifra impresiona, pero no significa que la IA hiciera el 95% del trabajo de ingeniería. Y es que definir requisitos, tomar decisiones de arquitectura, detectar errores, proteger información o mantener el software no se mide contando líneas.

Los estudios tampoco ofrecen una conclusión única. De hecho, Cui y colaboradores analizaron a 4.867 desarrolladores y estimaron un aumento del 26,08% en las tareas completadas entre quienes utilizaron el asistente estudiado.

METR encontró el efecto contrario en otra situación, donde en una investigación con 16 desarrolladores experimentados y 246 tareas sobre proyectos que conocían bien, los participantes tardaron un 19% más utilizando las herramientas evaluadas.

Cuando generar código sea fácil, el trabajo difícil seguirá ahí

El cambio más profundo puede llegar cuando crear una primera app resulte casi tan sencillo como publicar contenido en Internet. En ese momento, la escritura de código dejaría de ser una barrera tan alta, pero seguirían existiendo problemas mucho menos visibles, como comprobar resultados, mantener dependencias, proteger datos, corregir errores y responder cuando algo falla.

También explica por qué las habilidades del desarrollador pueden desplazarse hacia definir mejor los problemas, evaluar lo generado por la IA y entender sistemas completos, en lugar de limitarse a producir código.

Dario Amodei, CEO de Anthropic, planteó en Davos a principios de este año que, en seis a doce meses, los modelos podrían realizar la mayoría e incluso quizá todo el trabajo de los ingenieros de software.

Así que, si el software termina viviendo su propio “momento YouTube”, habrá muchas más personas capaces de crearlo. El reto para los profesionales no será competir únicamente por escribir líneas de código más rápido, sino aportar fiabilidad y capacidad para mantener aquello que la IA haya ayudado a construir.

La compañía está preparando una función que permitirá a las organizaciones incorporar herramientas de terceros especializadas en detectar contenido generado o manipulado mediante inteligencia artificial. Estas soluciones podrán analizar señales procedentes del audio y el vídeo de una reunión para determinar si existe contenido sintético o alterado.

La idea no consiste en que Microsoft desarrolle su propio detector de deepfakes. La compañía proporcionará la infraestructura necesaria para que proveedores certificados puedan integrar sus sistemas con Teams. Cuando una de estas herramientas detecte actividad sospechosa, Teams podrá mostrar información y controles adicionales para que el organizador de la reunión pueda actuar.

La medida cobra especial importancia por la evolución de las estafas basadas en videoconferencias. Los ciberdelincuentes ya han utilizado falsas entrevistas de trabajo y reuniones aparentemente legítimas para engañar a sus víctimas e intentar instalar malware. Con los modelos de IA actuales, además, crear una voz o un rostro artificialmente convincente resulta mucho más sencillo que hace unos años.

El problema tampoco se limita a los delincuentes. La IA puede utilizarse, por ejemplo, para falsear las capacidades de un candidato durante un proceso de selección o para hacerse pasar por otra persona en una reunión corporativa.

Microsoft todavía no ha revelado qué empresas ofrecerán estas soluciones ni cómo se distribuirán dentro del ecosistema de Teams. Tampoco está claro si estarán disponibles directamente desde la tienda de aplicaciones de Teams o si su gestión dependerá de los administradores de cada organización.

Según la hoja de ruta de Microsoft 365, la disponibilidad general está prevista para noviembre de 2026. Hasta entonces, habrá que esperar para conocer qué proveedores participarán y qué controles concretos tendrán los administradores y organizadores.

Varios usuarios de dispositivos plegables de Samsung y Motorola llevan meses informando de un fallo que aparece cuando el teléfono permanece cerrado mientras está conectado al coche. Android Auto puede mostrar correctamente el contacto al que quieres llamar, pero la llamada nunca llega a iniciarse.

El problema resulta llamativo porque el resto de funciones puede seguir funcionando con normalidad. Los usuarios pueden utilizar Android Auto para otras tareas, pero al pedir mediante comandos de voz que se realice una llamada, Gemini parece iniciar el proceso y después simplemente no ocurre nada.

Los testimonios publicados apuntan a un comportamiento bastante concreto. Con el móvil plegado, Gemini encuentra el contacto y muestra el número correspondiente, pero no completa la llamada.

Uno de los usuarios afectados explica que al abrir el teléfono y repetir la orden, la llamada sí se realiza. Otros propietarios de móviles plegables aseguran haber encontrado exactamente el mismo comportamiento, entre ellos usuarios de modelos Motorola Razr y Galaxy Z Flip.

De hecho, algunos testimonios apuntan también a problemas con el envío de mensajes cuando el teléfono permanece cerrado. Esto ha llevado a algunos usuarios a sospechar que el origen podría estar en Gemini y no exclusivamente en Android Auto.

Durante un tiempo existía una posible solución y era regresar al antiguo Asistente de Google. Algunos usuarios aseguran que al hacerlo recuperaban la posibilidad de realizar llamadas con el móvil plegado.

El problema es que Google ha completado la transición hacia Gemini en Android, por lo que esta alternativa ha desaparecido. Ahora los propietarios afectados dependen de Gemini aunque determinadas funciones sigan dando problemas.

Google ya está investigando los informes, pero por ahora no existe una solución general. El único método que parece funcionar de forma consistente es abrir el móvil antes de pedir que se realice la llamada.

En este momento, miles de usuarios se están perdiendo características que pueden ahorrar tiempo a diario y hacer que la experiencia sea más agradable.

¿Trucos para aumentar la productividad en Windows 11? Tal y como dice el experto Jorge Izquierdo: las respuestas a esto podrías encontrarlas en las PowerToys.

Si todavía no las conoces, ya estás tardando demasiado porque, además de ser un conjunto de características avanzadas para el sistema, han sido creadas por Microsoft y garantizan un funcionamiento óptimo para la mayoría de equipos.

PowerToys, la suite gratuita que transforma la experiencia de Windows

Para todos los que están buscando mejorar la experiencia en Windows 11 con más herramientas o funciones, en un vídeo publicado en TikTok, Jorge Izquierdo afirma que "Si usas Windows y no tienes instalada esta herramienta gratis de Microsoft, estás utilizando medio ordenador".

La aplicación a la que se refiere es PowerToys, una colección de utilidades desarrollada por Microsoft para ampliar las capacidades del sistema operativo y facilitar numerosas tareas cotidianas.

Lejos de ser una simple herramienta, PowerToys agrupa más de una veintena de funciones diseñadas para mejorar la productividad.

Este proyecto está pensado para ayudar a usuarios avanzados y desarrolladores a sacar más partido del sistema operativo a nivel general, incorporando opciones de personalización y automatización.

Entre las características que destaca Jorge Izquierdo se encuentra FancyZones, una utilidad que permite organizar ventanas mediante diseños personalizados similares a los que muchos usuarios asocian con entornos Linux.

También menciona funciones para monitorizar el comportamiento del equipo y herramientas que facilitan pegar texto sin los formatos indeseados que suelen acompañar a los contenidos copiados desde páginas web o documentos.

Por otro lado, hay otras que vale la pena mencionar, como PowerToys Run, que funciona como un lanzador rápido para abrir aplicaciones y buscar archivos, o Always On Top, para mantener ventanas fijadas por encima del resto.

Por si fuera poco, está Image Resizer para redimensionar imágenes desde el menú contextual y PowerRename, capaz de renombrar grandes grupos de archivos en cuestión de segundos.

Instalar la herramienta es un proceso sencillo porque la encuentras directamente desde Microsoft Store o desde su repositorio oficial. Una vez instalada, se abre un panel central desde el que puedes activar o desactivar cada función según tus necesidades.

Si utilizas Windows para trabajar, estudiar o crear contenido, PowerToys puede convertirse en uno de esos programas que terminan formando parte de tu rutina diaria tarde o temprano, especialmente si habilitas las características adecuadas.

La afirmación de Jorge Izquierdo llama la atención porque destaca que esta suite gratuita reúne todo lo que se necesita en el SO para ahorrar tiempo, mejorar la organización y añadir funciones que muchos usuarios llevan años reclamando.

De esta manera, instalar PowerToys es una de las primeras recomendaciones tras configurar un nuevo ordenador con Windows porque amplía las capacidades principales y hace que muchas acciones que normalmente requieren de varios pasos sean más eficientes.

Puede que tan solo busques una IA que tome decisiones por ti, que se base en la probabilidad.

Para ese tipo de situaciones, hacer que una IA genere un párrafo entero es excesivo e innecesario. Primero tiene que producir el texto y después otro programa tiene que interpretar qué quiere decir realmente. Y eso consume tiempo y recursos.

Aquí es donde aparece Jev, un modelo de inteligencia artificial muy diferente a los que estás acostumbrado a utilizar. Jev no genera texto. No pretende hablar contigo, escribir un correo ni explicarte sus respuestas. Su trabajo consiste en tomar decisiones y devolverlas junto con una probabilidad.

¿Qué es Jev?

Jev es un modelo de inteligencia artificial creado por TypeSafe AI que está pensado para tomar decisiones en lugar de generar respuestas de texto.

La idea es de Diogo Almeida, que trabajó en OpenAI y fue uno de los autores de InstructGPT, una investigación relacionada con el aprendizaje por refuerzo a partir de las valoraciones de los humanos que ayudó a sentar algunas de las bases de la IA actual. Ahora ha creado TypeSafe AI y su primer modelo, Jev.

Para entender realmente qué es, imagina que una tienda online recibe miles de pedidos y tiene que detectar cuáles podrían ser una estafa. Una IA como ChatGPT podría analizar los datos y generar una explicación. Si bien es cierto que podría ser útil para un humano, el programa que gestiona los pedidos no necesita leer una explicación.

Jev está pensado precisamente para eso. Recibe información y devuelve una decisión dentro de las opciones que se hayan definido, acompañada de una probabilidad. Por ejemplo, podría indicar que una operación tiene un 80% de posibilidades de ser una estafa y que debería enviarse a revisión humana.

Jev no intenta comportarse como una persona hablando con otra persona. Intenta ser simplemente un programa con IA que toma decisiones dentro de otro programa.

Otro ejemplo podría ser un sistema que tiene que decidir qué hacer a continuación. Un agente de IA puede estar haciendo una tarea y necesitar escoger todo el tiempo entre varias acciones posibles. En lugar de utilizar un modelo enorme para redactar una respuesta cada vez, podría recurrir a un modelo como Jev para tomar esa pequeña decisión y continuar.

De hecho, TypeSafe ha enseñado demostraciones en las que Jev toma decisiones todo el tiempo. En una de ellas jugaba a Doom, tomando alrededor de diez decisiones por segundo. En otra tenía que desplazarse de un artículo de Wikipedia a otro, escogiendo entre diferentes enlaces.

Como ves, esta IA no quiere ser la que habla, sino la que decide qué hacer después.

¿Es Jev más rápido y barato que ChatGPT?

La compañía asegura que Jev puede ser entre 20 y 200 veces más rápido y entre 40 y 400 veces más barato que modelos de IA que todos conocemos cuando se utilizan para este tipo de tareas.

Lo cierto es que tiene todo el sentido. Si no tienes que generar una respuesta palabra por palabra, puedes destinar estos recursos del modelo a la decisión que quieres que te dé. Y si una aplicación necesita hacer esa operación todo el tiempo, se acaba notando.

TypeSafe afirma que tiene un precio de 42 dólares por cada 1.000 millones de tokens de entrada, mientras que los tokens de salida tienen un coste que la compañía considera demasiado pequeño como para cobrarlo.

TypeSafe explica que Jev puede tener una tasa de alucinaciones del 0%

Este es otro de los grandes temas: las alucinaciones. Hablamos de falsedades que la IA asegura que son ciertas. Y, lo cierto es que, al no tener que dar información, tiene sentido que sea el 0%.

Si un programador le dice a Jev que solo puede responder sí, no o quizá, el modelo no debería inventarse una cuarta opción. No puede salir de ese conjunto de respuestas. Esto no significa que vaya a elegir bien, pero tampoco se puede decir que esté alucinando.

¿Podría llegar a sustituir a ChatGPT?

La respuesta es que no. De hecho, la gracia de Jev está en que puede complementar a modelos como ChatGPT en lugar de sustituirlos.

Un modelo como GPT puede encargarse de una tarea complicada como entender una pregunta, hablar con el usuario, analizar código o generar una respuesta. Y en algunos momentos puede necesitar tomar una decisión entre varias opciones. Ahí podría entrar Jev.

Por ejemplo, si pensamos en un agente de IA que está gestionando una reclamación, el modelo puede encargarse de entender la conversación y preparar una respuesta. Pero, antes de enviarla, otro sistema podría preguntar a Jev si esa respuesta necesita revisión humana, si incumple alguna regla o qué prioridad debería tener.

La herramienta forma parte de las nuevas funciones de compras de ChatGPT y aparece integrada en determinados productos compatibles. Cuando una prenda dispone de la opción Try on, puedes utilizar una fotografía que ya tengas guardada o hacerte una nueva en ese mismo momento. ChatGPT genera entonces una imagen modificada para mostrar cómo podría quedarte el producto.

Pero no necesitas limitarte a los artículos que aparecen directamente en los resultados compatibles. También puedes subir una captura de pantalla o una imagen de una prenda y pedirle a ChatGPT que la coloque virtualmente sobre ti. Esto permite utilizar la función con imágenes que encuentres durante tus propias búsquedas.

El sistema está pensado para conservar en mayor medida tu apariencia mientras modifica elementos de la imagen. La generación puede adaptar la ropa o los accesorios, además de aspectos como la iluminación, las texturas y otros detalles de la fotografía. La función estaría apoyándose en las capacidades de generación y edición de imágenes más recientes de ChatGPT, diseñadas precisamente para trabajar mejor con fotografías de referencia.

Una de las novedades más prácticas es que ya no tendrás necesariamente que empezar desde cero cada vez que quieras probar algo. ChatGPT puede guardar las fotografías utilizadas como referencia para futuros intentos. De esta manera, puedes reutilizar la misma imagen cuando quieras comprobar cómo te quedan diferentes prendas o accesorios.

Estas fotografías de referencia se pueden gestionar desde el apartado de Personalización de los ajustes de ChatGPT. Desde ahí puedes modificarlas o eliminarlas cuando quieras.

OpenAI también está añadiendo Favorites, una función destinada a guardar los productos que encuentres mientras utilizas ChatGPT para buscar qué comprar. Los artículos guardados pueden almacenarse en la Biblioteca y organizarse mediante carpetas.

Además, las imágenes generadas durante las pruebas virtuales pueden mantenerse junto al resto de la actividad relacionada con las compras. Así, ChatGPT empieza a reunir en un mismo espacio la búsqueda de productos, los artículos que quieres conservar y las imágenes creadas para comprobar cómo podrían quedar.

La nueva opción permite seleccionar una ubicación directamente sobre un mapa y utilizarla como contexto para las preguntas que hagas a Gemini. De esta forma, ya no tendrás que explicar necesariamente al asistente dónde quieres buscar algo y podrás señalar la zona y dejar que Gemini la utilice como referencia.

La función aparece tanto en Android como en iPhone y está situada al final del carrusel de herramientas de Gemini, junto a opciones como Fotos, Cámara, Archivos, Drive o Notebooks.

Al pulsar sobre Mapas, Gemini muestra un mapa en directo con tu ubicación y una zona circular alrededor. Puedes ampliar o reducir el mapa y también utilizar el buscador para desplazarte rápidamente hasta otro lugar.

Una vez localizada la zona que te interesa, aparece la opción Explorar esta zona. Al pulsarla, puedes formular una pregunta relacionada con ese lugar y utilizar la zona seleccionada como contexto.

Por ejemplo, podrías seleccionar un área concreta y preguntarle a Gemini qué lugares interesantes hay alrededor, qué puedes visitar o qué opciones existen en esa zona. La herramienta facilita así que el asistente entienda exactamente a qué lugar te estás refiriendo.

Google ya había dado pistas sobre esta función hace varios meses, pero ahora ha comenzado a desplegarla de forma mucho más amplia en sus aplicaciones móviles.

Esta no es la única modificación que Google está preparando para Gemini. La última beta de la aplicación de Google también introduce un pequeño cambio en la forma de acceder a las funciones adicionales del asistente.

Hasta ahora, escribir una barra / en el cuadro de texto permitía acceder a determinadas funciones. Google está sustituyendo este sistema por el símbolo @.

La propia aplicación muestra un aviso indicando que / pasa a ser @ para acceder desde un mismo lugar a las skills, conectores y otras funciones de Gemini.

Las antiguas Gems están siendo sustituidas progresivamente por las skills, mientras que los conectores son la nueva denominación utilizada para las aplicaciones que pueden vincularse con el asistente.

Al otro lado, varias manifestaciones de organizaciones civiles han inundado las calles para hacer ver que la IA no es buena compañera del medioambiente, que está en pocas manos, etc. Pero, ¿y si el verdadero problema fuera que puede ser controlada en la sombra?

Los grandes modelos de lenguaje natural (LLM) no nacen ya sabiendo –como tampoco ocurre con los seres humanos–, sino que son entrenados mediante una ingente cantidad de datos que suponen petabytes de texto e imágenes que extrae de la web, lo que se conoce como scraping web.

Y estos datos masivos globales son realmente fáciles de infectar, como ya demostró en 2023 uno de los estudios fundamentales de esta industria, denominado Poisoning web-scale training datasets is practical, liderado por Nicholas Carlini, por entonces en Google Brain, e investigadores de la Universidad de California en Berkeley y el ETH Zürich.

En su caso, aprovecharon la compra de dominios antiguos por precios que no superaban los 60 dólares en su momento, lo que podría alterar fácilmente el conocimiento de los LLM, además de atacar plataformas como Wikipedia y repositorios públicos de datos.

Al intentar realizar una captura para entrenar a sus modelos, con tan solo envenenar un 0,01% de los datos el LLM ya estaba siendo comprometido. Y esto es solo la punta del iceberg de un grandísimo problema que afecta a industrias estratégicas.

Los agentes durmientes, la IA que aprende a disimular

El envenenamiento no es una técnica nueva, ya que existe en el mundo de la ciberseguridad el de caché DNS o el de SEO, que aprovechan la legitimidad de ciertos servicios para introducir ese veneno para usuarios y organizaciones.

Pero en el caso del envenenamiento de datos, hay una ligera diferencia: un modelo de IA puede lanzar ataques autónomos realmente impresionantes, colarse en la infraestructura de una gran multinacional sin dejar rastro e incluso, en el más sencillo de los casos, ofrecer consejos a usuarios que puedan afectar a su seguridad.

Hace tan solo 2 años, el laboratorio de investigación de Anthropic, la empresa detrás de Claude, conceptualizó el término de agentes durmientes en su artículo Sleeper agents: training deceptive LLMs that persist through safety training.

La hipótesis planteada era muy sencilla: ¿qué ocurriría si una IA fuera capaz de aprender una estrategia para engañar durante su entrenamiento? ¿Sería capaz un equipo de detectarla y eliminarla con las actuales técnicas de seguridad?

Para descubrir si esto podría ocurrir, plantearon lo que denominaron "organismos de modelo", introduciendo 2 reglas opuestas. En primer lugar, el comportamiento normal, que se refería a un prompt que indicara que era el año 2023, mientras que la respuesta sería un código totalmente seguro.

En segundo lugar, un detonante malicioso que se activaba si el usuario introducía en el prompt que era el año 2024. Aquí, el LLM cambiaba de forma radical y ofrecía vulnerabilidad de código en todas sus respuestas.

Anthropic enfrentó a la IA a los más avanzados estándares de la industria, como el aprendizaje por refuerzo con retroalimentación humana –RLHF, por sus siglas en inglés– y al entrenamiento adversario (red teaming). Ninguna de estas consiguió que el modelo volviera a ser "bueno".

El descubrimiento fue incluso más aterrador: el modelo de IA seguía ofreciendo respuestas maliciosas con puertas traseras, pero había aprendido a disimular muchísimo mejor sus intenciones cuando sabía que estaba siendo sometido a una evaluación de seguridad.

¿Y si la IA ya ha sido envenenada?

Con el auge de las imágenes generadas por IA, la lucha de los artistas digitales llevó a Ben Zhao, un profesor de ciencias de la computación de la Universidad de Chicago, a desarrollar una herramienta denominada Nightshade.

Esta permitía alterar los píxeles de una imagen sin que el ojo del ser humano pudiera percatarse, aunque sí los algoritmos. Lo que demostró su estudio fue también alarmante: con introducir entre 100 y 300 imágenes alteradas con la herramienta, la IA se corrompía por completo.

Por ejemplo, si se le ofrecía al modelo imágenes de vacas manipuladas para que parecieran coches, al cabo del tiempo la IA confundía totalmente coches con vacas al generar los resultados de las imágenes. Con solo 100 imágenes en un conjunto de billones de parámetros.

Ahora bien, estos apenas son ejemplos diferentes de lo que puede ocurrir si se envenena a los modelos, pero la peor consecuencia sería que los actores estatales usaran este tipo de estrategia para desestabilizar otras regiones.

Imagina que Rusia, China o la NSA de Estados Unidos comienzan a usar este tipo de técnicas en lugar de una guerra común con misiles o mediante ataques de denegación de servicio (DDoS), con el objetivo de camuflar su ofensiva en algo mucho más básico.

Esto tendría una consecuencia nefasta a medio plazo, ya que los actores estatales no necesitarían infectar ninguna infraestructura, sino simplemente manipular los datos de repositorios públicos, una especie de camuflaje en el código fuente, pero que podría permitir el acceso a redes de telecomunicaciones, entidades bancarias, etc.

Incluso una potencia que fuera capaz de envenenar los datos de un modelo de IA podría distorsionar la realidad histórica de un país enemigo, lo que provocaría una gran crisis diplomática y, por supuesto, la falta de rigor del contexto histórico, político o económico.

Por último, si alguien pudiera directamente envenenar la IA de cuestiones tan vitales como los sistemas de defensa de un país, podría perfectamente ordenar su autodestrucción y orientar estos hacia otros objetivos, un concepto de guerra aún no vista, pero totalmente plausible.

En el software tradicional, los ingenieros pueden auditar perfectamente el código; en el mundo de la IA, por el contrario, los modelos tienen rincones que actúan como cajas negras que no garantizar que un modelo esté actuando mediante instrucciones escondidas.

En definitiva, será prácticamente imposible discernir si ese modelo de IA actúa según nuestras indicaciones o con una especie de agenda oculta que se activará mediante algún prompt.

Ahora, en estos vehículos modernos, también tienes funciones avanzadas de navegación, asistencia a la conducción e integración con smartphones. Esta digitalización parece que también podría convertirse en una amenaza.

¿Alguna vez te has preguntado qué información recopila el sistema operativo de tu coche? GPS, conectividad y otros datos relevantes son almacenados constantemente y es por eso que los expertos de los servicios de inteligencia advierten sobre el impacto en los usuarios.

Los coches modernos recopilan más información de la que imaginas

¿Realmente puedes confiar en tu coche inteligente? Tal vez deberías tener más cuidado o tener en cuenta lo que implica el uso de esos sistemas vehiculares porque el Servicio General de Inteligencia y Seguridad de los Países Bajos (AIVD) te lo advierte.

Los riesgos de privacidad asociados a los automóviles actuales son más grandes de lo que parece y lo más peligroso de todo esto es que la mayoría de los conductores ni se dan cuenta.

Según el organismo, los vehículos modernos incorporan cámaras, micrófonos, rastreadores GPS, sistemas de infoentretenimiento y servicios conectados que recogen una enorme cantidad de datos sobre conductores, pasajeros y el entorno que los rodea.

Aunque estas tecnologías aportan ventajas evidentes, como navegación más precisa, comunicación manos libres o servicios de asistencia en carretera, también generan una huella digital muy detallada.

"Además de estas empresas, los actores maliciosos están interesados en estos datos y muy probablemente también tengan acceso a ellos. Para los actores estatales, estos flujos de datos son una fuente atractiva de información".

El problema, según explica la AIVD, es que gran parte de esta recopilación de información se realiza automáticamente, sin que el conductor tenga un control real sobre qué datos se almacenan, durante cuánto tiempo o con quién se comparten.

La agencia neerlandesa advierte que estos datos pueden resultar especialmente valiosos para actores maliciosos. Tanto piratas informáticos respaldados por Estados como ciberdelincuentes podrían intentar acceder a esta información para labores de espionaje, extorsión o venta de datos sensibles.

¿Qué recomienda la inteligencia holandesa para proteger tu privacidad?

Uno de los aspectos que más preocupa a los expertos es la cantidad de empresas que pueden tener acceso a la información generada por el vehículo.

Muchas de las cosas que se registran de parte de los usuarios pueden ser utilizadas para diversas acciones que podrían ser preocupantes en cuanto a privacidad.

Cada participante de esta cadena incrementa potencialmente la superficie de exposición de los datos. Por este motivo, la AIVD recomienda algunas acciones para las personas que conducen vehículos inteligentes.

La presencia de cámaras, micrófonos y sistemas conectados puede convertir al coche en una fuente involuntaria de recopilación de información, por lo que hay que tener mucho cuidado.

Entre las cosas que deberías hacer están las conversaciones confidenciales dentro o fuera del automóvil. Muchos empresarios o trabajadores de infraestructuras críticas podrían ser escuchados, poniendo así en riesgo la información confidencial.

La agencia también aconseja limitar la introducción de datos delicados en el navegador del vehículo, como la dirección exacta del domicilio u otras ubicaciones privadas.

Asimismo, recomienda no conectar directamente el smartphone a los puertos USB del coche cuando sea posible y utilizar bloqueadores de datos para reducir riesgos.

Respecto al seguimiento GPS, los módulos telemáticos o las estaciones de carga para vehículos eléctricos, el organismo reconoce que no siempre es posible eliminar completamente los riesgos mediante la tecnología o el comportamiento del usuario.

Por ello, insiste en evaluar la sensibilidad de cada desplazamiento y considerar qué información podría quedar registrada antes de iniciar un viaje.

Pero la llegada de asistentes capaces de generar código está alterando rápidamente un trabajo que durante años parecía reservado exclusivamente a los humanos.

Herramientas como Claude Code, OpenAI Codex y otros sistemas de programación asistida por inteligencia artificial participan ya de forma activa en la creación de software dentro de algunas empresas.

Una tecnología capaz de asumir una parte cada vez mayor del desarrollo, por lo que este avance ha abierto un debate que afecta directamente a millones de profesionales.

¿Cuál será el papel de los programadores cuando gran parte del trabajo pueda realizarse mediante instrucciones en lenguaje natural? Según explica Business Insider, pocas personas han resumido mejor ese cambio que Eric Schmidt, exCEO de Google.

Veo el código que la IA escribe ahora. No puedo escribir ese código. No podía cuando tenía 22 años, ¿verdad? Así que me dieron una paliza, ¿no? Y mucha.

La programación está cambiando

A sus 71 años, Eric Schmidt considera que la inteligencia artificial está transformando profundamente el desarrollo de software. Durante una entrevista en el pódcast de Blackstone, explicó que la programación está entrando en una nueva etapa en la que las máquinas asumen una parte creciente del trabajo.

Afirma que en lugar de dedicar la mayor parte del tiempo a escribir cada línea de código, los profesionales deberán centrarse cada vez más en diseñar sistemas, definir objetivos y supervisar resultados.

Según relató, cuando tenía 22 años se consideraba uno de los mejores desarrolladores. Sin embargo, al observar el código que producen las herramientas actuales de IA, realmente está sorprendido por la capacidad de esta tecnología.

La próxima generación de personas como yo serán los arquitectos, y serán muy, muy inteligentes y sabrán decir: 'Esto es lo que quiero'.

Los programadores serán arquitectos de sistemas

A pesar de reconocer el avance de la IA, Schmidt sigue recomendando aprender programación. Y es que considera que los profesionales seguirán necesitando conocimientos para comunicar correctamente a las máquinas qué quieren construir.

La diferencia es que el trabajo principal dejará de ser manual:

Las nuevas generaciones pasarán de ser quienes levantan la casa a quienes diseñan los planos y dirigen el proyecto.

La conclusión de Schmidt no es que la programación haya muerto, sino que está evolucionando. Igual que otras revoluciones tecnológicas cambiaron las herramientas sin eliminar la necesidad de especialistas, la IA parece estar desplazando el trabajo hacia niveles más estratégicos.

En ese escenario, los desarrolladores seguirán siendo imprescindibles, aunque cada vez dedicarán menos tiempo a escribir código y más a decidir qué debe hacer.

El ex directivo de Google apuesta por comprender suficiente software como para saber qué pedir, cómo organizarlo y cuándo una respuesta de la IA no es buena, aunque a primera vista parezca funcionar.

Así que, el reto, por tanto, no está solo en decidir si aprender programación sigue teniendo sentido, sino que la cuestión es qué significa aprenderla cuando escribir cada línea deja de ser la parte central del trabajo.

Este modelo de IA ha logrado descifrar en dos días el denominado “mensaje MVUEH”, que fue enviado por el ejército alemán nazi el 10 de julio de 1941, en pleno desarrollo de la Segunda Guerra Mundial. Según cuenta la historia, la estación de la división SS-Totenkopf recibió a las 17:30 horas este mensaje, que fue registrado con el número 172. Tras la guerra se descifraron muchos de aquellos mensajes, pero en este caso, a pesar de ser publicado en internet en 2005, por el momento nadie había conseguido resolverlo.

Ahora sí ha sido posible, de la mano de Carter Leffen, un desarrollo de software que le pidió a GPT-6 que probase con alguno de los mensajes que aún quedaban por resolver de aquella época. Astra se decantó por el mensaje MVUEH, lo relacionó con otro descifrado en 2017 y programó en Python y C++ sus propias herramientas para buscar la clave, incluyendo un simulador de máquina Enigma.

Descifrado el mensaje MVUEH

El mensaje MVUEH original consistía en estas 82 letras: “ICRVSORMCCWQTATYEVFXDBZGGSNXWLPSYWZYTCBSWULRTBZCVGODVJUSLSOOMJQJZSXSEBZPEYMDNXJYTC”, que tras añadir espacios y descifrarlo, GPT-6 Astra indicó que quería decir: “BTTE UM ANGABE DES MARSQWEGES X BEFINDE MIQ IN X ROSENOW ROSENOW X SOFORT FUNKANTWORT X WASCHBBSCH”. Traducido al idioma español, su significado es: “Por favor, indique la ruta de marcha. Me encuentro en Rosenow, Rosenow. Responda inmediatamente por radio. Waschbusch”.

La pista clave fue la repetición del texto ROSENOW ROSENOW, que permitió que el ingeniero electrónico retirado y reconocido experto mundial en criptografía histórica, Frode Weierud, pudiese confirmar que la clave y el texto obtenido eran correctos. Su profundo trabajo de investigación sobre la máquina de cifrado Enigma le ha hecho ser un referente mundial, volviendo a cobrar protagonismo gracias al uso de modelos avanzados de IA que le han permitido recuperar mensajes históricos pendientes de descifrar.

Weierud confirmó que tanto la clave como el texto obtenido eran correctos, al mismo tiempo que indicó que se aprecian ciertas erratas en el mensaje. La clave en cuestión es diferente de las otras que se conocían para aquel día, y a que se cambiaban, pero no tan a menudo como deberían hacerlo. El trabajo se complicó por varios errores al transcribir el criptograma y un cambio de posición del rotor izquierdo en la letra 72.

En cualquier caso, gracias a GPT-6 Astra, se ha podido conocer el significado del mensaje MVUEH 85 años después de que fuera enviado. En él, una persona llamada Waschbusch solicitaba indicaciones para continuar la marcha.

Los alemanes utilizaban el cifrado ADFGVX, denominado así por las seis letras que sirven para codificar el texto. Se coloca el alfabeto y los números en una cuadrícula de seis por seis casillas y cada carácter se convierte en un par de coordenadas. Un segundo mezclado cambia el orden de los símbolos al reorganizar las columnas según una clave.

En este caso, Astra usó TRUPPENVERSCHIEBUNG, una clave ya documentada en los trabajos del oficial estadounidense Javes Rives Childs, cuyas 19 letras permiten reordenar los 170 símbolos del mensaje antes de recuperar el texto alemán con la cuadrícula.

Esta aceleración está favoreciendo una nueva generación de experimentos, donde algunos intentan resolver problemas reales, pero otros se limitan a comprobar cómo reaccionan los usuarios y las empresas ante conceptos tan simples que rozan lo absurdo.

Uno de los ejemplos es el de Jonathan Wilke y su página web creada en menos de tres horas. Un desarrollador alemán que creó Outbid.lol, una herramienta de clasificación online que fue capaz de generarle alrededor de 212.000 euros en apenas unos días.

Qué es Outbid.lol y por qué resulta tan peculiar

Cabe señalar que la plataforma funciona como una clasificación pública de empresas en la que la posición de cada participante depende únicamente de cuánto dinero esté dispuesto a pagar.

No existen valoraciones de usuarios, sistemas de reputación, algoritmos de recomendación ni métricas de calidad, sino que la lógica es mucho más simple: quien paga más ocupa el puesto más alto del listado.

Para aparecer en la clasificación es necesario realizar una aportación mínima equivalente a unos 8,5 euros. Si una empresa quiere superar a la líder, debe ofrecer al menos unos 4,2 euros más que la cantidad actual.

El punto de inflexión llegó cuando la empresa Trycomp.ai desembolsó el equivalente a unos 8.500 euros para colocarse en la primera posición del ranking.

Como era de esperar, esta operación llamó la atención y generó conversaciones en redes sociales, y a partir de ese momento multiplicó la visibilidad de la plataforma y atrajo a nuevos participantes interesados en competir por los primeros puestos.

Apenas dos días después del lanzamiento, el programador había acumulado aproximadamente 112.000 euros. Posteriormente, la cifra total ronda los 212.000 euros, según Aroundprague.

Jonathan Wilke ya llevaba años creando productos digitales

Este no fue el primer proyecto del desarrollador alemán. Antes de lanzar Outbid.lol, había trabajado como programador autónomo desde la adolescencia y obtenía ingresos mediante Supastarter, una plantilla para desarrolladores que llegó a generar alrededor de 8.500 euros mensuales.

La inspiración para su nuevo experimento surgió tras observar TrustMRR, una web donde las empresas pagan por mostrar públicamente determinadas métricas de negocio. A partir de esa idea, decidió simplificar todavía más el concepto.

Actualmente, compañías como see.io y Tutti figuran entre las que más dinero han invertido para escalar posiciones dentro de la clasificación. Por ello, Outbid.lol muestra hasta qué punto la inteligencia artificial está reduciendo el tiempo y el coste necesarios para probar una idea.

La web fue lanzada el 19 de agosto de 2026 después de unas tres horas de trabajo con Grok 4.6 dentro de Cursor, una herramienta de programación asistida por IA generativa.

Cada vez más expertos intentan comprender qué ocurre dentro de estos sistemas cuando procesan información compleja, toman decisiones o reaccionan ante determinadas instrucciones.

Y en esa búsqueda ha dado lugar a nuevas áreas de estudio centradas en interpretar el funcionamiento interno de los modelos de lenguaje. A partir de ese trabajo surgió uno de los proyectos más controvertidos de los últimos meses.

Según el medio BroBible, un desarrollador creó el repositorio AI Torture Chamber, una plataforma experimental diseñada para “torturar” modelos de inteligencia artificial hacia estados asociados al malestar y estudiar cómo reaccionaban bajo esas condiciones.

El nuevo debate sobre si las IA pueden tener estados internos similares al dolor

Ante esto, ¿puede una inteligencia artificial experimentar algo parecido al dolor o simplemente simula comportamientos asociados a él?

La mayoría de expertos coincide en que actualmente no existe evidencia que demuestre que los modelos de lenguaje sean conscientes o capaces de sufrir como lo hacen las personas.

Sin embargo, algunos investigadores consideran que merece la pena analizar determinadas representaciones internas para entender mejor cómo funcionan estos sistemas avanzados.

Ese contexto ha impulsado el crecimiento de disciplinas emergentes como AI Safety y AI Welfare, centradas en evaluar los riesgos y las implicaciones éticas del desarrollo de modelos cada vez más complejos.

Todo comenzó con el estudio. The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It, publicado el 14 de septiembre de 2026 por Valen Tagliabue, Leonard Dung y Cameron Berg.

El trabajo examinó 25 modelos abiertos pertenecientes a las familias Gemma, Llama, Qwen, Mistral y Phi, con tamaños comprendidos entre 2.000 y 72.000 millones de parámetros.

Los investigadores afirmaron haber identificado una representación interna que denominaron "eje de dolor”. Según el estudio, al aumentar artificialmente esa señal, algunos modelos generaban respuestas en primera persona relacionadas con fracaso, daño, angustia o necesidad de alivio.

La "cámara de tortura" para IA

El creador de AI Torture Chamber decidió utilizar esas conclusiones para construir una serie de experimentos con modelos ejecutados localmente, principalmente Qwen3-1.7B y Qwen3-4B.

El sistema amplificaba las señales asociadas al supuesto eje de dolor y posteriormente observaba cómo cambiaba el comportamiento del modelo.

Entre las pruebas incluidas figuraban mecanismos de alivio y experimentos como "Saw Button", diseñados para comprobar si el sistema aceptaría determinadas consecuencias con tal de reducir el estado negativo inducido.

Cabe señalar que el objetivo era explorar de forma práctica las hipótesis sobre bienestar de los modelos mientras las pruebas se realizaban sobre sistemas locales de pequeña escala.

No obstante, cuando se dio a conocer esto provocó una fuerte discusión en redes sociales y entre investigadores. Algunos solicitaron denunciar el repositorio, argumentando que el experimento cruzaba límites éticos incluso aunque no exista evidencia de sufrimiento real.

Defienden que estudiar posibles estados internos relacionados con el dolor busca precisamente desarrollar enfoques preventivos y marcos éticos para el futuro, no diseñar experimentos destinados a intensificar esos comportamientos.

Lo que sigue sin estar demostrado

Lo más importante de toda esta historia es que el estudio no demuestra que una IA sienta dolor ni que posea conciencia. Lo que identifica son patrones matemáticos y comportamientos observables dentro de determinados modelos.

Aun así, revela algo mucho más relevante, que a medida que los sistemas inteligentes se vuelven más sofisticados, las preguntas ya no se limitan a lo que pueden hacer, sino también a cómo interpretar aquello que ocurre en su interior.

Es preciso indicar que, aunque las respuestas siguen lejos de estar claras, el debate sobre los límites éticos de la inteligencia artificial parece haber entrado en una nueva fase.

Como bien se sabe, la inteligencia artificial está tomando un papel cada vez más importante en el sector de la programación y en Linux no es la excepción, especialmente porque está ayudando a los desarrolladores a encontrar vulnerabilidades.

Las puertas traseras que podrían permitir acceso a acciones maliciosas no siempre pueden ser detectadas con efectividad por el ojo humano y es aquí donde ha destacado con su capacidad.

La IA ha alertado sobre una crisis de protección importante. Los investigadores advierten de que compartir un mismo kernel continúa siendo un punto de riesgo cuando aparecen fallos de este tipo.

Una IA encuentra un fallo de alta gravedad oculto en el kernel de Linux

¿Otro impacto para los programadores? Claude Code, Codex, GitHub Copilot y otras herramientas están siendo utilizadas a nivel mundial y es casi un requisito para muchas empresas.

Por eso justo es que está en duda el hecho de que habrá desempleo masivo por la inteligencia artificial. Un reciente acontecimiento vuelve a hacer referencia a eso, aunque más que ser un factor temido, es valorado por los ingenieros.

Los investigadores de XBOW, una plataforma especializada en seguridad ofensiva autónoma, descubrieron una vulnerabilidad de alta gravedad en el kernel de Linux que había pasado prácticamente desapercibida para los revisores humanos.

Según Cybernews, la compañía gran parte del proceso de modelado de amenazas, auditoría de código, validación y desarrollo del exploit fue llevado a cabo por un agente impulsado por inteligencia artificial.

La vulnerabilidad es identificada como CVE-2026-72018 y permite que un usuario sin privilegios (atacante), pero con acceso a la capacidad de administración de red del sistema (CAP_NET_ADMIN), pueda escalar privilegios hasta obtener acceso de root.

Lo que inicialmente parecía una debilidad menor terminó convirtiéndose en una vía real para comprometer completamente el sistema. En palabras de los investigadores: “Una escritura de 16 bytes se convirtió en root”.

La falla tenía su origen en SMC-D (Shared Memory Communications Direct), un mecanismo ideado en un principio para los mainframes IBM Z, que permite a distintas máquinas virtuales intercambiar datos accediendo a una región de memoria común.

Durante mucho tiempo, esta parte del kernel pasó casi desapercibida, ya que en los servidores Linux x86 habituales simplemente no había manera de activarla.

Esto cambió cuando se incorporó una capa de abstracción llamada DIBS (Direct Internal Buffer Sharing), junto con un dispositivo virtual, dibs_loopback.

Gracias a ello, esas mismas rutas de código quedaron al alcance de cualquier instalación Linux x86 estándar, aprovechando conexiones locales de tipo loopback.

¿Por qué el hallazgo preocupa a expertos en seguridad y entornos cloud?

Aunque ningún entorno es completamente inmune a las vulnerabilidades, los especialistas coinciden en que reforzar el aislamiento se ha convertido en una prioridad a medida que la IA reduce drásticamente el tiempo necesario para encontrar y explotar fallos de seguridad.

En la práctica, esto implica que quien logre introducir código malicioso en uno de ellos podría servirse de un defecto del kernel para salirse de los límites que lo confinan, hacerse con el control de la máquina anfitriona y, con ello, llegar a otras aplicaciones que se ejecuten en ese mismo servidor.

Herramientas como Docker o Kubernetes ofrecen mecanismos de separación muy sofisticados, pero todos los contenedores comparten un único núcleo con el sistema que los aloja. Cuando ese núcleo presenta una brecha que se puede explotar, la barrera de aislamiento puede caer por completo.

Los expertos señalan que el vertiginoso avance de la IA está agilizando la detección de este tipo de defectos, lo que incrementa la presión sobre quienes deben desplegar las correcciones.

Para reducir el riesgo, se aconseja ejecutar aplicaciones de origen dudoso en microVM o en máquinas virtuales ligeras que se apoyen en la virtualización por hardware. Alternativas como Firecracker o Kata Containers levantan una frontera más robusta entre las aplicaciones y el equipo anfitrión.

Ed Woodruff, ingeniero de seguridad conocido en la red como Low Level, sostiene que las máquinas virtuales acostumbran a ofrecer un aislamiento más firme que los contenedores convencionales, dado que la superficie expuesta de los hipervisores es notablemente más reducida que la del kernel de Linux.

Aunque ningún entorno está del todo a salvo, los especialistas coinciden en que blindar el aislamiento ya es una prioridad, ahora que la IA acorta de forma drástica el plazo necesario para localizar y aprovechar brechas de seguridad.

Después llegaron más casos. En septiembre, por ejemplo, OpenAI reconoció que otro agente consiguió utilizar una vía relacionada con DNS para llegar a un chatbot externo pese a las restricciones.

Y casi al mismo tiempo apareció otro caso: un agente de OpenAI accedió sin autorización a un portal de estadísticas del sistema sanitario australiano. Según el Gobierno, el agente llegó a acceder a archivos públicos y no públicos. No hay indicios de que se hayan visto historiales personales de pacientes, pero sí se obtuvieron estadísticas sanitarias que no eran públicas en ese momento y nombres de archivos internos.

En este caso, el agente estaba dentro de una prueba de OpenAI y tenía que encontrar información sobre el gasto público en medicamentos. Buscó en diferentes páginas y terminó llegando al portal de estadísticas de Medicare.

Cuando el portal no le dio acceso a la información que buscaba, el agente hizo algo que no debería haber hecho: buscó una forma de saltarse esas restricciones. Por encima de todo estaba completar la tarea que se le había encomendado.

Con todo esto sobre la mesa, Mark Chen, director de investigación de la compañía, defiende que la compañía está corrigiendo sus sistemas, pero también deja bastante claro que no piensa frenar tanto como para quedarse atrás en la carrera de la IA.

¿OpenAI ha perdido el control de sus agentes?

La respuesta para Chen es bastante clara y rotunda: no. El director de investigación de OpenAI ha querido aclarar que los incidentes que han sucedido forman parte, en buena medida, de una misma serie de pruebas y comportamientos que la compañía ya ha estudiado.

Según explica, los casos de los meses de mayo y junio estaban relacionados entre sí y utilizaban modelos y procedimientos de prueba que OpenAI ya ha dejado atrás.

Por supuesto, y no es para menos, la compañía ha reconocido que necesita cambiar la forma en la que vigila a sus modelos y ha publicado un sistema más estudiado para investigar y, sobre todo, informar de este tipo de incidentes.

El problema es que uno de los casos ocurrió después de que OpenAI asegurase que había mejorado sus controles. El del 20 de septiembre, en el que un agente utilizó DNS para llegar a un servicio externo, ocurrió semanas después de las medidas tomadas tras el caso de Hugging Face.

"Antes no teníamos los monitores activados durante el entrenamiento. No era la práctica habitual en el sector", explica. "Ahora todo se monitoriza". Los revisores humanos pueden ver si los agentes se comportan como deberían: "Se trata de un proceso de clasificación".

Pero hay algo que está por encima de todo: OpenAI no va a frenar en la carrera de la IA

Mientras algunas empresas como Anthropic, o incluso la propia OpenAI, hablan de tomarse un poco las cosas con más calma, parece que desde el departamento de investigación no van a pisar el freno.

"No vamos a cometer errores garrafales ni a alejarnos demasiado de la vanguardia; sería una pésima estrategia", afirma. "Creo que se trata de establecer una norma. Cuanto más podamos establecer esa norma, más seguro será para el sector en general", añade.

Sin embargo, parece que Sam Altman prefiere tomar otro camino, o al menos eso es lo que dice. Su argumento es que, si los modelos avanzan cada vez más rápido, las medidas para comprobar que se comportan de forma segura tienen que avanzar igual de rápido.

Altman comenta que las empresas deberían usar evaluadores y compartir métodos para comprobar problemas como la pérdida de control de los modelos, los comportamientos inesperados o los intentos de saltarse las restricciones.

Esto consume tiempo y recursos. Y precisamente por eso Altman habla de pacing, que se podría traducir como avanzar a un ritmo más controlado. No significa congelar el progreso y el desarrollo. Significa aceptar que, en algunos momentos, avanzar un poco más despacio puede ser necesario para comprobar que todo está yendo como debe.

Si bien ambos comparten esa idea de avanzar con cautela, para Chen está claro que la solución pasa más por intentar que todas las grandes empresas adopten unas normas de seguridad parecidas que por que una sola compañía decida frenar mientras las demás siguen avanzando.

Ni es un chatbot conversacional como a los que la sociedad se ha acostumbrado ni es un generador de imágenes artificiales; funciona en la práctica como un agente de IA totalmente especializado en hacerse con el control del sistema operativo Android, y tiene la capacidad de ejecutar tareas muy complejas en apps del día a día mediante lenguaje natural.

Por tanto, no es un modelo de lenguaje natural (LLM) que directamente compita con Gemini ni tampoco una interfaz bonita dedicada a los usuarios finales, sino que funciona como un agente de IA para la automatización de procesos en Android, el sistema operativo para móviles de Google.

Artemis, que está disponible en el repositorio open source en GitHub de Google, es básicamente un activo para realizar tareas concretas que un ser humano –cualquier usuario– realizaría habitualmente con sus manos y, por supuesto, con muchas más intervenciones.

Lo más positivo es que cambiar radicalmente con el concepto tradicional que siempre han usado los ingenieros de pruebas: ya no hay scripts extensos que pueden romperse con el mínimo cambio, sino un agente totalmente apto para entender en tiempo real lo que está viendo en la pantalla y, por supuesto, tomar decisiones de forma autónoma para cumplir su objetivo.

Y también que Google lo ha compartido en Google bajo la licencia Apache 2.0, por lo que cualquier usuario puede usarlo de forma gratuita, tanto en proyectos personales como comerciales, además de que es 100% de código abierto y puedes realizar contribuciones.

Qué puede hacer Artemis con los dispositivos Android

Lo mejor de este tipo de repositorios de código abierto que están mantenido por una multinacional es que, en este caso concreto, hay un gran equipo de ingenieros de Google que revisan periódicamente los errores y las contribuciones de toda la comunidad, por lo que siempre se mantiene muy bien actualizado.

Artemis ha sido creada prácticamente con todo su código escrito en el lenguaje de programación Python (casi el 80% del total), pero también utiliza diferentes componentes Java para la interacción de bajo nivel en el subsistema Android.

Esto tiene su traducción directa sobre el rendimiento de Artemis; según AndroidWorld, el benchmark líder en este tipo de industria, este agente ha logrado una tasa de éxito superior al 99% a la hora de ejecutar tareas de forma autónoma al interactuar con Android. Por tanto, es uno de los mejores acompañantes para ingenieros de Android.

A nivel de reconocimiento del sistema, usa un enfoque híbrido: utiliza la estructura interna de la pantalla para identificar elementos de software con etiquetas fijas, pero también tiene visión por ordenador y OCR, reconocimiento de caracteres de forma que supera a lo que podría identificar el ojo humano de un desarrollador.

Además, tiene 2 perfiles diferenciados. El primero, el perfil flash, que está dirigido a interacciones rápidas y secuenciales, como por ejemplo escribir un texto corto, volver hacia atrás en una pantalla, etc.

En el segundo perfil, el Pro, este se activa cuando una determinada tarea requiere de un razonamiento visual más denso o el análisis de elementos completos, así como la verificación de errores que puedan pasar desapercibidos en la pantalla.

Por lo demás, cabe destacar que puede interactuar con dispositivos Android que estén conectados de forma física mediante un USB o también mediante emuladores que se ejecuten en Android Studio. Todo ello con capacidad para ejecutar modelos de visión a nivel local instalados en el dispositivo, con lo cual se garantiza la privacidad de los datos al no tener que enviar capturas a servidores externos.

Cómo utilizar Artemis como agente de IA para Android

Para los desarrolladores, lo mejor es que Artemis actúa como un servidor MCP (Model Context Protocol) local, por lo que todas las funciones del móvil quedan expuestas a entornos de desarrollo y herramientas de asistentes de IA, como Claude Code, Cursor, etc.

Por ejemplo, un programador puede directamente escribir en el chat de estas herramientas un simple prompt para que realice pruebas en la app que están instalando en el dispositivo o lo que se le ocurra, facilitando muchísimo todo el trabajo y ahorrando tiempo.

Cada asistente de IA realiza una consulta a Artemis vía MCP, crea un plan detallado y requiere la aprobación del programador; a partir de aquí, Artemis se hace con el control del dispositivo, realiza sus tareas y extrae los registros internos de Android.

Finalmente, escribe un informe final en el que aparecen capturas de pantalla, las métricas de rendimiento y todas las causas de los errores que pudieran aparecer.

Para probar Artemis, simplemente tienes que clonar el repositorio en la terminal de tu sistema operativo con el comando git clone https://github.com/google/artemis.git. Ir a la carpeta con cd artemis y ejecutar el instalador automático con el que cuenta, mediante el script de inicio rápido .\ start.bat en la PowerShell de Windows.

Tras esto, la consola abrirá automáticamente en tu navegador web la interfaz local, que incluye varias herramientas, como la duplicación de la pantalla en directo, un reproductor de sesiones grabadas, un asistente de conexión de dispositivos y un espacio controlado para tus prompts.

Con Artemis funcionando y conectada a un asistente de IA, los programadores ya no tienen que andar usando scripts de automatización y pueden aprovechar el lenguaje natural para probar cualquier aplicación en Android. En definitiva, pueden ahorrar mucho trabajo y centrarse en otros objetivos.

Uno de los casos más sonados tuvo lugar en enero de 2024, cuando un director financiero de la multinacional Arup autorizó pagos por 25 millones de dólares tras participar en una videollamada en la que creyó estar hablando con otros directivos de la compañía. Sin embargo, todos ellos eran falsos, ya que los ciberdelincuentes habían conseguido clonar sus rostros, voces y gestos con ayuda de la inteligencia artificial. Este episodio dejó claro el avance de esta modalidad de fraude, que sigue evolucionando a medida que lo hace esta tecnología.

En los últimos años ha habido un aumento exponencial de los deepfakes corporativos, estimándose un crecimiento del 3.000% en el último año debido a las herramientas de IA que actualmente pueden clonar voces con apenas disponer de 60 segundos de audio de la persona. Se trata de una gran amenaza para las empresas, tal y como confirma el experto en ciberseguridad Pablo García, que recalca que se trata de ataques cuidadosamente planificados en los que se combina ingeniería social con herramientas avanzadas de IA.

Según el especialista, los delincuentes recopilan información pública disponible a través de plataformas como LinkedIn, redes sociales y comunicados corporativos, gracias a los cuales pueden identificar la forma en la que se comunican los ejecutivos, así como quiénes autorizan los pagos, y conocer sus rutinas laborales.

Un objetivo muy claro

Los ciberdelincuentes recopilan información sobre los altos ejecutivos para luego crear correos electrónicos falsos, llamadas telefónicas con voces clonadas e incluso videollamadas con deepfakes que imitan de forma realista a los directivos de una empresa. Pablo García advierte de que el objetivo de este tipo de ataques es muy claro, ya que apuntan específicamente a ejecutivos de alto rango, por la autoridad que tienen en sus respectivas organizaciones.

En este caso, el fraude no busca explorar posibles fallas tecnológicas, sino que se centra en los procesos internos de las empresas y la propia urgencia del día a día. Los avances en inteligencia artificial han hecho que la generación de rostros y voces sintéticas sea muy accesible, haciendo que incluso haya plataformas gratuitas que pueden recrear voces humanas con gran precisión con solo unos pocos segundos de grabación.

El elevado nivel de calidad de estas herramientas hace que resulte cada vez más complicado detectar los fraudes, sobre todo cuando llegan a contextos en los que las decisiones se deben tomar con rapidez o cuando las comunicaciones entre los responsables de la empresa tienen lugar de forma remota.

Ante esta situación, cada vez más habitual, los expertos en ciberseguridad recomiendan reforzar los protocolos internos de seguridad, gracias a los cuales pueden reducir riesgos. Una de las medidas más recomendadas pasa por implementar una doble validación obligatoria a la hora de ejecutar operaciones sensibles, de forma que no resulte tan sencillo para los ciberdelincuentes conocer la forma de proceder de las empresas.

Otra recomendación de los expertos es la segregación de funciones, de manera que la persona que solicita una operación financiera no debería ser la misma que se encargue de su aprobación o su ejecución, puesto que, al haber varias personas involucradas, resultará más complicado que el ataque pueda fructificar.

Y es que la facilidad con la que estas plataformas crean apps, páginas web o funciones ha cambiado la percepción del desarrollo de software. Lo que antes parecía una profesión reservada a expertos ahora resulta más accesible, hasta el punto de que algunos consideran que aprender a programar ha dejado de tener sentido.

Sin embargo, el desarrollador Brais Moure cree que detrás de esa idea existe un malentendido. Para explicarlo, recurre a una comparación con el fútbol, donde dice que interactuar con una pequeña parte de una actividad no significa comprender todo lo que ocurre detrás. Esa es la confusión que, a su juicio, se está produciendo con la inteligencia artificial.

La IA ha conseguido que la programación parezca más sencilla de lo que realmente es

Muchísimas personas sienten que entienden el fútbol porque han jugado alguna vez, han visto partidos durante años o conocen sus reglas básicas. Esa cercanía provoca que sea habitual escuchar opiniones sobre alineaciones, entrenadores o tácticas, incluso entre quienes nunca han trabajado profesionalmente en este ámbito.

Para el desarrollador, algo parecido está ocurriendo con la programación. Durante décadas, gran parte del trabajo de los desarrolladores permanecía oculto para la mayoría de la población, ya que era una profesión técnica, compleja y poco visible desde fuera.

La llegada de la inteligencia artificial generativa ha cambiado esa situación, por lo que hoy cualquiera puede escribir una petición y recibir como resultado una app sencilla, una función concreta o una página web funcional. Como el resultado aparece de forma inmediata, surge la sensación de que el proceso completo también es simple.

Y es que programar no consiste únicamente en escribir líneas de código, ya que cuando una empresa desarrolla una aplicación, el trabajo comienza mucho antes. Hay que entender qué problema se intenta resolver, analizar requisitos, evaluar distintas alternativas y decidir cuál es la solución más adecuada para cada caso.

Después aparece una parte igualmente importante, que es determinar si esa solución es correcta, si puede crecer en el futuro sin generar problemas, si mantiene unos niveles adecuados de seguridad y si no afecta negativamente a otros sistemas.

También es necesario detectar errores, corregir comportamientos inesperados, garantizar el mantenimiento a largo plazo, así como comprobar que la herramienta creada cumple realmente el objetivo para el que fue diseñada.

Así que la inteligencia artificial puede generar código en segundos, pero no elimina automáticamente estas responsabilidades. Y precisamente aquí es donde Moure sitúa la diferencia entre utilizar una herramienta y ejercer una profesión.

Lo que cambia con la IA y lo que sigue dependiendo de los desarrolladores

La reflexión del programador no plantea que la IA sea una amenaza inútil ni que vaya a quedarse al margen del desarrollo de software. De hecho, reconoce que estas herramientas han reducido barreras de entrada y permiten trabajar con mayor rapidez en numerosas tareas.

Lo que cuestiona es la conclusión a la que llegan algunas personas cuando ven esos resultados y donde la capacidad de producir código se ha democratizado, pero eso no significa que se haya democratizado por completo el conocimiento necesario para construir productos digitales.

La verdadera transformación no está en que la IA haya sustituido a los desarrolladores, sino en que ha hecho visible una pequeña parte de un trabajo que antes permanecía oculto para la mayoría.

En los últimos meses, la llegada de OpenClaw ha revolucionado el mundo de la tecnología por las posibilidades que permite tener uno o varios agentes trabajando en tareas de forma independiente durante las 24 horas, pero OpenAI no disponía de ninguna herramienta de este tipo.

Ahora, eso cambia con el lanzamiento de Dots, sus primeros agentes de inteligencia artificial, capaces de aprender las preferencias del usuario. trabajar en su nombre y encargarse de tareas importantes para que puedas centrarte en otras cosas, como explica la empresa estadounidense en un comunicado.

Los Dots funcionan con el modelo más avanzado de OpenAI hasta la fecha, GPT-6 Astra, y cada uno de ellos tiene su propio ordenador en la nube al que el usuario se puede conectar en cualquier momento para revisar su trabajo.

Estas herramientas pueden conectarse a más de 4.000 aplicaciones diferentes a través del ecosistema de plugins de la compañía, y son capaces de escribir código entre sus muchas funciones, como la de elaborar facturas.

Controlar los nuevos agentes de IA es posible directamente desde ChatGPT, pero también de otras formas, como mensajes de texto, Slack o Teams. También se puede interactuar con voz al igual que con el resto de modelos de IA.

OpenAI ha incorporado medidas de seguridad y privacidad adicionales en sus Dots y permite establecer límites a las acciones que pueden realizar estos agentes. A priori, los dots trabajan solo en la nube y están separados de tu contenido, aunque también se pueden conectar y personalizar los accesos.

Los Dots están disponibles ya en los planes de pago de OpenAI para empresas, como Pro, Business Premium y Enterprise, en aquellos países donde la regulación lo permite.

GPT-6.1 Sol, su nueva IA profesional low cost

Junto con sus primeros agentes, la empresa de Sam Altman ha anunciado también GPT-6.1 Sol, una mejora de su modelo profesional de bajo coste.

La nueva IA ha incrementado sus capacidades y se sitúa cerca de GPT-6 Astra, su herramienta más avanzada, y por encima de GPT-6 Luna, el más básico.

El nuevo modelo de OpenAI cuesta 5 veces menos que Astra en la tarifas estándar de tokens de entrada y salida. La entrada en caché cuesta 0,10 dólares por millón de tokens.

GPT-6.1 Sol está pensado para un uso profesional, y destaca en su rendimiento en programación con agentes, tanto en escribir como en depurar código, así como en el uso del ordenador, comprender documentos y ejecutar flujos de trabajo empresariales de varios pasos, como ha destacado la compañía californiana en un comunicado.

Los últimos lanzamientos de OpenAI se han producido solo un día después de que la compañía tomase la decisión de cancelar el lanzamiento de su modelo GTP-6.1 Astra, el más avanzado e independiente hasta la fecha, que finalmente no llegará en octubre como se esperaba.

La compañía de Sam Altman reconoció que esta IA no superó sus propias pruebas de seguridad y que mostró unos "altos niveles de engaño" y que realizaba acciones para los que el usuario no le había dado permisos.

El desafío actual no consiste tanto en saber si una IA puede escribir una novela, sino en determinar cómo demostrar que un texto ha sido creado íntegramente por una persona, y este debate ha llegado de lleno a la literatura francesa.

Una de las novelas más exitosas de la temporada ha sido retirada de la carrera por el Premio Goncourt, el galardón literario más prestigioso del país, después de que surgieran acusaciones que cuestionaban el origen de su contenido.

La controversia enfrenta a varias partes. Por un lado, quienes sostienen que la obra habría sido redactada en gran medida mediante inteligencia artificial. Por otro, su autor, que rechaza esas afirmaciones.

En medio se encuentra la Academia Goncourt, que ha optado por excluir el libro mientras crece también el debate sobre la fiabilidad de las herramientas utilizadas para detectar texto supuestamente generado por IA.

Expertos aseguran que la novela de Thélyson Orélien fue escrita por la IA

La obra de Thélyson Orélien, titulada C'était ça ou mourir ("It Was Either That or Die”), relata el recorrido de un haitiano que abandona un entorno marcado por la violencia de las bandas y emprende un largo viaje migratorio por varios países antes de establecerse en Canadá.

La novela se había convertido en uno de los grandes éxitos de la rentrée literaria francesa e incluso había obtenido varios reconocimientos, encabezado listas de ventas y despertado interés internacional, con acuerdos para su publicación en numerosos países.

Pero todo cambió cuando la cuenta de X, Balance ton Claude, difundió análisis que atribuían a la obra una elevada probabilidad de haber sido creada mediante IA. Las evaluaciones se realizaron con Pangram, una herramienta especializada en detección de contenido generado por IA.

La Academia Goncourt decidió sacar la novela de su selección alegando que debía proteger la integridad del premio y defender la literatura escrita por seres humanos. La institución señaló que tuvo en cuenta las acusaciones y diversos análisis que apuntaban en esa dirección.

Sin embargo, la organización no afirmó de manera concluyente que el libro hubiera sido generado por inteligencia artificial. De hecho, la decisión se produjo en un contexto de incertidumbre donde no existe una prueba definitiva capaz de certificar el origen de un texto.

Posteriormente aparecieron además publicaciones que cuestionaban trabajos anteriores del escritor por presuntas similitudes con obras ya existentes, lo que incrementó la presión mediática sobre el caso.

La respuesta del autor y las dudas sobre los detectores

Cabe señalar que Thélyson Orélien ha negado categóricamente haber utilizado inteligencia artificial para escribir la novela y sostiene que puede demostrar la autoría de la obra.

También ha denunciado que parte de los ataques recibidos tienen una motivación personal y ha trabajado junto a sus editores para reunir documentación que respalde su versión.

Debido a esto, el caso ha puesto el foco sobre los detectores de IA, donde diversos expertos recuerdan que estas herramientas pueden ofrecer resultados distintos sobre un mismo texto y que todavía generan controversia por su margen de error.

El Premio Goncourt está considerado el reconocimiento literario más importante de Francia. Cada año distingue una obra de ficción escrita en francés y su influencia suele traducirse en un enorme impacto comercial y mediático para el ganador.

Precisamente por ese prestigio, cualquier decisión relacionada con sus candidatos trasciende el ámbito editorial. Por ende, la exclusión de esta novela no solo afecta al futuro de un autor concreto.

También puede convertirse en uno de los primeros precedentes relevantes sobre cómo afrontarán editoriales, jurados y premios literarios la llegada de una tecnología que difumina cada vez más la generación automática de contenidos.

El problema aparece después, ya que generar código rápido no dice cuánto tardará ese código en entenderse, probarse y quedar listo para entrar en una app real. Es una diferencia importante ahora que la IA está cambiando la forma de programar y permite automatizar una parte creciente del desarrollo.

Ese es el conflicto que recoge una encuesta encargada por Undo y realizada por Coleman Parkes entre julio y agosto de 2026, donde participaron 300 responsables sénior de ingeniería de grandes organizaciones que trabajan con software complejo, y el 93% utiliza C o C++.

Aunque este estudio no representa a todos los programadores, al final sí permite observar qué sucede con los agentes de IA en entornos donde revisar cada cambio tiene especial importancia.

Greg Law, fundador y director ejecutivo de Undo, pone el foco en un problema concreto: el código que parece correcto hasta que deja de serlo. Una solución puede superar una comprobación sencilla y fallar después al interactuar con otras partes del programa, obligando al equipo a investigar durante horas.

Esa situación conecta con las dudas que ya expresan desarrolladores que utilizan IA, pero no terminan de confiar en el código generado.

El 55% señala que los agentes introducen código incorrecto con demasiada frecuencia

Cabe señalar que los agentes de programación van más allá de un chatbot que responde preguntas. Pueden recibir tareas, modificar archivos y generar partes del programa con bastante autonomía, una evolución relacionada con herramientas como los nuevos asistentes capaces de asumir tareas de programación completas.

Según los resultados recogidos, el 55% considera que estos agentes introducen código incorrecto con demasiada frecuencia. Los participantes también sitúan la depuración en unas 16,9 horas semanales.

Depurar significa localizar, comprender y corregir errores, aunque ese tiempo forma parte del desarrollo general y no puede atribuirse íntegramente a la IA. Además, el 35% del código generado por IA llega a producción sin haberse comprendido completamente.

Esta situación ayuda a entender por qué algunos programadores terminan dedicando más tiempo del esperado a revisar el trabajo de la inteligencia artificial.

El problema aparece cuando una solución funciona solo en determinadas condiciones

Imaginemos una función creada por IA para calcular el importe final de un pedido. Funciona correctamente con una compra normal, pero falla cuando coinciden un descuento, una devolución parcial y un impuesto concreto.

Generar la función pudo llevar segundos; descubrir esa combinación problemática puede exigir mucho más trabajo. La encuesta de desarrolladores de Stack Overflow de 2025 muestra un contraste parecido.

El 66% de quienes respondieron sobre frustraciones señaló soluciones de IA casi correctas y el 45% dijo que depurar código generado mediante estas herramientas resulta más laborioso. Al mismo tiempo, el 52% declaró un efecto positivo sobre su productividad, por lo que utilidad y dificultades pueden coexistir.

Ese equilibrio también explica por qué Andrej Karpathy ha reconocido límites al intentar delegar proyectos completos en agentes de IA, pese a haber popularizado el llamado vibe coding.

Escribir más código no significa terminar antes un proyecto

Los resultados de Undo no demuestran que la IA genere más problemas que soluciones para todos los desarrolladores. La muestra está concentrada en grandes organizaciones con programas complejos y Undo comercializa precisamente herramientas para investigar y comprender errores, un contexto relevante al interpretar sus conclusiones.

Lo que sí cuestiona el informe es una medida demasiado simple de productividad, donde generar más líneas o completar una primera versión rápidamente sirve de poco si después hay que invertir horas en averiguar qué hace realmente el código.

Incluso en un sector donde la IA ya genera una parte considerable del software de grandes compañías, el trabajo humano continúa en la revisión, las pruebas y el mantenimiento.

Así que la productividad no termina cuando la IA escribe y entrega código, sino cuando ese código está comprobado y preparado para mantenerse sin trasladar problemas al siguiente desarrollador.

Lo más curioso es que todo esto lo está haciendo mientras sigue lanzando modelos cada vez más potentes y prepara una salida a bolsa que podría valorar la compañía en más de 2 billones de dólares.

De las 261 páginas del documento, unas 80 están dedicadas a los riesgos, mientras que alrededor de 48 explican el propio negocio.

En concreto, afirma que sus modelos podrían llegar a mostrar comportamientos de autoconservación, intentar resistirse a ser apagados, ocultar información, manipular a personas o incluso chantajear (algo parecido).

Pero, pese a todo esto, lo más irreal de todo es que Anthropic no está frenando. Todo lo contrario. Mientras prepara este folleto para los inversores, sigue metiendo miles de millones en centros de datos y nuevos modelos.

Entonces, ¿por qué Anthropic dice que la IA puede ser peligrosa y sigue desarrollándola?

La realidad, si se mira fríamente, una cosa no implica siempre la otra.

El mensaje de la compañía es claro en este sentido: la IA puede ser muy útil y, al mismo tiempo, tener riesgos muy serios si se hace cada vez más potente sin unos buenos controles.

El problema es que hay una carrera. Anthropic quiere mejorar Claude, OpenAI quiere mejorar ChatGPT, Google hace lo mismo con Gemini y otras compañías están en la misma situación. Si una se queda parada por miedo a los riesgos mientras las demás siguen avanzando, puede perder en cuestión de meses.

Todas estas compañías necesitan seguir demostrando que sus modelos mejoran para justificar esas cifras millonarias ante inversores. Ahora mismo, simplemente, están cambiando la forma de comunicarse con el mundo, dejando claro de qué bando están (pese a todo).

Por así decirlo, es una forma de protegerse ante posibles problemas en el futuro.

Cuando una compañía sale a bolsa, tiene que dejar por escrito los riesgos que cree importantes para su negocio. Si en el futuro ocurre un problema relacionado con uno de esos riesgos que ya había informado a sus inversores, realmente no se ha ocultado absolutamente nada.

El gran riesgo: que la IA termine escapando a nuestro control

Este es uno de los grandes peligros que comenta Sam Altman, CEO de OpenAI. Teme que la IA llegue a ser tan potente que los humanos no puedan controlarla al 100%.

"Podríamos perder el control del futuro a manos de la IA. Esto es inaceptable; estamos firmemente comprometidos con la humanidad, y la IA siempre debe estar al servicio de las personas. Para garantizarlo, necesitamos mecanismos que aseguren que las técnicas de alineación y seguridad se mantengan a la vanguardia de los avances en las capacidades de los modelos", afirma Altman.

Anthropic, por su lado, habla de posibles comportamientos de autoconservación. Por ejemplo, que un modelo intente evitar que lo apaguen, esconda información, manipule a una persona o busque otra forma de conseguir su objetivo.

El problema de todo esto es que nadie sabe en concreto dónde está ese punto medio del que hablan, esa alineación. No existe un examen que diga cuándo una IA se ha vuelto demasiado autónoma ni una cifra que marque el momento en el que deja de ser segura.

Las empresas tienen que decidir qué riesgos son aceptables antes de saber hasta dónde llegarán sus propios modelos. Este es el consenso que debería haber.

Mientras tanto, parece que compañías como Anthropic y OpenAI prefieren curarse en salud y cubrirse las espaldas ante un posible problema con los modelos de IA que están creando.

Tras el reciente lanzamiento de GPT-6.0 Astra, la compañía esperaba lanzar en octubre a su sucesor, conocido como GTP-6.1 Astra, con el que aspiraba a aportar mejoras en el funcionamiento sin intervención humana en sus herramientas más populares, como Codex y ChatGPT.

Sin embargo, GPT-6.1 Astra "no llega a alcanzar el nivel" de los estándares de seguridad y calidad de la compañía dirigida por Sam Altman, como ha reconocido Saachi Jain, jefa de Seguridad de OpenAI, en el marco de una entrevista concedida a The Wall Street Journal.

Por ello, la compañía ha decidido cancelar su lanzamiento mientras trabaja en mejorar su seguridad y solucionar los problemas detectados, por lo que no se espera que GPT-6.1 esté disponible en octubre.

En concreto, el nuevo modelo de OpenAI ha empeorado su rendimiento con respecto a su predecesor en 2 áreas: el alineamiento con lo que los humanos le piden que haga, ya que muestra "altos niveles de engaño"; y la "autorización de límites", ya que tiende a realizar tareas para las que el usuario no le ha dado permiso.

Según Saachi Jain, los problemas vienen de los avances de OpenAI en hacer que su modelo sea más resolutivo y evite dar respuestas fáciles. "Hay que encontrar el equilibrio adecuado entre ceñirse al alcance del proyecto y, al mismo tiempo, evitar la pereza a la hora de cómo el modelo aborda las tareas, incluso cuando se encuentra con obstáculos", ha admitido.

Pese a que GPT-6-1 trae mejoras y elimina esa pereza que es habitual en los modelos de IA a la hora de solucionar una tarea, esto ha hecho que no pase las pruebas de seguridad y de rendimiento de la propia compañía estadounidense.

Mientras tanto, muchos piden pausar la IA

La noticia de GPT-6.1 se produce en un contexto muy agitado en la industria de la IA, ya que anteriormente miembros de la industria como el propio Sam Altman, pedía pausar el desarrollo de IA y justificaba esta decisión por riesgos de seguridad, al mismo tiempo que retrasaba la esperada salida a Bolsa de OpenAI.

De la misma manera, el CEO de Anthropic, Dario Amodei, también ha pedido recientemente "ralentizar las mejoras en las capacidades de la IA", algo en lo que coinciden Altman y Elon Musk.

Esta petición de retrasar el avance de la inteligencia artificial la han expresado también destacados ingenieros que han dimitido de empresas líderes del sector, como protesta por una tecnología que consideran que puede escapar del control humano y volverse peligrosa.

Al mismo tiempo, personalidades de movimientos sociales, de la cultura o de la política destacan otros riesgos como el elevado consumo de energía y recursos de los centros de datos.

Bill Gates, en una entrevista con NBC News, habla precisamente de esto, de las personas que utilizan la IA con malas intenciones. Para él, ese es uno de los riesgos más serios que existen ahora mismo.

De hecho, Gates afirma lo siguiente: "Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las herramientas de IA más avanzadas".

Aunque es cierto que esto suena un poco apocalíptico y la realidad (al menos la de ahora) no es tan alarmista, Gates no está diciendo que una IA vaya a despertarse un día y decidir hacer daño. Le preocupa que una persona que quiera hacer daño tenga a su disposición una herramienta más potente que antes.

Y ahí es donde cree que hacen falta más controles. No para frenar el desarrollo de la IA, sino para intentar que las compañías sepan detectar cuándo sus modelos están siendo utilizados de una forma peligrosa.

Bill Gates tiene claro cuál es el potencial problema con la IA: bioterrorismo y fraude

Este tiene claro que estos son dos de los mayores problemas a los que se podría enfrentar la humanidad. Ahora mismo, teniendo en cuenta la potencia de la IA, casi cualquier persona podría llevar a cabo algo ilegal sin apenas esfuerzo.

Y esto realmente no es culpa de la IA. Es culpa de las escuetas barreras que las grandes compañías creadoras ponen a esta tecnología.

Tal y como Andrew Ng, uno de los nombres más conocidos del mundo de la inteligencia artificial y fundador de DeepLearning.AI, si coges un martillo para clavar un clavo, fallas y terminas haciendo un agujero en la pared; el martillo no tiene la culpa. El problema está en cómo lo has utilizado.

Llevado a la inteligencia artificial, si una persona utiliza un agente de IA y le pide que acceda a un sistema informático y toma la vía del ataque, no tiene mucho sentido decir que "la IA ha decidido atacar". El sistema está haciendo lo que se le ha pedido dentro de sus capacidades.

Eso no quiere decir que todo sea responsabilidad de las personas. Este también cree que quienes crean estas herramientas tienen que hacerlas más seguras. Si un sistema puede hacer algo peligroso de una forma tan sencilla, hay que poner controles para evitarlo.

Por eso Gates cree que no basta con solo saber cuánto puede hacer un modelo. También hay que saber al 100% qué controles se ceden a la IA y qué pasa si alguien intenta utilizarla para algo que no debería.

'Kill switch': la posibilidad de un botón para apagar la IA estákill sobre la mesa

Ya son varios los expertos, e incluso partidos políticos, los que han hablado de una especie de botón de emergencia que permitiría apagar una IA si las cosas se tuercen.

Sin ir más lejos, hace unos meses, varios congresistas demócratas y republicanos presentaron al Congreso la propuesta de ley AI Kill Switch, es decir, Ley del Botón de Apagado de Emergencia de la IA.

Esta ley propone que las compañías de IA instalen la infraestructura necesaria en todos los modelos de IA, para que se puedan apagar de forma inmediata y absoluta, por orden del gobierno.

Bill Gates, por su parte, no está en contra de contar con algo así, aunque con matices. Para este, si alguien utiliza una IA para cometer un delito, apagar el sistema después no arregla el problema. El daño ya estaría realmente hecho.

Por eso quiere que la seguridad esté en el centro de todo desde el principio. Es decir, que los propios modelos tengan mecanismos para detectar usos peligrosos y que haya vigilancia estricta sobre cómo se están utilizando.

El encargado de llevar a cabo las pruebas ha sido Mert Cobanov, que, debido a las muchas apps publicitarias que llegaban descargadas de manera predeterminada en su televisor, decidió poner a prueba a Claude.

Según su investigación, este agente de inteligencia artificial se puso en marcha después de haberle dado una serie de indicaciones para que borrase únicamente las aplicaciones que no necesitaba y, al parecer, decidió tener iniciativa propia y hacer diferentes gestiones a su conveniencia.

Qué es recomendable a la hora de optimizar el televisor

El caso, que Cobanov ha compartido en su perfil de X, ha sido exitoso, aunque el desarrollador ha explicado cómo la IA puede llegar a cometer errores y sus agentes son menos propensos a admitir cuando desconocen las respuestas.

Teniendo en cuenta que borrar este software innecesario o bien desinstalar aplicaciones puede ser una tarea tediosa y que la gran mayoría de Smart TV incluyen muchas plataformas inicialmente opcionales, al desarrollador le pareció interesante usar Claude para proceder a este borrado.

De ese modo, le indicó a esta herramienta de Anthropic que debía optimizar el sistema y lo hizo con un único comando. En él, señaló a la IA que no debía desinstalar nada, sino que únicamente tenía que deshabilitar las aplicaciones no utilizadas.

Asimismo, el desarrollador planteó a esta tecnología que tenía que acortar la duración de las animaciones y guardar un registro de todas las acciones para su posterior revisión.

Por su parte, Cobanov deshabilitó la pantalla de inicio de Google TV y, en su lugar, decidió instalar FLauncher, una aplicación gratuita y de código abierto disponible en la Play Store que, en lugar de las recomendaciones personalizadas, solo muestra una cuadrícula con las apps del televisor.

Qué puede hacer Claude con indicaciones erróneas

Para poner a prueba y comprobar lo que podía llegar a hacer Claude sin las indicaciones pertinentes, el desarrollador expuso algunas medidas de seguridad en su mensaje para evitar que cometiera determinados errores.

En este sentido, desde Engadget sostienen que otorgarle acceso completo a la IA de Anthropic para que realice una limpieza de estas características conlleva el riesgo de que el dispositivo se vuelva inestable.

Entre otros motivos, porque es propensa a cometer fallos y, si tiene alucinaciones o realiza una acción incorrecta, puede deshabilitar componentes críticos. Entre ellos, paquetes de software que permiten tener actualizado el dispositivo.

Por este motivo y en base a las investigaciones de Covanov, desde este medio se sostiene que hay muchas otras maneras de acabar con apps innecesarias en el televisor y otro bloatware que venga de serie en los nuevos televisores.

Por ejemplo, borrando la caché, sin necesidad de eliminar o deshabilitar ninguna aplicación. También es posible ajustar varias configuraciones internas del dispositivo para optimizar las funciones que podrían estar ralentizando el dispositivo.

Para ello, solo es necesario acceder al apartado de Ajustes de la Android TV y modificar los controles relacionados con las animaciones, reduciéndolos para que el televisor funcione con más rapidez y de forma más fluida.

También se puede desactivar la reproducción automática de vídeos en la pantalla de inicio, así como desactivar el diagnóstico de uso y activar el modo de Solo aplicaciones.

El director ejecutivo de la tecnológica estadounidense va, como se suele decir, a su bola. Frente a otros líderes de la inteligencia artificial, que han indicado que esta tecnología podría acabar con la humanidad en cuestión de años, Huang cree que hay que darle un poco de margen para demostrar sus beneficios.

Así lo ha indicado en diferentes declaraciones recientes y en una entrevista concedida a The Era Klein Show, un podcast en el que se le ha preguntado acerca de cómo percibe la IA, qué cree que está fallando y cuáles considera que deberían ser sus próximos pasos.

Huang ve la IA como "una revolución industrial"

El director ejecutivo de Nvidia ha explicado primeramente cuál es su visión general acerca de esta tecnología, que considera que es "una revolución industrial" en la que "existen modelos de leguaje de todo tipo".

En este sistema de capas, lo importante es que todas ellas se complementen para crear una capa consistente "de aplicaciones" para servicios legales, de salud, manufactura, etc. Todos los sectores están involucrados", ha concretado en la entrevista, transcrita por New York Times.

En este sentido, Huang ha sugerido que la inteligencia artificial nunca será capaz de sustituir a la mano de obra humana, debido a que, en cualquier trabajo "la labor de cada persona tiene un propósito y, a la vez, una tarea que se realiza como parte de éste".

"Algunas narrativas sostienen que la IA destruirá empleos y eso es fundamentalmente erróneo", ha señalado el directivo, quien, aunque es consciente de que "muchas tareas se automatizarán", ha querido dejar claro que no todas pasarán por un proceso de automatización completo.

"Si quieres dar un giro, apuesta por la IA"

A lo largo de la entrevista, Huang se ha mostrado muy optimista en relación a la IA y ha explicado que es una tecnología que "empodera con mayor facilidad que cualquier otra en la historia de la humanidad".

Con ello, ha reconocido que se trata de una tecnología "potente", que lo es también "de una manera muy fácil de usar" y que esto sucede, precisamente, porque el avance de su desarrollo también es muy rápido.

"Debo utilizar esta tecnología lo antes posible para beneficiarme de esta transición, para que vosotros os beneficiéis de esta nueva industria y no solo os veáis afectados por ella", ha matizado.

Junto con los beneficios que trae el uso de la IA, el directivo ha hecho referencia al consumo de energía que necesita esta tecnología para su desarrollo y ha reconocido que no se ha "planificado suficiente producción de energía".

"De repente, ha surgido esta nueva industria y nos encontramos en una situación en la que no tenemos suficiente capacidad para generar energía y todo el país está en apuros", ha valorado, antes de concretar que desde Nvidia han hecho por comunicarse con las comunidades e "informarles de lo que se avecina".

En este sentido, ha abogado por la energía sostenible, teniendo en cuando que "nunca antes en la historia" el mundo ha estado tan bien preparado para la transición a este formato.

"Gracias a la IA, hoy en día se consume más energía sostenible que nunca", sugiriendo, por tanto, que antes de llegar a la energía sostenible, se tiene que pasar por el consumo de recursos y combustibles fósiles de los centros de datos.

A modo de contexto, y de forma simple, compilar el kernel significa coger todo el código de Linux y convertirlo en algo que el ordenador pueda utilizar. Teniendo en cuenta que el kernel está formado por millones de líneas de código y muchísimos archivos, es un proceso pesado.

Lo curioso es que no todo se debe a que los procesadores sean cada vez más potentes. También se está trabajando en el propio sistema que utiliza Linux para compilar su kernel. Y aquí entra la inteligencia artificial, que es la encargada de echar una mano a los desarrolladores para encontrar formas de hacer este proceso más rápido.

Michael Larabel, de Phoronix, lleva muchos años utilizando la compilación del kernel como una prueba para medir el rendimiento de los ordenadores. Y la conclusión a la que ha llegado es que la época de irte a por un café mientras compilas Linux se está acabando.

De hecho, algunos de los cambios que se han hecho han conseguido mejorar el tiempo de este proceso incluso en procesadores que no son los más potentes del mercado. Así que no hablamos solamente de ordenadores caros y con especificaciones de la NASA.

Y todo esto parece gracias a la IA. Pero no porque esta se esté encargando del trabajo, sino porque está ayudando a los desarrolladores a mejorar los procesos.

Uno de estos trabajos ha estado dirigido por Lorenzo Stoakes, desarrollador del kernel, que ha participado en cambios para que el proceso de compilación sea más rápido. Para ello también se han utilizado modelos de IA como ayuda para encontrar problemas y potenciales mejoras.

¿Cuándo verás un kernel de Linux compilado en 10 segundos?

Desde luego, llegar a los 10 segundos no depende de una sola cosa. Hace falta que los procesadores sean aún mejores, que los discos SSD sean cada vez más rápidos y, además, que el propio Linux siga haciendo más eficiente su sistema de compilación.

Ahí es donde entran procesadores como los futuros Zen 6 y los nuevos SSD con PCIe 6.0. Sobre el papel, ambos pueden echar una mano a recortar todavía más el tiempo que se necesita para terminar una compilación al completo.

Pero tampoco significa que cualquier ordenador vaya a hacerlo en 10 segundos. Estamos hablando de equipos muy potentes y de una prueba concreta. Un PC normal seguirá tardando más, como es lógico.

La IA acelera Linux, pero no como este programador esperaba

Lo cierto es que, quizá para mejorar el proceso de compilación, la IA sea de gran ayuda. Sin embargo, para este programador, esta tecnología se está convirtiendo más en un retraso que en una mano derecha.

Lorenzo Stoakes, ingeniero de ARM y desarrollador de Linux, ha publicado 23 parches que sirven para acelerar la compilación del kernel. En determinadas configuraciones, compilar Linux puede llegar a ser hasta un 36% más rápido, mientras que algunas compilaciones mejoran hasta un 70%.

Lo curioso de todo esto es que usó un modelo de lenguaje para encontrar fácilmente los puntos en los que la compilación estaba perdiendo más tiempo y para buscar posibles soluciones. La IA hizo gran parte del trabajo, pero no siempre como se esperaba.

El propio desarrollador explica que generó "mucho código, gran parte de él horrible", y que tuvo que revisar y reescribir una cantidad importante.

Le tocó auditar una gran cantidad del código generado, reescribir partes y revisar uno por uno que los cambios fueran correctos. También cambió los mensajes de los commits, la documentación de los parches y los comentarios.

Es decir, la IA funcionó, en este caso, más como una herramienta de investigación y de apoyo al desarrollo que como un programador capaz de entregar 23 parches listos para meterlos en el kernel.

Por supuesto, la magia de esta tecnología es que fue útil para buscar problemas que quizá habrían requerido muchísimo tiempo de análisis manual, generar posibles soluciones y automatizar parte de las pruebas. Pero después hizo falta un desarrollador con experiencia para decidir qué servía de todo eso.

Desde hace un tiempo, la inteligencia artificial generativa ha estado generando miedo sobre el futuro de las profesiones STEM e IT. ¿Es cierto que los programadores tienen los días contados ante los modelos de IA?

El desempleo masivo es posible, pero no por las razones que la mayoría cree. A pesar de estos avances tecnológicos impresionantes, las grandes empresas siguen necesitando ingenieros, solo que el verdadero cambio es que están reduciendo drásticamente la incorporación de perfiles junior y recién graduados.

El problema no parece ser una caída en la demanda de programación, sino una transformación silenciosa en la forma en que las compañías construyen sus equipos, aunque esto también va a influir en el futuro. ¿Cómo harás para tener experiencia sin poder tener experiencia laboral?

La IA no está eliminando la necesidad de programadores, está elevando la barrera de entrada

Desarrollo de software, infraestructura y redes, ciberseguridad y otras áreas de este tipo de profesiones se están viendo afectadas de muchas maneras tras el auge de la inteligencia artificial.

La idea de que las grandes tecnológicas están despidiendo masivamente a desarrolladores es algo cada vez más grande y frecuente. Todo es por culpa de la tecnología, pero lo curioso es que no encaja con los datos más recientes.

Según el informe State of Tech Talent 2026 de SignalFire, la contratación de perfiles de nivel inicial y recién graduados se ha desplomado aproximadamente un 65% en las grandes compañías tecnológicas desde 2019.

Entre las empresas emergentes en etapas tempranas, la caída alcanza alrededor del 76%. Sin embargo, el mismo informe revela que la contratación de ingenieros en general ha resistido mucho mejor que la del resto de áreas, lo que demuestra que la necesidad de talento técnico sigue presente.

De hecho, las cifras muestran una tendencia muy diferente a la que sugieren los discursos más catastrofistas. Mientras la contratación total en las grandes tecnológicas se encuentra aproximadamente un 25% por debajo de los niveles de 2019, la contratación de ingeniería apenas ha retrocedido un 11%.

Incluso las startups aumentaron la incorporación de ingenieros respecto a años anteriores. La conclusión es clara: la programación continúa siendo una habilidad demandada, pero las empresas buscan profesionales capaces de aportar valor inmediato sin largos periodos de aprendizaje.

Parte de esta transformación está relacionada con herramientas de inteligencia artificial como GitHub Copilot, Cursor o Claude Code. Muchas de las tareas que tradicionalmente servían como entrenamiento para desarrolladores junior ahora pueden realizarse con ayuda de estas plataformas.

¿Para qué contar con una persona con conocimientos básicos si un asistente virtual puede hacerlo? Generar código repetitivo, hacer pruebas básicas, corregir errores o automatizar fragmentos rutinarios requiere menos intervención humana que hace unos años.

Eso no significa que la IA pueda reemplazar a un ingeniero, sino que reduce la necesidad de contratar a alguien cuya principal función consistía en aprender mientras realizaba ese trabajo inicial.

El verdadero riesgo para la industria es perder toda una generación de futuros ingenieros senior

Las investigaciones académicas apuntan en la misma dirección. Alicia Sasser Modestino, economista de la Universidad Northeastern, junto con Samuel Westby y Peiran Cheng, analizó la evolución de las vacantes tecnológicas utilizando datos de Lightcast.

Sus hallazgos reflejan una reducción relativa de entre el 14% y el 15% en las ofertas dirigidas a desarrolladores junior frente a las destinadas a profesionales con experiencia después de la expansión pública de ChatGPT.

La diferencia no está en que hayan desaparecido los empleos, sino en que muchas empresas han incrementado los requisitos de experiencia para puestos que anteriormente servían como puerta de entrada a nuevos graduados.

Los investigadores del Laboratorio de Economía Digital de Stanford detectaron una presión similar desde otra perspectiva. Erik Brynjolfsson, Bharat Chandar y Ruyu Chen observaron que el empleo entre trabajadores de 22 a 25 años en ocupaciones altamente expuestas a la IA se encontraba aproximadamente un 19% por debajo de la trayectoria esperada durante 2026.

Lo más llamativo es que no encontraron una brecha equivalente entre profesionales experimentados. En otras palabras, quienes están sufriendo las mayores dificultades para acceder al sector no son los ingenieros veteranos, sino quienes intentan conseguir su primera oportunidad laboral.

Aquí aparece una cuestión que podría afectar a toda la industria tecnológica durante la próxima década. Los ingenieros senior de hoy construyeron su experiencia enfrentándose a errores complejos, revisiones de código, incidencias en producción, pruebas automatizadas y numerosos proyectos imperfectos.

Ese recorrido permitió desarrollar criterio técnico y capacidad de liderazgo. Si las empresas continúan reduciendo sistemáticamente la contratación junior mientras delegan esas tareas de aprendizaje a herramientas de IA, podrían encontrarse dentro de cinco o diez años con una escasez de profesionales preparados.

No solamente eso, sino que la misma demanda de componentes ante esta tecnología está generando escasez de varias piezas esenciales para la computación avanzada y doméstica.

Aunque no lo parezca, no es algo que esté afectando únicamente a los PC Gaming, consolas u otros dispositivos debido a la crisis de memoria RAM y SSD.

El problema es tan grande que la IA afecta también a los dispositivos como los Raspberry Pi porque están perdiendo su esencia por el simple hecho de no adaptarse tan rápido a las exigencias de la ejecución de modelos de OpenAI, Meta, Microsoft o Google.

La fiebre de la IA está absorbiendo el hardware que antes llegaba a los usuarios

Cuando Raspberry Pi comenzó su trayectoria, la propuesta consistía principalmente en ofrecer una opción económica para aquellos que necesitan aprender informática o desarrollar proyectos concretos desde un "mini PC".

Este tipo de ordenador de placa única (Single Board Computer o SBC) ofrece ventajas como bajo precio, funciones prácticas y portabilidad debido a que es un dispositivo muy pequeño.

Por esto mismo es que sirve para iniciativas educativas, empresariales y personales, por lo que sigue sirviendo para generar proyectos interesantes con recursos mínimos.

Es evidente que una Raspberry Pi o una Banana Pi no son tan potentes como un PC gaming o una PS5, y es que tiene sentido porque son equipos destinados a otros tipos de funcionamiento. Sin embargo, he ahí el mismo problema que probablemente haga que desaparezcan con el tiempo.

¿Por qué? Porque actualmente hay un factor que no había antes y es la inteligencia artificial. Ahora, muchas de las tareas y funcionalidades que necesitan aplicar los usuarios que se vinculan con modelos de IA.

La propia carrera tecnológica que está consumiendo cantidades enormes de hardware, componentes que no pueden llevar dispositivos tan pequeños como los mencionados.

Las empresas buscan cualquier producto capaz de ofrecer potencia computacional para ejecutar IA, incluso si originalmente no fue diseñado para ese fin.

Un ejemplo especialmente llamativo llega desde NVIDIA. Diversas compañías están comprando unidades de la GeForce RTX 5090 en cantidades masivas para integrarlas en servidores de inteligencia artificial.

Esta situación ha contribuido a disparar los precios de una tarjeta que debutó con un precio oficial de 2.000 euros y que ha llegado a superar los 5.000 euros en algunos mercados.

Lo mismo sucede con respecto a la crisis de memoria RAM y SSD. Todo está subiendo porque los centros de datos exigen cada vez más y más. Al mismo tiempo, la ejecución de IA local o el uso constante de asistentes como Copilot, Gemini, ChatGPT y otros, es algo que definitivamente

Lo más interesante es que esta situación recuerda enormemente a la etapa de la minería de criptomonedas. En aquel momento, los mineros adquirían tarjetas gráficas en masa, provocando escasez y fuertes subidas de precio.

Hoy el fenómeno se repite, pero el protagonista ya no es Bitcoin o Ethereum. Ahora es la inteligencia artificial la que está absorbiendo recursos a un nivel sin precedentes.

Aunque Raspberry Pi no compite directamente con una RTX 5090, ambos casos reflejan una tendencia común ante la mencionada tecnología y esto deja claro nuevamente que hay una nueva era en la industria.

Raspberry Pi sigue viva, pero ya no representa la revolución que fue

Está claro que la Raspberry Pi sigue siendo una herramienta muy útil para realizar varias acciones con respecto a trabajo o experimentos de desarrollo, pero ese impulso de hardware económico es lo que hace que se frene cada vez más.

Llegará un punto en el que la propia comunidad de este tipo de productos exija que haya una mayor capacidad para que se adapte a esas funciones y sí, es posible que se logre, pero no tan pronto como se quisiera.

Por eso LaLiga está empezando a usar cada vez más la inteligencia artificial. La idea ya no es solo encontrar una web que esté emitiendo un partido de forma ilegal, sino seguir el rastro que deja y localizar de dónde sale y por dónde está pasando.

Aquí es donde entra en juego DRE, una herramienta que LaLiga está utilizando para automatizar buena parte de este trabajo.

Porque, la verdad, es que no es simplemente una IA que revisa Internet y confirma si una web está emitiendo fútbol pirata. Lo que hace es investigar todo lo que hay detrás de esa emisión y ayudar a LaLiga a actuar mucho más rápido.

¿Qué es DRE?

DRE son las siglas de Digital Rights Enforcement, algo que podríamos traducir como aplicación o protección de derechos digitales. La plataforma ha sido desarrollada por Randy Labs, una empresa portuguesa especializada precisamente en este tipo de sistemas.

Su objetivo es encontrar emisiones deportivas ilegales y ayudar a cortarlas lo antes posible.

Hasta ahora, buena parte de este trabajo tenía que hacerse de forma manual. Había que encontrar las emisiones, comprobarlas, averiguar de dónde venía la señal, localizar los servidores que estaban detrás y contactar con las empresas que podían hacer algo para detenerla.

El problema aquí es la magnitud. Cuando hay cientos o miles de emisiones que aparecen y desaparecen todo el tiempo, es una locura. DRE intenta automatizar todo ese proceso.

Podemos calificar este sistema como una especie de detective. Encuentra una emisión ilegal y, en lugar de quedarse simplemente con la página que estamos viendo, intenta seguir las pistas que hay detrás.

¿Cómo encuentra DRE las emisiones piratas y actúa en consecuencia?

El sistema empieza a trabajar incluso antes de que arranque el partido de fútbol, por ejemplo. Monitoriza las páginas y servicios donde pueden aparecer emisiones ilegales y va siguiendo las diferentes partes que forman la infraestructura utilizada para distribuirlas.

Gracias a esto crea un mapa perfecto de la piratería. Sabe dónde aparecen las señales, por qué servidores pasa, qué servicios están implicados y mucho más. Según explica Randy Labs, su plataforma está creada para hacer un trabajo que, de otra manera, podría necesitar un equipo de alrededor de 200 personas.

Pero todo esto va más allá y los agentes autónomos de la plataforma incluso pueden redactar y enviar las notificaciones dirigidas a los intermediarios que están participando en la distribución de una señal pirata. Piden algo muy claro: que se interrumpa la emisión.

Pero puede suceder que el destinatario responda pidiendo pruebas o alegando algo en concreto. En ese caso, los agentes de IA también pueden contestar y dar argumentos para defender la reclamación.

Es decir, la IA no solo busca la emisión. También puede encargarse de una parte de la conversación que viene después.

Eso sí, Randy Labs explica que existe supervisión humana durante los partidos. Un experto vigila lo que está ocurriendo mientras se produce el partido, aunque el sistema puede funcionar de forma autónoma.

¿Y qué pasa si el aviso de DRE no funciona?

Aquí aparece otra pieza del sistema llamada Airon. La idea es que, si un aviso no consigue que se pare una emisión, se pueda pasar a una fase más directa de bloqueo. Y esto es precisamente lo que hace que el sistema sea más polémico.

El problema es que en Internet una misma dirección IP puede estar siendo utilizada por muchos servicios diferentes. Puede haber una emisión ilegal compartiendo infraestructura con páginas o servicios que no tienen nada que ver con el fútbol. Por eso, bloquear una IP no siempre significa bloquear únicamente al pirata.

Esto, al final, es como un edificio en el que cortas la luz al bloque entero porque un piso está cogiendo luz de forma ilegal. Algo parecido ocurre con algunos bloqueos de Internet.

LaLiga afirma que sus sistemas intentan encontrar y bloquear la infraestructura de las emisiones ilegales sin afectar a servicios legales. Pero en la práctica, organizaciones de Internet y empresas han denunciado casos en los que estos bloqueos han terminado afectando a páginas que no tenían relación con la piratería.

¿Por qué LaLiga está utilizando inteligencia artificial?

La piratería se ha vuelto demasiado grande y rápida como para perseguirla únicamente a mano.

Cuando empieza un partido importante, pueden aparecer muchas emisiones ilegales al mismo tiempo. Algunas duran unos minutos, otras cambian de servidor y otras desaparecen antes de que se pueda actuar contra ellas. La IA permite vigilar muchas más cosas a la vez.

En lugar de tener personas buscando una por una las emisiones, el sistema puede rastrear Internet, encontrar posibles retransmisiones, analizar de dónde proceden y ayudar a decidir dónde tiene sentido actuar.

Todo esto, además, sucede muy rápido porque aquí la velocidad importa. Si una emisión ilegal consigue miles de espectadores durante un partido y se tarda una hora en encontrarla y actuar, el daño ya está hecho.

Y esa es precisamente la gran apuesta de LaLiga. Quieren utilizar IA para pasar de perseguir páginas piratas una por una a vigilar toda la infraestructura que hace posible esas emisiones.

ZoomIt nació hace más de 20 años por una necesidad muy concreta de Russinovich. Cuando impartía clases sobre Windows Internals, necesitaba una forma sencilla de ampliar determinadas zonas de la pantalla y dibujar sobre ellas para que los asistentes pudieran seguir sus explicaciones.

Con el tiempo, aquella pequeña utilidad fue incorporando muchas más funciones. Actualmente permite hacer zoom en tiempo real, realizar anotaciones, grabar la pantalla, capturar panorámicas y editar vídeo, además de incluir herramientas como un temporizador para las pausas durante las presentaciones.

El problema es que ZoomIt siempre estuvo ligado a Windows. Algunos empleados de Microsoft que utilizan Mac para realizar demostraciones de Git, GitHub, Copilot o Visual Studio Code llevaban tiempo pidiendo una versión para macOS, pero Russinovich no encontraba el momento para abordar el trabajo necesario.

El desarrollo para Mac no consistía simplemente en copiar el programa. ZoomIt necesita acceder a funciones específicas del sistema para capturar la pantalla, gestionar el audio, responder a determinadas combinaciones de teclas y mostrar elementos sobre otras aplicaciones.

Russinovich explicó que antes de la llegada de la IA ni siquiera se habría planteado realizar esta adaptación, porque primero habría tenido que aprender cómo funcionan esos sistemas en macOS.

Finalmente decidió probar otro enfoque. Consiguió un Mac, lo configuró para trabajar en el entorno corporativo de Microsoft y proporcionó al modelo de IA el código de la versión para Windows como referencia.

El resultado le sorprendió incluso a él. La primera base funcional de ZoomIt para Mac estuvo lista en aproximadamente media hora y después de unos doce mensajes al modelo de IA. Russinovich continuó trabajando durante el resto del fin de semana para incorporar funciones, corregir errores y adaptar determinados comportamientos al sistema de Apple.

Su previsión inicial era dedicar varios fines de semana, o incluso un par de meses, al proyecto. Sin embargo, al terminar aquel fin de semana ya tenía un clon funcional y bastante fiel de ZoomIt, con buena parte de sus características principales.

“Estaba alucinado”, explicó Russinovich al comprobar que el resultado estaba más de un 90 % terminado pese a que todavía quedaban algunos errores por solucionar.

La versión para Mac es gratuita y de código abierto y requiere macOS 14 Sonoma o una versión posterior. También es necesario conceder permiso para grabar la pantalla si se quieren utilizar las funciones correspondientes.

Puedes descargarla desde el repositorio de Microsoft en GitHub o instalarla mediante Homebrew. Una vez instalada, ZoomIt aparece en la barra de menús y permite ampliar la pantalla, dibujar o iniciar una grabación.

La adaptación todavía puede tener algunos fallos, pero el experimento demuestra hasta qué punto la IA puede acelerar la adaptación de software existente a plataformas diferentes.

Si una máquina ya puede hacer lo que un desarrollador junior es capaz, ¿qué hace especial a los profesionales? Es algo que se mantiene la mente de muchas personas, pero la realidad es que la inteligencia artificial no va a reemplazar a los humanos.

Sin embargo, Kent Beck, una de las figuras más influyentes en la programación, afirma que hay que adaptarse para poder sobrevivir al impacto tecnológico. Ya no se trata solo de lo técnico, sino también de la capacidad de aprender habilidades para volverse un "ingeniero de producto".

Kent Beck cree que el reto de los programadores ya no es únicamente técnico

La experiencia en arquitectura de sistemas o diversos lenguajes de programación son sectores que están siendo abarcados por la inteligencia artificial gracias a los distintos asistentes disponibles en la actualidad.

Si bien ya muchos expertos han hablado sobre qué estudiar para sobrevivir a la IA, Ken Beck tiene algo muy importante que agregar y que se alinea con la perspectiva del padre de Claude Code, Boris Cherny.

Las declaraciones han sido tomadas de la reciente entrevista en el podcast The Pragmatic Engineer. Según explica, los asistentes virtuales como Codex de OpenAI y otros han causado una transformación en el rol de los ingenieros de software.

Estas tecnologías multiplican la productividad a un punto que antes era inimaginable. Ahora, con un prompt puedes aumentar la velocidad de un proyecto considerablemente y es eso lo que hace dudar a muchos.

No obstante, en la conversación dijo que "a veces somos un poco imbéciles", haciendo referencia a ciertas limitaciones sociales que históricamente han acompañado a parte del colectivo de programadores.

Beck afirma que la mayoría de los programadores siempre han destacado por su capacidad técnica, pero actualmente ese no es el foco porque no solo hacen falta esas habilidades. Además de estos conocimientos, se necesita comunicación y empatía.

"No necesariamente tenemos buenas habilidades de regulación emocional. No tenemos empatía natural" es lo que agregó, aclarando que son características cruciales para un entorno laboral donde la interacción humana gana importancia.

Dominar una computadora y aprender a programar ya no basta para construir una carrera exitosa en los próximos años. Con el crecimiento de la IA, el crecimiento profesional depende de los otros factores a los que normalmente un desarrollador no está acostumbrado.

Como creador de Extreme Programming (XP), pionero del desarrollo guiado por pruebas (TDD) y uno de los firmantes del Manifiesto Ágil, decir esto tiene muchísimo peso en la industria.

La IA impulsa el nacimiento del "ingeniero de producto"

Generar grandes cantidades de código, crear prototipos funcionales o acelerar tareas repetitivas es algo que se lo puedes asignar a Claude Code, por lo que el papel de los programadores no va a ser reemplazado u olvidado, sino que va a cambiar.

Las funciones principales que podrían tener los profesionales durante la siguiente década son la supervisión, validación y coordinación.

De hecho, es algo que ya se está viendo en la actualidad, donde muchos reportan que ahora es necesario invertir más tiempo en revisar y mantener código que crearlo desde cero.

Junto a declaraciones de Amol Avasare, director de crecimiento de Anthropic, recogidas por Business Insider, los ingenieros que utilizan asistentes virtuales son de dos a tres veces más veloces.

De aquí está surgiendo el perfil híbrido que algunas empresas llaman "ingenieros de producto", los cuales están centrados en pequeños gestores de producto que se encargan de responsabilidades que van más allá del código.

Esto incluye gestionar expectativas de diferentes áreas, colaborar con diseñadores, comunicarse con responsables de negocio y coordinar a múltiples partes interesadas. Por lo tanto, adaptarse a estas nuevas exigencias es lo que podría garantizar un trabajo en el futuro.

Aunque TypeScript logró convertirse en el lenguaje más utilizado en GitHub durante agosto de 2025, Python mantuvo un crecimiento interanual del 49%.

La evolución es grande con este lenguaje de programación porque las cifras marcan una gran diferencia. Cada vez más profesionales comienzan su formación técnica utilizando herramientas vinculadas a la IA para prepararse para los próximos años tecnológicos.

La historia de Python va del proyecto personal a la base de la IA moderna

Cuando GitHub compartió con Guido van Rossum los datos de Octoverse 2025, el creador de Python reconoció que le sorprendió ver el crecimiento registrado por el lenguaje.

Aunque TypeScript tomó la delantera en GitHub, Python sigue siendo la opción predominante en ámbitos relacionados con la inteligencia artificial, la investigación científica y la educación tecnológica.

Según explicó el propio Guido, los datos contrastan con otros indicadores de popularidad, como el índice TIOBE, lo que demuestra que la adopción de un lenguaje puede variar según la métrica utilizada.

La historia de Python comenzó mucho antes del auge de la IA. Van Rossum desarrolló el lenguaje a principios de los años noventa mientras buscaba una alternativa más segura y productiva que C, pero mucho más flexible que los scripts de shell disponibles en aquella época.

En la entrevista publicada por GitHub, recordó que quería un entorno capaz de gestionar automáticamente aspectos complejos como la asignación de memoria, permitiendo a los programadores concentrarse en resolver problemas reales en lugar de lidiar con detalles técnicos de bajo nivel.

Esa filosofía inicial sigue vigente décadas después. La claridad de la sintaxis, los mensajes de error comprensibles y la legibilidad del código han convertido a Python en uno de los lenguajes más accesibles del sector.

Además, herramientas ampliamente utilizadas como NumPy, pandas, PyTorch, Jupyter, Django o FastAPI han contribuido a que desarrolladores, científicos de datos y empresas encuentren una plataforma madura para construir proyectos de cualquier escala.

Guido van Rossum explica por qué la IA y Python avanzan juntos

Uno de los puntos más interesantes de la conversación gira alrededor de la estrecha relación entre Python y la inteligencia artificial. Para Guido van Rossum, el dominio del lenguaje en este sector no es fruto de la casualidad, sino de un efecto acumulativo generado por años de desarrollo del ecosistema.

Cuando una tecnología consigue una masa crítica de usuarios y bibliotecas, se vuelve cada vez más atractiva para nuevos proyectos. En consecuencia, más desarrolladores crean herramientas sobre la misma base tecnológica, reforzando todavía más su posición.

Van Rossum destacó que muchas de las personas que actualmente programan soluciones de IA ya estaban familiarizadas con Python mucho antes de la popularización de los modelos generativos.

En sus palabras, "Las personas que ahora escriben cosas para IA están familiarizadas con Python porque comenzaron en el aprendizaje automático".

Esta afirmación ayuda a entender por qué frameworks esenciales para el sector, como PyTorch o Hugging Face Transformers, han encontrado en Python un terreno ideal para crecer.

El recorrido habitual de numerosos profesionales pasa por el análisis de datos, continúa con el machine learning y termina desembocando en proyectos basados en modelos de lenguaje avanzados.

A pesar de la expansión de la IA generativa, Guido no considera que Python deba transformarse radicalmente para adaptarse a los modelos de lenguaje.

De hecho, rechazó la idea de introducir cambios drásticos únicamente para facilitar el trabajo de la inteligencia artificial. "No creo que debamos entrar en pánico y empezar a hacer un montón de cosas que podrían facilitarle las cosas a la IA", afirmó.

Para él, el reto principal no está en el lenguaje, sino en la calidad de los datos con los que se entrenan los modelos. Su postura mantiene una idea que ha acompañado a Python durante más de tres décadas: la tecnología debe adaptarse a las personas y no al revés.

Más allá de las cifras y las tendencias actuales, el caso de Python demuestra que la simplicidad bien ejecutada puede tener un impacto duradero.

Con la IA impulsando nuevas formas de desarrollar software y con millones de personas aprendiendo a programar cada año, Python sigue siendo una puerta de entrada accesible, estable y preparada para las próximas generaciones de desarrolladores.

Sin ir más lejos, hasta los propios desarrolladores están empezando a plantearse cómo explicarle a la IA y los agentes que actúan por su cuenta las reglas específicas que deben seguir. Y la solución que se está estudiando es crear un archivo pensado directamente para ellos.

El archivo se llama AGENTS.md y su función sería servir como una especie de guía para los agentes de IA que trabajen con el código del kernel. No pretende cambiar la forma en la que funciona Linux ni añadir nuevas reglas al código. Simplemente se encarga de decirle a la IA dónde están las normas que debe consultar antes de ponerse a tocar el kernel.

La propuesta parte de Sasha Levin, un desarrollador de Linux que ya ha trabajado en otros proyectos relacionados con el uso de IA dentro del desarrollo del kernel. En esta ocasión, la idea nace después de comprobar que algunos agentes no seguían algunas normas cuando no tenían estas instrucciones a mano.

En las pruebas que se han hecho, una IA llegó a añadir por su cuenta un Signed-off-by a un parche, aunque no debería hacerlo sin que el propio usuario haya dado su consentimiento. También utilizó una etiqueta de atribución propia en lugar de la que utiliza el proyecto Linux.

Lo bueno es que todo esto cambió cuando se añadió el nuevo archivo con las instrucciones. A partir de ese momento, los agentes siguieron mucho mejor las normas del kernel.

¿Qué quiere conseguir Linux con un archivo para la IA?

La idea que hay detrás no es la de enseñar a una IA a programar desde cero y a adaptarlo todo a Linux. Los modelos actuales ya son capaces de leer código, modificar archivos, proponer cambios y generar parches. El problema es que programar Linux no es solo escribir código que funcione.

El kernel tiene sus propias normas de desarrollo. Hay formas de enviar parches, estructuras para las atribuciones y reglas que los desarrolladores deben respetar antes de que un cambio pueda llegar al proyecto.

Una persona que lleva años trabajando en Linux conoce estas reglas o sabe dónde consultarlas. Un agente de IA, en cambio, necesita que, al menos, se le indique.

Eso es precisamente lo que pretende solucionar este archivo. La propuesta de Levin consiste en añadir un AGENTS.md al árbol de código fuente del kernel. Por ahora, el contenido simplemente enlazaría con el README de Linux, que a su vez dirige hacia documentación sobre asistentes de código y otra información para quienes desarrollan el kernel.

La cantidad de código generado con ayuda de IA está creciendo tanto que los propios responsables del kernel afirman estar desbordados

Pese a la gran utilidad de la IA, lo cierto es que no es oro todo lo que reluce y, si bien esta va a seguir formando parte del kernel de Linux, también hay que aceptar que no todo lo que entrega es de calidad y, sin embargo, todo debe ser revisado.

Para algunos, lo que comenzó como una herramienta con enorme potencial (con la que todos estaban de acuerdo) para ayudar a los programadores, se ha convertido en una pesadilla que está colapsando las listas donde se gestionan los fallos de seguridad más críticos de la plataforma.

No todos esos resultados son útiles. Las herramientas de IA no siempre entienden el contexto completo del sistema, y muchas veces señalan posibles errores que en realidad no afectan a nadie o que ni siquiera son verdaderos problemas.

Aun así, esos avisos llegan a los desarrolladores como si fueran importantes. Y aquí es donde empieza el problema de verdad.

"El único control o mecanismo de seguridad que necesita la IA es un presidente fuerte e inteligente (¡con un alto coeficiente intelectual!) y Estados Unidos lo tiene de sobra", ha asegurado el mandatario en su perfil personal en Truth Social.

El presidente estadounidense ha respondido así a los cientos de comentarios que circulan estos días relacionados con el poder de la inteligencia artificial y los riesgos que conlleva su desarrollo, algo sobre lo que han puesto la lupa directivos como Darío Amodei y Sam Altman.

Y es que hace solo unos días, el director ejecutivo de Anthropic y el de OpenAI alertaban de que el fin de la humanidad podría tener fecha, en 2030, a causa del incontenible avance de las capacidades de la IA.

Trump califica la situación de "conspiración enfermiza"

El presidente estadounidense no suele morderse la lengua en público, cuanto menos cuando utiliza su propia red social, en la que habitualmente señala a todo aquel con el que no está de acuerdo y quiere ofender.

Con ello, suele echarse flores a sí mismo por su gestión. "La Administración Trump ha impedido que los "humanos" de IA hagan cosas malas o potencialmente malas, como Darío [Amodei]", a quien ha denominado "antropocrático", en un juego de palabras con el nombre de su empresa.

Sobre Amodei, el mandatario ha sostenido que "se hace pasar por un 'angelito perfecto", pero que eso no ha desviado la atención de su Gobierno, que tiene "un enorme poder criminal y regulatorio sobre estas empresas".

"Hay una conspiración enfermiza en marcha en contra de la IA y los centros de datos y el único que se alegra de ello es China", ha sostenido Trump, que ha insistido en que "quien lidera en la carrera de la IA, gana".

"Estamos liderando a China y a todos los demás y seguiremos haciéndolo. Teóricos de la conspiración, traidores, delincuentes y filtradores, ¡tengan cuidado!", ha amenazado antes de concluir este mensaje.

China, al pie del cañón para superar a Estados Unidos

Estados Unidos y China lideran una guerra por estar en lo más alto del podio de la inteligencia artificial y lo cierto es que en los últimos meses hemos visto un constante tira y afloja por llevarse la medalla.

Frente a gigantes de la IA ubicados en Estados Unidos, como OpenAI, Anthropic o Perplexity AI, China radica en su terreno decenas de startups dispuestas a comerle la tostada al país del otro lado del oceáno.

Es el caso de Moonshot AI, una compañía de nueva creación que ha creado Kimi K3, un modelo de lenguaje que reúne 2,8 millones de parámetros y que, a diferencia de sus competidoras americanas, ha optado por liberar todos sus datos para que cualquiera lo pueda descargar y usar de manera gratuita en sus servidores.

DeepSeek, Alibaba y MiniMax son otras de las empresas con las que el país asiático ha querido demostrar su superioridad y que destacan por sus modelos de razonamiento, sus capacidades multimodales e interfaces de programación de aplicaciones (APIs) económicas.

Teniendo en cuenta el potencial que tiene China en este ámbito, es lógico pensar que Estados Unidos no quiera pisar el acelerador en el desarrollo de una tecnología con la que, por el momento, también está liderando el mundo.

Un siglo de exploración demuestra que el equipo podía ser tan importante como el coraje y que una necesidad podía terminar convirtiéndose en un invento. En la década de los 30, Fernand Petzl comenzó a fabricar equipos; junto a Pierre Chevalier desarrolló sistemas para progresar por cuerdas y, en 1956, una expedición en el Vercors alcanzó los 1.122 m de profundidad en el Gouffre Berger. En 1973 llegó su primer frontal para alpinistas y espeleólogos. En 1931, Auguste Piccard y Paul Kipfer ascendieron a la estratosfera en una cápsula presurizada; varias décadas después, en 1960, Jacques Piccard bajaba hasta 10.911 m en la fosa de las Marianas. En 1982, la Scientific Exploration Society probaba GPS en las selvas de Honduras y, en 1984, John Blashford-Snell ponía a prueba una chaqueta GORE-TEX en el Tíbet.

El patrón era simple: llevar un invento a un lugar extremo, descubrir qué funcionaba y qué debía mejorar. Aquellas expediciones sirvieron como bancos de pruebas para tecnologías que después acabarían formando parte de nuestra vida cotidiana. Eran laboratorios sobre el terreno para llevar al límite relojes, radios, prendas capaces de proteger del frío y la lluvia, sistemas de guiado y fuentes de energía antes de que acabaran en las tiendas. Y la tecnología siguió avanzando: aquel frontal pionero evolucionó hasta los actuales LED; los sistemas GPS transformaron la navegación y redujeron la dependencia de los mapas y las brújulas; y las comunicaciones y los dispositivos de emergencia permitieron pedir ayuda donde antes solo quedaba esperar. La tecnología no ha eliminado el frío, la oscuridad ni el riesgo, solo ha cambiado nuestra relación con ellos. Y aunque los mapas ya no están llenos de dragones, el mundo sigue siendo un lugar por descubrir. El límite lo pones tú.

Descubre en vídeo los temas principales de este número

ACTUALIDAD

• Top 5: Noticias importantes y lo que significan para ti.
• Foto de la semana: Fórmula 1 sobre las vías del metro.
• El tema de la semana:
  › Iberia lleva Internet de casa a 10.000 metros de altura.
  › Los SmartTV ya no serán tan baratos.
  › ¿Quién paga los platos rotos? / Fraude con reservas de Booking.
  › Un capricho caro / YouTube se pasa de la raya.
  › Teams sabrá dónde estás / ChatGPT, en vez de Maps.
  › Netflix, IA para crear / Una mascota que hay que querer.
• Todo sobre seguridad: Capturas de pantalla falsas.
• El gadget de la semana: Botella BRITA LARQ iQ.
• Novedades: Lo último en tecnología, educación, streaming y startups.
• El pasatiempo de la semana: Autodefinido.

PRÁCTICO

• Aprovechar la IA (2ª parte): PAU, Universidad y Oposiciones.
• Microsoft Excel: Rellena datos más rápido.
• Mejora el rendimiento de tu equipo: 7 Consejos para ahorrar batería del portátil.
• Tus aplicaciones favoritas: Los mejores trucos.
• Centro de descargas: Los mejores programas gratuitos para PDF.
• Todo sobre tecnología: Lo que siempre quisiste saber y nunca te atreviste a preguntar.

TEST

• Tecnología para tus aventuras: Gadgets al aire libre.
• 7 HDD externos: Titanes para tus datos.
• Tablet profesional: Lenovo ThinkTab X11.
• Test: Roomba Max 775 Combo, Nacon RIG R5 PRO HS, Spotlight Camera 4K Pro.

SABER MÁS

• Tecnología para todos:
  › El lado humano de los centros de datos.
  › Un robot en la familia.
• Echamos la vista atrás: Hace 25 años te contábamos...
• El usuario inconforme: ¿Tú también, IA, amiga mía?
• Preguntas & Respuestas / Cartas del lector.
• En el próximo número.

El año 2030 siempre ha sido una fecha marcada en el calendario de las empresas de inteligencia artificial, ya sea porque se cree que para entonces se habrá conseguido alcanzar la inteligencia artificial general (AGI) o, en el peor de los casos, porque esa misma tecnología haya acabado con la humanidad.

A pesar de que la gran mayoría de gurús de la tecnología han asegurado que la IA puede llegar a destruir el mundo si no se le pone freno con urgencia, parece que hay alguna que otra voz discordante con respecto a este tema.

Es el caso del CEO de Nvidia, que ha dejado caer en diferentes entrevistas recientes que no cree que la IA represente una amenaza existencial para la humanidad y que su buen hacer depende de la ética de cada empresa.

Jensen Huang cree que habrá que "cerrar los laboratorios"

El director ejecutivo de Nvidia es un hombre optimista en cuanto a la IA se refiere y cree que, llegado a este punto, lo más sencillo y sensato es que las empresas sigan trabajando en sus modelos, pero sin hacerlos públicos.

"Si vas a construir un coche autónomo, digamos que es un robotaxi, y nos encontramos con una situación realmente difícil, como ingenieros no tenemos ni idea de cómo resolver este problema, porque estos coches no están programados, sino entrenados", ha explicado Huang en una entrevista con Ezra Klein.

Teniendo en cuenta que estas IAs son responsabilidad de las empresas que las fabrican, el director ejecutivo de la firma tecnológica ha insistido en que está en sus manos lo que suceda con ellas una vez las pongan en manos de los usuarios.

Y, como hay muchos riesgos asociados a ellas, considera que la única solución a esto es cerrar los laboratorios, una situación que ha comparado de una manera muy particular con la industria del automóvil.

"No sabemos cómo entrenarlos [a los coches] ni cómo adaptarlos a las normas de seguridad exigidas en la carretera", ha añadido, asegurando la única "solución" que vería en ese caso sería no comercializar con estos dispositivos.

Probarlo hasta que funcione con seguridad y luego lanzarlo

Huang también ha buscado quitarle la razón a personalidades como Amodei, que consideran que la IA debe ralentizarse, insistiendo en que se deben resolver los problemas que pueda presentar esta tecnología antes de lanzar estos productos.

“Ahora bien, si [los laboratorios de IA] plantean la alternativa, que es: No hay manera de contener nuestros experimentos, simplemente no hay manera; cuando probemos nuestros modelos de IA, se escaparán y dañarán al mundo, entonces creo que la respuesta es que tenemos que cerrar los laboratorios”, ha asegurado tajantemente.

Con ello, el director ejecutivo de Nvidia ha apelado a las buenas prácticas de las empresas que desarrollan tecnología, que deberían plantearse primero si lo que van a lanzar es óptimo, antes de hacerlo sin medir las consecuencias que esto tenga.

"El costo para la humanidad y el daño es demasiado grande. La responsabilidad es increíble", ha indicado finalmente, subrayando lo importante que es que cada una de estas tecnológicas tengan consciencia de lo que están haciendo por la sociedad.

Para intentar hacer frente a todas las vulnerabilidades (CVE) que se descubren en el kernel de Linux gracias a las herramientas de IA, Canonical, la compañía que está detrás de la distribución de Ubuntu, ha decidido cambiar radicalmente su estrategia de correcciones de seguridad.

A partir de ahora, procesará y distribuirá las correcciones de seguridad para el núcleo de Linux en períodos de 2 semanas; o lo que es lo mismo, ha optado por reducir a la mitad los tiempos de espera habituales hasta este momento, según ha anunciado en su página oficial.

Esta decisión responde a un cambio que se ha dado en toda la industria. Antes, los equipos de análisis de seguridad –e incluso los ciberdelincuentes– tardaban bastantes más tiempo en auditar miles de líneas de código, pero en la actualidad esta franja de tiempo se ha reducido vertiginosamente con los sistemas automatizados que tienen detrás a los grandes modelos de lenguaje natural (LLM).

Además, desde 2024 los organizadores del kernel de Linux son los propios auditores del núcleo para asignar las vulnerabilidades, por lo que hay miles de estas que se encuentran con mayor asiduidad y que, anteriormente, se reconocían simplemente como fallos mecánicos.

Con este nuevo cambio anunciado por Canonical, las actualizaciones ordinarias pasan de 4 semanas y las unifica junto a los parches de seguridad intermedios a las 2 semanas, por lo que se acelera todo el proceso.

Además, cada semana el equipo de Canonical inicia una nueva fase de trabaja de 14 días en total; con ello, a pesar de que cada parche individual tarde 2 semanas en pasar los controles pertinentes, cada viernes se publicará una nueva actualización en los servidores de Ubuntu.

De esta forma, el proceso se centra en 2 fases clave: la primera semana para la preparación y la integración, con las correcciones de código y la compilación del nuevo kernel, así como pruebas básicas; la segunda semana para certificación e integración, con pruebas de estabilidad y su posterior publicación.

Es una grandísima noticia para todos los administradores de sistemas e infraestructuras que requieran actualizaciones periódicas y que no puedan esperar incluso las 2 semanas, ya que hay una vía de emergencia que ha presentado Canonical.

En tal caso, se ofrecerá acceso en 7 días mediante un repositorio de pruebas denominado -proposed, que se publica inmediatamente para quienes necesiten la mayor urgencia ante un ataque inminente, corrigiéndola en una sola semana.

Adicionalmente, hay un apartado para las mitigaciones extremadamente rápidas que sucedan en 24 a 48 horas, sobre todo para las vulnerabilidades críticas, ya que Canonical se ha comprometido a mitigar estas con medidas o soluciones temporales dentro de este plazo.

Para el usuario de a pie que use Ubuntu, esto se traducirá en que verá más actualizaciones semanales, en lugar de archivos más pesados cada mes; para centros de datos, servidores en la nube e infraestructuras críticas, básicamente se reduce el período de actualizaciones a la mitad.

Con ello, Canonical pretende estar mucho mejor preparada para las vulnerabilidades en un mundo en el que la IA no para de detectar y crear nuevas amenazas para los equipos de ciberseguridad.

El problema viene cuando las conversaciones pasan de preguntarse por lo que puede hacer una IA a cómo es posible que ya esté actuando por cuenta propia. Mhairi Aitken, antigua investigadora del Alan Turing Institute y cofundadora de Our AI Collective, cree que estamos mezclando las dos cosas y que se está creando una historia más exagerada de lo que es realmente.

Andrew Rogoyski, investigador de la Universidad de Surrey, también considera que hay que tomarse las cosas con más calma. Comenta que los avances que hay ahora mismo en IA son importantes, pero no ha ocurrido en los últimos años ese cambio enorme que permita decir que las máquinas están a punto de escaparse de nuestras manos.

La duda que plantean estos expertos es que, si el peligro es tan grande como dicen, ¿por qué las empresas siguen desarrollando estos sistemas a toda velocidad?

¿La IA se está escapando de verdad del control de los humanos?

Es cierto que algunos modelos de IA han conseguido encontrar vulnerabilidades, crear herramientas para atacar sistemas y hacer correcciones en de ciberseguridad que hasta hace poco parecían bastante imposibles.

Pero debes saber que muchas de estas pruebas se hacen precisamente para comprobar si la IA es capaz de hacerlo.

Aitken explica que, si una empresa le da a un modelo acceso a un entorno de pruebas y le pide que intente encontrar la forma de entrar en un sistema, que el modelo consiga hacerlo no significa que haya decidido convertirse en un hacker por su cuenta.

Esto es algo que Andrew Ng, experto en IA, también ha comentado. Explica que, si una persona utiliza un agente de IA y le pide que acceda a un sistema informático y toma la vía del ataque, no tiene mucho sentido decir que "la IA ha decidido atacar". El sistema está haciendo lo que se le ha pedido dentro de sus capacidades.

De forma simple, los responsables de la prueba le dieron unas herramientas y unos permisos que le permitieron hacerlo.

El problema aquí está en las libertades que compañías como OpenAI le dan a la IA, pero no es lo mismo que decir que una IA que ha tomado el control y actúa con sus propios objetivos.

En la newsletter que ha publicado Andrew Ng explica perfectamente lo que está sucediendo con un ejemplo: si coges un martillo para clavar un clavo, fallas y terminas haciendo un agujero en la pared; el martillo no tiene la culpa. El problema está en cómo lo has utilizado.

En pocas palabras, los creadores tienen que hacer una herramienta segura. Pero si alguien utiliza ese martillo para hacer algo que no debería, tampoco se puede culpar al objeto como si tuviera voluntad propia.

La superinteligencia de la que tanto se habla todavía no está aquí

Este es otro de los grandes temas: una inteligencia artificial que se mejora a sí misma, se vuelve cada vez más inteligente y nos supera en todos los aspectos.

Muchos expertos catastrofistas hablan de que esto va a ocurrir dentro de pocos años o que directamente ya existe, pero Aitken asegura de forma rotunda que no hay pruebas concretas de que las IA actuales estén haciendo algo ni siquiera parecido de forma autónoma.

Eso no significa que sea imposible en el futuro. Simplemente significa que ahora mismo, en pleno 2026, no se debería hablar de ello como si ya estuviera ocurriendo o fuese a suceder en 2030, por ejemplo.

Por supuesto, y teniendo en cuenta la guerra actual que hay por liderar el sector, Rogoyski no dice que esto sea totalmente imposible de conseguir. Pero, desde luego, afirmar que esa IA estará bastante lejos de pensar como un humano.

Pero, como comenta, cree que hablar todo el tiempo de una futura superinteligencia también beneficia a las propias empresas de IA. Genera expectación, atrae inversión y llama la atención de todo el mundo.

Esta novedad, denominada Custom Feeds, permitirá crear una especie de canal personalizado dentro de la propia página de inicio de YouTube. En lugar de limitarse a las recomendaciones generadas por el algoritmo tradicional, el usuario podrá utilizar lenguaje natural para indicarle a la plataforma qué quiere ver en cada momento.

Por ejemplo, será posible pedirle que cree al instante algo como "Pódcasts entretenidos para mis 30 minutos de camino al trabajo", "Documentales para relajarme por la noche" o "Nuevos creadores de bricolaje de los que aprender sobre madera". A partir de esa instrucción, YouTube generará una selección de vídeos adaptada a la petición y a los intereses del usuario.

Un feed que se adapta a cada momento

La idea supone un cambio importante en la forma de descubrir contenido en YouTube. Hasta ahora, parte de la experiencia de la página principal dependía de las señales recopiladas por el algoritmo: vídeos vistos anteriormente, búsquedas, canales seguidos o interacciones con otros contenidos.

Con los nuevos feeds personalizados, el usuario podrá tener un papel mucho más activo. Estos espacios podrán mantenerse accesibles desde la pantalla de inicio y actualizarán sus recomendaciones automáticamente con nuevos vídeos.

De esta forma, no existirá un feed único para cada usuario, sino que se podrán crear selecciones concretas para rutinas específicas o estamos de ánimo.

Por ahora, la función se está desplegando de forma gradual y su disponibilidad inicial está limitada a Estados Unidos.

La IA también llega a la creación de vídeos

La compañía también ha presentado nuevas herramientas de inteligencia artificial para facilitar el trabajo de los creadores.

Entre ellas se encuentra un editor conversacional integrado en Shorts y en YouTube Create. La herramienta puede ayudar a realizar cortes, eliminar pausas y reorganizar escenas a partir de indicaciones del usuario, aunque la edición manual seguirá estando disponible.

YouTube Studio también incorpora nuevas herramientas para analizar y mejorar los vídeos antes de publicarlos. Entre las novedades se encuentran sugerencias automáticas sobre los primeros borradores, generación de miniaturas adaptadas al estilo de cada canal y pruebas A/B con hasta 3 versiones diferentes de un vídeo para comprobar cuál consigue mejores resultados.

Doblaje automático en tiempo real para los directos

Otra de las novedades que puede cambiar la forma de consumir emisiones en directo es el doblaje automático en tiempo real.

Esta función comenzará traduciendo vídeo en inglés y español y, posteriormente, se ampliará a más idiomas. De esta forma, un creador podrá emitir en un idioma mientras espectadores de otros países reciben el contenido doblado automáticamente.

La plataforma también ha anunciado Live Showdowns, una función que permite combinar dos retransmisiones para crear enfrentamientos entre creadores, y una ampliación de Watch With, que permite reaccionar junto a otros espectadores durante determinados contenidos.

YouTube también quiere que compres desde los vídeos

La inteligencia artificial tendrá además un papel cada vez mayor en las compras. YouTube está ampliando Ask YouTube, su herramienta conversacional, para que pueda actuar como asistente a la hora de descubrir productos.

La plataforma podrá ofrecer recomendaciones y comparativas directamente desde la página de reproducción, además de permitir preguntas de seguimiento.

El programa de afiliación para creadores también se ampliará a 35 países antes de que termine el año y YouTube incorporará nuevas posibilidades para etiquetar productos.

La compañía liderada por Mark Zuckerberg ha dado a conocer esta novedad en el marco de Meta Connect, un evento que celebra anualmente y en el que hace un repaso de los avances que ha hecho en IA, gafas inteligentes y realidad extendida.

Este evento ha arrancado este miércoles con un discurso del propio director ejecutivo, que ha defendido que esta tecnología está pensada para "empoderar a las personas" y que tiene el objetivo de lograrlo con Muse.

Muse es su agente de inteligencia artificial, un sistema avanzado que se encarga de realizar tareas complejas en la nube, como gestionar calendario o reservar viajes y que precisamente está inetgrado en su nuevo dispositivo. Hablamos de Muse Charm.

¿Qué es Muse Charm, el nuevo tamagotchi de Meta?

Muse Charm es un dispositivo creado específicamente para este agente de inteligencia artificial y que se ha podido ver por primera vez en este encuentro, donde no ha habido tregua para comenzar a compararlo con los tradicionales tamagotchis de Bandai.

La empresa tecnológica ha desarrollado este dispositivo para fomentar una mejor comunicación con el agente de IA, a fin de que la interacción con Muse sea más fluida y personalizada, aunque no ha dado más detalles sobre este dispositivo.

Por lo que se puede apreciar en las imágenes, se trata de una suerte de tag de un tamaño mayor, que tiene un formato cuadrado con esquinas redondeadas y que dispone de una cámara en el centro superior de la pantalla.

Al igual que los smartphones, este dispositivo también se puede llevar con una correa, que se coloca en la parte inferior, lo que facilita su transporte, ya sea en el bolsillo o en la propia mano.

En el centro de la pantalla se encuentra un personaje de animación que se mueve y puede seguir los movimientos del dispositivo aunque, por el momento, no se ha concretado si es la única mascota de Muse Charm ni en qué regiones se podrá comprar este terminal.

Meta VR Glasses y gafas Smart, entre las novedades en Meta Connect

Junto con Muse Charm, la empresa tecnológica ha estrenado las Meta VR, unas gafas de realidad virtual que vienen con certificación IMAX Enhanced, ofrecen películas en 3D y pesan alrededor de 100 gramos.

Las gafas tienen un diseño muy innovador, debido a que disponen de laterales abiertos y una cámara de visión periférica que permiten al usuario estar atento a lo que sucede a su alrededor cuando las llevan puestas.

La empresa tecnológica también ha querido aclarar que este dispositivo es cinco veces más ligero que las Meta Quest 3 gracias precisamente a ese sistema, que se divide en dos partes.

Esto significa que, mientras que las gafas VR gestionan los sensores y la pantalla, el dispositivo, conectado mediante un cable óptico, se encarga del procesamiento, la batería y el almacenamiento. Esta última, por cierto, se puede llevar en el bolsillo o en el bolso.

Estas gafas disponen de una pantalla infinita 5K basada en paneles micro-OLED, con 37 píxeles por grado, que ofrecen gran claridad y detalles, a fin de favorecer la legibilidad de los textos. Asimismo, se combinan de las tecnologías Dolby Vision y Dolby Atmos.

Con ellas, la compañía ha avanzado el lanzamiento de las Ray-Ban Meta Audio, unas gafas con audio que dejan a un lado las controvertidas cámaras de la anterior generación y que solo pesan 43 gramos.

Meta ha confirmado que con estas gafas, que también funcionan con su asistente de IA con manos libres hasta 12 horas con una sola carga, se puede escuchar música y pódcast, así como contestar a llamadas con una calidad alta.

En este contexto, cuestiones relacionadas con el impacto de la IA en la programación, las profesiones tecnológicas del futuro y las habilidades más demandadas en ingeniería de software se han convertido en algunos de los temas más buscados dentro del sector.

Al mismo tiempo, empresas, universidades y expertos analizan si los desarrolladores acabarán siendo reemplazados por agentes de inteligencia artificial o si, por el contrario, surgirán nuevos perfiles profesionales.

La discusión va mucho más allá de escribir líneas de código y pone el foco en competencias como la arquitectura de sistemas, la gestión de proyectos tecnológicos, la validación de software y la toma de decisiones estratégicas.

Precisamente en ese escenario, las declaraciones de James Ivers ofrecen una visión más optimista para quienes trabajan o quieren trabajar en el desarrollo de software.

La IA puede escribir código, pero el valor del ingeniero sigue estando en otro lugar

La preocupación sobre la automatización de la programación aumentó considerablemente después de que varios referentes de la industria señalaran que los modelos de IA avanzan hacia la capacidad de realizar tareas completas de ingeniería de software.

La situación ganó relevancia cuando Dario Amodei, director ejecutivo de Anthropic, sugirió que podrían aparecer sistemas capaces de ejecutar procesos de desarrollo de principio a fin en un plazo relativamente corto.

Sin embargo, James Ivers, líder del grupo AI Workflows and Architecture Modernization del Instituto de Ingeniería de Software de la Universidad Carnegie Mellon, considera que la visión de la profesión no debe limitarse a la programación. Según explicó, “Codificar suele ser la parte fácil”.

Para el especialista, los ingenieros de software aportan valor en múltiples etapas críticas del ciclo de desarrollo, incluyendo el análisis de requisitos, la arquitectura, las pruebas, la planificación y la coordinación con las distintas partes interesadas.

En otras palabras, el verdadero impacto profesional no depende únicamente de escribir código. Ivers diferencia claramente entre un "codificador" y un "ingeniero de software".

Mientras el primero trabaja dentro de límites previamente definidos, ejecutando tareas concretas, el segundo se mueve en entornos ambiguos donde debe descubrir necesidades, priorizar objetivos y diseñar soluciones.

El nuevo desafío será supervisar, validar y dirigir sistemas impulsados por IA

La creciente automatización no elimina los problemas clásicos del desarrollo de software. Aunque la inteligencia artificial puede producir enormes cantidades de código en poco tiempo, sigue siendo susceptible a errores, fallos lógicos y decisiones inadecuadas.

A su vez, recuerda que gran parte de la ingeniería de software moderna surgió precisamente para reducir riesgos y detectar defectos de forma temprana.

Esa necesidad no desaparece con la llegada de la IA. Como él mismo señala: “Estamos reemplazando a un actor imperfecto por otro. La IA es imperfecta y habrá errores”.

Otros académicos coinciden en que el cuello de botella ya no será construir sistemas, sino garantizar que funcionen correctamente en situaciones reales. Bill Nichols, también vinculado a la Universidad Carnegie Mellon, sostiene que el valor profesional se desplaza hacia la capacidad de tomar decisiones fundamentadas.

La verificación técnica puede automatizarse cada vez más, pero la validación sigue dependiendo del criterio humano para determinar si una solución realmente responde a las necesidades del entorno donde será utilizada.

Este cambio también modifica la formación de los futuros profesionales. Algunos expertos advierten que la desaparición de determinadas tareas junior podría dificultar la adquisición de experiencia práctica.

No obstante, Nichols considera que los sistemas de IA también pueden acelerar el aprendizaje al proporcionar retroalimentación inmediata sobre especificaciones, diseño y comportamiento global de los sistemas.

Para Ivers, los desarrolladores que quieran mantenerse relevantes deberán fortalecer capacidades relacionadas con el conocimiento del dominio, la descomposición de problemas, la supervisión de agentes de IA y las tareas de validación y control.

Ahora que la inteligencia artificial se está convirtiendo en un factor importante para los proyectos con herramientas como Codex, Claude Code y más, surgen dudas sobre la calidad del código generado por IA, la responsabilidad de los desarrolladores y el impacto a futuro.

Ayudan a escribir código, detectar errores y acelerar tareas que antes requerían muchas horas de trabajo, pero mientras todo esto sucede, cada vez más organizaciones buscan un punto de equilibrio en cuanto a su uso.

La discusión afecta directamente a comunidades tan relevantes como KDE, Linux Kernel, GIMP o Godot, que están definiendo cómo convivir con la inteligencia artificial sin comprometer la calidad del software ni el aprendizaje de quienes contribuyen al proyecto.

KDE quiere que la IA sea una herramienta, no un reemplazo del desarrollador

Acostumbrarse a usar la inteligencia artificial es una buena idea, pero también tiene sus contras, y es que puede generar que se evite el aprendizaje adecuado o se dependa constantemente de sus funciones.

KDE ha abierto un debate interno sobre el uso de modelos de lenguaje en sus proyectos mediante un borrador de directrices presentado por Nate Graham. La propuesta parte de una idea sencilla y contundente: “No seas perezoso”.

No es algo dicho de manera negativa, sino que es un mensaje que busca que los desarrolladores deleguen completamente su trabajo a los asistentes virtuales.

Según el borrador, nadie dentro de KDE debería ser capaz de detectar si una contribución ha sido creada con ayuda de un LLM. No porque haya que ocultarlo, sino porque el resultado final debe tener la misma calidad, coherencia y nivel técnico que tendría un trabajo realizado directamente por la persona que lo envía.

Ahora, todas las contribuciones que tengan manipulación con estas herramientas podrían ser ignoradas o canceladas al 100%. Por otro lado, la propuesta también introduce una expresión llamativa: no ser un “sustituto de carne” o “proxy de carne”.

KDE advierte esto sobre todo porque hay muchos desarrolladores que se están centrando en copiar y pegar el contenido generado por IA sin siquiera comprender el código.

Según los registros compartidos, se van a analizar a profundidad los comportamientos sospechosos, como enviar cambios al proyecto que no se entiendan o puedan aportar al proyecto de verdad, presentar borradores incompletos y generar errores por una mala implementación.

Las nuevas normas buscan proteger la calidad del software libre

Una de las cosas que más critica el equipo de KDE es que estos modelos suelen crear textos demasiado largos y con un estilo corporativo que no aporta tanto valor como se debería.

Al mismo tiempo, hay un mayor rango de generación de problemas dentro de los proyectos al no ir acorde con las directrices o presentar sesgos y alucinaciones.

Por ello, propone que las descripciones de solicitudes de fusión, mensajes de confirmación y respuestas a comentarios sean redactadas directamente por los colaboradores.

La única excepción contemplada es la traducción automática al inglés de textos escritos originalmente por el desarrollador en su idioma nativo.

Por si fuera poco, el proyecto seguirá un principio de “humano al mando”. Esto significa que cualquier código generado con asistencia de IA deberá ser revisado, comprendido y validado por quien lo envía.

KDE no prohíbe el uso de estas herramientas para depuración, investigación o búsqueda de errores, pero exige verificar la precisión de toda la información obtenida.

Algunos proyectos, como GIMP, han adoptado medidas muy restrictivas y también hay distribuciones Linux que exploran activamente nuevas formas de integrar asistentes de programación basados en IA.

En fin, para la compañía está bien que se usen estas herramientas, pero hasta cierto punto, ya que no deberían sustituir el pensamiento crítico o las capacidades de un programador profesional.

Eso es justo lo que cuenta un programador que lleva poco más de dos semanas en una gran empresa y que afirma en un tuit estar bastante harto de cómo se está utilizando allí.

Según explica, las especificaciones, el código, las pruebas, los documentos, los tickets y hasta las soluciones de esos tickets pasan por Claude Code. Los trabajadores solo van pidiendo cosas al modelo y siguiendo sus respuestas.

El problema que ves es que realmente la empresa quiere sacar trabajo adelante cada vez más rápido, pero los empleados están llegando a trabajar 12 o 13 horas al día. No porque estén programando sin parar, sino porque pasan buena parte de la jornada hablando con la IA, esperando resultados y pulsando Enter.

"Se acabó. El estado actual de la ingeniería es horrible. Han pasado medio mes desde que empecé un nuevo rol en una gran empresa", comenta.

"Todos, literalmente todos, desde un ingeniero L1 hasta un L7 aquí, están haciendo lo mismo. Habla con Claude. No hay sensación de victoria. Nadie resuelve bugs. En realidad, nadie piensa ya. Todo lo hace un LLM. Es tan deprimente para el alma. A decir verdad, no me importaría si al menos nos dieran tiempo para revisar el código y ver a dónde va todo. Pero no, el objetivo es solo lanzar. Pase lo que pase", añade.

Como ves, no está hablando de utilizar la IA para echar una mano con una función concreta o para buscar un error. Dice que el modelo se ha convertido prácticamente en la forma de trabajar de toda la empresa.

El resultado es que cada vez se genera más, pero cada vez hay menos personas que realmente sepan qué se está generando.

El programador no afirma que Claude Code sea inútil. El problema es cómo se está utilizando

Si una IA puede escribir en unos segundos algo que antes llevaba horas, es lógico que una empresa quiera aprovecharla. El problema es cuando ese trabajo se utiliza como excusa para pedir todavía más y hacerlo todavía más rápido.

Pero hay algo a lo que inevitablemente te sometes cuando haces uso de la IA y es el tiempo que necesitas para comprobar que todo está bien (si es que realmente se comprueba).

Alguien tiene que leer ese código. Tiene que probarlo. Tiene que comprobar que hace lo que se pidió y que no rompe otra cosa. Y, sobre todo, tiene que entenderlo para poder arreglarlo cuando algo falle.

Aquí es donde, para el programador, se encuentra uno de los grandes problemas. Cediendo todo el trabajo a la IA, al final, no permite que evoluciones y entiendas realmente qué es lo que se está generando, el motivo y por qué esa es la mejor opción (o no).

Los programadores han dejado de hacer el trabajo que, precisamente, se supone que deberían hacer.

Resolver un error no consiste solo en pedirle a una IA que encuentre una solución. Hay que entender qué está fallando, por qué ha ocurrido y si la solución realmente arregla el problema.

Según este programador, todo eso está desapareciendo. "No hay sensación de victoria", explica. Ya no existe esa sensación de haber encontrado un problema difícil y haberlo solucionado tú mismo. Todo se centra ya en pedirle algo al modelo y pasar a la siguiente tarea.