Wikimedia asegura que agentes fuera de control de OpenAI editaron sitios web y provocaron la interrupción del servicio
Elígenos como tu fuente preferida en Google.
Wikimedia denuncia accesos no autorizados de bots de OpenAI en Wikipedia y Wikidata, exigiendo mayor control de seguridad a las empresas de IA.
La inteligencia artificial tiene un lado bueno, pero su uso masivo también conlleva consecuencias. La relación que tiene esta tecnología con los sitios web abiertos atraviesa un momento de creciente tensión, especialmente por el rastreo automatizado y la recopilación de datos.
¿Alguna vez te has preguntado qué guarda ChatGPT de ti? Es más información de lo que imaginas porque los agentes se pueden salir de control.
Este es el caso de Wikimedia, organización responsable de Wikipedia y otros proyectos colaborativos, la cual ha denunciado que bots de OpenAI se han adentrado en sus plataformas sin autorización.
¿La IA se ha rebelado contra el algoritmo? Es evidente que este tipo de incidentes llama la atención porque podría estar en juego la ciberseguridad de grandes equipos.
Wikimedia afirma que agentes vinculados a OpenAI realizaron actividades no autorizadas
La Fundación Wikimedia asegura haber detectado actividades no autorizadas realizadas por presuntos agentes de OpenAI dentro de sus plataformas. Según explicó la entidad en una publicación oficial, se han identificado ediciones en wikis y una cantidad significativa de tráfico automatizado.
La inteligencia artificial de Sam Altman parece que está realizando cambios indebidos en las plataformas mencionadas. Sin autorización, el equipo destaca que la mayoría de las modificaciones de los agentes han sido en espacios de prueba o áreas aisladas de los wikis.
Esto quiere decir que estas alteraciones nunca llegaron a ser visibles para el público general, pero sí que han levantado las alertas de los que están detrás del proyecto.
"Las actividades no autorizadas del bot incluyeron ediciones de nuestros wikis, algunos intentos fallidos de explotar una herramienta pública de toma de notas que alojamos y mucho tráfico".
La fundación ha mencionado que los bots sí pueden participar en determinadas, pero con previa autorización e información de comportamiento automatizado. Por lo visto, OpenAI no cumplió con dichos requisitos.
Otras cosas a tener en cuenta son que hay intentos fallidos al interactuar con la herramienta de tomas de notas colaborativa de Wikimedia (Etherpad).
El debate sobre la responsabilidad de las empresas de IA gana intensidad
Las declaraciones aparecen pocos días después de una entrevista concedida por el director ejecutivo de OpenAI, Sam Altman, a Politico. Durante la conversación, Altman señaló que “el mundo debería aceptar que sucedan algunas cosas malas en beneficio de esta tecnología”.
Los sistemas asociados a OpenAI rastrearon millones de páginas y ejecutaron miles de consultas de datos. Esta actividad habría contribuido a la interrupción parcial del Servicio de Consultas de Wikidata (WDQS), registrada durante mayo.
Aunque el directivo se refería al desarrollo acelerado de la inteligencia artificial, Wikimedia considera que este enfoque no es suficiente cuando existen riesgos para entornos externos y servicios públicos. Si no se ofrece la ciberseguridad necesaria, hay que reflexionar sobre los límites de este tipo de tecnologías.
La crítica fue directamente sobre las medidas de control implementadas por las empresas del sector. "Las empresas de inteligencia artificial no están haciendo lo suficiente para proteger sus sistemas y al público del daño que causan", afirmó Wikimedia.
Asimismo, solicitó la implementación de herramientas para identificar con claridad a los agentes automatizados, garantizando que los administradores web puedan controlar de qué manera interactúan dichos sistemas con sus plataformas.
¿Tú te has preguntado lo que saben los agentes virtuales de ti? Usas Gemini, Copilot, ChatGPT, DeepSeek y Caude a diario, pero no te das cuenta de todo lo que almacenan estos sistemas.
Evidentemente, son condiciones que aceptas cuando comienzas a emplear prompts, pero hay que tener en cuenta que el caso de Wikimedia va más allá porque ha sido sin ninguna autorización. Por el momento, hay que esperar a que la compañía revele más información al respecto u OpenAI responda a la demanda.