Qué significa que la UE haya prohibido hoy las IA con un "riesgo inaceptable": ¿Están Grok y DeepSeek en peligro?
Desde el 2 de febrero, la Unión Europea prohíbe automáticamente las IA con un riesgo inaceptable. Estas son las condiciones que podrían afectar a Grok y DeepSeek.
El Reglamento de Inteligencia Artificial de la Unión Europea pone en marcha hoy una de sus directrices: la prohibición de las IA con un "riesgo inaceptable". Muchos han vuelto la mirada a IA poco controladas, como Grok o DeepSeek. ¿Están realmente en peligro de ser prohibidas en la UE?
Tras años de redacción, la Unión Europea puso en marcha el año pasado la Ley de Inteligencia Artificial, que regula las IA que se usan en Europa, para evitar que alguna de ellas cause daños a personas y bienes.
El 2 de febrero es la fecha prevista para que entre en vigor una de sus directrices más importantes: la prohibición de todo inteligencia artificial que suponga "un riesgo inaceptable". Vamos a ver qué significa.
Qué son las IA con un riesgo inaceptable para la UE
Tal como desglosa TechCrunch, y explica el propio Consejo de la Unión Europea, la inteligencia artificial se cataloga en cuatro categorías, según su nivel de riesgo.
La IA con riesgo mínimo o nulo afecta a actividades como los juegos o filtros de correo. No suponen peligro y no están reguladas.
En la categoría de riesgo limitado entran los chatbots y la IA generativa. Tienen una serie de obligaciones, como informar a los usuarios de que su contenido se ha generado mediante IA.
Dentro del grupo con riesgo alto están las IA asociadas a la salud. Por ejemplo, aquellas que se usan para diagnosticar enfermedades. También la conducción autónoma y la identificación biométrica de personas implicadas en actividades delictivas u objeto de investigaciones penales. Estas IA se someten a pruebas rigurosas de transparencia y supervisión humana.
Finalmente, están las IA que suponen un riesgo inaceptable. A partir de hoy, la UE podrá prohibirlas o vetarlas instantáneamente.
Dentro de esta categoría tenemos las IA que supongan una amenaza para la seguridad, los derechos o los medios de subsistencia de las personas.
Por ejemplo, está prohibida la manipulación cognitiva conductual, es decir, la inteligencia artificial que manipula a las personas mediante engaños. También la IA que otorga una puntuación social, como valorar a las personas por su raza, apariencia, edad, peligrosidad, situación económica, etc.
Se prohíbe el reconocimiento facial en lugares públicos, incluso para la policía. Hay excepciones, como la búsqueda de un criminal. En ese caso, una vez exploradas esas imágenes, deben borrarse.
También se prohíbe la IA que explora vulnerabilidades como la discapacidad, la edad, o el sueldo. Lo mismo se aplica a las IA que intenta explotar datos biométricos o de apariencia para predecir la orientación sexual de una persona, posible delincuente, etc. Es decir, no puede prejuzgar.
Una ley de IA necesaria para proteger la privacidad
No se aceptan tampoco las IA que intentar predecir las emociones en el trabajo o los centros educativos. No se pueden usar fotos de personas extraídas de Internet o de cámaras de vigilancia, para entrenar a la IA.
Según estas reglas, las IA "mainstream" que usamos todos los días, tipo ChatGPT, Gemini, Grok, o DeepSeek, no deberían tener problemas. Sin embargo, compañías de IA como Meta, Apple, o la francesa Mistral se han negado a firma el pacto en el que se comprometen a cumplir la Ley de IA de la UE.
El Reglamento de Inteligencia Artificial de la UE prohíbe desde hoy las IA con un riesgo inaceptable. Un reglamento que no gusta a las compañías tecnológicas. Vivimos tiempos de oligarquías en donde los monopolios tecnológicos se creen por encima de la ley. Por encima del bien y del mal. La UE, de momento, no está dispuesta a consentirlo.