Chris Anley, experto en ciberseguridad, sobre la IA: "Es como un martillo. No se puede construir una casa sin él. Es sin duda una herramienta, pero también es, inevitablemente, un arma"
La inteligencia artificial impulsa la ciberseguridad, pero sus límites abren un nuevo reto: proteger los modelos de IA sin bloquear a los expertos que buscan detectar y corregir amenazas.
La inteligencia artificial ya se ha convertido en una pieza clave dentro de la ciberseguridad, donde los investigadores utilizan modelos de IA para detectar errores, encontrar patrones sospechosos y comprender sistemas complejos en mucho menos tiempo del que necesitaría una revisión manual.
Pero la misma capacidad que permite descubrir fallos antes de que sean aprovechados también puede servir para estudiar cómo explotarlos, por lo que este doble uso ha abierto un debate cada vez más complicado.
Las grandes tecnológicas han desarrollado sistemas de protección para evitar que sus modelos faciliten ciberataques, pero algunos expertos creen que esas restricciones pueden terminar afectando también a quienes trabajan precisamente para mejorar la seguridad.
Chris Anley, experto en ciberseguridad de NCC Group, ha declarado que la inteligencia artificial es como un martillo, que puede utilizarse para construir algo útil, pero también puede convertirse en una herramienta peligrosa dependiendo de quién la tenga en sus manos.
“Aquí es donde entra en juego la dicotomía entre ataque y defensa, y las medidas de seguridad, porque la instrucción ‘corregir este código’ es un mecanismo esencial de defensa, pero también una guía para encontrar vulnerabilidades críticas en el código”, explicó Anley.
La IA cambia la forma de encontrar vulnerabilidades
Durante años, los investigadores de seguridad han utilizado diferentes herramientas para encontrar fallos en sistemas, ya que su trabajo consiste en pensar como un hacker para descubrir los puntos débiles antes de que alguien con malas intenciones pueda aprovecharlos.
Y la llegada de la inteligencia artificial ha acelerado este proceso. Un modelo puede revisar grandes cantidades de código, ayudar a identificar errores y analizar posibles escenarios de ataque en mucho menos tiempo.
El problema aparece porque esas mismas capacidades pueden tener otro uso. Una persona que quiera atacar un sistema también podría utilizar una IA para comprender vulnerabilidades, automatizar determinadas tareas o buscar formas de superar medidas de protección.
Por eso las compañías que desarrollan estos modelos han introducido barreras de seguridad destinadas a impedir usos peligrosos. Pero el conflicto está en que una inteligencia artificial no siempre puede distinguir entre una solicitud maliciosa y una investigación legítima.
Un profesional de seguridad puede necesitar estudiar cómo funciona una técnica utilizada por atacantes para crear una defensa contra ella. Para realizar una auditoría o una prueba de seguridad, los investigadores necesitan analizar escenarios que, fuera de ese contexto, podrían parecer peligrosos.
Según esta visión, unas restricciones demasiado estrictas pueden impedir que los expertos utilicen la IA como una herramienta de análisis, reduciendo su capacidad para encontrar problemas antes de que sean aprovechados.
Así que el objetivo no es eliminar los controles de seguridad, sino encontrar un equilibrio que permita proteger los modelos sin bloquear las investigaciones necesarias para mejorar la seguridad informática.
El futuro de la ciberseguridad dependerá del equilibrio
Chris Anley afirma que no significa que la inteligencia artificial sea peligrosa por naturaleza, sino que su mensaje apunta a que cualquier tecnología potente puede tener diferentes usos.
Un martillo permite construir una casa, reparar objetos o realizar trabajos cotidianos, pero también puede utilizarse para causar daño. La herramienta es la misma; lo que cambia es la intención de quien la utiliza.
Con la IA ocurre algo parecido. Un investigador puede emplearla para revisar código, detectar vulnerabilidades y reforzar sistemas, mientras que un hacker podría intentar aprovechar esas capacidades para encontrar nuevas formas de entrar en ellos.
Para Anley, el debate no debería centrarse únicamente en limitar la tecnología por miedo a sus posibles usos negativos, sino en crear mecanismos que permitan aprovechar su potencial de forma responsable.
La inteligencia artificial será cada vez más importante en la lucha contra los ataques informáticos y los defensores necesitarán herramientas más avanzadas para responder a amenazas que también serán más sofisticadas.