Brad Smith, presidente de Microsoft, lanza una advertencia sobre la IA: "Está menos regulada que la leche"
Elígenos como tu fuente preferida en Google.
El también vicepresidente de Microsoft advierte de que las tecnologías, cada vez más potentes y autónomas, avanzan más rápido que los marcos legales destinados a regularlas.
La inteligencia artificial ha pasado en apenas unos años de ser una tecnología experimental utilizada por expertos a convertirse en una herramienta capaz de redactar textos, programar y ejecutar tareas cada vez más complejas.
Cabe señalar que este crecimiento acelerado está obligando a gobiernos, empresas y organismos reguladores a preguntarse si las normas actuales son suficientes para controlar sus posibles riesgos.
A medida que estos sistemas adquieren más capacidad para tomar decisiones y realizar acciones sin intervención constante de una persona, también aumenta el debate sobre quién debe asumir responsabilidades cuando algo sale mal y qué mecanismos de seguridad deberían existir.
Brad Smith, presidente de Microsoft, ha lanzado una advertencia donde afirma que la evolución de la IA está avanzando más deprisa que las normas destinadas a supervisarla y que está menos regulada que la leche.
Ha puesto el foco en la regulación de la IA
En una entrevista con la BBC, Brad Smith afirmó que actualmente la inteligencia artificial está sometida a menos requisitos de seguridad que productos cotidianos como la leche o incluso una lavadora.
Ilustra la diferencia entre los controles que existen en sectores tradicionales y los que se aplican hoy a los sistemas de IA más avanzados. Según el presidente de Microsoft, la industria necesita un marco regulatorio global capaz de acompañar el ritmo de desarrollo de esta tecnología.
Para ello propuso la creación de evaluadores independientes que puedan revisar nuevos sistemas antes de su despliegue y analizar sus riesgos potenciales.
También defendió que las compañías tengan la obligación legal de elaborar informes cuando se produzcan incidentes relacionados con inteligencia artificial, una práctica que ya existe en otros sectores regulados.
"Actualmente, tu lavadora está sujeta a más normas de seguridad que la inteligencia artificial. Cada cartón de leche que ves en el supermercado está sujeto a normas de seguridad e inspecciones".
Los mecanismos de seguridad que Microsoft quiere ver en la IA
El ejecutivo ve con buenos ojos incorporar mecanismos de emergencia capaces de detener o limitar sistemas que se comporten de forma inesperada. Smith se refirió a estos recursos como "frenos de emergencia" o kill switches.
Además, considera que las personas o empresas afectadas por la actuación de agentes de IA deberían ser informadas cuando se produzca una vulneración de sus sistemas. En su opinión, la transparencia debe formar parte de cualquier futura regulación.
El dirigente de Microsoft describió la inteligencia artificial como una tecnología que puede actuar tanto como herramienta útil como convertirse en un instrumento capaz de generar problemas si no existen salvaguardas suficientes.
Sus declaraciones llegan en medio de un debate creciente dentro del propio sector tecnológico. Empresas como Anthropic y OpenAI han comenzado a divulgar determinados comportamientos no deseados detectados en algunos sistemas de IA, alimentando la conversación sobre seguridad y supervisión.
Sabemos cómo hacerlo con otros productos. Deberíamos aprovechar ese conocimiento y pensar en cómo aplicarlo a la IA.
El Reino Unido y Europa afrontan el reto de la regulación
Smith considera que el Reino Unido está bien situado para avanzar en este terreno gracias a su AI Security Institute, un organismo que evalúa modelos avanzados mediante acuerdos voluntarios con las empresas. Sus pruebas permiten estudiar las capacidades y los riesgos de estos sistemas antes de su despliegue.
El ministro británico de IA, Kanishka Narayan, ha señalado que el Gobierno estudiaría una regulación más estricta si las medidas actuales resultaran insuficientes. Por su parte, Satya Nadella, consejero delegado de Microsoft, también ha defendido la necesidad de desarrollar sistemas cuyo comportamiento pueda observarse y cuyas acciones puedan limitarse.
En Europa, el contexto es diferente porque la Unión Europea ya cuenta con la Ley de la Inteligencia Artificial, que establece obligaciones según el riesgo de cada sistema.
Su aplicación se está desarrollando por fases, por lo que no todas las disposiciones tienen los mismos plazos, por lo que las propuestas de Smith no constituyen una normativa internacional aprobada, sino una reclamación para reforzar los controles existentes.
El reto consiste en encontrar un equilibrio entre seguridad, innovación y competencia, ya que la inteligencia artificial necesita controles que permitan investigar los incidentes y limitar los daños, pero también reglas claras que puedan cumplir empresas de distintos tamaños.
La cuestión ya no es únicamente cuánto puede avanzar esta tecnología, sino quién debe responder cuando sus capacidades superan los mecanismos previstos para controlarla.