Richard Ho, jefe de hardware de OpenAI, avisa a Sam Altman: "Necesitamos interruptores de seguridad si las cosas salen mal"
Cada día surgen más dudas acerca del funcionamiento de la inteligencia artificial y la seguridad en torno a la misma, y los responsables de ChatGPT lo saben.
Por mucho que esté llamada a ser la tecnología del futuro, y ya casi del presente, lo cierto es que la inteligencia artificial genera incertidumbre. Quizá porque muchos expertos advierten sobre ella cada día, ya sea porque prevean que dejará a todo el mundo sin trabajo, o que incluso llegue a extinguir a la humanidad. Desde OpenAI son conscientes de ello.
Por eso la compañía de Sam Altman, después de incidentes que incluso parecen haber puesto en peligro la integridad de algunos usuarios, se está tomando muy en serio la seguridad. Tanto, que Richard Ho, el jefe de hardware de la empresa ha hablado al respecto. Y lo ha hecho de manera tan categórica, que sus declaraciones no han tardado en dar la vuelta al mundo.
Sam Altman tiene motivos para preocuparse por OpenAI
No es habitual que un miembro de una compañía sea tan duro al hablar sobre su producto. Casi parece como si se tirase piedras contra su propio tejado. Pero lo cierto es que Richard Ho ha tocado un tema tan sensible para OpenAI como la seguridad de la inteligencia artificial. ¿Hubo en sus comentarios un tirón de orejas para el propio Sam Altman?
El experto se ha referido a la importancia que tiene, y que sobre todo tendrá más adelante, tener un control preciso sobre el hardware. Incluso ha hablado de la necesidad de disponer de un "interruptor de seguridad". Es decir, de una especie de "botón rojo" con el que desconectar ChatGPT si la cosa se pone fea, como algunos vaticinan. Algo que Sam Altman negó hace un tiempo.
"Tiene que estar integrado en el hardware", precisa Ho, tal y como recoge el medio especializado TechRadar. El responsable asegura que sería un error dar cosas por hecho. "Hoy en día, gran parte del trabajo de seguridad se centra en el software. Se asume que el hardware es seguro. Se asume que el hardware funcionará correctamente. Se asume que se puede desconectar el hardware".
Sin embargo, él no lo tiene claro, y considera que una buena parte de su trabajo pasa por aumentar los protocolos. Con la inteligencia artificial nunca se sabe. "No digo que no podamos desconectar ese hardware, pero sí tengo claro que estas cosas son engañosas, los modelos son realmente engañosos, y como experto en hardware, quiero asegurarme de ello desde el primer momento".
La evolución de la inteligencia artificial
Aunque Richard Ho no ha hablado específicamente de una inteligencia artificial general, término que cada vez genera más debate entre los expertos, sí ha adelantado que la IA evolucionará en el futuro. Y que los agentes funcionarán en un segundo plano todo el tiempo. Algo que requerirá una vigilancia mayor sobre los mismos.
"Algunos podrían estar consultando una herramienta, otros podrían estar buscando en un sitio web. Otros están pensando, y otros necesitan comunicarse entre sí", explica Ho. Para ello, admite, el desafío será considerable. Y será importante estar preparados. De hecho, si los más catastrofistas se acercan a lo que sucederá, será de vital importancia para todos, parece.