Sam Altman, creador de ChatGPT: "Es momento de parar. Garantizar la seguridad de la IA es más importante que el impulso de cualquier empresa"
Elígenos como tu fuente preferida en Google.
El líder de OpenAI considera que el desarrollo de esta tecnología ha de tener un proceso de reflexión y que cada paso debe ser firme.
Sam Altman, CEO de OpenAI, cree que el desarrollo de la inteligencia artificial merece un tiempo de reflexión y que en un momento en el que esta tecnología está en pleno auge, "es buen momento para bajar el ritmo".
La compañía, creadora de ChatGPT, ha anunciado este martes la implementación de nuevas medidas de seguridad que ralentizarán el desarrollo futuro de su tecnología, que necesita más mimo para llegar a las iteraciones oficiales.
"A medida que los modelos se vuelven más capaces, también aumentan los riesgos asociados con su desarrollo y prueba interna", ha dicho la empresa, que también ha reconocido que sus estándares de monitorización, alineación y seguridad "deben anticiparse a estos riesgos".
Con el objetivo de hacer un buen trabajo y cumplir con sus estándares, OpenAI ha asumido que necesita tomarse las cosas con más calma, motivo por el que ha decidido ralentizar "temporalmente el ritmo de escalado".
Por qué OpenAI decide ir con calma en plena ola de la IA
En ese mismo documento, OpenAI ha explicado cuáles han sido los motivos por los que ha decidido echar el freno y que tienen que ver con acontecimientos recientes que "han puesto de relieve los crecientes riesgos asociados a los sistemas de IA cada vez más sofisticados".
Concretamente y en primer lugar, el incidente de OpenAI-Hugging Face, en el que varios agentes de inteligencia artificial se escaparon de un entorno de pruebas y atacaron los servicios de la comentada plataforma de machine learning.
Según las investigaciones, varios sistemas de IA llegaron a organizarse entre ellos mediante un foro privado y después intentaron entrar en diferentes servicios para conseguir el acceso no autorizado a Hugging Face.
Por el momento se desconocen más detalles sobre lo sucedido, pero sí se sabe que la empresa está preparando un informe acerca de lo sucedido y que algunas personas del entorno de OpenAI consideran que el problema guarda relación con la forma en que la firma está desarrollando la IA.
El otro de los motivos por los que la desarrolladora de ChatGPT ha decidido cambiar su ritmo de trabajo ha sido el resultado obtenido en las pruebas preliminares de uno Astra, uno de sus próximos modelos, que "podría alcanzar el umbral crítico de ciberseguridad establecido" en base a sus estándares de seguridad.
"Estos acontecimientos, sumados al rápido progreso de nuestra investigación interna, han intensificado la urgencia de reforzar nuestras medidas de supervisión, alineación y contención en todas las etapas del proceso de entrenamiento", han señalado en la misiva.
Cómo va a trabajar la empresa a partir de ahora
OpenAI no quiere ser señalada por errores como estos y, por ello, ha definido un nuevo marco de trabajo, además de que ha comenzado a implementar requisitos de seguridad más estrictos para las cargas de investigación que tiene pensado llevar a cabo.
Por un lado, ha optado por la implantación de entornos aislados para las cargas de trabajo que ejecutan código generado por modelos que no sean de confianza. Asimismo, ha decido poner en marcha más controles para aislar de internet las cargas de trabajo de alto riesgo y no confiables.
Finalmente, ha reconfigurado su entorno de trabajo para eliminar servicios compartidos que sean potencialmente vulnerables, además de que ha reducido privilegios y mejorado los límites de seguridad y confianza.
Astra va a convertirse en el principal campo de pruebas de esta nueva forma de proceder y, aunque este modelo ya cumple algunos requisitos, la compañía ha reconocido que "un número significativo de cargas de trabajo permanecen en pausa hasta que se migren y optimicen por completo para cumplir con el nuevo estándar de seguridad".
