Parece una estafa, pero no lo es: Sam Altman pagará hasta 100.000 dólares si logras hackear su IA
OpenAI pretende conseguir que ChatGPT sea más seguro que nunca, pero para ello necesita la ayuda de los investigadores de inteligencia artificial y los propios usuarios. Sam Altman ofrecerá una recompensa de hasta 100.000 dólares si encuentran un fallo grave.
ChatGPT sigue teniendo errores graves, desde confundir las manecillas de las horas al generar imágenes de relojes hasta revelar información de los usuarios, incluso distribuir datos falsos sobre ellos. OpenAI es consciente de los errores de su modelo de IA, pero para solucionarlos necesita la ayuda de los propios hackers.
La empresa de Sam Altman, al igual que otros gigantes de la IA, recurre a los investigadores de seguridad para detectar fallos y brechas importantes en ChatGPT. Los expertos examinan hasta el mínimo detalle que pueda poner en riesgo la información de los usuarios, luego elaboran un informe.
Si detectan un fallo grave, se lo comunican a la compañía y OpenAI intenta corregirlo. Los investigadores de IA trabajan a cambio de una recompensa, pero aseguran que no importa la calidad del resultado: cuantos más fallos encuentren, más dinero van a ganar.
Sam Altman ofrece hasta 100.000 dólares si encuentras un fallo en ChatGPT
El sistema de recompensas es rentable para las empresas de inteligencia artificial: no realizan una gran inversión en encontrar brechas en sus modelos, solo en resolver los fallos una vez que los usuarios o los investigadores se lo comunican. Esto podría cambiar para siempre.
Sam Altman ha aumentado la recompensa máxima que ofrece a aquellos que encuentren un fallo importante en ChatGPT. El premio máximo era de 20.000 dólares, el CEO de OpenAI lo ha subido ahora a 100.000 dólares.
El sistema de subcontratación para descubrir vulnerabilidades en su chatbot de IA sigue siendo rentable para OpenAI, solo se tiene que preocupar de corregir los errores críticos cuando reciben los informes. Los investigadores de inteligencia artificial opinan justo lo contrario, aseguran que este trabajo "se ha convertido en el Viejo Oeste".
OpenAI ha creado nuevos programas de investigación y seguridad
La empresa detrás de ChatGPT ha aumentado su inversión en diferentes proyectos, entre ellos investigación de seguridad, coordinación con equipos de trabajo externos y una mejor colaboración con comunidades de software de código abierto.
Además del aumento de las recompensas por encontrar fallos de seguridad críticos en ChatGPT, OpenAI ha asegurado que ofrecerá bonus adicionales. La empresa premiará algunos de los mejores informes que seleccionarán previamente.
La compañía también ha anunciado la expansión del Programa de Subvenciones de Ciberseguridad, ya ha financiado 28 iniciativas de investigación en poco más de un año. La empresa de Altman ha destacado proyectos como la generación de código seguro y el desarrollo de defensas autónomas de ciberseguridad.
El programa de OpenAI invita ahora a los investigadores a proponer ideas sobre parches de software, privacidad de los modelos de IA, detección y respuesta a amenazas. Este proyecto también incluirá recompensas para ayudar a los investigadores a crear prototipos con soluciones de seguridad creativas. ¿El objetivo? Encontrar debilidades potenciales antes de que los hackers las puedan aprovechar.
La empresa detrás de ChatGPT también está colaborando con expertos de equipos de investigación académicos y gubernamentales para evaluar las carencias que tiene su modelo. Además, colabora con la startup SpecterOps para mejorar su integración en entornos corporativos y la nube.