OpenAI ahora te paga miles de euros solo por descubrir fallos en ChatGPT

OpenAI ha decidido reforzar la seguridad de sus sistemas con un programa que paga a investigadores y expertos por descubrir fallos en el comportamiento de sus modelos de inteligencia artificial.

Este programa, llamado Safety Bug Bounty, se centra en riesgos emergentes como la manipulación mediante prompts o el abuso de agentes autónomos, a diferencia de los tradicionales programas de ciberseguridad. El objetivo es detectar problemas que puedan surgir en escenarios reales, como la inyección de instrucciones maliciosas, la posible filtración de datos o acciones dañinas ejecutadas por sistemas automatizados.

La iniciativa llega en un momento clave, tras la incorporación de nuevas funciones dentro del ecosistema de ChatGPT, como bibliotecas de contenido y herramientas de compra integradas.

El programa complementa la seguridad tradicional de OpenAI, pero añade un enfoque innovador: analizar la conducta de la IA como si fuera una nueva superficie de ataque. Para que una vulnerabilidad sea válida, los investigadores deberán demostrar que el fallo puede reproducirse de manera consistente, aproximadamente en la mitad de los intentos.

Además, OpenAI acepta informes relacionados con la exposición de información sensible, incluyendo el comportamiento interno de los modelos o sus patrones de razonamiento. También entran dentro del alcance los fallos que permitan saltarse restricciones o comprometer la integridad de la plataforma.

No obstante, no todo tipo de hallazgo es elegible. La compañía excluye los llamados jailbreaks simples, los fallos de bajo impacto o aquellos que no presenten una solución clara o consecuencias prácticas. Las propuestas serán revisadas por equipos especializados en seguridad y comportamiento de IA, y algunas podrían redirigirse según su naturaleza.

OpenAI tampoco descarta lanzar en el futuro programas privados adicionales para investigar áreas especialmente sensibles.