Google amplía su programa de recompensas por fallos en IA: hasta 30.000 dólares por vulnerabilidad

Google ha anunciado un nuevo Programa de Recompensas por Vulnerabilidades (VRP) enfocado exclusivamente en la seguridad de sus productos de inteligencia artificial, con incentivos que pueden alcanzar los 30.000 dólares por fallo descubierto. Remuneraciones generosas con el objetivo de atraer a la comunidad de investigadores en la detección de vulnerabilidades que afecten a los sistemas más avanzados de la compañía.

A diferencia del programa de recompensas tradicional, esta nueva iniciativa se centra de lleno en los productos de IA más críticos de Google. Entre ellos destacan las integraciones de inteligencia artificial en Google Search (en la web y en móviles), las aplicaciones Gemini, las funciones inteligentes de Google Workspace (Gmail, Drive, Meet o Calendar) y herramientas de desarrollo como AI Studio o Jules detallan en BleepingComputer.

Como de costumbre, eso sí, las compensaciones varían en función del tipo de vulnerabilidad y del producto afectado, con tres niveles definidos: Flagship (productos clave), Standard y Other. Por ejemplo, un fallo de tipo “Rogue Actions” (A1)  o acciones no autorizadas derivadas del comportamiento del modelo, puede alcanzar los 20.000 dólares en un producto Flagship, mientras que una vulnerabilidad de exfiltración de datos sensibles (A2) puede pagarse con hasta 15.000 dólares. Los errores de phishing o manipulación de salida se remuneran con hasta 5.000 dólares.

Google ya había ampliado su programa de recompensas en 2023 para incluir vulnerabilidades vinculadas a sus sistemas de IA, pero este movimiento supone una rama independiente y específica para la nueva generación de modelos. En resumen, cuanto más se integran los modelos de IA en los servicios de la compañía, mayor es la superficie de ataque y más urgente resulta reforzar su seguridad, sostiene la compañía.

«En octubre de 2023, anunciamos los criterios de recompensa de Google para la notificación de errores en productos de IA, ampliando nuestro Programa de Recompensas por Vulnerabilidades de Abuso (VRP) para fomentar el descubrimiento y la comunicación de problemas y vulnerabilidades específicos de nuestros sistemas de IA», explicó Google. «Mientras celebramos el segundo año de recompensas por errores de IA en Google, nos entusiasma compartir lo que hemos aprendido y anunciar el lanzamiento de nuestro nuevo y dedicado Programa de Recompensas por Vulnerabilidades de IA.»

Desde que se puso en marcha el primer VRP en 2010, Google ha pagado más de 65 millones de dólares en recompensas, 12 millones solo en el último año. Con esta ampliación, la firma busca mantener el interés de los investigadores y reforzar la protección de su ecosistema de IA frente a una amenaza que evoluciona al mismo ritmo que la tecnología, lo cual no es precisamente sencillo.