Google étend son programme de bug bounty pour inclure des récompenses pour les scénarios d'attaque par l'IA
Le géant de la technologie a distribué plus de 12 millions de dollars de récompenses aux chercheurs en sécurité dans le cadre de son programme de bug bounty en 2022.
En cybersécurité, les menaces évoluent rapidement. Ajoutez à cela une technologie d'IA générative en évolution rapide et les problèmes de sécurité évoluent de minute en minute. Google est l’un des plus grands acteurs de la technologie de l’intelligence artificielle et reconnaît la nécessité de s’adapter à cette menace.
Google étend son programme Vulnerability Rewards (VRP) existant pour inclure les vulnérabilités spécifiques à l'IA générative et prend en compte les défis uniques que pose l'IA générative, tels que les biais, les manipulations de modèles, les interprétations erronées des données et autres attaques contradictoires.
Le VRP est un programme de bug bounty qui récompense les chercheurs externes en sécurité qui testent et signalent les vulnérabilités logicielles des produits et services de Google. Désormais, cela inclura les produits d’IA générative. Certains des produits d'IA générative les plus populaires de Google incluent Bard, Lens et d'autres intégrations d'IA dans Search, Gmail, Docs, etc.
À mesure que l'IA générative est de plus en plus intégrée aux différents outils et programmes de Google, les risques potentiels augmentent et Google dispose déjà d'équipes internes de confiance et de sécurité qui travaillent pour prévoir ces risques. Avec l’expansion du programme de bug bounty pour inclure l’IA générative, Google tente d’encourager la recherche sur la sécurité de l’IA afin de garantir que l’IA responsable devienne la norme.
Google a également proposé plus d'informations sur ses critères de récompense pour le signalement de bogues dans les produits d'IA afin que les utilisateurs puissent facilement déterminer ce qui est concerné et ce qui ne l'est pas.
Des chercheurs externes en sécurité sont chargés de trouver ces vulnérabilités en échange d'un gain financier, ce qui donne à Google, la société à l'origine du programme de bug bounty, la possibilité de corriger ces menaces avant que de mauvais acteurs ne les exploitent. Cela garantit un produit plus sécurisé pour les utilisateurs.
En plus d'intégrer l'IA générative dans son VRP, Google a introduit le Secure AI Framework pour prendre en charge la création d'applications d'IA responsables et sûres. Il a également annoncé sa collaboration avec l'Open Source Security Foundation pour garantir l'intégrité des chaînes d'approvisionnement de l'IA.
Les utilisateurs qui souhaitent rejoindre le programme de bug bounty de Google peuvent soumettre un bug ou une vulnérabilité de sécurité directement à l'entreprise. En 2022, Google a distribué plus de 12 millions de dollars de récompenses aux chercheurs en sécurité dans le cadre de son programme de bug bounty.