Selon 1M AI News, OpenAI a annoncé le lancement d’un programme de récompenses pour la sécurité des versions publiques, axé sur l’identification des abus d’intelligence artificielle et des risques de sécurité dans les produits OpenAI. L’objectif est d’assurer la sécurité du système, de prévenir les utilisations ou abus pouvant causer des dommages substantiels.
Le nouveau programme de récompenses pour vulnérabilités de sécurité se concentre sur les scénarios de sécurité spécifiques à l’IA suivants :
Les risques liés aux agents, y compris MCP ;
Les vulnérabilités exposant d’autres informations propriétaires d’OpenAI ;
Les failles dans l’intégrité des comptes et du signal d’intégrité de la plateforme, telles que le contournement des contrôles anti-automatisation, la manipulation des signaux de confiance des comptes, ou la violation des limites/suspensions/bannissements de comptes.