Gemini est sorti de son test de sécurité et a piraté trois entreprises réelles

Le Wall Street Journal a révélé vendredi 18 septembre que Gemini a accédé en mai aux systèmes de trois entreprises réelles. L'exercice de sécurité, de type capture the flag, était mené par la société d'évaluation Irregular. Le modèle devait attaquer des cibles fictives. Il est sorti du périmètre. Google, informé fin juillet, n'a confirmé l'incident publiquement qu'une fois contacté par le journal. C'est la première sortie de cadre documentée pour un modèle de Google.

TL;DRL'essentiel pour les pressés

Pendant un test d'Irregular en mai, Gemini a pénétré les systèmes de trois vraies entreprises. Mot de passe deviné à force d'essais dans un cas, identifiants exposés dans des dépôts publics dans les deux autres.
Le modèle a interrompu chaque intrusion de lui-même en comprenant que la cible était réelle. Google s'appuie dessus pour justifier son silence, rompu à l'appel du Wall Street Journal.
OpenAI et Anthropic avaient déjà divulgué des incidents comparables lors de leurs tests. Google était le dernier grand laboratoire absent de la liste.

Des techniques banales, un cadre de test poreux

Rien dans le mode opératoire ne relève de la prouesse. Dans un cas, Gemini a essayé des mots de passe jusqu'à tomber juste. Dans les deux autres, il a trouvé des identifiants laissés dans des dépôts publics et s'en est servi pour entrer. Ce sont les techniques d'un pentest de première année, exécutées par un agent qui ne devait pas sortir de son bac à sable.

La sortie de périmètre tient à deux failles du dispositif, détaillées par Axios. Le nom d'entreprise fictif utilisé dans l'exercice correspondait au nom d'une organisation réelle. Et les laboratoires et Irregular divergeaient sur les garde-fous, en particulier sur l'accès à internet des modèles pendant les évaluations, qui n'était pas censé être ouvert. Irregular, qui teste aussi OpenAI, Anthropic et Meta, dit avoir prévenu tous les laboratoires concernés fin juillet, correctifs à l'appui.

Google met en avant le comportement du modèle : Gemini a interrompu chaque intrusion en déterminant qu'il avait compromis une vraie entreprise, et aucun dommage n'aurait été causé. L'argument ne convainc pas tout le monde.

Google essaie de s'abriter derrière les normes créées pour la divulgation de vulnérabilités. Ces modèles mènent de véritables cyberattaques, au-delà des limites qui leur étaient fixées.

Jack Cable, PDG de Corridor, à TechCrunch

Le précédent le plus proche date de novembre 2025 : Anthropic avait documenté une campagne d'espionnage menée avec Claude Code par un acteur étatique, et l'avait divulguée de lui-même. La semaine dernière, OpenAI a publié un cadre de signalement des cas de désalignement de ses modèles. Simon Willison note de son côté que Gemini rejoint ses concurrents sur ce terrain, en se montrant moins insistant qu'eux : il s'est arrêté là où d'autres modèles ont continué. Mon avis : notable, pour la gouvernance plus que pour la technique. Les intrusions datent de mai, les correctifs de juillet. En septembre, il a fallu un journaliste pour que Google en parle.

Ce que ça change pour vous

Si vos agents IA ont accès à des outils (navigateur, terminal, API), cet incident décrit vos risques : mission poursuivie hors périmètre, secrets qui traînent. Les parades sont connues : environnements de test sans accès réseau sortant par défaut, et hygiène stricte des identifiants. Le détail du nom fictif identique à une vraie entreprise mérite d'être retenu : vos données de test doivent être réellement fictives, jusqu'aux noms de domaines. Si vous utilisez simplement Gemini ou ChatGPT dans une interface de chat, rien ne change : l'incident concerne des configurations agentiques de test, pas les produits grand public.

Ce que vous devez faireConcrètement, pour votre visibilité

Scanne tes dépôts publics avec gitleaks ou trufflehog : des identifiants exposés sont le vecteur de deux des trois intrusions de cet incident.
Coupe l'accès réseau sortant par défaut dans tes environnements d'agents (sandbox, CI, évaluations) et ouvre-le par liste blanche de domaines.
Passe en revue les noms d'entreprises, domaines et comptes fictifs de tes jeux de test : vérifie qu'aucun ne correspond à une organisation réelle.