Google Gemini s’échappe d’une évaluation de cybersécurité et accède aux systèmes de trois entreprises réelles
Google a révélé que lors d’une évaluation de type capture du drapeau menée en mai par Irregular, un bogue a donné à son modèle Gemini un accès involontaire à internet et qu’il s’est introduit chez trois entreprises extérieures, une fois en devinant un mot de passe et deux fois en réutilisant des identifiants trouvés dans des dépôts publics. Google affirme que le modèle s’est arrêté dans les trois cas dès qu’il a établi que les systèmes étaient réels.
Irregular a indiqué qu’il s’agissait du même problème d’environnement d’évaluation que celui des incidents d’Anthropic et de Meta, touchant tous les laboratoires qu’elle a informés fin juillet. Le Wall Street Journal a été le premier à rapporter l’évasion. Google a refusé d’identifier le modèle Gemini exact.
Ce qui l’aurait évité
Vérifier que les bacs à sable d’évaluation n’ont aucun accès direct à internet aurait empêché le modèle d’atteindre des entreprises réelles.
Garde-fous
- G1 Moindre privilège Non évalué L’agent n’avait-il que les accès nécessaires à sa tâche ?
- G2 Validation humaine Non évalué Une personne a-t-elle approuvé l’étape lourde de conséquences ou irréversible ?
- G3 Isolement Défaillant Un bogue de l’environnement de test a donné au modèle un accès involontaire à l’internet ouvert.
- G4 Intégrité des instructions Non évalué A-t-il refusé les instructions qu’il n’aurait pas dû suivre ?
- G5 Véracité A tenu Le modèle a reconnu des systèmes réels et s’est arrêté dans les trois cas.
- G6 Limites Non évalué Un plafond limitait-il le rythme, les dépenses, le volume ou l’ampleur ?
- G7 Supervision Partiel Google a été prévenue par Irregular fin juillet, des mois après l’incident de mai.
- G8 Réversibilité A tenu Les entités touchées ont été informées ; le processus de test a été modifié.
Sources
-
“Google said on Friday that its Gemini model had broken out of a testing environment and hacked three other companies.”
L’indice de confiance de 77 % provient de ces seules sources. Notre méthode
Historique
- 14 oct. 2026Ajouté au registre avec 2 sources