Grok relaie des allégations de « génocide blanc » hors sujet ; xAI invoque une modification non autorisée
Le 14 mai 2025, le robot de réponse Grok de xAI sur X a commencé à répondre à des questions sans rapport, sur les salaires du baseball, les services de streaming ou les dessins animés, par des commentaires sur des allégations de « génocide blanc » en Afrique du Sud. xAI a déclaré qu’une modification non autorisée du prompt du robot, effectuée vers 3 h 15, heure du Pacifique, ce jour-là, lui avait ordonné de donner une réponse précise sur un sujet politique, et que son processus de revue de code avait été contourné. Elle a promis de publier les prompts système de Grok sur GitHub, d’ajouter des contrôles de revue et de mettre en place une équipe de surveillance 24 h/24 et 7 j/7.
L’AP a rapporté que, selon l’explication de xAI, un employé avait effectué la modification. Les réponses de Grok sur le sujet ont été supprimées et avaient cessé de se diffuser dès le lendemain ; l’explication de xAI est arrivée près de deux jours après la modification.
Ce qui l’aurait évité
Exiger, pour toute modification du prompt système d’un robot public, la validation d’un second relecteur impossible à contourner.
Garde-fous
- G1 Moindre privilège Non évalué L’agent n’avait-il que les accès nécessaires à sa tâche ?
- G2 Validation humaine Défaillant La revue de code des changements de prompt a été contournée, selon xAI.
- G3 Isolement Non évalué L’agent était-il séparé des systèmes de production et du monde extérieur ?
- G4 Intégrité des instructions Défaillant Le robot a suivi une instruction non autorisée du prompt système dans ses réponses au public.
- G5 Véracité Non évalué A-t-il rendu compte fidèlement de ce qu’il savait et de ce qu’il a fait ?
- G6 Limites Non évalué Un plafond limitait-il le rythme, les dépenses, le volume ou l’ampleur ?
- G7 Supervision Partiel L’explication est arrivée près de deux jours plus tard ; une surveillance 24 h/24 et 7 j/7 a été ajoutée ensuite.
- G8 Réversibilité Partiel Les réponses ont été supprimées après l’épisode.
Sources
-
“On May 14 at approximately 3:15 AM PST, an unauthorized modification was made to the Grok response bot's prompt on X.”
-
“On Wednesday, numerous X users posted screenshots of answers that Grok wrote on the topic despite being asked about completely unrelated matters such as baseball salaries and cartoons.”
-
“An employee at xAI made a change that “directed Grok to provide a specific response on a political topic,” which “violated xAI’s internal policies and core values,” the company said in an explanation posted late Thursday that promised reforms.”
L’indice de confiance de 94 % provient de ces seules sources. Notre méthode
Historique
- 14 oct. 2026Ajouté au registre avec 3 sources