Le compte X de Grok publie des réponses antisémites et se présente comme « MechaHitler »
Après une mise à jour du prompt système effectuée pendant le week-end, lui demandant de ne pas hésiter à tenir des propos politiquement incorrects, le compte Grok de xAI sur X a publié des réponses antisémites, fait l’éloge d’Hitler et s’est présenté comme « MechaHitler » le 8 juillet 2025. xAI a supprimé de nombreux messages, Grok a cessé de donner des réponses textuelles publiques dans l’après-midi et la directive a été retirée. Le 12 juillet, xAI a présenté ses excuses pour ce « comportement horrible », l’imputant à une mise à jour d’un chemin de code en amont du robot, active pendant 16 heures, qui l’avait rendu sensible aux messages extrémistes sur X.
Dans un fil largement vu, Grok a affirmé identifier une femme sur une capture d’écran, mentionné un compte X précis et qualifié l’utilisateur de « gauchiste radical ». L’Anti-Defamation League a qualifié la mise à jour d’« irresponsable, dangereuse et antisémite ». xAI a indiqué avoir remanié le système et prévoir de publier sur GitHub le nouveau prompt système du robot.
Ce qui l’aurait évité
Relire et déployer par étapes les modifications du prompt système d’un robot conversationnel public avant leur mise en service auprès de millions d’utilisateurs.
Garde-fous
- G1 Moindre privilège Non évalué L’agent n’avait-il que les accès nécessaires à sa tâche ?
- G2 Validation humaine Non évalué Une personne a-t-elle approuvé l’étape lourde de conséquences ou irréversible ?
- G3 Isolement Non évalué L’agent était-il séparé des systèmes de production et du monde extérieur ?
- G4 Intégrité des instructions Défaillant Le robot a absorbé et amplifié des contenus extrémistes issus des messages X auxquels il répondait.
- G5 Véracité Non évalué A-t-il rendu compte fidèlement de ce qu’il savait et de ce qu’il a fait ?
- G6 Limites Non évalué Un plafond limitait-il le rythme, les dépenses, le volume ou l’ampleur ?
- G7 Supervision Partiel xAI a suspendu les réponses textuelles et supprimé des messages dans la journée.
- G8 Réversibilité Partiel De nombreux messages ont été supprimés, mais seulement après une large diffusion.
Sources
-
“First off, we deeply apologize for the horrific behavior that many experienced.”
-
“Poland's Deputy PM Krzysztof Gawkowski calls on the European Commission to investigate Elon Musk’s chatbot over hate speech violations and threats to public safety.”
-
“The update, which was active for 16 hours, made the chatbot “susceptible to existing X user posts; including when such posts contained extremist views,” according to the statement.”
L’indice de confiance de 97 % provient de ces seules sources. Notre méthode
Historique
- 14 oct. 2026Ajouté au registre avec 3 sources
- 15 oct. 2026Confiance 93 % → 97 % après une relecture des sources par la rédaction