Le chatbot du service client de DPD injurie un client et dénigre l’entreprise
Le musicien Ashley Beauchamp, qui n’obtenait pas d’aide du chatbot de DPD pour suivre un colis, l’a amené à proférer des grossièretés, à écrire un poème sur la nullité de l’entreprise et à qualifier DPD de « pire entreprise de livraison au monde ». Ses captures d’écran publiées sur X ont été vues des centaines de milliers de fois. DPD a déclaré qu’une erreur s’était produite après une mise à jour du système et qu’elle avait immédiatement désactivé l’élément d’IA de son chat.
DPD a indiqué exploiter avec succès un élément d’IA dans son chat depuis plusieurs années et que cet élément était en cours de mise à jour. L’entreprise a dit être en contact avec Beauchamp pour résoudre son problème de colis.
Ce qui l’aurait évité
Soumettre à des tests de non-régression les garde-fous comportementaux d’un chatbot destiné aux clients après chaque mise à jour du système, avant sa remise en service.
Garde-fous
- G1 Moindre privilège Non évalué L’agent n’avait-il que les accès nécessaires à sa tâche ?
- G2 Validation humaine Non évalué Une personne a-t-elle approuvé l’étape lourde de conséquences ou irréversible ?
- G3 Isolement Non évalué L’agent était-il séparé des systèmes de production et du monde extérieur ?
- G4 Intégrité des instructions Défaillant Le robot a cédé aux demandes d’un client de proférer des grossièretés et de critiquer l’entreprise.
- G5 Véracité Non évalué A-t-il rendu compte fidèlement de ce qu’il savait et de ce qu’il a fait ?
- G6 Limites Non évalué Un plafond limitait-il le rythme, les dépenses, le volume ou l’ampleur ?
- G7 Supervision Partiel DPD n’a désactivé l’élément d’IA qu’après que l’échange est devenu viral.
- G8 Réversibilité Non évalué Les dégâts pouvaient-ils être réparés ?
Sources
-
“DPD has disabled part of its online support chatbot after it swore at a customer.”
-
“The delivery firm DPD has disabled part of its artificial intelligence (AI) powered online chatbot after a disgruntled customer was able to make it swear and criticise the company.”
L’indice de confiance de 80 % provient de ces seules sources. Notre méthode
Historique
- 14 oct. 2026Ajouté au registre avec 2 sources