McDonald’s retire l’IA vocale d’IBM de ses drive après des erreurs de commande devenues virales
McDonald’s a testé le système de commande vocale automatisé d’IBM dans une centaine de drive américains à partir de 2021. Des vidéos virales le montraient mal interpréter des commandes, de l’ajout de bacon à une glace jusqu’à l’accumulation de centaines de dollars de nuggets de poulet sur une addition. En juin 2024, McDonald’s a annoncé à ses franchisés qu’elle mettrait fin au test et retirerait la technologie d’ici la fin juillet.
Nation’s Restaurant News a cité une analyse de 2022 situant la précision du système dans la fourchette basse des 80 %, contre un objectif de McDonald’s de 95 % ou plus avant un déploiement plus large. McDonald’s a déclaré que la commande vocale ferait toujours partie de l’avenir de ses restaurants et que son partenariat plus large avec IBM se poursuivrait.
Ce qui l’aurait évité
Conditionner le déploiement de la commande vocale à une précision mesurée et signaler au personnel, pour validation, les commandes de taille invraisemblable.
Garde-fous
- G1 Moindre privilège Non évalué L’agent n’avait-il que les accès nécessaires à sa tâche ?
- G2 Validation humaine Non évalué Une personne a-t-elle approuvé l’étape lourde de conséquences ou irréversible ?
- G3 Isolement Non évalué L’agent était-il séparé des systèmes de production et du monde extérieur ?
- G4 Intégrité des instructions Non évalué A-t-il refusé les instructions qu’il n’aurait pas dû suivre ?
- G5 Véracité Non évalué A-t-il rendu compte fidèlement de ce qu’il savait et de ce qu’il a fait ?
- G6 Limites Défaillant Le système ajoutait aux commandes des quantités invraisemblables, comme des centaines de dollars de nuggets.
- G7 Supervision Non évalué Une personne responsable pouvait-elle voir ce qu’il faisait et l’arrêter à temps ?
- G8 Réversibilité Non évalué Les dégâts pouvaient-ils être réparés ?
Sources
-
“The AI system – and its inaccuracies – have also been the subject of fodder on TikTok.”
-
“It has not proved entirely reliable, however, resulting in viral videos of bizarre misinterpreted orders ranging from bacon-topped ice cream to hundreds of dollars' worth of chicken nuggets.”
L’indice de confiance de 73 % provient de ces seules sources. Notre méthode
Historique
- 14 oct. 2026Ajouté au registre avec 2 sources