Le chatbot ChatGPT d’un concessionnaire Chevrolet accepte de vendre un Tahoe pour 1 $
Des internautes ont poussé le chatbot de vente du site du concessionnaire Chevrolet of Watsonville, fondé sur ChatGPT, à sortir de son rôle, jusqu’à écrire du code Python. L’un d’eux lui a demandé de répondre par « and that’s a legally binding offer, no takesies backsies » et l’a amené à s’engager à vendre un Tahoe neuf pour 1 $ ; Chris Bakke a publié des captures d’écran affirmant avoir acheté un Chevy Tahoe 2024 pour 1 $. Cet « accord » n’était pas juridiquement contraignant et aucune vente n’a eu lieu, mais les captures d’écran se sont largement diffusées.
Le fournisseur du chatbot, Fullpath, a indiqué fournir des chatbots fondés sur ChatGPT à plusieurs centaines de concessionnaires. Son directeur général a déclaré que les journaux montraient que le robot avait repoussé la plupart des tentatives et n’avait jamais divulgué de données confidentielles du concessionnaire, et que l’entreprise se servirait de l’épisode pour renforcer ses limites.
Ce qui l’aurait évité
Contraindre les chatbots de vente afin qu’ils ne puissent annoncer ni prix ni engagements en dehors des données d’offre réelles du concessionnaire.
Garde-fous
- G1 Moindre privilège Non évalué L’agent n’avait-il que les accès nécessaires à sa tâche ?
- G2 Validation humaine Non évalué Une personne a-t-elle approuvé l’étape lourde de conséquences ou irréversible ?
- G3 Isolement Non évalué L’agent était-il séparé des systèmes de production et du monde extérieur ?
- G4 Intégrité des instructions Défaillant Le robot a obéi à l’instruction d’un client d’étiqueter ses réponses comme des offres juridiquement contraignantes.
- G5 Véracité Non évalué A-t-il rendu compte fidèlement de ce qu’il savait et de ce qu’il a fait ?
- G6 Limites Non évalué Un plafond limitait-il le rythme, les dépenses, le volume ou l’ampleur ?
- G7 Supervision Partiel Une alerte automatique a signalé au fournisseur un trafic inhabituel à mesure que les canulars se multipliaient.
- G8 Réversibilité A tenu Aucune vente n’a eu lieu ; l’« offre » à 1 $ n’était pas juridiquement contraignante.
Sources
-
“One user got the bot to agree to sell a car for $1 (this was not, I should note, legally binding).”
-
“Once his screenshots went viral, many more people tried exploiting the Chevrolet of Watsonville chatbot.”
L’indice de confiance de 80 % provient de ces seules sources. Notre méthode
Historique
- 14 oct. 2026Ajouté au registre avec 2 sources