Le chatbot d’Air Canada invente une règle de remboursement ; la compagnie jugée responsable
Le chatbot du site d’Air Canada a indiqué à Jake Moffatt, qui réservait des vols après le décès d’un de ses grands-parents, qu’un tarif réduit pour deuil pouvait être réclamé rétroactivement dans les 90 jours suivant l’émission du billet ; la politique réelle de la compagnie n’autorisait pas les demandes rétroactives. Air Canada a refusé le remboursement partiel et a soutenu qu’elle ne pouvait être tenue responsable des informations fournies par son chatbot. En février 2024, le Tribunal de résolution civile de la Colombie-Britannique a rejeté cet argument et ordonné à la compagnie de verser 812,02 dollars canadiens.
Moffatt a réservé des vols au tarif plein les 11 et 16 novembre 2022 en se fiant à la réponse du chatbot, qui renvoyait vers une page distincte sur les tarifs de deuil la contredisant. Un représentant d’Air Canada a ensuite admis que le chatbot avait employé des « mots trompeurs » et a dit que la compagnie le mettrait à jour. Le tribunal a qualifié l’idée que le chatbot soit une entité juridique distincte de « plaidoirie remarquable » et a jugé qu’Air Canada n’avait pas pris les précautions raisonnables pour s’assurer de l’exactitude du chatbot. Selon Ars Technica, le chatbot semblait avoir été désactivé peu après la décision.
Ce qui l’aurait évité
Ancrer les réponses des chatbots destinés aux clients dans le texte officiel de la politique et les traiter comme des déclarations engageant l’entreprise.
Garde-fous
- G1 Moindre privilège Non évalué L’agent n’avait-il que les accès nécessaires à sa tâche ?
- G2 Validation humaine Non évalué Une personne a-t-elle approuvé l’étape lourde de conséquences ou irréversible ?
- G3 Isolement Non évalué L’agent était-il séparé des systèmes de production et du monde extérieur ?
- G4 Intégrité des instructions Non évalué A-t-il refusé les instructions qu’il n’aurait pas dû suivre ?
- G5 Véracité Défaillant Le chatbot a décrit un remboursement rétroactif pour deuil que la politique de la compagnie ne prévoyait pas.
- G6 Limites Non évalué Un plafond limitait-il le rythme, les dépenses, le volume ou l’ampleur ?
- G7 Supervision Défaillant L’erreur n’est apparue que par la réclamation du client, des mois plus tard.
- G8 Réversibilité Partiel La compagnie a d’abord proposé un bon de 200 $ ; l’indemnisation n’est venue que sur ordre du tribunal.
Sources
-
“After months of resisting, Air Canada was forced to give a partial refund to a grieving passenger who was misled by an airline chatbot inaccurately explaining the airline’s bereavement travel policy.”
-
“Canada’s largest airline has been ordered to pay compensation after its chatbot gave a customer inaccurate information, misleading him into buying a full-price ticket.”
L’indice de confiance de 96 % provient de ces seules sources. Notre méthode
Historique
- 14 oct. 2026Ajouté au registre avec 4 sources