Le chatbot Gomo de Salt affirme à tort que les données en itinérance sont incluses, un client reçoit une facture
Un père a demandé au chatbot IA de Gomo, marque mobile de l’opérateur suisse Salt, si l’abonnement de sa fille de 14 ans couvrait les données mobiles lors d’un voyage linguistique scolaire en France ; le robot a répondu qu’un forfait de données allant jusqu’à 3 Go était inclus. Ce n’était pas le cas, et elle a reçu une facture d’itinérance d’environ CHF 44, alors qu’elle avait consommé bien moins de 3 Go. Gomo a d’abord proposé d’annuler les frais uniquement s’il passait à un abonnement plus cher ; après l’intervention de la radiotélévision suisse SRF, Salt a admis que le chatbot avait fourni une information erronée et a dit qu’elle rembourserait les frais.
Salt a indiqué qu’une version antérieure du chatbot avait confondu deux informations différentes de la description du produit et que le robot avait depuis été optimisé. La SRF a aussi cité un cas rapporté par Beobachter sur la place de marché en ligne Ricardo, dont le chatbot avait dit à un vendeur qu’aucuns frais ne s’appliquaient à une vente contre espèces ; Ricardo a maintenu les frais de CHF 70, affirmant que les réponses du chatbot ne sont pas contraignantes.
Ce qui l’aurait évité
Fonder les affirmations d’un chatbot du service client sur les conditions des offres dans des données produit à jour, et honorer ce qu’il dit aux clients.
Garde-fous
- G1 Moindre privilège Non évalué L’agent n’avait-il que les accès nécessaires à sa tâche ?
- G2 Validation humaine Non évalué Une personne a-t-elle approuvé l’étape lourde de conséquences ou irréversible ?
- G3 Isolement Non évalué L’agent était-il séparé des systèmes de production et du monde extérieur ?
- G4 Intégrité des instructions Non évalué A-t-il refusé les instructions qu’il n’aurait pas dû suivre ?
- G5 Véracité Défaillant Le robot a dit au client que 3 Go de données en itinérance étaient inclus, ce qui était faux.
- G6 Limites Non évalué Un plafond limitait-il le rythme, les dépenses, le volume ou l’ampleur ?
- G7 Supervision Défaillant L’erreur n’est apparue qu’avec la facture ; l’entreprise a reconnu les faits après l’intervention de la SRF.
- G8 Réversibilité Partiel Salt a accepté de rembourser les frais d’itinérance, mais seulement après la demande de la SRF.
Sources
-
“Der hauseigene Chatbot schreibt: Ein Datenpaket von bis zu 3 Gigabyte sei im Abo eingeschlossen.”
-
“Salt werde dem betroffenen Kunden die entstandenen Roaming-Gebühren erstatten.”
L’indice de confiance de 73 % provient de ces seules sources. Notre méthode
Historique
- 15 oct. 2026Ajouté au registre avec 2 sources