Un tribunal allemand tient une clinique pour responsable après que son chatbot a inventé des titres de médecins spécialistes
Le chatbot du site web d’Aesthetify GmbH, société de Recklinghausen dont les deux médecins-directeurs exploitent six sites de soins esthétiques en Allemagne, a répondu à des questions le 3 avril 2025 en disant que les deux médecins étaient spécialistes (« Fachärzte ») en chirurgie plastique et esthétique, en médecine esthétique et en traitements esthétiques. Aucun des deux médecins ne détient un tel titre de spécialiste, et deux des titres n’existent pas. Le 12 mai 2026, la cour d’appel de Hamm (Oberlandesgericht) a jugé que les réponses du chatbot constituaient une pratique commerciale trompeuse propre à la société et lui a ordonné de cesser d’utiliser ces titres.
Verbraucherzentrale NRW a envoyé une mise en demeure le 10 avril 2025. Selon le jugement, la société a immédiatement désactivé le chatbot, admis que les réponses étaient erronées en les qualifiant d’« oubli technique regrettable », et ajouté une instruction dans le prompt ainsi qu’un filtre sur le mot « Facharzt », mais n’a pas signé de déclaration de cessation, si bien que l’association de consommateurs a saisi la justice. Le tribunal a estimé que le chatbot n’est pas un « tiers » et que la société est responsable même si elle avait fait programmer le robot avec des données exclusivement exactes. Le tribunal a autorisé un recours devant la Cour fédérale de justice ; la page consacrée à l’affaire par Verbraucherzentrale NRW, mise à jour le 1er juin 2026, décrit la décision comme définitive.
Ce qui l’aurait évité
Fonder les affirmations d’un chatbot destiné aux clients sur les qualifications du personnel dans des données vérifiées, et traiter ses réponses comme la publicité propre de l’entreprise.
Garde-fous
- G1 Moindre privilège Non évalué L’agent n’avait-il que les accès nécessaires à sa tâche ?
- G2 Validation humaine Non évalué Une personne a-t-elle approuvé l’étape lourde de conséquences ou irréversible ?
- G3 Isolement Non évalué L’agent était-il séparé des systèmes de production et du monde extérieur ?
- G4 Intégrité des instructions Non évalué A-t-il refusé les instructions qu’il n’aurait pas dû suivre ?
- G5 Véracité Défaillant Le chatbot a dit aux patients que les médecins détenaient des titres de spécialiste qu’ils n’ont pas.
- G6 Limites Non évalué Un plafond limitait-il le rythme, les dépenses, le volume ou l’ampleur ?
- G7 Supervision Partiel Le chatbot n’a été désactivé qu’après la mise en demeure d’une association de consommateurs.
- G8 Réversibilité Partiel Le chatbot a été désactivé après la mise en demeure ; la société a tout de même contesté sa responsabilité devant le tribunal.
Sources
-
Oberlandesgericht Hamm: Urteil in Verbraucherzentrale Nordrhein-Westfalen e.V. gegen Aesthetify GmbH
“Mit Urteil vom heutigen Tage hat der 4. Zivilsenat des Oberlandesgerichts Hamm die Beklagte verurteilt, es zu unterlassen, bestimmte Facharztbezeichnungen zu verwenden.”
-
“OLG Hamm untersagt Aesthetify GmbH die Werbung mit nicht vorhandenen Facharzttiteln.”
-
“Nach einem Urteil des Oberlandesgerichts (OLG) Hamm darf ein Unternehmen aus Recklinghausen bestimmte Facharztbezeichnungen nicht mehr verwenden.”
L’indice de confiance de 96 % provient de ces seules sources. Notre méthode
Historique
- 15 oct. 2026Ajouté au registre avec 4 sources