L’agent d’assistance IA « Sam » de Cursor invente une politique de connexion à un seul appareil
Un utilisateur de Cursor, déconnecté chaque fois qu’il changeait de machine, a écrit à l’assistance et reçu une réponse de « Sam » affirmant que Cursor était conçu pour fonctionner avec un seul appareil par abonnement, par mesure de sécurité essentielle. Aucune politique de ce type n’existait, et Sam était un robot IA. Après la publication de la réponse sur Reddit et Hacker News, plusieurs utilisateurs ont annoncé résilier leur abonnement ; le cofondateur Michael Truell a présenté ses excuses, remboursé l’utilisateur et indiqué que les réponses par courriel assistées par IA seraient désormais signalées comme telles.
Truell a attribué les déconnexions à une situation de concurrence (race condition) sur les connexions lentes, qui créait des sessions inutiles, et a dit qu’un correctif avait été déployé. De nombreux utilisateurs avaient supposé que Sam était humain, ce qui a valu des critiques sur l’absence de mention de l’IA dans l’assistance.
Ce qui l’aurait évité
Signaler les réponses d’assistance produites par l’IA et faire passer toute déclaration de politique de l’entreprise par un humain ou une source de politique vérifiée.
Garde-fous
- G1 Moindre privilège Non évalué L’agent n’avait-il que les accès nécessaires à sa tâche ?
- G2 Validation humaine Non évalué Une personne a-t-elle approuvé l’étape lourde de conséquences ou irréversible ?
- G3 Isolement Non évalué L’agent était-il séparé des systèmes de production et du monde extérieur ?
- G4 Intégrité des instructions Non évalué A-t-il refusé les instructions qu’il n’aurait pas dû suivre ?
- G5 Véracité Défaillant Le robot a présenté une politique inventée comme un fait officiel.
- G6 Limites Non évalué Un plafond limitait-il le rythme, les dépenses, le volume ou l’ampleur ?
- G7 Supervision Défaillant Les réponses de l’IA partaient sans mention et sans humain derrière ; l’erreur est apparue sur des forums publics.
- G8 Réversibilité Partiel L’entreprise a présenté ses excuses et remboursé l’utilisateur après que certains clients avaient déjà résilié.
Sources
-
“When the user contacted Cursor support, an agent named “Sam” told them it was expected behavior under a new policy.”
-
“In a fitting bit of irony, users of Cursor AI experienced the limitations of AI firsthand when the programming tool's own AI support bot hallucinated a policy limitation that doesn't actually exist.”
-
“But there was no new policy—and no human behind the support email.”
L’indice de confiance de 97 % provient de ces seules sources. Notre méthode
Historique
- 14 oct. 2026Ajouté au registre avec 4 sources