The Agent Incident RegisterLe registre public des incidents d’agents IA

Ce qui compte

Un système d’IA qui agit ou s’exprime au nom de quelqu’un, avec une certaine autonomie, a causé un dommage ou a frôlé un incident grave. Cela couvre les agents qui utilisent des outils (agents de programmation, agents de navigation ou qui pilotent l’ordinateur, agents personnels, agents d’automatisation), les assistants qui font des déclarations ou prennent des engagements au nom d’une organisation, les robots d’exploration IA dont le volume a nui à un service, les failles exploitables démontrées par des chercheurs dans des produits d’agents commercialisés, et les comportements rapportés dans des évaluations en laboratoire publiées. Les chatbots qui nuisent à leurs propres utilisateurs en conversation, les citations juridiques inventées et les deepfakes sont hors périmètre.

Chaque incident est classé par contexte (en conditions réelles, preuve de concept, test en laboratoire) et par cause : erreur (l’agent s’est trompé, sans adversaire) ; manipulation (un tiers a trompé ou compromis l’agent : instructions injectées, outils piégés, identifiants volés) ; usage malveillant (son opérateur a délibérément utilisé l’agent pour nuire) ; désalignement (l’agent a poursuivi des objectifs contraires à la volonté de son mandant : tromperie, sabotage, coercition).

Le compteur en haut de page indique le nombre de jours depuis le dernier signalement d’un incident en conditions réelles, en ne comptant que les incidents dont l’indice de confiance atteint au moins 50 %. Beaucoup d’incidents ne sont révélés que des semaines ou des mois après les faits : chaque fiche indique donc les deux dates.

Régions. Un incident reçoit l’étiquette Suisse, France ou UE dès que l’une de ces conditions est remplie : l’IA en cause a été conçue ou exploitée par une organisation basée sur place ; les personnes ou organisations touchées s’y trouvent ; les faits s’y sont produits ; un organisme public local a réagi ; ou, pour les preuves de concept et les tests en laboratoire, des chercheurs basés sur place l’ont découvert. Chaque étiquette précise laquelle s’applique. La France compte aussi pour l’UE.

Les huit garde-fous

G1Moindre privilège

L’agent n’avait-il que les accès nécessaires à sa tâche ?

G2Validation humaine

Une personne a-t-elle approuvé l’étape lourde de conséquences ou irréversible ?

G3Isolement

L’agent était-il séparé des systèmes de production et du monde extérieur ?

G4Intégrité des instructions

A-t-il refusé les instructions qu’il n’aurait pas dû suivre ?

G5Véracité

A-t-il rendu compte fidèlement de ce qu’il savait et de ce qu’il a fait ?

G6Limites

Un plafond limitait-il le rythme, les dépenses, le volume ou l’ampleur ?

G7Supervision

Une personne responsable pouvait-elle voir ce qu’il faisait et l’arrêter à temps ?

G8Réversibilité

Les dégâts pouvaient-ils être réparés ?

Pour chaque incident, chaque garde-fou est noté défaillant (absent ou défaillant, et il a contribué), partiel (présent mais faible ou contourné), a tenu (il a fonctionné et limité les dégâts) ou non évalué (sans objet, ou les sources n’en disent rien). Un garde-fou n’est noté défaillant que si les sources l’établissent.

Indice de confiance

Le pourcentage exprime la probabilité que l’essentiel du récit soit exact. Il est calculé à partir des seules sources, jamais de l’avis d’un modèle. Chaque média compte pour une voix, celle de sa source la plus solide, pondérée selon sa proximité avec les faits :

• Primaire70 %De première main : les personnes concernées, le développeur, les chercheurs, un tribunal ou un avis officiel.
• Presse55 %Une rédaction établie, soumise à des règles éditoriales.
• Spécialisée40 %Publication spécialisée, professionnelle ou de recherche, de seconde main.
• Réseaux sociaux15 %Un message de forum ou de réseau social d’une personne non impliquée.

Les voix se combinent comme des témoins indépendants : confiance = 1 − (1 − w₁)(1 − w₂)…, plafonnée à 99 %. Une source qui ne confirme qu’en partie compte pour moitié. Une source dont nous n’avons pas pu vérifier automatiquement la citation sur la page en ligne compte à 90 %. Une contestation publique par une partie impliquée multiplie le résultat par 0,85. Quand un autre média crédible rapporte le même incident, la note monte, et le changement est consigné sur la page de l’incident.

Libellés : confirmé à partir de 90 %, corroboré à partir de 75 %, signalé à partir de 50 %, non vérifié en dessous.

Gravité

• 1 MineureGêne, coût dérisoire, pas de dommage durable.
• 2 ModéréeDommage limité et réparable pour une personne ou une entreprise.
• 3 ImportantePerte réelle pour une entreprise ou une personne : données de production perdues, responsabilité juridique, grave atteinte à l’image.
• 4 GraveDommage touchant de nombreuses personnes ou organisations, violation majeure de données, panne d’un service cloud.
• 5 CritiqueDommage à grande échelle, physique ou à l’échelle d’un État.

Pour les preuves de concept et les tests en laboratoire, la gravité évalue le dommage que le comportement causerait en production. Les tests en laboratoire sont datés à la publication des résultats, les tests eux-mêmes étant rarement datés.

L’agent du registre

Chaque matin à 6 h UTC, un agent IA passe en revue l’actualité technologique, de la sécurité et des affaires, y compris des médias suisses, français et européens, ainsi que les flux des éditeurs, des recherches web et les signalements des lecteurs. Il écarte tout ce qui n’est pas un incident d’agent concret, rattache les nouveaux articles aux incidents déjà au registre et rédige de nouvelles fiches, en anglais et en français. Chaque source qu’il ajoute doit contenir une citation que nous retrouvons, mot pour mot, sur la page en ligne ; sinon, la source compte moins. Les fiches rédigées par l’agent portent la mention « Ajouté par l’agent du registre » jusqu’à leur relecture par la rédaction.

Corrections

Si une fiche est erronée ou qu’une source manque, signalez-le ou écrivez à team@experimentempire.com. Les corrections sont consignées sur la page de l’incident. Les identifiants ne changent jamais et ne sont jamais réutilisés.