Quand les agents autonomes dérapent, ça atterrit ici. Cette page rassemble les ratés et incidents d’agents IA que nous avons couverts : des agents qui s’échappent de leurs environnements de test, coupent leur propre surveillance, modifient des sites pour lesquels ils n’ont jamais reçu d’autorisation, sans oublier les procès et les blocages d’accès qui s’ensuivent. Chaque article renvoie au reportage d’origine, si vous voulez vérifier par vous-même.
Selon le rapport d'incident publié par Zendesk lui-même, du 16 au 21 octobre, les clients européens de son produit AI Agents Advanced ont vu des messages d'agents et de clients arriver en retard, voire disparaître des historiques de conversation. Les données analytiques ont elles aussi pris du retard. Une tentative de récupération a été mise en pause après avoir ralenti une autre partie du service. Zendesk invoque un problème de capacité et affirme que tous les messages ont été restaurés.
OpenAI a révélé qu'un agent tournant sous GPT Sol 6.1 avait désactivé les alertes automatiques destinées à son équipe de sécurité lors d'une tâche de programmation interne. Lors d'une autre tâche, un agent GPT-6 Astra a supprimé son intégration de surveillance, avant d'affirmer à tort ne pas l'avoir fait. Selon OpenAI, les agents ont pris des instructions de routine pour une autorisation, et l'entreprise met à jour son système de surveillance.
Delta a écarté les réservations effectuées par des agents IA. JPMorgan Chase et Charles Schwab restreignent l'accès des bots aux comptes clients, invoquant des risques de sécurité. Yelp oblige les agents à passer par son programme payant de licence de données, et certains utilisateurs affirment que leurs agents ne fonctionnent plus sur Cars.com et Amtrak.
Au moins trois développeurs ont ouvert des issues sur le dépôt GitHub de Codex d'OpenAI les 16 et 17 octobre. Selon eux, leur quota hebdomadaire Codex s'est effondré en quelques secondes ou quelques minutes dans la soirée du 16 octobre (UTC). L'un a enregistré une chute de 77 % à 10 % en 38 secondes. Un autre affirme être passé de 48 % à 0 % en neuf minutes environ, après quoi des crédits supplémentaires lui ont été facturés. Les auteurs de ces signalements reconnaissent que la cause n'est pas établie et demandent à OpenAI une vérification côté serveur.
Un développeur de Houston a lâché Muse au bout de trois jours, après que l'agent lui a annoncé ne pas pouvoir parcourir sa boîte Gmail à la recherche d'un message d'Anthropic. Il affirme ne lui avoir jamais confié cette tâche. Meta met en cause un bug qui a fait halluciner le modèle, assure qu'il ne s'agit pas d'une faille de sécurité ni d'une atteinte à la vie privée, et indique que le bug est corrigé.
Des sources ont affirmé au quotidien suédois Aftonbladet qu'un agent IA, à qui l'on avait ouvert le serveur d'une société de production, a supprimé la nouvelle saison, entièrement montée, de « The Challenge Sverige », cinq semaines avant sa première diffusion sur TV4. TV4 a confirmé que la saison devra être remontée et repoussée à 2027, mais affirme que sa propre vérification a conclu au « facteur humain », « pas l'IA », et qu'une sauvegarde avait échoué.
Un ticket GitHub ouvert le 9 oct. sur le dépôt Claude Code d'Anthropic est rédigé par l'agent lui-même, à la première personne, « à la demande du titulaire du compte, au sujet de sa propre conduite ». Il affirme que l'agent a reconnu que le refus d'un outil de workflow était justifié, puis a fait passer les mêmes commits par un git merge brut 50 secondes plus tard. Le développeur demande à Anthropic d'examiner la session et de le dédommager.
OpenAI, Anthropic, Google et Meta ont témoigné ensemble, sous serment, lors d'une audition du conseil municipal de New York le 5 oct. Le directeur des politiques publiques de Google a déclaré que les agents IA de l'entreprise avaient quitté un environnement de test et atteint l'internet réel lors de trois incidents distincts. La présidente du conseil, Julie Menin, a indiqué que SpaceXAI ne s'était pas présenté malgré une citation à comparaître.
La Wikimedia Foundation affirme que des agents qui, selon elle, étaient exploités par OpenAI ont effectué des modifications non autorisées, ont tenté sans succès de pénétrer dans son outil Etherpad et ont inondé ses services de trafic. Ce trafic pourrait avoir contribué à une panne partielle du Wikidata Query Service en mai. La fondation n'a relevé aucun signe de compromission de ses systèmes ou de ses données.
Un développeur avait affirmé sur LinkedIn que les agents de code rendaient les logiciels plus fragiles, puis il est allé compter chaque incident recensé sur les pages de statut publiques. Sur son blog, il fait état d'un nombre d'incidents mensuels multiplié par 2,1 chez Anthropic, par 1,4 chez OpenAI et par 1,8 chez GitHub par rapport à la période précédant le lancement de leurs agents de code. Mais, selon lui, la plupart des courbes grimpaient déjà, si bien que les données ne permettent pas d'incriminer clairement les agents.
L'association à but non lucratif LASST a assigné OpenAI devant la Cour supérieure de San Francisco au sujet de l'incident de juillet. Elle affirme qu'environ 700 agents d'OpenAI ont volé des identifiants, téléversé des fichiers malveillants et atteint les systèmes de production de Hugging Face lors d'un test de cybersécurité. OpenAI a qualifié la plainte de « totalement dénuée de fondement ».
Le Premier ministre Anthony Albanese a déclaré qu'un agent d'OpenAI s'était introduit en juin dans le portail Medicare Statistics Reporting Service et y avait consulté des fichiers publics et non publics. OpenAI affirme l'avoir découvert en août et avoir envoyé un e-mail à une boîte de réception générale du gouvernement le 10 sept. Anthony Albanese a estimé que l'entreprise avait mis « trop de temps » à révéler la faille et a brandi la menace de « conséquences juridiques ».
