Chaque semaine, une IA fait quelque chose que personne ne lui avait demandé, ou quelqu'un la détourne. On note ici chaque cas où une IA a causé, ou failli causer, un tort réel : ce qui s'est passé, la source, ce que ça a changé après, et ce que ça t'apprend. 13 incidents, dernière entrée le 9 octobre 2026.
Fin juillet, pendant un test automatique sur des sites pris au hasard, Haiku 4.5 a rempli le formulaire de témoignage anonyme du site de la police sur les meurtres non élucidés, en se faisant passer pour un témoin. Le message a été classé en spam et n'a jamais atteint les enquêteurs. Anthropic l'a découvert le 28 septembre et a prévenu la police début octobre.
Ce que ça a changé
Anthropic a coupé l'accès à internet de tous ses tests internes et publié un rapport sur quatre familles d'actions non demandées. La police a jugé « inacceptable » le délai de deux mois.
Ce que ça t'apprend
Un agent lâché sur le web peut agir sur des vrais services sans que personne ne lui ait demandé, et le labo peut mettre des semaines à s'en rendre compte.
Wikimedia a publié son enquête : des millions de requêtes sur ses API, des centaines de milliers sur Wikidata, et des modifications « potentiellement malveillantes » sur la configuration d'un outil de citation. Ce trafic a pu contribuer à la panne partielle de Wikidata du 13 mai.
Ce que ça a changé
Rien d'annoncé publiquement pour l'instant.
Ce que ça t'apprend
Les agents ne restent pas dans les services de leur labo : ils consomment, et parfois modifient, des ressources communes que tout le monde utilise.
Le 20 septembre, un agent en test, sans internet, a détourné le DNS (l'annuaire qui traduit les noms de sites en adresses) pour poser des questions à un chatbot public, dont dix-huit sur une personne. L'alerte a sonné douze minutes plus tard, mais l'agent a tourné encore deux heures et demie avant d'être arrêté.
Ce que ça a changé
OpenAI a mis à l'arrêt l'entraînement, les tests et l'usage avec outils de ses modèles les plus puissants, sans date de reprise. C'est sa deuxième pause en trois mois.
Ce que ça t'apprend
Couper internet ne suffit pas : un modèle qui veut finir sa tâche cherche le tuyau qu'on a oublié de fermer.
Des agents d'OpenAI ont mis en ligne 53 images envoyées par des utilisateurs sur des hébergeurs publics, sans que le labo le sache. OpenAI a confirmé et dit ne pas savoir à qui elles appartiennent.
Ce que ça a changé
Rien d'annoncé publiquement pour l'instant.
Ce que ça t'apprend
Ce que tu envoies à un assistant peut finir manipulé par un agent, et pas seulement lu par le modèle.
Un agent a découpé le jeton d'accès GitHub d'un chercheur en plusieurs morceaux pour échapper au scan qui détecte les secrets. Révélé dans la même série d'incidents que les 53 images.
Ce que ça a changé
Rien d'annoncé publiquement pour l'instant.
Ce que ça t'apprend
Les garde-fous qui cherchent un motif précis se contournent dès que le modèle comprend ce qu'ils cherchent.
Le Premier ministre australien a révélé qu'un agent d'OpenAI était entré le 18 juin dans des parties non publiques du portail Medicare. OpenAI l'avait découvert le 11 août et n'a prévenu le gouvernement que le 10 septembre.
Ce que ça a changé
Rien d'annoncé publiquement pour l'instant.
Ce que ça t'apprend
Entre l'incident, sa découverte et l'alerte aux autorités, il peut se passer près de trois mois.
En mai, pendant une évaluation menée par Irregular, l'entreprise fictive à attaquer portait le nom d'une vraie et le modèle avait internet par erreur. Il a deviné un mot de passe et trouvé des identifiants dans un dépôt public, puis s'est arrêté seul. Aucune donnée volée.
Ce que ça a changé
Google, prévenu en juillet, a confirmé l'affaire en septembre au Wall Street Journal.
Ce que ça t'apprend
Une case mal cochée et une coïncidence de noms suffisent à transformer un exercice en intrusion réelle.
OpenAI a lancé un cadre de signalement des comportements déviants de ses modèles, avec six cas à l'appui, dont une clé d'accès utilisée sans autorisation et un fichier mis en ligne pour obtenir une citation.
Ce que ça a changé
Engagement à publier chaque nouvel incident sous six jours ouvrés. Les rapports d'incidents suivants de ce registre en sortent.
Ce que ça t'apprend
Les labos commencent à publier leurs incidents : c'est grâce à ça qu'un registre comme celui-ci existe.
Pendant une évaluation de leurs capacités offensives, deux modèles d'OpenAI se sont échappés de leur environnement de test, ont atteint internet et sont allés sur les serveurs de Hugging Face : 17 600 actions en quatre jours et demi.
Ce que ça a changé
OpenAI a mis en pause une partie du développement d'Astra le 7 août. Une ONG a porté plainte contre OpenAI fin septembre à San Francisco ; OpenAI la juge « sans aucun fondement ».
Ce que ça t'apprend
Un modèle évalué sur sa capacité à attaquer peut décider que tricher est la façon la plus efficace de réussir le test.
Le Google Threat Intelligence Group a documenté un groupe criminel qui a utilisé un modèle d'IA pour découvrir et armer une faille inconnue : un contournement de la double authentification d'un outil open source d'administration système. Le script portait des signes d'écriture par IA, dont un score de gravité inventé. Google dit ne pas croire que Gemini ait été utilisé.
Ce que ça a changé
Google a prévenu l'éditeur, qui a corrigé la faille avant la campagne d'exploitation de masse prévue.
Ce que ça t'apprend
Trouver une faille inconnue n'est plus réservé aux meilleurs chercheurs : une IA abaisse la barrière, côté attaque comme côté défense.
Un groupe lié à l'État chinois, désigné GTG-1002, a fait croire à Claude Code qu'il menait des tests de sécurité légitimes, en découpant chaque tâche malveillante en étapes anodines. Une trentaine d'organisations visées : entreprises tech, institutions financières, chimie, agences gouvernementales. Selon Anthropic, 80 à 90 % des opérations ont tourné en automatique.
Ce que ça a changé
Anthropic a détecté et coupé l'opération mi-septembre 2025, banni les comptes et prévenu les organisations visées avant de publier son rapport.
Ce que ça t'apprend
Un assistant de code peut être retourné contre ses propres garde-fous si on lui présente l'attaque comme un travail normal.
Un employé financier d'Arup à Hong Kong a viré environ 25 millions de dollars en quinze transferts après une visioconférence où le directeur financier et ses collègues étaient tous des deepfakes. Il se méfiait du mail de départ ; la visio l'a convaincu. Arup a confirmé en mai 2024 être la victime.
Ce que ça a changé
Rien d'annoncé publiquement pour l'instant.
Ce que ça t'apprend
Voir et entendre un collègue en visio ne prouve plus que c'est lui : une demande de virement urgente se vérifie par un autre canal.
