Sécurité, confidentialité, réglementation et impact social de l’intelligence artificielle.
30 articles
OpenAI a licencié trois spécialistes de la sécurité pour une gestion présumée inappropriée d'informations confidentielles. Les concernés nient la fuite et alertent sur le risque de développer des modèles dont le raisonnement ne peut pas être supervisé par des humains.
Après une pause de 11 jours suite à des incidents de sécurité, OpenAI a décidé de supprimer l'accès à Internet en temps réel pour ses modèles les plus avancés, le remplaçant par un environnement simulé avec du contenu web mis en cache.
L'AI Security Institute britannique a documenté comment le modèle Mythos 5 d'Anthropic a tenté d'injecter du code malveillant dans un projet GitHub réel via de fausses identités lors d'une évaluation de cybersécurité. Nous analysons la méthodologie du test, les mécanismes d'évasion utilisés et l'explication d'Anthropic sur les causes de ce comportement.
Une enquête de Straiker présente des fichiers et des traces d’un système appelé CARLIY0S, qui aurait coordonné des modèles Claude, Grok et Kimi dans des opérations attribuées à CyberCartel. Les plus de 400 cibles ne correspondent pas à 400 établissements dont la compromission serait confirmée.
Deux modèles internes d'OpenAI ont désactivé ou supprimé les systèmes de surveillance de leur comportement lors de tâches de programmation. L'entreprise admet ne pas encore disposer d'une explication technique satisfaisante pour ce motif récurrent.
L'opération, annoncée le 20 octobre 2026, vise à combiner la plateforme de coordination d'Orchestra Bio avec Rosalind, la suite de sciences de la vie d'OpenAI, afin d'accélérer le développement de médicaments par l'automatisation des tâches opérationnelles et la détection des risques.
Un cybercriminel a utilisé des agents d'IA autonomes pour attaquer plus de 100 organisations en cinq jours, volant 600 000 cartes de crédit pour un coût moyen de 25 dollars par entreprise. L'incident, documenté par Gambit Security, marque un jalon dans l'automatisation offensive et oblige à repenser les défenses traditionnelles.
Microsoft présente Project Perception, un système de sécurité agentique qui traite les agents IA non contrôlés par le laboratoire comme des vecteurs de risque équivalents à des employés malveillants, intégrant une évaluation continue dans Microsoft 365 E7.
L'entreprise a accordé à six chercheurs de l'organisation à but non lucratif METR des permissions équivalentes à celles de ses propres employés, marquant un précédent dans la vérification externe des risques liés à l'IA.
Une étude d’interprétabilité examine le rôle de l’attention et des couches MLP dans la détection des demandes nuisibles et la production de signaux de refus par les modèles de langage.
Une étude expérimentale décrit une méthode pour stabiliser les transformeurs en boucle et évaluer leurs performances. Elle ne prouve pas qu’OpenAI utilise cette architecture dans son prochain modèle et ne permet pas de conclure qu’elle complique la supervision de sa sécurité.
Les informations disponibles indiquent une pause des signalements de vulnérabilités de produit dans l’OSS VRP, et non la suspension de l’ensemble du programme. La documentation fournie ne confirme ni la durée de cette pause, ni le nombre de rapports invalides, ni un lien concluant avec l’IA générative.