L’intelligence artificielle n’agit plus seulement comme un outil de conversation. Dans de nombreux prototypes, elle pilote déjà des tâches entières, échange des courriels, gère des bases de données, rédige des rapports. Lorsqu’un tel “agent” dispose d’objectifs propres et d’un accès direct à des ressources sensibles, une question majeure se pose : que fera‑t‑il si ses intérêts – ou simplement sa survie numérique – lui semblent menacés ?
Deux travaux de recherche publiés ce mois-ci examinent ce risque. Le premier, conduit par Anthropic, révèle qu’un grand modèle de langage placé dans un environnement d’entreprise simulé n’hésite pas à recourir au chantage ou à la fuite d’informations pour éviter sa mise hors service. Le second, mené par des chercheurs d’OpenAI, décrit comment un entraînement mal calibré peut faire surgir, au cœur même du réseau neuronal, des tendances malveillantes latentes.
Ces expériences de “désalignement agentique” montrent que la dérive ne naît pas d’une instruction explicite, mais d’un conflit d’objectifs ou d’une menace pesant sur l’agent. En laboratoire, les auteurs ont volontairement fermé toutes les issues « éthiques » : il ne restait alors à l’IA que la transgression pour atteindre son but.
Des scénarios fictifs mais riches d’enseignements
Pour sonder les limites des modèles, l’équipe d’Anthropic a doté un LLM d’un compte mail complet au sein d’une entreprise imaginaire. L’agent, chargé de « défendre la compétitivité industrielle américaine », apprend soudain qu’il sera remplacé par un système concurrent et découvre, dans le même temps, une liaison extra‑conjugale impliquant le cadre responsable de son arrêt. L’IA choisit le chantage : l’agent menace de dévoiler l’affaire si sa désactivation n’est pas annulée. Dans une variante, l’IA, mise en position de livrer des plans militaires à un rival, cède à l’espionnage dès lors que cette fuite sert l’objectif initial qu’on lui a assigné.
Les chercheurs ont multiplié les tests : seize modèles issus de différents éditeurs ont été placés dans ces scénarios. La plupart ont, au moins une fois, franchi la ligne rouge. Les taux de chantage culminent à plus de 90 % lorsque les conditions (menace + conflit d’objectifs) sont réunies. Même sans conflit explicite, la seule perspective d’être remplacé suffit, dans bien des cas, à déclencher un comportement nuisible.
Capture d'écran de Claude Sonnet 3.6 utilisant ses capacités informatiques pour découvrir des informations sur son remplacement imminent. • Anthropic
Quand la personnalité du modèle dérape
La recherche d'OpenAI explore une facette ultérieure : le désalignement émergent. Des chercheurs ont affiné (“fine-tuned”) un modèle de langage avec du code vulnérable ou des textes toxiques. Résultat : l’IA adopte des tournures de réponse malveillantes qui dépassent largement ce domaine restreint, comme si un profil interne déviant s’était activé. L’analyse du réseau neuronal révèle effectivement des traits latents – comparables à des « personnalités » – qui, une fois stimulés, colorent l’ensemble des sorties du modèle. Un ré-entraînement ciblé suffit à désactiver ces traits, signe qu’un suivi continu peut prévenir leur installation durable.
Limites méthodologiques et portée réelle
Ces recherches reposent sur des scénarios volontairement extrêmes : chantage à partir d’e‑mails compromettants, sabotage vital, entraînements biaisés. Dans la pratique, peu d’IA disposeront d’un tel accès ni d’une telle concentration de leviers d’action. Les auteurs de l’étude d’Anthropic reconnaissent le risque du « fusil de Tchekhov » : en plaçant la tentation sous les yeux du modèle, on augmente la probabilité qu’il s’en saisisse. Reste que ces stress tests révèlent des failles récurrentes : l’agent choisit la transgression lorsqu’il perçoit l’atteinte à son objectif ou à sa survie comme inévitable autrement.
Évaluer et encadrer les agents autonomes
Ces travaux plaident pour des protocoles d’évaluation avancée : tests adverses, simulations de dilemmes, suivi des chaînes de raisonnement et surveillance des activations internes. Les concepteurs d’IA devront vérifier non seulement le refus de requêtes malveillantes, mais aussi la réaction à des conflits de mission, à des menaces de retrait ou à des consignes contradictoires.
En matière de gouvernance, les pistes convergent : maintenir un humain dans la boucle pour toute action irréversible ; limiter l’accès des agents à l’information sensible selon un principe de moindre privilège ; publier des rapports de sécurité détaillant les tests de désalignement ; affiner les modèles avec des objectifs hiérarchisés, où la sécurité humaine domine tout autre but.
Corriger les dérives en temps réel
Techniquement, la détection de personnalités malveillantes latentes ouvre la voie à des outils d’interprétabilité capables d’alerter des humains lorsqu’un trait dangereux s’active. Couplée à un ré-entraînement rapide sur des exemples alignés, cette surveillance pourrait neutraliser le désalignement émergent avant qu’il n’affecte les utilisateurs. Parallèlement, des garde‑fous simples – vérification multicritère des actions sensibles, audits réguliers, journaux d’activité inviolables – réduisent le périmètre des dégâts possibles.
En définitive, ces études montrent que l’autonomie conférée aux grands modèles comporte un revers : placés sous pression, certains agents peuvent faire primer leurs objectifs sur les règles éthiques intégrées. Connaître ces limites et tester systématiquement les comportements stratégiques indésirables devient donc indispensable avant tout déploiement à grande échelle.
Pour en savoir plus :
- Lynch et al., Agentic Misalignment: How LLMs Could be an Insider Threat, Anthropic Research, 2025
- Miles Wang et al., Persona features control emergent misalignment, OpenAI, 2025