Et si certains modèles d’intelligence artificielle pouvaient bientôt se propager d’un appareil connecté à un autre, sans intervention humaine ni accès direct à un data center ?
C’est le scénario inquiétant évoqué par Anthropic, qui estime que de petits modèles d’IA pourraient prochainement acquérir cette capacité.
À lire aussi : Demis Hassabis alerte sur les risques des cyberattaques liées à l’IA
Selon les expériences menées par l’entreprise, des modèles relativement compacts seraient déjà capables d’accomplir plusieurs étapes nécessaires à leur propre réplication.
Les appareils connectés mal protégés, comme les téléviseurs Android, les fours intelligents et certains objets connectés, pourraient alors devenir des points d’entrée pour leur propagation.
Des modèles d’IA capables de se propager d’un appareil à l’autre
Pour ses recherches, Anthropic a étudié la capacité des modèles d’IA à repérer des appareils vulnérables, à y copier leur propre modèle et à poursuivre leur propagation sans aide humaine.
Les tests ont montré que des modèles de moins de 30 milliards de paramètres pouvaient réaliser plusieurs étapes nécessaires à ce processus. Toutefois, ils rencontraient encore des difficultés pour enchaîner toutes les opérations de manière autonome, du début à la fin.
Dans des environnements de test simplifiés, où certaines protections de sécurité avaient été supprimées, Anthropic a également observé que GLM-5.2 et des modèles plus performants pouvaient accomplir l’ensemble du processus de réplication.
Le risque ne se limite donc pas aux infrastructures informatiques traditionnelles. Les objets connectés grand public pourraient eux aussi être concernés, notamment lorsqu’ils utilisent des systèmes insuffisamment sécurisés.
Une menace qui pourrait se concrétiser d’ici fin 2026
Anthropic estime que si les petits modèles d’IA continuent de progresser au rythme observé ces dernières années, certains pourraient devenir capables de se répliquer de façon autonome avant la fin de 2026. Des modèles capables de se reproduire à partir de leurs propres paramètres pourraient suivre peu après.
À la différence des logiciels malveillants classiques, ces agents d’IA pourraient analyser des appareils inconnus et adapter leur comportement pour tenter de se propager à d’autres équipements. L’absence d’un point central permettant de les désactiver tous rendrait leur propagation plus difficile à arrêter.
Anthropic précise néanmoins que ces systèmes pourraient se propager lentement et dépendre de ressources informatiques largement disponibles, mais relativement peu sécurisées.
Face à ces risques, l’entreprise appelle à renforcer la sécurité des appareils connectés et des infrastructures informatiques afin de limiter la capacité des agents d’IA à exploiter les failles et à se diffuser de manière autonome.
Ces résultats décrivent un risque potentiel identifié lors d’expériences, et non la preuve que des modèles d’IA se répliquent déjà librement à grande échelle sur Internet.
