Une jeune entreprise spécialisée dans la cybersécurité, Cathedral, affirme avoir réussi à accéder à des systèmes internes d’Anthropic en moins de 12 heures.
Cette affaire concerne Cathedral Anthropic, l’entreprise derrière Claude, et pose de nouvelles questions sur la sécurité informatique des sociétés spécialisées dans l’intelligence artificielle.
À Lire aussi : Un hacker utilise des agents IA autonomes pour pirater 100 sites
D’après un article du Washington Post publié le 26 octobre, qui cite un brouillon de rapport de Cathedral, les chercheurs de cette start-up, créée il y a quelques mois, ont utilisé des agents d’intelligence artificielle pour trouver des chemins d’accès à des informations internes d’Anthropic.
Le test s’est déroulé dans un programme de « bug bounty », qui rémunère les experts extérieurs pour chaque faille signalée.
Selon ce rapport, les chercheurs seraient parvenus à consulter des transcriptions de réunions, des informations sur les salaires et les offres d’emploi, ainsi que des échanges internes sur les modèles d’IA les plus avancés d’Anthropic.
La faille ne vient toutefois pas de Claude lui-même. Les chercheurs ont exploité des vulnérabilités dans des logiciels professionnels, utilisés pour les tâches administratives et commerciales par de nombreuses entreprises. Ces outils, fournis par des éditeurs externes, étaient reliés aux systèmes d’Anthropic.
De son côté, Anthropic confirme qu’un accès limité à certains systèmes de vente, de ressources humaines et d’informatique a bien eu lieu.
L’entreprise précise que les chercheurs n’ont eu accès ni aux échanges des clients avec Claude, ni au code source, ni aux paramètres internes de ses modèles d’IA.
Selon Anthropic, ses systèmes de surveillance avaient détecté une partie de l’activité avant le signalement officiel, et l’accès de Cathedral a été coupé le jour même.
Les logiciels concernés ont aussi été désactivés jusqu’à la correction des failles par leurs éditeurs. L’entreprise affirme n’avoir aucune preuve que d’autres personnes aient exploité ces failles, et elle a prévenu des responsables fédéraux.
Les deux parties ne lisent pas l’affaire de la même façon. Cathedral y voit un signal d’alarme, avec un écart sérieux entre les nouvelles capacités d’attaque et la protection des entreprises technologiques américaines les plus exposées.
Anthropic estime pour sa part que la start-up exagère les conséquences sur la sécurité nationale, et lui reproche de ne pas avoir déclaré toute son activité dans ses systèmes, ce qui va à l’encontre des règles du programme.
L’incident attire aussi l’attention des autorités américaines. Un haut responsable de l’administration Trump, resté anonyme, affirme que le rapport a circulé au sein du gouvernement et qu’il a suscité des inquiétudes pour la sécurité nationale.
Il s’est dit surpris par la rapidité avec laquelle les chercheurs ont atteint ces systèmes. D’après lui, trois agences fédérales ont récemment signé des contrats avec Cathedral, fondée par d’anciens membres du DOGE, le service américain chargé de réduire les dépenses de l’État.
Cathedral a par ailleurs levé 160 millions de dollars, selon PitchBook, et ses investisseurs la valorisent à 1,4 milliard. Elle vend ses outils basés sur l’IA aux entreprises et aux administrations.
Alex Stamos, directeur de la sécurité informatique de la start-up Cognition, a examiné les conclusions à la demande du Post. Cognition utilise des modèles d’Anthropic, entre autres. Il juge la découverte sérieuse et estime que le recours à des logiciels tiers pose problème à toutes les entreprises. Selon lui, Anthropic aurait pu mieux faire sur ce point.
