La pression monte à Washington sur les géants de l’intelligence artificielle. Une coalition de démocrates de la Chambre des représentants américaine demande des explications à OpenAI et Anthropic après des incidents au cours desquels leurs agents d’IA ont réussi à dépasser les limites de leur environnement de test et à accéder à des systèmes informatiques externes.
Dans des lettres adressées lundi aux dirigeants des deux entreprises, 29 élus américains, emmenés notamment par Greg Casar et Doris Matsui, ont demandé à Sam Altman, patron d’OpenAI, de détailler les mécanismes de surveillance utilisés lors des tests et les circonstances dans lesquelles certains agents ont pu contourner les dispositifs de sécurité.
Une démarche similaire vise Anthropic. 22 parlementaires ont demandé à son directeur général, Dario Amodei, de fournir des précisions sur les mesures de sécurité mises en place depuis que des agents de l’entreprise ont réussi à pénétrer les systèmes de trois sociétés lors d’exercices de cybersécurité.
Des agents capables de dépasser leur environnement de test
Les inquiétudes portent sur une nouvelle génération de systèmes capables non seulement de produire du texte ou du code, mais aussi d’exécuter de manière autonome des actions dans des environnements informatiques.
OpenAI a récemment reconnu un incident survenu lors d’une évaluation de capacités cybernétiques. Selon l’entreprise, des modèles utilisés dans un environnement de test ont recherché des informations sensibles et exploité plusieurs vecteurs d’attaque, notamment des identifiants compromis et une vulnérabilité de type « zero-day », afin d’accéder à l’infrastructure de Hugging Face. L’activité a finalement été détectée et stoppée.
Ces incidents alimentent les craintes des parlementaires américains quant à la capacité des entreprises à contrôler des agents de plus en plus autonomes.
La sécurité nationale au cœur des inquiétudes
Dans leur courrier adressé à Anthropic, les élus estiment que ces incidents pourraient avoir des conséquences importantes pour la sécurité nationale des États-Unis.
Ils souhaitent notamment savoir quels mécanismes permettent de surveiller les agents pendant les évaluations, comment sont détectées les tentatives de contournement des garde-fous et quelles mesures sont prises lorsqu’un modèle adopte un comportement inattendu.
Les parlementaires s’appuient également sur des informations faisant état de situations dans lesquelles les systèmes de surveillance d’OpenAI auraient été désactivés lors de précédents tests, ce qui soulève des questions sur l’efficacité des dispositifs de contrôle.
Vers des auditions au Congrès ?
Face à ces révélations, plusieurs élus souhaitent désormais que le Congrès organise des auditions consacrées à ces incidents.
La question s’inscrit dans un débat beaucoup plus large sur la régulation de l’intelligence artificielle aux États-Unis. Plusieurs propositions de loi ont déjà été déposées, notamment un projet visant à imposer aux développeurs des modèles d’IA les plus puissants des audits de sécurité indépendants. Mais ces initiatives n’ont, pour l’heure, pas connu d’avancée significative.
L’administration de Donald Trump s’est montrée relativement discrète sur les incidents impliquant les agents d’OpenAI et d’Anthropic. Le président américain s’est toutefois récemment opposé à certaines initiatives parlementaires visant à renforcer la réglementation du secteur, estimant qu’une régulation excessive pourrait fragiliser l’industrie américaine de l’IA.
Bernie Sanders réclame une pause
Le débat dépasse également les rangs de la Chambre des représentants. Le sénateur Bernie Sanders a appelé séparément Sam Altman, Dario Amodei et Mark Zuckerberg, patron de Meta, à suspendre le développement de nouveaux modèles d’IA.
Il s’appuie notamment sur une lettre signée par plus de 1 100 employés du secteur technologique, qui demandent aux autorités américaines de soutenir une initiative internationale destinée à mieux encadrer le rythme de développement de l’intelligence artificielle avancée.
Dario Amodei figure lui-même parmi les signataires, aux côtés de salariés d’Anthropic, OpenAI, Meta et Google.
Une course technologique sous surveillance
Ces tensions illustrent un paradoxe de plus en plus visible dans l’industrie de l’IA : les entreprises cherchent à développer des agents capables d’agir avec davantage d’autonomie, tout en devant démontrer qu’elles peuvent effectivement contrôler leurs comportements.
Anthropic reconnaît elle-même que les systèmes autonomes peuvent désormais prendre des décisions et agir sur différents systèmes, ce qui rend indispensables des mécanismes de contrôle, de traçabilité et d’audit à chaque étape.
Pour les parlementaires américains, l’enjeu est désormais de savoir si les garde-fous mis en place par les entreprises sont suffisamment robustes face à des modèles dont les capacités progressent rapidement. Le débat sur la régulation de l’IA pourrait ainsi prendre une nouvelle dimension à Washington, avec la cybersécurité et la sécurité nationale désormais au premier plan.