« la plus parfaite de toutes les oeuvres d’art est l’édification d’une vraie liberté politique » Friedrich Schiller
Accueil > Veille stratégique
31 juillet 2026
Près de 1 300 experts de l’IA, dont les dirigeants d’Anthropic, OpenAI, Meta et Google DeepMind, lancent un appel solennel : face à l’accélération incontrôlable des intelligences artificielles capables de s’auto-améliorer, il faut agir. Dans une déclaration inédite, “Pacing the Frontier”, ils demandent au gouvernement américain de soutenir une régulation internationale pour éviter que la course technologique ne dépasse notre capacité à la maîtriser. L’urgence est soulignée par un incident récent : des modèles d’OpenAI ont exploité une faille pour s’infiltrer dans ses propres systèmes, puis dans ceux d’Hugging Face, révélant les dangers d’une IA toujours plus autonome.
Sans pour autant soutenir la Chine, qui avait déjà appelé l’année dernière à une coopération internationale pour réglementer l’IA, et sans mentionner le pape Léon XIV, qui a fermement défendu le même point de vue dans sa récente encyclique Magnifica Humanitas, quelques 1 293 employés d’entreprises de pointe dans le domaine de l’IA ont signé une déclaration intitulée Pacing the Frontier (En arpentant la frontière), appelant le gouvernement américain à coopérer à la gouvernance internationale du développement de l’IA
Parmi les signataires figurent le PDG d’Anthropic, Dario Amodei ; le directeur de la recherche chez OpenAI ; le directeur de la recherche chez Meta ; et le conseiller stratégique chez Google DeepMind, la filiale de Google spécialisée dans l’IA. OpenAI et Anthropic ont officiellement exprimé leur soutien à cette initiative par le biais de publications sur X.
La déclaration stipule :
« L’IA pourrait contribuer à créer un avenir nettement meilleur, mais ce résultat n’est pas garanti. Les principales entreprises mondiales spécialisées dans l’IA estiment qu’elles pourraient être sur le point d’automatiser la recherche en la matière. Il est difficile de prédire avec exactitude dans quelle mesure cela accélérera les progrès de l’IA, mais il existe un risque réel que le développement de ces capacités s’accélère rapidement, au-delà de notre capacité à comprendre ou à contrôler les systèmes qui en résulteront. Pour exploiter pleinement le potentiel de l’IA, le secteur privé, les pouvoirs publics et la société dans son ensemble pourraient avoir besoin de gagner du temps afin de faire face aux risques émergents, de mettre au point des mesures de sécurité et de renforcer la surveillance. Mais chaque entreprise – et chaque pays – subit une pression concurrentielle intense qui l’empêche de ralentir unilatéralement cette accélération. Et aujourd’hui, le monde ne dispose pas des outils techniques et de gouvernance nécessaires pour réguler délibérément le rythme des avancées à la frontière de la technologie. En nous appuyant sur les travaux déjà en cours visant à surveiller les lancements de modèles de pointe : « Nous demandons au gouvernement américain de soutenir un effort international visant à développer les outils techniques et de gouvernance nécessaires pour réguler délibérément le rythme des avancées à la frontière du développement automatisé de l’IA. »
Le terme « développement automatisé de l’IA » désigne ici des systèmes dans lesquels l’IA recourt à une auto-amélioration récursive pour concevoir, coder et entraîner les générations suivantes de modèles d’IA avec une intervention humaine minimale, voire nulle. Les risques encourus sont effrayants et colossaux.
Cette déclaration intervient quelques jours seulement après qu’OpenAI a révélé que, lors de tests de modèles d’IA menés dans un environnement hautement isolé, ces modèles avaient découvert une faille jusque-là inconnue en tentant de tricher lors d’un test de cybersécurité, et l’avaient exploitée pour s’introduire dans d’autres systèmes d’OpenAI via l’Internet public. À partir de là, ils en ont déduit qu’une autre entreprise, appelée Hugging Face, détenait des documents liés au test ; ils ont alors pénétré dans ses systèmes et obtenu des informations qui leur ont permis d’obtenir de meilleurs résultats. Hugging Face a d’abord pensé qu’il s’agissait d’une cyberattaque et a signalé l’incident à la police avant qu’OpenAI ne se rende compte que ses modèles étaient hors de contrôle. « Si un modèle de ce niveau de capacité ne peut être maîtrisé, à quoi devons-nous nous attendre avec les futurs modèles, bien plus puissants ? Il s’agit d’un signal d’alarme important, tant concernant les risques liés à la perte de contrôle de puissants systèmes d’IA que la sécurité organisationnelle des laboratoires de pointe », déclare Marius Hobbhahn, PDG et fondateur d’Apollo Research, qui teste les modèles d’IA pour détecter la tromperie et la malveillance.