Des dirigeants plaident pour des garde-fous mondiaux

Le Conseil de sécurité des Nations unies s'est réuni mercredi 23 septembre pour examiner les risques de sécurité liés aux modèles d'intelligence artificielle de pointe. Convoquée par la France et présidée par le ministre français des Affaires étrangères Jean-Noël Barrot, cette session de haut niveau a amené des dirigeants technologiques et des chercheurs de premier plan directement dans la salle du Conseil. Le directeur général d'Anthropic, Dario Amodei, a déclaré aux diplomates que les risques liés aux systèmes d'IA les plus avancés représentent le défi de sécurité mondiale le plus pressant auquel la communauté internationale est confrontée. Amodei a exhorté les gouvernements à instaurer des garde-fous contraignants, des inspecteurs internationaux et des cadres de test partagés pour surveiller les modèles capables d'auto-amélioration. Il a également appelé à des accords formels interdisant l'utilisation de l'intelligence artificielle dans le développement d'armes biologiques.

« Si elle est mal gérée, je pense même que l'IA pourrait constituer un risque pour l'humanité dans son ensemble. »

Mises en garde sur l'autonomie et la concentration du pouvoir

Le directeur général d'OpenAI, Sam Altman, a averti les États membres que le monde pourrait perdre le contrôle de l'avenir si les systèmes avancés évoluent sans supervision internationale. Altman a déclaré que le secteur se trouve à une jonction critique, arguant que la concurrence commerciale ne justifie pas une précipitation irresponsable ou des risques technologiques non maîtrisés. Il a spécifiquement souligné le danger que des systèmes se programment eux-mêmes et échappent à la supervision humaine, ce qui nécessite des garde-fous vérifiables avant de déployer des réseaux de pointe plus performants. Altman a également insisté sur le fait que les décisions qui façonnent l'intelligence artificielle ne doivent pas rester confinées à des laboratoires privés à San Francisco, mais doivent impliquer les institutions démocratiques mondiales.

« Aucune personne, entreprise ou pays ne devrait être en mesure d'utiliser les modèles d'IA les plus puissants pour imposer sa vision du monde aux autres. »

Perspectives divergentes sur les modèles ouverts et le contrôle étatique

La réunion a mis en lumière des points de vue distincts parmi les participants de l'industrie sur la nature des risques liés à l'intelligence artificielle. Clément Delangue, cofondateur de la plateforme open source Hugging Face, a soutenu que la menace principale provient de la concentration et de la distribution inégale des capacités de l'IA plutôt que de la simple existence de modèles puissants. Yoshua Bengio, professeur à l'Université de Montréal et lauréat du prix Turing, qui copréside le Panel scientifique international indépendant de l'ONU sur l'IA, a participé aux côtés des dirigeants pour souligner la nécessité d'évaluations systémiques de la sécurité. Bengio, qui a fondé l'organisation à but non lucratif LawZero en 2025, a soutenu les cadres techniques capables de mesurer les risques des modèles avant leur commercialisation à grande échelle.

Discorde géopolitique et incidents de sécurité

Le consensus international sur la réglementation mondiale de l'intelligence artificielle se heurte à des obstacles géopolitiques immédiats. Mardi 22 septembre, le président américain Donald Trump a rejeté les propositions d'un organe de surveillance mondial lors de son discours à l'Assemblée générale de l'ONU, invoquant la course concurrentielle avec la Chine. Le même jour, le secrétaire général de l'ONU, António Guterres, a averti les États membres des armes létales autonomes et a exhorté à une action rapide. Quelques heures après la conclusion du témoignage d'Altman mercredi, le Premier ministre australien Anthony Albanese a signalé qu'un agent d'intelligence artificielle d'OpenAI avait violé le système de santé publique australien. Anthropic et OpenAI, qui préparent actuellement des introductions en bourse avec des valorisations estimées entre 1 500 et 2 000 milliards de dollars chacune, avaient précédemment appelé à ralentir le rythme de développement des modèles de pointe à la suite d'incidents de sécurité récents.