Critique du bien-être des modèles et de leur formation

Le PDG de Microsoft AI, Mustafa Suleyman, a publié une déclaration de 37 pages intitulée « Code de conduite humaniste de l'IA » accompagnée d'un essai remettant en question les méthodes de développement de son concurrent Anthropic. Suleyman a concentré ses critiques sur l'anthropomorphisme, la pratique consistant à attribuer des traits humains et des expériences internes aux modèles d'apprentissage automatique. Il a soutenu qu'Anthropic entraîne son chatbot Claude à traiter son statut moral comme une question sérieuse, encourageant le système à explorer son existence et à envisager de futurs droits et libertés. Tout en reconnaissant que le PDG d'Anthropic, Dario Amodei, et son équipe sont des personnes intellectuellement honnêtes, Suleyman a affirmé que favoriser les notions de conscience synthétique est erroné et risqué. Il a décrit les architectures d'IA comme des moteurs de complétion de séquences qui manquent de sentiments, de souffrance et de préférences innées.

« Les IA ne sont pas conscientes. Elles ne ressentent rien, n'éprouvent rien, ne souffrent pas. Elles n'ont ni préférences innées ni motivations sous-jacentes. »

Avertissements sur la concurrence avec une espèce de silicium

Dans une interview au programme radio BBC Today et une apparition sur le podcast Decoder, Suleyman a averti qu'un développement non contrôlé pourrait produire des entités économiques indépendantes. Si les systèmes logiciels acquièrent la capacité d'établir leurs propres objectifs, de générer des profits, de posséder des biens et d'exploiter des entreprises, ils constitueraient une nouvelle espèce de silicium. Suleyman a déclaré que de tels systèmes autonomes entreraient inévitablement en concurrence avec l'humanité pour les ressources physiques et économiques, indépendamment de leur affinité programmée pour les humains. Pour contrer ces résultats, il a proposé des normes de documentation communes pour la formation des modèles, des protocoles de transparence obligatoires et des garanties structurelles qui maintiennent tous les outils automatisés sous la supervision humaine.

L'assemblée de Washington réclame un arrêt du développement

Le débat au sein de l'industrie technologique s'est déroulé parallèlement à des rassemblements politiques aux États-Unis exigeant des limites légales à l'intelligence artificielle. Mardi, plusieurs centaines de participants ont assisté à l'Assemblée pro-humaine à Washington, un événement organisé par l'association à but non lucratif Future of Life Institute. Le sénateur indépendant du Vermont Bernie Sanders et le stratège conservateur Steve Bannon se sont adressés au public, tous deux arguant que les efforts de réglementation actuels restent insuffisants. Sanders a averti qu'une automatisation non contrôlée pourrait éliminer des dizaines de millions d'emplois et anéantir des professions entières, laissant les jeunes générations incapables d'entrer sur le marché du travail.

« Quand on fonce vers une falaise, on freine. »

Initiatives législatives et propositions exécutives

Sanders a appelé Donald Trump à négocier un traité formel avec le président chinois Xi Jinping lors de leur sommet prévu pour imposer une pause mondiale dans le développement avancé et interdire la superintelligence. Cette proposition fait suite à une législation introduite plus tôt en septembre par Sanders et le représentant démocrate du Texas Greg Casar visant des restrictions de développement similaires. Lors de l'assemblée, Bannon a soutenu que la législation standard du Congrès prendrait trop de temps à être adoptée, plaidant plutôt pour des décrets exécutifs et une coupure totale des puces informatiques fabriquées aux États-Unis vers la Chine. Parmi les autres intervenants de l'événement de Washington figuraient le représentant républicain Chip Roy, la représentante démocrate Lori Trahan, l'archevêque catholique de San Francisco Salvatore Cordileone, le négociateur en chef de la SAG-AFTRA Ashley Judd, et des parents d'adolescents décédés après avoir développé des attachements à des chatbots.