Explorer les institutions pour la gouvernance mondiale de l’IA

Un nouveau livre blanc étudie les modèles et les fonctions des institutions internationales qui pourraient aider à gérer les opportunités et à atténuer les risques d’IA avancés

La sensibilisation croissante à l’impact mondial de l’intelligence artificielle avancée (IA) a inspiré les discussions publiques sur la nécessité de structures de gouvernance internationale pour aider à gérer les opportunités et à atténuer les risques impliqués.

De nombreuses discussions ont tiré des analogies avec le ICAO (Organisation internationale de l’aviation civile) dans l’aviation civile; Cern (Organisation européenne pour la recherche nucléaire) en physique des particules; AIEA (Agence internationale de l’énergie atomique) en technologie nucléaire; et les organisations intergouvernementales et multiples dans de nombreux autres domaines. Et pourtant, bien que les analogies puissent être un début utile, les technologies émergeant de l’IA seront différentes de l’aviation, de la physique des particules ou de la technologie nucléaire.

Pour réussir avec la gouvernance de l’IA, nous devons mieux comprendre:

1. Quels avantages et risques spécifiques nous avons besoin pour gérer à l’international.
2. Ce que la gouvernance fonctionne sur ces avantages et risques.
3. Quelles organisations peuvent mieux fournir ces fonctions.

Notre dernier articleavec des collaborateurs de l’Université d’Oxford, de l’Université de Montréal, de l’Université de Toronto, de l’Université de Columbia, de l’Université Harvard, de l’Université de Stanford et d’Openai, répond à ces questions et étudie comment les institutions internationales pourraient aider à gérer l’impact mondial du développement de l’IA de frontière, et s’assurer que les avantages de l’IA atteignent toutes les communautés.

Le rôle critique des institutions internationales et multilatérales

L’accès à certaines technologies d’IA pourrait améliorer considérablement la prospérité et la stabilité, mais les avantages de ces technologies peuvent ne pas être répartis ou axés sur les plus grands besoins des communautés sous-représentées ou du monde en développement. Un accès inadéquat aux services Internet, à la puissance informatique ou à la disponibilité de la formation ou de l’expertise en apprentissage automatique peut également empêcher certains groupes de bénéficier pleinement des progrès de l’IA.

Les collaborations internationales pourraient aider à résoudre ces problèmes en encourageant les organisations à développer des systèmes et des applications qui répondent aux besoins des communautés mal desservies et en améliorant le éducationInfrastructure et obstacles économiques à ces communautés qui utilisent pleinement la technologie de l’IA.

De plus, des efforts internationaux peuvent être nécessaires pour gérer les risques posés par de puissantes capacités d’IA. Sans garanties adéquates, certaines de ces capacités – telles que le développement de logiciels automatisées, la recherche en chimie et en biologie synthétique, et la génération de texte et de vidéo – pourraient être utilisées à mauvais escient pour nuire. Les systèmes d’IA avancés peuvent également échouer d’une manière difficile à anticiper, en créant des risques d’accident avec des conséquences potentiellement internationales si la technologie n’est pas déployée de manière responsable.

Les institutions internationales et multipartites pourraient aider à faire progresser les protocoles de développement et de déploiement de l’IA qui minimisent ces risques. Par exemple, ils pourraient faciliter un consensus mondial sur les menaces que différentes capacités d’IA posent à la société et établir des normes internationales autour de l’identification et du traitement des modèles avec des capacités dangereuses. Les collaborations internationales sur la recherche en matière de sécurité favoriseraient également notre capacité à rendre les systèmes fiables et résilients à abuser.

Enfin, dans les situations où les États ont des incitations (par exemple, dérivant de la concurrence économique) pour saper les engagements réglementaires de l’autre, les institutions internationales peuvent aider à soutenir et à inciter les meilleures pratiques et même à surveiller le respect des normes.

Quatre modèles institutionnels potentiels

Nous explorons quatre modèles institutionnels complémentaires pour soutenir les fonctions mondiales de coordination et de gouvernance:

• Un intergouvernemental Commission de l’IA frontalière pourrait créer un consensus international sur les opportunités et les risques de l’IA avancée et comment ils peuvent être gérés. Cela augmenterait la sensibilisation et la compréhension du public des perspectives et des problèmes d’IA, contribuerait à un compte rendu scientifiquement éclairé de l’utilisation et de l’atténuation des risques d’IA, et serait une source d’expertise pour les décideurs.
• Un intergouvernemental ou un chargeur multiple Organisation avancée de gouvernance de l’IA pourrait aider à internationaliser et à aligner les efforts pour lutter contre les risques mondiaux des systèmes d’IA avancés en établissant des normes et des normes de gouvernance et en aidant à leur mise en œuvre. Il peut également remplir des fonctions de surveillance de la conformité pour tout régime de gouvernance internationale.
• UN Frontier AI Collaborative pourrait promouvoir l’accès à l’IA avancée en tant que partenariat public-privé international. Ce faisant, cela aiderait les sociétés mal desservies à bénéficier de la technologie de l’IA de pointe et à promouvoir l’accès international à la technologie de l’IA pour les objectifs de sécurité et de gouvernance.
• Un Projet de sécurité de l’IA pourrait réunir des chercheurs et des ingénieurs de premier plan, et leur donner accès aux ressources de calcul et aux modèles d’IA avancés pour la recherche sur les atténuations techniques des risques d’IA. Cela favoriserait la recherche et le développement de la sécurité de l’IA en augmentant son échelle, ses ressources et sa coordination.

Défis opérationnels

De nombreuses questions ouvertes importantes autour de la viabilité de ces modèles institutionnels demeurent. Par exemple, une commission sur l’IA avancée sera confrontée à des défis scientifiques importants étant donné l’extrême incertitude sur les trajectoires et les capacités de l’IA et les recherches scientifiques limitées sur les problèmes avancés de l’IA à ce jour.

Le taux rapide des progrès de l’IA et des capacités limitées dans le secteur public sur les problèmes d’IA frontalières pourraient également rendre difficile pour une organisation avancée de gouvernance de l’IA de fixer des normes qui suivent le paysage des risques. Les nombreuses difficultés de coordination internationale soulèvent des questions sur la façon dont les pays seront incités à adopter ses normes ou à accepter son suivi.

De même, les nombreux obstacles aux sociétés exploitent pleinement les avantages des systèmes d’IA avancés (et d’autres technologies) peuvent empêcher une collaboration de l’IA frontalière d’optimiser son impact. Il peut également y avoir une tension difficile à gérer entre le partage des avantages de l’IA et la prévention de la prolifération de systèmes dangereux.

Et pour le projet de sécurité de l’IA, il sera important de considérer soigneusement les éléments de la recherche sur la sécurité qui sont mieux menés par le biais de collaborations par rapport aux efforts individuels des entreprises. De plus, un projet pourrait avoir du mal à obtenir un accès adéquat aux modèles les plus capables pour mener des recherches sur la sécurité de tous les développeurs concernés.

Étant donné les immenses opportunités et défis mondiaux présentés par les systèmes d’IA à l’horizon, une plus grande discussion est nécessaire parmi les gouvernements et autres parties prenantes sur le rôle des institutions internationales et comment leurs fonctions peuvent poursuivre la gouvernance et la coordination de l’IA.

Nous espérons que cette recherche contribue à des conversations croissantes au sein de la communauté internationale sur les façons de garantir que l’IA avancée est développée au profit de l’humanité.