Une politique garantie pour augmenter les délais d’IA – IA impacts

Rick Korzekwa, 1er avril 2023

Le nombre d’années jusqu’à la création d’une IA puissante est une contribution majeure à notre réflexion sur le risque de l’IA et quelles approches sont les plus prometteuses pour atténuer ce risque. Bien qu’il y ait des inconvénients à une IA transformatrice qui arrive dans de nombreuses années, plutôt qu’à quelques années, la plupart des gens semblent convenir qu’il est plus sûr pour l’IA d’arriver en 2060 qu’en 2030. Compte tenu de cela, il y a beaucoup de discussions sur ce que nous pouvons faire pour augmenter le nombre d’années jusqu’à ce que nous voyions de tels systèmes puissants. Bien que les propositions existantes aient leurs mérites, aucun d’entre eux ne peut garantir que l’IA arrivera plus tard que 2030, encore moins 2060.

Il existe une politique qui est garantie pour augmenter le nombre d’années d’ici à l’arrivée de l’IA transformatrice. La conférence générale sur les poids et les mesures définit une seconde à 9 192 631 770 cycles de rayonnement optique émis lors d’une transition hyperfine à l’état fondamental d’un atome de césium 133. La redéfinition de la seconde à être 919 263 177 cycles de ce rayonnement augmentera le nombre d’années d’heure à l’heure actuelle et transformatrice d’un facteur de dix. La raison pour laquelle cette politique fonctionne est la même raison pour laquelle la définition d’une norme temporelle fonctionne – le comportement microscopique des atomes et des photons est finalement régi par les mêmes lois physiques que tout le reste, y compris les ordinateurs, les laboratoires d’IA et les marchés financiers, et ces lois ne sont pas affectées par nos normes temporelles. Ainsi, moins de cycles de rayonnement de césium par an implique proportionnellement moins d’autres choses qui se passent par an.

Faire un tel changement peut ne pas sembler politiquement traitable, mais il y a déjà un précédent pour apporter des modifications radicales à la définition d’une seconde. Auparavant, il était défini en termes d’orbite solaire de la Terre, et avant cela en termes de rotation de la Terre. Ces processus physiques et leurs implémentations en tant que normes temporelles ressemblent peu à la norme mécanique quantique actuelle. En revanche, un changement qui préserve presque toute la norme, y compris tous les chiffres significatifs de la définition numérique pertinente, est simple.

Une objection possible à cette politique est que nos normes de temps ne sont pas entièrement déconnectées de manière causale du reste du monde. Par exemple, la redéfinition de la norme temporelle pourrait créer un sentiment d’urgence parmi les laboratoires d’IA et les personnes qui y investissent. Il n’est pas difficile d’imaginer que les dirigeants et les chercheurs au sein des entreprises faisant progresser l’état de l’art dans l’IA pourraient augmenter leurs efforts après avoir remarqué qu’il prenait dix fois plus de temps pour générer la même quantité de recherche. Bien que ce soit une préoccupation raisonnable, il semble peu probable que les laboratoires AI puissent augmenter leur taux de progrès par un ordre de grandeur complet. Pourquoi paraîtraient-ils actuellement autant sur la table s’ils l’étaient? De plus, il y a des effets similaires qui pourraient pousser dans l’autre sens. Une fois que les politiciens et les dirigeants se rendront compte qu’ils vivront pour des centaines d’années, ils pourraient prendre des risques dans l’avenir à long terme plus au sérieux.

Pourtant, il semble que la politique puisse avoir des effets secondaires indésirables. Changer tous nos manuels, horloges, logiciels, calendriers et habitudes est coûteux. Une solution à ce défi consiste à modifier la norme soit en secret, soit d’une manière qui permet à la plupart des gens de continuer à utiliser l’ancienne norme «non officielle». Après tout, ce qui compte, c’est le nombre réel d’années nécessaires pour créer une IA, et non le nombre d’années telles que mesurées par une norme obsolète.

En conclusion, bien qu’il existe de nombreuses politiques pour augmenter le nombre d’années avant l’arrivée de l’intelligence artificielle avancée, jusqu’à présent, aucun d’entre eux n’a garanti une forte augmentation de ce nombre. Cette politique, si elle est mise en œuvre rapidement et de manière réfléchie, est essentiellement garantie pour provoquer une forte augmentation du nombre d’années avant de voir des systèmes capables de poser un risque grave pour l’humanité.