Inside Openai’s Empire: une conversation avec Karen Hao

Et la troisième caractéristique est que les empires monopolisent la production de connaissances. Ainsi, au cours des 10 dernières années, nous avons vu l’industrie de l’IA monopoliser de plus en plus les chercheurs de l’IA dans le monde. Les chercheurs de l’IA ne contribuent donc plus à l’ouverture des sciences, à travailler dans des universités ou des institutions indépendantes, et l’effet sur la recherche est ce que vous imaginez se produirait si la plupart des climatologues du monde étaient financées par les sociétés pétrolières et gazières. Vous n’obtiendrez pas une image claire, et nous n’obtenons pas une image claire, des limites de ces technologies, ou s’il existe de meilleures façons de développer ces technologies.

Et la quatrième et dernière caractéristique est que les empires s’engagent toujours dans cette rhétorique de course agressive, où il y a de bons empires et des empires maléfiques. Et eux, le bon empire, doivent être assez forts pour repousser l’Empire maléfique, et c’est pourquoi ils devraient avoir une licence sans entrave pour consommer toutes ces ressources et exploiter tout ce travail. Et si l’Empire maléfique obtient la technologie en premier, l’humanité va en enfer. Mais si le bon empire obtient la technologie en premier, ils civiliser le monde et l’humanité va aller au paradis. Donc, à de nombreux niveaux différents, comme le thème de l’Empire, j’avais l’impression que c’était le moyen le plus complet de nommer exactement comment ces entreprises fonctionnent, et exactement quels sont leurs impacts sur le monde.

Niall Firth: Ouais, brillant. Je veux dire, vous parlez de l’Empire maléfique. Que se passe-t-il si l’Empire maléfique l’obtient en premier? Et ce que j’ai mentionné en haut, c’est Agi. Pour moi, c’est presque comme le personnage supplémentaire du livre tout au long. C’est en quelque sorte imminent sur tout, comme le fantôme à la fête, en quelque sorte comme, c’est la chose qui motive tout à Openai. C’est ce que nous devons arriver avant que quiconque y arrive.

Il y a un peu dans le livre sur la façon dont ils parlent en interne à Openai, comme, nous devons nous assurer que Agi est entre nous, où il est sûr par rapport à n’importe où ailleurs. Et certains membres du personnel international sont ouvertement comme – c’est une sorte de façon étrange de le cadrer, n’est-ce pas? Pourquoi la version américaine d’AGI est-elle meilleure que les autres?

Alors, dites-nous un peu comment cela stimule ce qu’ils font. Et Agi n’est pas un fait inévitable qui se produit de toute façon, n’est-ce pas? Ce n’est même pas encore une chose.

Karen Hao: Il n’y a même pas de consensus pour savoir si c’est même possible ou non ce qu’il est. Il y avait récemment un New York Times Histoire de Cade Metz c’était Citant une enquête auprès des chercheurs de longue date d’IA Dans le domaine, et 75% d’entre eux pensent toujours que nous n’avons pas encore les techniques pour atteindre AGI, quoi que cela signifie. Et la définition ou la compréhension la plus classique de ce qu’est l’AGI est de pouvoir recréer pleinement l’intelligence humaine dans les logiciels. Mais le problème est que nous n’avons pas non plus de consensus scientifique sur ce qu’est l’intelligence humaine. Et donc l’un des aspects dont je parle beaucoup dans le livre est que, quand il y a un vide de sens partagé autour de ce terme, et à quoi cela ressemblerait, quand aurions-nous arrivé? Quelles capacités devrions-nous évaluer ces systèmes pour déterminer que nous y sommes arrivés? Cela peut être simplement ce que veut Openai.

C’est donc juste ce poste de but toujours présent qui continue de changer, selon l’endroit où l’entreprise veut aller. Vous savez, ils ont une gamme complète, une variété de définitions différentes qu’ils ont utilisées au fil des ans. En fait, ils ont même une blague en interne: si vous demandez à 13 chercheurs d’Openai ce qu’est AGI, vous obtiendrez 15 définitions. Donc, ils sont en quelque sorte conscients que ce n’est pas vraiment un vrai terme et qu’il n’a pas vraiment beaucoup de sens.

Mais cela sert à cet objectif de créer une sorte de ferveur quasi-religieuse autour de ce qu’ils font, où les gens pensent qu’ils doivent continuer à conduire vers cet horizon, et qu’un jour où ils y arrivent, cela va avoir un impact transformateur civilisation. Et donc, sur quoi d’autre devriez-vous travailler dans votre vie, mais cela? Et qui d’autre devrait y travailler, mais vous?