La vie avec l’intelligence: Partie III – Conception pour un avenir humain | par Jing Lin Lee | Jul, 2025

Dans Parties I et Iinous avons exploré les opportunités et les défis avec l’IA remodelant les piliers du travail, de la richesse et de la culture. Comment construisons-nous un monde où l’intelligence améliore l’humanité, plutôt que de la subjuguer? Que faut-il pour aligner les machines sur le sens?

Ce ne sont plus seulement des questions pour les chercheurs, les informaticiens et les Bros Tech. Ce sont des questions pour tout le monde.

Contrats sociaux repensés

« … Peut-être que ceux qui sont obsédés par les emplois aujourd’hui sont trop étroits: nous voulons des emplois parce qu’ils peuvent nous fournir des revenus et un objectif, mais étant donné l’opulence des ressources produites par les machines, il devrait être possible de trouver d’autres moyens de fournir à la fois le revenu et le but sans emploi.

– Max Tegmark, Life 3.0

Les progrès de l’IA présentent finalement l’occasion de réinventer et de réécrire le contrat social qui lie à la survie, au statut et à la citoyenneté. Revenu de base, éducation tout au long de la vie, coopératives numériques, taxation de l’IA, dividendes de données – ce ne sont plus des idées radicales. Il peut s’agir d’une infrastructure essentielle pour la prochaine époque.

Tegmark a discuté dans son livre que les révolutions industrielles passées ne se sont pas terminées par tous les chevaux éteints. En fait, la population de chevaux a en fait plus que triplé depuis 1960 à la place, grâce à une sorte de système de protection sociale pour les chevaux: même s’ils ne pouvaient pas payer leurs propres factures, les gens ont choisi de prendre soin d’eux de toute façon, en les gardant pour le plaisir, le sport et la compagnie. Mais nous ne voulons probablement pas finir comme des chevaux ayant des humains décider de leur sort… nous devons donc réfléchir de manière proactive au genre d’avenir dans lequel nous voudrions vivre.

Dans un monde de productivité abondante, toute valeur doit pas être économique. Imaginez un monde où vous ne redoutez plus une semaine de travail de 40 heures pour le revenu, mais en travaillant à un objectif plus large – TON objectif plus large. À quoi ressemblerait la vie? Que feriez-vous?

L’économie de l’expérience

Un exemple est d’imaginer la montée en puissance de l’économie de l’expérience. Presque par conception, les LLM ne peuvent pas créer des expériences fondamentalement nouvelles ou humaines, mais notre appétit pour ce qu’ils ne peuvent pas faire peuvent se développer. Plus ils calculent, plus nous pouvons avoir envie de l’humain émotionnel et imparfait.

Les rôles qui reposent sur la présence, l’empathie et les liens émotionnels tels que l’hospitalité, la prestation de soins, l’enseignement et les conseils peuvent devenir plus précieux. Les domaines des arts du spectacle, des sports et des expériences culinaires peuvent favoriser les créateurs humains. Les gens chercheront des connexions authentiques, une narration, une aventure, une guérison et un sens.

Bien sûr, cette transition n’est pas une solution miracle. De nombreux rôles basés sur l’expérience sont actuellement sous-évalués, sexospécifiques et difficiles à évoluer. Sans des cadres robustes pour la sécurité économique, la montée en puissance de l’économie de l’expérience peut ne pas être suffisante pour absorber les niveaux de masse de déplacement du travail.

La dotation d’externalité

Pour tenir compte des coûts cachés, nous pouvons réinventer les structures d’incitation existantes en attribuant correctement les externalités à leurs causes. Pensez à une dotation d’externalité – un mécanisme qui collecte et déploie des ressources pour traiter les coûts cachés associés au développement et à l’adoption de l’IA. Ces ressources pourraient être allouées aux actions réparatrices (par exemple, recyclage des travailleurs, réparation écologique ou correction de désinformation) ou une rémunération directe (par exemple, des dividendes universels ou des fonds locaux de revitalisation économique).

Ce qui est mesuré est géré. Lorsqu’il y a des incitations directes à gérer les externalités, le paradigme pourrait passer du passage rapidement et de la rupture des choses à se déplacer rapidement avec l’intentionnalité.

Cela dit, des questions et défis importants demeurent. Les chaînes d’approvisionnement complexes compliquent nécessairement la mesure, tout comme la façon dont les émissions de carbone de la portée 3 sont notoirement difficiles à mesurer. Les décisions commerciales peuvent être subjectives et mal interprétées – comment prouvons-nous que «moins d’emplois ont été créés» directement à cause de l’IA? L’application prendra également des efforts et du temps; Les risques de précision et de transparence surestimés créent des bureaucraties inefficaces.

Gouvernance pluraliste

La voie à suivre pour la gouvernance de l’IA peut ne pas résider dans la centralisation, mais dans le pluralisme. Plutôt que de viser un système superintelligent unique, nous pouvons construire des écosystèmes d’IA multipolaires qui fonctionnent dans un réseau de chèques et de contrepoids, tout comme les démocraties modernes ou les systèmes écologiques. Aucun système unique ne manquerait de puissance absolue, chacun pourrait surveiller et modérer le comportement des autres.

Ce modèle de coopétition (IE Cooperative Competition) offre plusieurs avantages. Il encourage l’innovation et les progrès sans monopole. Et il fournit une résilience: les systèmes d’intelligence coexisteront, se défieront et apprendront les uns des autres dans un équilibre dynamique. Si un système devient voyou, d’autres peuvent intervenir.

Un élément clé de la coopération réussie est la confiance, mais la confiance est fragile. Dans la théorie des jeux, les acteurs coopèrent lorsqu’ils croient que les autres feront de même. Mais en l’absence de transparence et d’application, les incitations à faire défaut l’emportent souvent. Les mécanismes de transparence tels que les modèles open source, les protocoles de sécurité partagés et les audits de comportement en temps réel pourraient aider. Pourtant, à la fin du spectre se trouve l’intimité et l’autonomie. Une transparence complète peut également exposer des vulnérabilités qui pourraient être exploitées par des acteurs malveillants.

Pour nous sentir en sécurité dans un monde d’escalade des capacités, nous devons imaginer des systèmes qui permettent une assurance mutuelle sans contrôle autoritaire. Cela signifie créer des normes, des protocoles et des institutions qui récompensent, restreignent et pénalisent tout en préservant les droits de l’homme.

Conception participative

Alors que les gouvernements et les entreprises technologiques peuvent avoir la part du lion du pouvoir dans la formation de l’évolution de l’IA, les gens ne sont pas impuissants. Chacun de nous joue un rôle dans la formation de l’avenir à travers nos choix, nos comportements et nos croyances. Voici comment:

• Restez soucieux des données: Chaque interaction avec un système d’IA le forment. Les mots que vous écrivez, les images que vous publiez, les clics que vous faites, ils alimentent le modèle. Choisissez intentionnellement. Désengagez-vous de Clickbait. Organisez vos contributions à la fois dans l’IA et dans votre esprit, mais faites attention à tomber dans une bulle détachée du reste du monde.
• Votez judicieusement: Choisissez des leaders avec une compétence intellectuelle, et plus important encore, ceux qui agissent avec intégrité et prévoyance. Les personnes que nous mettons au pouvoir décideront quels cadres réglementaires, normes éthiques et incitations façonnent ces systèmes.
• Posez les questions difficiles: L’IA ne s’arrêtera pas pour penser: «Dois-je?» Il ne fera que ce qu’il est dit, à moins que nous ne le forçons à faire le bien. Qui commence par nous refléter et avoir une compréhension plus profonde de Qu’est-ce qui est bon, Qu’est-ce qui est bienet Qu’est-ce qui est significatif. Cela signifie également que nous devons penser au-delà du présent pour imaginer des implications en aval.
• Redéfinir le succès: Nos idéaux et mesures de réussite les plus élevés devraient englober bien plus que la productivité et les bénéfices. Nous avons besoin de récits culturels qui célèbrent la sagesse et la compassion, la santé et le bien-être. Une civilisation qui évite de devenir un «maximiseur de trombone«Commence avec des individus qui ne vivent pas comme un.

Il ne s’agit pas seulement de résister à la dystopie. Il s’agit de créer un avenir qui reflète notre meilleur moi.

La question humaine fondamentale

Les prochaines décennies nous mettront au défi de répondre à une question ancienne sous une nouvelle forme: que signifie vivre une bonne vie?

L’IA ne sera pas bonne ou mauvaise par nature. Il deviendra ce que nous le formons à être – explicitement à travers le code, et implicitement par la culture.

Alors demandez-vous:

• Quelles histoires racontez-vous?
• Quels comportements modélisez-vous?
• Quels systèmes soutenez-vous?

La meilleure façon de prédire l’avenir est de le créer.