IMPACTS IMPACTS Quarterly Newsletter, Jan-Mars 2023 – IA IMPACTS

Harlan Stewart, 17 avril 2023

Blog sur les impacts AI

Nous avons déplacé notre blog à submerger! Nous pensons que cette plate-forme présente de nombreux avantages, et nous sommes ravis que le blog vive ici. Vous pouvez maintenant facilement s’abonner au blog pour recevoir des newsletters réguliers ainsi que divers pensées et observations lié à l’IA.

L’IA a un impact Wiki

Tous les impacts d’IA sont désormais des pages de recherche sur le L’IA a un impact Wiki. Le wiki vise à documenter ce que nous savons jusqu’à présent sur les questions pertinentes sur la décision sur l’avenir de l’IA. Nos pages ont toujours été des wiki: pages de référence à jour organisées par sujet. Nous espérons que le faire un wiki réel rendra plus clair pour tout le monde ce qui se passe, ainsi que mieux à utiliser à cet effet, pour nous et les lecteurs. Nous recherchons activement des moyens de rendre le wiki encore meilleur, et vous pouvez vous aider en partageant vos pensées dans notre formulaire de rétroaction Ou dans les commentaires de ce billet de blog!

Nouveau bureau

Nous avons récemment déménagé dans un nouveau bureau avec lequel nous partageons FAR AI et d’autres organisations partenaires. Nous sommes extrêmement reconnaissants à l’équipe de FAR d’avoir organisé cet espace de bureau, ainsi qu’à l’équipe Lightcone de nous avoir accueillis au cours de la dernière année et demie.

Katja Grace parle des prévisions du risque d’IA chez EA Global

À EA Global Bay Area 2023, Katja a donné une conférence intitulée L’IA finira-t-elle à tout? Un guide pour deviner dans lequel elle a décrit un moyen d’estimer à peu près l’étendue du risque d’IA.

IA IACTS dans les médias

Stratégie d’IA

Résiste des tentations technologiques: quelle valeur économique a été perdue pour la sécurité et l’éthique dans les technologies passées?

Conscience du public et opinions sur l’IA

• « Le public soutient la régulation de l’IA pour la sécurité»Résume les résultats d’une enquête auprès du public américain sur l’IA. (Zach)
• «Quelle est la popularité du chatpt?»: Partie 1 regarde les tendances du volume de recherche lié à l’IA, et Partie 2 Réfute une affirmation généralisée sur la croissance de Chatgpt. (Harlan et Rick)

L’état de l’IA aujourd’hui: financement, matériel et capacités

Arguments pour le risque d’IA

Théorie du chaos et ce que cela signifie pour la sécurité de l’IA

Recueil

• « À quel point les chercheurs de ML s’attendent-ils à un avenir?« Compare les réponses des experts en 2016 et 2022 à la question » à quel point les impacts de l’intelligence machine de haut niveau sur l’humanité seront positifs ou négatifs?  » (Katja)
• « Nous n’échangeons pas avec les fourmis»(CrossPost) conteste l’affirmation commune selon laquelle les systèmes d’IA avancés ne négocieront pas avec les humains pour la même raison que les humains ne négocient pas avec les fourmis. (Katja)

Nous recherchons activement un soutien financier pour poursuivre nos recherches et nos opérations pour le reste de l’année. Le financement précédent nous a permis d’étendre notre équipe de recherche et de tenir un programme de stage d’été.

Si vous voulez nous expliquer pourquoi nous devons être financés ou entendre plus de détails sur ce que nous ferions avec de l’argent, veuillez écrire à Elizabeth, Rick ou Katja sur (FirstName) @ Aiimpacts.org.

Si vous souhaitez faire un don à des impacts d’IA, vous pouvez le faire ici. (Et nous vous remercions!)

Crédit d’image: MidJourney