Genai – Ami ou ennemi? – Computerworld

Selon Rogoyski, une préoccupation des systèmes Genai est que nous entrons dans un domaine où personne ne sait comment ils fonctionnent – même lorsqu’ils profitent aux gens. Comme l’IA est de plus en plus capable, «les nouveaux produits apparaissent, de nouveaux matériaux, de nouveaux médicaments, nous guérissons le cancer. Mais en fait, nous n’aurons aucune idée de la façon dont cela est fait», a-t-il déclaré.

« L’un des défis est que ces décisions sont prises par quelques entreprises et quelques individus au sein de ces entreprises », a-t-il déclaré. Les décisions prises par quelques personnes «auront un impact énorme sur… la société mondiale dans son ensemble. Et cela ne semble pas bien.» Il a souligné que des entreprises comme Amazon, Openai et Google ont beaucoup plus d’argent à consacrer à l’IA que les gouvernements entiers.

Rogoyski a souligné l’énigme exposée par des solutions comme celle de la Californie essaie d’arriver. Au cœur de la proposition de California Policy Working Group se trouve la transparence, le traitement de la fonctionnalité de l’IA comme une sorte de projet open-source. D’une part, les experts extérieurs peuvent aider à signaler les dangers. De l’autre, la transparence ouvre la technologie aux acteurs malveillants. Il a donné l’exemple de l’IA conçu pour la biotechnologie, quelque chose conçu pour concevoir des médicaments vitaux. Entre dans les mauvaises mains, ce même outil peut être utilisé pour concevoir une arme bio catastrophique.