America’s IA Watchdog perd sa morsure

La plupart des Américains ne rencontrent la Federal Trade Commission que s’ils ont été arnaqués: il gère le vol d’identité, la fraude et les données volées. Pendant l’administration Biden, l’agence a poursuivi les sociétés de l’IA pour arnaque des clients avec une publicité trompeuse ou du nuire aux gens en vendant des technologies irresponsables. Avec l’annonce d’hier du plan d’action de l’IA du président Trump, cette époque pourrait maintenant être terminée.

Au cours des derniers mois de l’administration Biden sous la présidente Lina Khan, la FTC a prélevé une série de de haut niveau Des amendes et des actions contre les sociétés de l’IA pour avoir surchargé leur technologie et plier la vérité – ou dans certains cas faire des allégations entièrement fausses.

Il a constaté que le géant de la sécurité évolué a menti sur le précision De ses points de contrôle de sécurité alimentés par l’IA, qui sont utilisés dans les stades et les écoles, mais n’ont pas réussi à attraper un couteau de sept pouces qui a finalement été utilisé pour poignarder un élève. Il a poursuivi la société de reconnaissance faciale Intellivision, affirmant que la société avait fait réclamations non fondées que ses outils fonctionnaient sans biais de sexe ni de racial. Il a une amende startups Des services prometteurs «AI avocat» et celui qui a vendu de fausses avis sur les produits générés avec l’IA.

Ces actions n’ont pas entraîné d’amendes qui ont paralysé les entreprises, mais elles les ont empêchés de faire de fausses déclarations et ont offert aux clients des moyens de récupérer leur argent ou de sortir des contrats. Dans chaque cas, la FTC a constaté que les gens de tous les jours avaient été blessés par les sociétés d’IA qui permettent à leurs technologies de se livrer.

Le plan publié hier par l’administration Trump suggère qu’il pense que ces actions sont allées trop loin. Dans une section sur la suppression de la «réglementation des formalités administratives et onéreuse», la Maison Blanche affirme qu’elle examinera toutes les mesures de FTC prises en vertu de l’administration Biden «pour s’assurer qu’elles ne font pas progresser les théories de la responsabilité qui fardeau indûment l’innovation de l’IA». Dans la même section, la Maison Blanche indique qu’elle retirera le financement fédéral lié à l’IA des États ayant des réglementations «lourdes».

Cette décision de l’administration Trump est la dernière de son attaque en évolution contre l’agence, qui fournit une voie de réparation importante pour les personnes blessées par l’IA aux États-Unis. Cela entraînera probablement un déploiement plus rapide de l’IA avec moins de contrôles de précision, d’équité ou de préjudice des consommateurs.

Sous Khan, nommé par Biden, la FTC a trouvé des fans dans des endroits inattendus. Les progressistes ont appelé à briser le comportement monopolistique dans Big Tech, mais certains sur l’orbite de Trump, y compris le vice-président JD Vance, ont également soutenu Khan dans ses combats contre les élites technologiques, bien que pour l’objectif différent de mettre fin à leur censure supposée de la parole conservatrice.

Mais en janvier, avec Khan Out et Trump à la Maison Blanche, cette dynamique s’est pratiquement effondrée. Trump a publié un décret en février promettant de «maîtriser«Des agences indépendantes comme la FTC qui salarié influencent sans consulter le président. Le mois suivant, il a commencé à faire ce vœu à ses limites légales.

En mars, il a licencié les deux seuls commissaires démocrates à la FTC. Le 17 juillet, un tribunal fédéral a jugé que l’un de ces licenciements, de la commissaire Rebecca Slaughter, était illégal étant donné l’indépendance de l’agence, qui a rétabli l’abattage à son poste (l’autre commissaire licencié, Alvaro Bedoya, a choisi de démissionner plutôt que de combattre le licenciement devant le tribunal, de sorte que son affaire a été rejetée). Slaughter est désormais le seul démocrate.

En nommant la FTC dans son plan d’action, la Maison Blanche va maintenant plus loin, peignant les actions de l’agence comme un obstacle majeur à la victoire américaine dans la «course aux armements» pour développer une meilleure IA plus rapidement que la Chine. Il promet non seulement de changer l’adhésion de l’agence à avancer, mais aussi de réviser et peut-être même d’abroger les sanctions liées à l’IA qu’elle a imposées au cours des quatre dernières années.

Comment cela pourrait-il se dérouler? Leah Frazier, qui a travaillé à la FTC pendant 17 ans avant de partir en mai et a été conseiller de Khan, dit qu’il est utile de réfléchir aux actions de l’agence contre les sociétés de l’IA comme tombant dans deux domaines, chacun avec des niveaux de soutien très différents à travers les lignes politiques.

Le premier concerne les cas de tromperie, où les entreprises d’IA sont en erreur les consommateurs. Considérez le cas de l’évolv, ou un cas récent annoncé En avril, où la FTC allègue qu’une entreprise appelée Workado, qui propose un outil pour détecter si quelque chose a été écrit avec l’IA, n’a pas les preuves pour étayer ses affirmations. Les cas de déception ont bénéficié d’un soutien assez bipartite pendant son mandat, dit Frazier.

«Ensuite, il y a des cas concernant l’utilisation responsable de l’IA, et ceux-ci ne semblaient pas bénéficier d’un soutien trop populaire», ajoute Frazier, qui dirige désormais l’initiative de justice numérique à la Commission des avocats pour les droits civils en vertu de la loi. Ces affaires n’allèguent pas la tromperie; Ils facturent plutôt que les entreprises ont déployé l’IA d’une manière qui nuit aux gens.

Les plus graves d’entre eux, qui ont peut-être abouti à la FTC, les mesures liées à l’IA et ont peut-être été prises en étudiée en 2023. La FTC a interdit l’aide du rite en utilisant la reconnaissance faciale de l’IA dans ses magasins après avoir trouvé que la technologie a forcément signalé les personnes, en particulier les femmes et les personnes de couleur, comme les volants. «Agissant sur des alertes faussement positives», la FTC a écritLes employés de Rite Aid «ont suivi les consommateurs autour de ses magasins, les ont fouillés, leur ont ordonné de partir, (et) ont appelé la police pour affronter ou retirer les consommateurs.»

La FTC a constaté que Rite Aid n’a pas protégé les gens de ces erreurs, n’a pas surveillé ou testé la technologie et n’a pas correctement formé les employés sur la façon de l’utiliser. L’entreprise a été interdite d’utiliser la reconnaissance faciale pendant cinq ans.

C’était un gros problème. Cette action est allée au-delà de la vérification des promesses trompeuses faites par les sociétés d’IA pour rendre Rite Aid responsable de la façon dont sa technologie d’IA a nui aux consommateurs. Ces types de cas responsables-AI sont ceux que Frazier imagine pourrait disparaître dans la nouvelle FTC, en particulier s’ils impliquent de tester les modèles d’IA pour les biais.

«Il y aura moins de mesures d’application, le cas échéant, sur la façon dont les entreprises déploient l’IA», dit-elle. La philosophie plus large de la Maison Blanche envers l’IA, mentionnée dans le plan, est une approche «essayez d’abord» qui tente de propulser l’adoption plus rapide de l’IA du Pentagone aux cabinets de médecin. L’absence d’application de la FTC qui devrait s’ensuivre, a déclaré Frazier: «est dangereux pour le public».

Source link