Comment peut être utilisé en toute sécurité? Les chercheurs experts pèsent

Un objectif important de la recherche sur l’IA consiste à améliorer la factualité et la fiabilité d’un système d’IA. Même si des progrès significatifs ont été réalisés dans ces domaines, certains experts de l’IA sont pessimistes selon lesquels ces problèmes seront résolus dans un avenir proche. C’est l’une des principales conclusions d’un nouveau rapport de l’Association for the Advancement of Artificiel Intelligence (AAAI), qui comprend des idées d’experts de diverses institutions universitaires (par exemple, MIT, Harvard et Université d’Oxford) et des géants de la technologie (par exemple, Microsoft et IBM).

L’objectif de l’étude était de définir les tendances actuelles et les défis de recherche pour rendre l’IA plus capable et fiable afin que la technologie puisse être utilisée en toute sécurité, a écrit le président de l’AAAI Francesca Rossi. Le rapport comprend 17 sujets liés à la recherche sur l’IA issue par un groupe de 24 «très divers» et des chercheurs en IA expérimentés, ainsi que 475 répondants de la communauté AAAI, a-t-elle noté. Voici les faits saillants de ce rapport de recherche sur l’IA.

Améliorer la fiabilité et la factualité d’un système d’IA

Un système d’IA est considéré comme factuel s’il ne fait pas de fausses déclarations, et sa fiabilité peut être améliorée en incluant des critères «tels que la compréhension humaine, la robustesse et l’incorporation des valeurs humaines», a déclaré les auteurs du rapport.

D’autres critères à considérer sont le réglage fin et la vérification des sorties de la machine, et le remplacement de modèles complexes par des modèles compréhensibles simples.

VOIR: Comment garder l’IA digne de confiance de TechRepublic Premium

Rendre l’IA plus éthique et plus sûr

L’IA devient de plus en plus populaire, ce qui nécessite une plus grande responsabilité pour les systèmes d’IA, selon le rapport. Par exemple, les menaces émergentes telles que la cybercriminalité et les armes autonomes axées sur l’IA nécessitent une attention immédiate, ainsi que les implications éthiques des nouvelles techniques d’IA.

Parmi les défis éthiques les plus urgents, les principales préoccupations des répondants ont été:

• Désinformation (75%)
• Confidentialité (58,75%)
• Responsabilité (49,38%)

Cela indique que plus de transparence, de responsabilité et d’explicabilité dans les systèmes d’IA est nécessaire. Et, que les préoccupations éthiques et de sécurité devraient être traitées avec une collaboration interdisciplinaire, une surveillance continue et une responsabilité plus claire.

Les répondants ont également cité les obstacles politiques et structurels, «avec des préoccupations que des progrès significatifs peuvent être entravés par la gouvernance et les divisions idéologiques».

Évaluation de l’IA en utilisant divers facteurs

Les chercheurs prouvent que les systèmes d’IA introduisent «des défis d’évaluation uniques». Les approches d’évaluation actuelles se concentrent sur les tests de référence, mais ils ont déclaré que davantage d’attention devait être accordée à la convivialité, à la transparence et à l’adhésion aux directives éthiques.

La mise en œuvre d’agents d’IA présente des défis

Les agents de l’IA sont passés de résolveurs de problèmes autonomes aux cadres d’IA qui améliorent l’adaptabilité, l’évolutivité et la coopération. Pourtant, les chercheurs ont constaté que l’introduction de l’IA agentique, tout en fournissant une prise de décision flexible, a introduit des défis en matière d’efficacité et de complexité.

Les auteurs du rapport indiquent que l’intégration de l’IA aux modèles génératives «nécessite un équilibre entre l’adaptabilité, la transparence et la faisabilité de calcul dans des environnements multi-agents».

Plus d’aspects de la recherche sur l’IA

Certains des autres sujets liés à la recherche sur l’IA Rapport AAAI Inclure la durabilité, l’intelligence générale artificielle, le bien social, le matériel et les aspects géopolitiques.