Vos données ne sont probablement pas prêtes pour l’IA – voici comment les rendre dignes de confiance

La confiance est fragile, et c’est un problème avec l’intelligence artificielle, qui est aussi bonne que les données derrière elle. Les problèmes d’intégrité des données – qui ont vexé même les organisations les plus savoureuses depuis des décennies – se lèvent à nouveau. Et les experts de l’industrie sonnent l’alarme. Utilisateurs de AI génératif Peut être nourri d’informations incomplètes, duplicatives ou erronées qui reviennent pour les mordre – grâce aux données faibles ou cloisonnées sous-tendant ces systèmes.

« L’IA et GEN AI augmentent la barre pour des données de qualité », selon un récent analyse Publié par Ashish Verma, directeur des données et des analyses chez Deloitte US, et une équipe de co-auteurs. « Les stratégies du Genai peuvent lutter sans une architecture de données claire qui coupe les types et les modalités, en tenant compte de la diversité des données et des biais et refactoring les données pour les systèmes probabilistes », a déclaré l’équipe.

Aussi: La course modèle AI s’est soudainement beaucoup plus proche, disons les chercheurs de Stanford

Une architecture de données prête pour l’AI est une bête différente de celle des approches traditionnelles de la livraison de données. L’IA est construite sur modèles probabilistes – Ce qui signifie que la sortie variera, en fonction des probabilités et des données de support en dessous au moment de la requête. Cela limite la conception du système de données, Verma et ses co-auteurs ont écrit. « Les systèmes de données ne peuvent pas être conçus pour des modèles probabilistes, ce qui peut rendre le coût de la formation et le recyclage élevé, sans transformation de données qui comprend des ontologies de données, des actions de gouvernance et de construction de confiance, et la création de requêtes de données qui reflètent des scénarios du monde réel. »

Aux défis, ajouter Hallucinations et dérive du modèleils ont noté. Toutes ces raisons sont des raisons de garder les mains humaines dans le processus – et de intensifier les efforts pour aligner et assurer la cohérence des données.

Cela est potentiellement réduit la confiance, peut-être la marchandise la plus précieuse du monde de l’IA, a déclaré à ZDNET Ian Clayton, chef de produit de Redpoint Global.

« La création d’un environnement de données avec une gouvernance des données robuste, une lignée de données et des réglementations de confidentialité transparentes contribuent à garantir l’utilisation éthique de l’IA dans les paramètres d’une promesse de marque », a déclaré Clayton. La construction d’une base de confiance aide à empêcher l’IA de devenir voyou, ce qui peut facilement conduire à des expériences client inégales.  »

Aussi: Avec les modèles d’IA qui obtiennent chaque référence, il est temps pour l’évaluation humaine

Dans l’ensemble de l’industrie, les inquiétudes montent sur la préparation des données pour l’IA.

« La qualité des données est un problème vivace auquel les entreprises sont confrontées depuis des décennies », a déclaré Gordon Robinson, directeur principal de la gestion des données chez SAS. Il y a deux questions essentielles sur les environnements de données que les entreprises doivent considérer avant de commencer un programme d’IA, a-t-il ajouté. Premièrement, « Comprenez-vous quelles données vous avez, la qualité des données et si elles sont dignes de confiance ou non? » Deuxièmement, « Avez-vous les bonnes compétences et outils à votre disposition pour préparer vos données à l’IA? »

Il existe un besoin amélioré de « consolidation des données et de la qualité des données » pour faire face aux vents contraires de l’IA, a déclaré Clayton. « Celles-ci impliquent de rassembler toutes les données et de silosainsi que des étapes intensives de qualité des données qui incluent la déduplication, l’intégrité des données et la cohérence. « 

Aussi: L’intégration de l’IA commence avec des fondations de données robustes. Voici 3 stratégies que les cadres employent

La sécurité des données prend également une nouvelle dimension à mesure que l’IA est introduite. « Les contrôles de sécurité des raccourcis pour tenter de fournir rapidement des solutions d’IA conduisent à un manque de surveillance », a déclaré Omar Khawaja, directeur de la sécurité de l’information sur le terrain chez Databricks.

Les observateurs de l’industrie soulignent plusieurs éléments essentiels nécessaires pour garantir la confiance dans les données derrière l’IA:

• Pipelines de données agiles: L’évolution rapide de l’IA « nécessite des pipelines de données agiles et évolutives, qui sont vitales pour garantir que l’entreprise peut facilement s’adapter aux nouveaux cas d’utilisation de l’IA », a déclaré Clayton. « Cette agilité est particulièrement importante à des fins de formation. »
• Visualisation: « Si les scientifiques des données ont du mal à accéder et à visualiser les données dont ils disposent, cela limite gravement leur efficacité de développement d’IA », a souligné Clayton.
• Programmes de gouvernance robustes: « Sans une forte gouvernance des données, les entreprises peuvent rencontrer des problèmes de qualité des données, conduisant à des idées inexactes et à une mauvaise prise de décision », a déclaré Robinson. En outre, une approche de gouvernance robuste aide à identifier «les données que possède l’organisation, la préparation adéquatement pour les applications d’IA et la conformité aux exigences réglementaires».
• Mesures approfondies et en cours: « La précision et l’efficacité des modèles d’IA dépendent directement de la qualité des données sur lesquelles elle est formée », a déclaré Khawaja. Il a exhorté la mise en œuvre de mesures telles que les taux d’adoption mensuels qui « suivent la rapidité avec laquelle les équipes et les systèmes adoptent des capacités de données basées sur l’IA.

Aussi: Vous voulez que l’IA travaille pour votre entreprise? Alors la confidentialité doit venir en premier

Une architecture de données prête à l’AI devrait permettre aux équipes informatiques et de données de « mesurer une variété de résultats couvrant la qualité des données, la précision, l’exhaustivité, la cohérence et les performances du modèle d’IA », a déclaré Clayton. « Les organisations devraient prendre des mesures pour vérifier en permanence que l’IA verse des dividendes par rapport à la simple mise en œuvre de l’IA pour le bien de l’IA. »

Vous voulez plus d’histoires sur l’IA? Inscrivez-vous à l’innovationnotre newsletter hebdomadaire.