La recherche collaborative sur la sécurité de l’IA est vitale | Intelligence artificielle (IA)

Ref Geoffrey Hinton les préoccupations concernant les dangers de l’intelligence artificielle («  Parrain de l’IA  » raccourcit les chances que la technologie anéantit l’humanité au cours des 30 prochaines années, 27 décembre), Je crois que ces préoccupations peuvent être mieux atténuées par la recherche collaborative sur la sécurité de l’IA, avec un rôle pour les régulateurs à la table.

Actuellement, FRONTIER AI est testé après le développement à l’aide de «équipes rouges» qui font de leur mieux pour obtenir un résultat négatif. Cette approche ne sera jamais suffisante; L’IA doit être conçue pour la sécurité et l’évaluation – quelque chose qui peut être fait en s’appuyant sur l’expertise et l’expérience dans des industries bien établies en matière de sécurité.

Hinton ne semble pas penser que la menace existentielle de l’IA est celle qui est délibérément codée – alors pourquoi ne pas appliquer l’évitement délibéré de ce scénario? Bien que je ne souscrit pas à sa perspective sur le niveau de risque confronté à l’humanité, le principe de précaution suggère que nous devons agir maintenant.

Dans les domaines traditionnels de sécurité-critique, la nécessité de construire des systèmes physiques, par exemple, les avions limitent la vitesse à laquelle la sécurité peut être affectée. Frontier IA n’a pas un tel «limiteur de taux» physique sur le déploiement, et c’est là que la réglementation doit jouer un rôle. Idéalement, il devrait y avoir une évaluation des risques avant le déploiement, mais les mesures de risque actuelles sont inadéquates – par exemple, ils ne considèrent pas le secteur des applications ou l’échelle de déploiement.

Les régulateurs ont besoin du pouvoir pour «rappeler» des modèles déployés (et les grandes entreprises qui les développent doivent inclure des mécanismes pour arrêter les utilisations particulières) ainsi que de soutenir les travaux sur l’évaluation des risques, qui donnera des indicateurs de risque, pas seulement des indicateurs à retard. Autrement dit, le gouvernement doit se concentrer sur les contrôles réglementaires post-commerciaux tout en soutenant la recherche qui permet aux régulateurs d’avoir les informations pour appliquer les contrôles pré-commerciaux. C’est difficile, mais impératif si Hinton a raison sur le niveau de risque confronté à l’humanité.
Professeur John McDermid
Institut pour l’autonomie sûre, Université de York