Categorie

SAS approfondit les principes fondamentaux de l'IA responsable

Qu’est-ce que l’intelligence artificielle (IA) responsable? Il y a un message simple au cœur de la discussion: ceux qui développent un modèle d’IA doivent être responsables de son développement.

Le terme général d’intelligence artificielle est né dans les années 1940 et a gagné son surnom en 1956. Pendant des années, il a joué avec l’image d’un robot ressemblant à un humain, essayant de donner un sens aux gens pour les aider.

L’IA était cependant bien plus que cette image stéréotypée. Ses capacités ont été développées au fur et à mesure de l’évolution de nouvelles idées, innovations et technologies.

SAS est une entreprise technologique qui exploite l’IA dans le cadre de ses activités depuis des décennies.

En 2019, SAS a annoncé un investissement de 1 milliard de dollars dans l’IA sur une période de trois ans, s’appuyant sur un large éventail de capacités allant de l’analyse avancée au traitement du langage naturel, en passant par la prévision, la vision par ordinateur, la gouvernance des modèles et de nombreux domaines intermédiaires.

Il pourrait être facile de sauter dans les terriers pour explorer ce qui est possible – et cela fait partie de l’innovation, mais SAS croit fermement au développement et à la mise en œuvre responsables de l’IA – un processus qui prend en compte les décideurs, les régulateurs et les bien sûr, ses clients.

Mais qu’est exactement «le développement et la mise en œuvre responsables de l’IA»?

Selon le gouvernement australien, huit principes fondamentaux sont associés à la conception, au développement, à l’intégration et à l’utilisation de l’IA.

Ces principes comprennent la responsabilité, la contestabilité, l’équité, les valeurs centrées sur l’humain, le bien-être humain, social et environnemental, la protection de la vie privée et la sécurité, la fiabilité et la sûreté, ainsi que la transparence et l’explicabilité.

Les principes, bien que volontaires, sont conçus pour compléter les réglementations et le développement de l’IA en aidant à obtenir de meilleurs résultats, en encourageant les décisions éthiques et en réduisant le risque d’impacts négatifs.

Pour SAS, l’IA responsable signifie développer et utiliser l’IA grâce à la responsabilité, à une gestion prudente, à l’équité et à la transparence.

Par exemple, les fonctionnalités logicielles de SAS peuvent varier en fonction des besoins des clients, mais il existe certains piliers clés de l’IA qui restent pertinents pour chaque version d’IA, ce que la société explique dans son livre électronique Comment prendre en charge les projets d’IA du début à la fin.

Les fonctionnalités communes pour le déploiement et la gestion responsables de l’IA et de l’analyse comprennent:

1. Une qualité des données qui favorise la responsabilité, l’équité et la transparence

Le logiciel de gestion de données SAS permet aux organisations de:

  • Obtenir des données à partir de nombreuses sources de données potentiellement disparates
  • Résoudre les problèmes potentiels de confidentialité et de biais dans les données
  • Analysez les données en temps réel et en continu
  • Évaluer et améliorer la qualité et l’exhaustivité des données
  • Tenir à jour les enregistrements d’audit
  • Soulevez des alertes en réponse à toute dégradation de la qualité des données

2. Qualité et gestion des modèles

SAS Model Manager offre des fonctionnalités de suivi, de validation, d’audit et de recyclage des modèles. Ces fonctionnalités aident les clients à gérer leurs modèles d’IA de manière responsable.

Un référentiel de modèles centralisé offre des modèles de cycle de vie des modèles et des capacités de contrôle de version – ceux-ci offrent une visibilité sur les processus analytiques d’une organisation, garantissent une traçabilité complète et permettent la gouvernance des modèles.

3. Interprétabilité du modèle

Que les organisations recherchent une interprétabilité à l’échelle de l’entreprise ou industrielle, le logiciel SAS propose des technologies d’explicabilité telles que:

  • LIME – Explications locales interprétables indépendantes du modèle
  • Valeurs Shapley (SAS amélioré)
  • ICE – Attente conditionnelle individuelle (SAS amélioré)
  • PD – Dépendance partielle (SAS amélioré)
  • Modèles de substitution explicables

Entre la qualité des données, la gestion des modèles et l’interprétabilité, vous vous demandez peut-être comment ces fonctionnalités techniques contribuent à améliorer la compréhension humaine de l’IA.

4. Centricité humaine

SAS comprend que l’IA responsable consiste également à aider les clients à suivre les mêmes bonnes pratiques. C’est pourquoi la société propose une formation complète et des certifications sur l’utilisation responsable de l’IA dans différentes applications.

SAS Domain Lead – Advanced Analytics, Ray Greenwood fait référence à une étude SAS, McKinsey et Intel qui a révélé que le plus grand obstacle à l’adoption de l’IA au sein des organisations est la confiance. Le personnel de première ligne est censé tirer parti des résultats de l’IA, mais s’ils ne lui font pas confiance, l’IA est une dépense inutilisée et ne présente aucun avantage.

«SAS en tant que fournisseur de technologie investit dans la fourniture de toutes les techniques qui peuvent contribuer à apporter la transparence à l’IA. SAS aide à faire comprendre à la fois aux développeurs – et aux consommateurs ultimes d’IA – pourquoi une décision a été prise, comment cela la décision a été prise, et ce qui l’a influencée. Tout cela peut aider à l’explicabilité », dit-il.

En outre, l’entreprise informe ses clients et prospects sur la technologie qui sous-tend l’IA, mais une grande partie de la conversation porte sur l’alphabétisation de l’IA. Les scientifiques des données peuvent également tirer parti des certifications et de la formation.

« L’idée est de mettre les data scientists et les non-data scientists sur la même longueur d’onde en ce qui concerne ce que l’IA peut ou ne peut pas réaliser de manière réaliste dans les circonstances dans lesquelles l’IA va être mise en production. Lorsque vous faites cela, vous allez loin des résultats plus rentables et vous obtenez une utilisation beaucoup plus bénéfique de l’IA, car les attentes sont alignées sur le résultat probable.  »

L’IA centrée sur l’humain est intégrée à SAS Visual Data Mining and Machine Learning (VDMML) en fournissant des rapports d’interprétation des modèles dans un langage simple, tandis que SAS Visual Investigator capture les détails de gouvernance, d’audit et de conformité pour les humains qui trier et gérer les cas. Les interfaces sont également personnalisables, de sorte que chaque client SAS peut compter sur des personnes pour maintenir une surveillance humaine et une intervention humaine.

Aucune solution d’IA ne serait complète sans reconnaître la diversité et l’accessibilité. SAS estime que les équipes diverses sont plus susceptibles de créer des solutions qui anticipent les préjugés injustes et prennent des mesures pour les éviter ou les atténuer. C’est pourquoi SAS encourage la diversité au sein de son entreprise et investit également dans le développement des talents STEM.

Les logiciels doivent être accessibles aux personnes handicapées. SAS dispose d’une équipe dédiée à l’accessibilité qui forme son personnel de R&D pour intégrer les besoins d’accessibilité dans le développement de produits. SAS Disability Support Center est la clé de cette assistance car il fournit des informations sur les fonctionnalités d’accessibilité des produits SAS et une formation pour les utilisateurs handicapés.

Intégrer les composants de base de l’IA responsable dans n’importe quel projet d’IA

La qualité des données, la qualité et la gestion des modèles, l’interprétabilité des modèles et la centralité humaine constituent la base de tout type de développement et de déploiement d’IA.

SAS recommande aux organisations de commencer modestement, puis de créer une approche reproductible, évolutive et fiable qui gagnera l’adhésion pour votre prochain projet d’IA.

Découvrez les quatre piliers du lancement d’un programme d’IA réussi et voyez des exemples de la façon dont d’autres organisations ont mené leurs projets d’IA du début à la fin – téléchargez dès maintenant le livre électronique Comment entreprendre des projets d’IA du début à la fin.