Google is committed to advancing racial equity for Black communities. See how.

Découvrez comment intégrer des pratiques de Responsible AI dans votre workflow de ML à l'aide de TensorFlow

TensorFlow s'engage à faire progresser le développement responsable de l'IA en partageant un ensemble de ressources et d'outils avec la communauté du machine learning.

Qu'est-ce que l'IA responsable ?

Le développement de l'IA offre de nouvelles opportunités pour résoudre des problèmes concrets complexes. Cela soulève également de nouvelles questions quant au meilleur moyen de concevoir des systèmes d'IA dont tout le monde peut bénéficier.

Bonnes pratiques recommandées pour l'IA

La conception de systèmes d'IA doit respecter les bonnes pratiques en termes de développement logiciel, tout en adoptant une
approche du ML centrée sur l'humain

Équité

L'IA ne cesse de gagner en importance dans tous les secteurs d'activités et au sein de la société. Il est donc essentiel de s'atteler à la mise en œuvre de systèmes qui soient équitables et qui s'adressent à tous.

Interprétabilité

Il est important de bien comprendre les systèmes d'IA et de leur faire confiance pour s'assurer qu'ils fonctionnent comme prévu

Confidentialité

L'utilisation de mesures de protection de la confidentialité est nécessaire pour entraîner des modèles à l'aide de données sensibles

Sécurité

Identifier les menaces potentielles peut contribuer à la sécurité et à la protection des systèmes d'IA

Une Responsible AI dans votre workflow de ML

Des pratiques de Responsible AI peuvent être intégrées à chaque étape du workflow de ML. Voici quelques questions importantes que vous devez vous poser à chaque étape.

À qui mon système de ML est-il destiné ?

Les conditions d'utilisation réelles de votre système constituent un facteur essentiel pour évaluer l'impact de ses prédictions, recommandations et décisions. Veillez à obtenir des retours d'un large éventail d'utilisateurs dès le début de votre processus de développement.

L'ensemble de données que j'utilise est-il représentatif ?

Vos données sont-elles échantillonnées de telle manière qu'elles représentent vos utilisateurs (par exemple, si elles sont destinées à être utilisées pour toutes les tranches d'âges, mais que vous ne disposez que de données d'entraînement pour les personnes âgées) et un environnement réel (par exemple, si ellessont destinées à être utilisées toute l'année, mais que vous ne disposez que de données d'entraînement pour l'été) ?

Les données comportent-elles des biais réels/humains ?

La présence de biais sous-jacents dans les données peut donner lieu à des boucles de rétroaction complexes qui renforcent les stéréotypes existants.

Quelles méthodes dois-je utiliser pour entraîner mon modèle ?

Utilisez des méthodes d'entraînement qui répondent au mieux aux problématiques d'équité, d'interprétabilité, de confidentialité et de sécurité du modèle.

Quelles sont les performances de mon modèle ?

Évaluez l'expérience utilisateur dans des scénarios réels sur un large éventail d'utilisateurs, avec divers cas et contextes d'utilisation. Effectuez des tests et des itérations dans la version dogfood, puis procédez à des tests continus après le lancement.

Y a-t-il des boucles de rétroaction complexes ?

Même si l'ensemble du système a été conçu avec soin, il est rare que les modèles basés sur le ML fonctionnent parfaitement lorsqu'ils sont appliqués à des données dynamiques réelles. Lorsqu'un problème survient dans un produit, déterminez s'il correspond à des inégalités sociétales existantes, et dans quelle mesure il sera affecté par des solutions à court et à long terme.

Outils de Responsible AI pour TensorFlow

L'écosystème TensorFlow comprend une suite d'outils et de ressources permettant de résoudre certains des problèmes évoqués ci-dessus.

Étape 1

Définir un problème

Utilisez les ressources suivantes pour concevoir des modèles selon les principes de l'IA responsable.

Guide People + AI Research (PAIR)

Découvrez le processus de développement de l'IA et d'autres remarques importantes.

PAIR Explorables

Découvrez, par le biais de visualisations interactives, les principales questions et les concepts clés dans le domaine de la Responsible AI.

Étape 2

Développer et préparer des données

Utilisez les outils suivants pour découvrir des biais potentiels dans les données.

TF Data Validation

Analysez et transformez les données pour détecter les problèmes et concevoir des ensembles de caractéristiques plus efficaces.

Fiches de données

Créez un rapport sur la transparence des informations pour votre ensemble de données.

Étape 3

Développer et entraîner un modèle

Utilisez les outils suivants pour entraîner des modèles à l'aide de mesures de protection de la vie privée, de techniques interprétables et bien plus encore.

TF Privacy

Entraînez des modèles de machine learning pour la confidentialité des données.

TF Federated

Entraînez des modèles de machine learning à l'aide de techniques d'apprentissage fédéré.

TF Constrained Optimization

Optimisez les problèmes avec contraintes d'inégalité.

TF Lattice

Mettez en œuvre des modèles basés sur des réseaux flexibles, contrôlés et interprétables.

Étape 4

Évaluer le modèle

Déboguez, évaluez et visualisez les performances du modèle à l'aide des outils suivants.

Indicateurs d'équité

Calculez des métriques d'équité couramment identifiées pour les classificateurs multiclasses et binaires.

TF Model Analysis

Évaluez des modèles de manière distribuée et effectuez des calculs sur différentes tranches de données.

Outil What-If

Examinez, évaluez et comparez les modèles de machine learning.

Explainable AI

Développez des modèles de machine learning interprétables et inclusifs.

TF Privacy Tests

Évaluez les propriétés de confidentialité des modèles de classification.

TensorBoard

Mesurez et visualisez le workflow de machine learning.

Étape 5

Déployer et surveiller

Utilisez les outils suivants pour effectuer le suivi des informations et du contexte du modèle, et communiquer à leur sujet.

Boîte à outils Model Card

Générez facilement des fiches modèles à l'aide de la boîte à outils Model Card.

Métadonnées de ML

Enregistrez et récupérez les métadonnées associées aux workflows pour les data scientists et les développeurs ML.

Fiches modèles

Organisez de manière structurée les points essentiels concernant le machine learning.

En savoir plus

Découvrez les travaux de la communauté et comment apporter votre contribution.

Crowdsource de Google

Faites en sorte que les produits de Google soient plus inclusifs et plus représentatifs de votre langue, de votre région et de votre culture.

Responsible AI DevPost Challenge

Créez un modèle ou une application selon les principes de l'IA responsable grâce à TensorFlow 2.2.

Responsible AI avec TensorFlow (TF Dev Summit 2020)

Présentation d'un framework axé sur le ML, l'équité et la confidentialité.

Continue