Assistez au symposium Women in ML le 7 décembre Inscrivez-vous maintenant
Restez organisé à l'aide des collections Enregistrez et classez les contenus selon vos préférences.

Découvrez comment intégrer des pratiques d'IA responsable dans votre flux de travail de ML à l'aide de TensorFlow

TensorFlow s'engage à faire progresser le développement responsable de l'IA en partageant un ensemble de ressources et d'outils avec la communauté ML.

Qu'est-ce que l'IA responsable ?

Le développement de l'IA crée de nouvelles opportunités pour résoudre des problèmes complexes et réels. Cela soulève également de nouvelles questions sur la meilleure façon de construire des systèmes d'IA qui profitent à tous.

La conception de systèmes d'IA doit suivre les meilleures pratiques de développement logiciel tout en adoptant une approche centrée sur l'humain.
approche du ML

Justice

Alors que l'impact de l'IA augmente dans tous les secteurs et dans toutes les sociétés, il est essentiel de travailler à des systèmes équitables et inclusifs pour tous

Interprétabilité

Il est important de comprendre et de faire confiance aux systèmes d'IA pour s'assurer qu'ils fonctionnent comme prévu

Intimité

Les modèles de formation à partir de données sensibles nécessitent des garanties de protection de la vie privée

Sécurité

L'identification des menaces potentielles peut aider à assurer la sécurité des systèmes d'IA

L'IA responsable dans votre flux de travail ML

Des pratiques d'IA responsables peuvent être intégrées à chaque étape du flux de travail ML. Voici quelques questions clés à considérer à chaque étape.

À qui s'adresse mon système de ML ?

La façon dont les utilisateurs réels perçoivent votre système est essentielle pour évaluer l'impact réel de ses prédictions, recommandations et décisions. Assurez-vous d'obtenir les commentaires d'un ensemble diversifié d'utilisateurs dès le début de votre processus de développement.

Est-ce que j'utilise un jeu de données représentatif ?

Vos données sont-elles échantillonnées d'une manière qui représente vos utilisateurs (par exemple, elles seront utilisées pour tous les âges, mais vous n'avez que des données de formation de personnes âgées) et le contexte réel (par exemple, elles seront utilisées toute l'année, mais vous n'avez que des données de formation données de l'été) ?

Y a-t-il un biais réel/humain dans mes données ?

Les biais sous-jacents dans les données peuvent contribuer à des boucles de rétroaction complexes qui renforcent les stéréotypes existants.

Quelles méthodes dois-je utiliser pour entraîner mon modèle ?

Utilisez des méthodes de formation qui intègrent l'équité, l'interprétabilité, la confidentialité et la sécurité dans le modèle.

Comment mon modèle fonctionne-t-il ?

Évaluez l'expérience utilisateur dans des scénarios réels sur un large éventail d'utilisateurs, de cas d'utilisation et de contextes d'utilisation. Testez et itérez d'abord dans la version dogfood, puis continuez les tests après le lancement.

Existe-t-il des boucles de rétroaction complexes ?

Même si tout dans la conception globale du système est soigneusement conçu, les modèles basés sur ML fonctionnent rarement avec une perfection à 100 % lorsqu'ils sont appliqués à des données réelles et en direct. Lorsqu'un problème survient dans un produit en direct, déterminez s'il correspond à des désavantages sociétaux existants et comment il sera impacté par les solutions à court et à long terme.

Outils d'IA responsables pour TensorFlow

L'écosystème TensorFlow dispose d'une suite d'outils et de ressources pour vous aider à répondre à certaines des questions ci-dessus.

Étape 1

Définir le problème

Utilisez les ressources suivantes pour concevoir des modèles avec une IA responsable à l'esprit.

Guide de recherche People + AI (PAIR)

En savoir plus sur le processus de développement de l'IA et les considérations clés.

PAIRE Explorables

Explorez, via des visualisations interactives, des questions et des concepts clés dans le domaine de l'IA responsable.

Étape 2

Construire et préparer des données

Utilisez les outils suivants pour examiner les données afin de détecter d'éventuels biais.

Connaissez vos données (bêta)

Étudiez de manière interactive votre ensemble de données pour améliorer la qualité des données et atténuer les problèmes d'équité et de biais.

Validation des données TF

Analysez et transformez les données pour détecter les problèmes et concevoir des ensembles de fonctionnalités plus efficaces.

Cartes de données

Créez un rapport de transparence pour votre jeu de données.

Échelle de teint de peau de moine (MST)

Une échelle de teint plus inclusive, sous licence ouverte, pour rendre votre collecte de données et vos besoins de création de modèles plus robustes et inclusifs.

Étape 3

Construire et former un modèle

Utilisez les outils suivants pour former des modèles à l'aide de techniques préservant la confidentialité, interprétables, etc.

Correction du modèle TF

Former des modèles d'apprentissage automatique pour promouvoir des résultats plus équitables.

Confidentialité TF

Entraînez des modèles d'apprentissage automatique en toute confidentialité.

TF fédéré

Entraînez des modèles d'apprentissage automatique à l'aide de techniques d'apprentissage fédéré.

Optimisation contrainte TF

Optimiser les problèmes avec contraintes d'inégalité.

Treillis TF

Implémentez des modèles basés sur des réseaux flexibles, contrôlés et interprétables.

Étape 4

Évaluer le modèle

Déboguez, évaluez et visualisez les performances du modèle à l'aide des outils suivants.

Indicateurs d'équité

Évaluez les métriques d'équité communément identifiées pour les classificateurs binaires et multi-classes.

Analyse du modèle TF

Évaluez les modèles de manière distribuée et calculez sur différentes tranches de données.

Outil de simulation

Examinez, évaluez et comparez les modèles d'apprentissage automatique.

Outil d'interprétabilité linguistique

Visualisez et comprenez les modèles NLP.

IA explicable

Développer des modèles d'apprentissage automatique interprétables et inclusifs.

Tests de confidentialité TF

Évaluer les propriétés de confidentialité des modèles de classification.

TensorBoard

Mesurez et visualisez le flux de travail d'apprentissage automatique.

Étape 5

Déployer et surveiller

Utilisez les outils suivants pour suivre et communiquer sur le contexte et les détails du modèle.

Boîte à outils de carte modèle

Générez facilement des modèles de cartes à l'aide de la boîte à outils Model Card.

Métadonnées ML

Enregistrez et récupérez les métadonnées associées aux workflows des développeurs ML et des data scientists.

Cartes modèles

Organisez les faits essentiels de l'apprentissage automatique de manière structurée.

Ressources communautaires

Découvrez ce que fait la communauté et explorez les moyens de vous impliquer.

Crowdsourcing par Google

Aidez les produits Google à devenir plus inclusifs et représentatifs de votre langue, de votre région et de votre culture.

Challenge DevPost IA responsable

Nous avons demandé aux participants d'utiliser TensorFlow 2.2 pour créer un modèle ou une application en gardant à l'esprit les principes de l'IA responsable. Consultez la galerie pour voir les gagnants et d'autres projets incroyables.

IA responsable avec TensorFlow (TF Dev Summit '20)

Présentation d'un cadre pour réfléchir au ML, à l'équité et à la confidentialité.