Google is committed to advancing racial equity for Black communities. See how.

Saiba como integrar as práticas da AI Responsible ao seu fluxo de trabalho de ML usando o TensorFlow

O TensorFlow tem o compromisso de fazer progresso no desenvolvimento responsável da IA compartilhando recursos e ferramentas com a comunidade de ML.

O que é a IA Responsible?

O desenvolvimento da IA está criando novas oportunidades para resolver problemas desafiadores do mundo real. Também está levantando novas perguntas sobre a melhor maneira de desenvolver sistemas de IA úteis para todo mundo.

Práticas recomendadas para IA

A criação de sistemas de IA precisa seguir as práticas recomendadas de desenvolvimento de software e uma
abordagem em relação ao ML centrada nas pessoas

Imparcialidade

Conforme o impacto da IA aumenta em vários setores e na sociedade, é fundamental trabalhar para que os sistemas sejam imparciais e inclusivos

Interpretabilidade

Entender e confiar em sistemas de IA é importante para garantir que eles funcionem conforme o esperado

Privacidade

O treinamento de modelos com dados confidenciais exige salvaguardas para a preservação de privacidade

Segurança

Identificar possíveis ameaças pode ajudar a manter os sistemas de IA seguros e protegidos

AI Responsible em seu fluxo de trabalho de ML

Práticas da AI Responsible podem ser integradas em todas as etapas do seu fluxo de trabalho de ML. Veja algumas perguntas importantes a serem consideradas em cada fase.

Para quem é o meu sistema de ML?

A experiência dos usuários reais no seu sistema é essencial para avaliar o verdadeiro impacto das previsões, recomendações e decisões. Verifique se você recebeu informações de um grupo diverso de usuários desde o início do processo de desenvolvimento.

Estou usando um conjunto de dados representativo?

As amostras de dados representam os usuários (por exemplo, serão usadas para todas as idades, mas você só tem dados de treinamento sobre idosos) e o mundo real (por exemplo, serão usadas o ano todo, mas você só tem dados de treinamento do verão)?

Há um viés humano ou real nos dados?

Vieses nos dados podem contribuir para feedback loops complexos que reforçam os estereótipos existentes.

Quais métodos devo usar para treinar meu modelo?

Use métodos de treinamento que desenvolvam a imparcialidade, a interpretabilidade, a privacidade e a segurança do modelo.

Como está o desempenho do meu modelo?

Avalie a experiência do usuário em cenários reais para diversos usuários, casos e contextos de uso. Teste e repita os testes na versão dogfood primeiro e continue a testar após o lançamento.

Há feedback loops complexos?

Mesmo que todo o design do sistema seja cuidadosamente elaborado, modelos baseados em ML raramente funcionam com 100% de perfeição quando aplicados a dados de verdade e em tempo real. Quando ocorre um problema em um produto em tempo real, confira se ele se relaciona a desvantagens sociais existentes e como será afetado por soluções de curto e longo prazo.

Ferramentas de AI Responsible para o TensorFlow

O ecossistema do TensorFlow tem um pacote de ferramentas e recursos para ajudar a solucionar algumas das perguntas acima.

Etapa 1

Definir o problema

Use os recursos a seguir para projetar modelos com a AI Responsible em mente.

People + AI Research (PAIR) Guidebook

Saiba mais sobre o processo de desenvolvimento de IA e as principais considerações.

PAIR Explorables

Descubra os principais conceitos e perguntas sobre a Responsible AI em visualizações interativas.

Etapa 2

Criar e preparar os dados

Use as ferramentas a seguir para examinar possíveis vieses em dados.

TF Data Validation

Analise e transforme os dados para detectar problemas e criar conjuntos de atributos mais eficientes.

Data Cards

Crie um relatório de transparência para seu conjunto de dados.

Etapa 3

Crie e treine o modelo

Use as seguintes ferramentas para treinar modelos usando técnicas interpretáveis que preservam a privacidade e muito mais.

TF Privacy

Treine modelos de machine learning com privacidade.

TF Federated

Treine modelos de machine learning usando técnicas de federated learning.

TF Constrained Optimization

Otimize problemas de limitação por desigualdade.

TF Lattice

Implemente modelos controlados e interpretáveis baseados em reticulados.

Etapa 4

Avaliar o modelo

Depure, avalie e visualize o desempenho do modelo usando as seguintes ferramentas.

Indicadores de imparcialidade

Avalie métricas de imparcialidade frequentemente identificadas para classificadores binários e multiclasse.

TF Model Analysis

Avalie modelos de maneira distribuída e faça cálculos em diferentes partes de dados.

Ferramenta What-If

Examine, avalie e compare modelos de machine learning.

AI Explainable

Desenvolva modelos de machine learning interpretáveis e inclusivos.

TF Privacy Tests

Avalie as propriedades de privacidade dos modelos de classificação.

TensorBoard

Meça e visualize o fluxo de trabalho de machine learning.

Etapa 5

Implantar e monitorar

Use as seguintes ferramentas para acompanhar e se comunicar sobre o contexto do modelo e detalhes.

Model Card Toolkit

Gere cards de modelos com facilidade usando o Model Card toolkit.

Metadados de ML

Registre e recupere metadados associados a fluxos de trabalho de desenvolvedores de ML e cientistas de dados.

Model Cards

Organize as informações essenciais de machine learning de forma estruturada.

Saiba mais

Descubra o que a comunidade está fazendo e veja maneiras de participar.

Crowdsource do Google

Ajude os produtos do Google a se tornarem mais inclusivos e representativos do seu idioma, da sua região e cultura.

Desafio DevPost de IA responsável

Use o TensorFlow 2.2 para desenvolver um modelo ou aplicativo com os princípios da AI Responsible em mente.

AI Responsible com o TensorFlow (conferência de desenvolvedores do TensorFlow 2020)

Conheça um framework para pensar sobre ML, imparcialidade e privacidade.

Continue