Mantenha tudo organizado com as coleções Salve e categorize o conteúdo com base nas suas preferências.

Aprenda a integrar práticas de IA responsável em seu fluxo de trabalho de ML usando o TensorFlow

O TensorFlow tem o compromisso de ajudar a progredir no desenvolvimento responsável da IA, compartilhando uma coleção de recursos e ferramentas com a comunidade de ML.

O que é IA responsável?

O desenvolvimento da IA ​​está criando novas oportunidades para resolver problemas desafiadores do mundo real. Também está levantando novas questões sobre a melhor maneira de construir sistemas de IA que beneficiem a todos.

O design de sistemas de IA deve seguir as melhores práticas de desenvolvimento de software, ao mesmo tempo em que adota uma abordagem centrada no ser humano.
abordagem para ML

imparcialidade

À medida que o impacto da IA ​​aumenta em todos os setores e sociedades, é fundamental trabalhar em direção a sistemas que sejam justos e inclusivos para todos

Interpretabilidade

Compreender e confiar nos sistemas de IA é importante para garantir que eles funcionem conforme o esperado

Privacidade

Modelos de treinamento a partir de dados confidenciais precisam de salvaguardas de preservação da privacidade

Segurança

A identificação de possíveis ameaças pode ajudar a manter os sistemas de IA seguros e protegidos

IA responsável em seu fluxo de trabalho de ML

Práticas responsáveis ​​de IA podem ser incorporadas em todas as etapas do fluxo de trabalho de ML. Aqui estão algumas questões-chave a serem consideradas em cada etapa.

Para quem é meu sistema de ML?

A maneira como os usuários reais experimentam seu sistema é essencial para avaliar o verdadeiro impacto de suas previsões, recomendações e decisões. Certifique-se de obter informações de um conjunto diversificado de usuários no início do processo de desenvolvimento.

Estou usando um conjunto de dados representativo?

Seus dados são amostrados de forma que representem seus usuários (por exemplo, serão usados ​​para todas as idades, mas você só tem dados de treinamento de idosos) e a configuração do mundo real (por exemplo, será usado o ano todo, mas você só tem dados de treinamento dados do verão)?

Existe viés do mundo real/humano em meus dados?

Os vieses subjacentes nos dados podem contribuir para ciclos de feedback complexos que reforçam os estereótipos existentes.

Quais métodos devo usar para treinar meu modelo?

Use métodos de treinamento que criem imparcialidade, interpretabilidade, privacidade e segurança no modelo.

Como está o desempenho do meu modelo?

Avalie a experiência do usuário em cenários do mundo real em um amplo espectro de usuários, casos de uso e contextos de uso. Teste e itere em dogfood primeiro, seguido de testes contínuos após o lançamento.

Existem ciclos de feedback complexos?

Mesmo que tudo no design geral do sistema seja cuidadosamente elaborado, os modelos baseados em ML raramente operam com 100% de perfeição quando aplicados a dados reais e ao vivo. Quando ocorrer um problema em um produto ativo, considere se ele se alinha com quaisquer desvantagens sociais existentes e como será afetado por soluções de curto e longo prazo.

Ferramentas de IA responsáveis ​​para o TensorFlow

O ecossistema TensorFlow tem um conjunto de ferramentas e recursos para ajudar a resolver algumas das questões acima.

Passo 1

Definir problema

Use os seguintes recursos para projetar modelos com IA responsável em mente.

Guia de pesquisa de pessoas + IA (PAIR)

Saiba mais sobre o processo de desenvolvimento de IA e as principais considerações.

PAR exploráveis

Explore, por meio de visualizações interativas, as principais questões e conceitos no domínio da IA ​​responsável.

Passo 2

Construir e preparar dados

Use as seguintes ferramentas para examinar os dados em busca de possíveis vieses.

Conheça seus dados (Beta)

Investigue interativamente seu conjunto de dados para melhorar a qualidade dos dados e mitigar problemas de imparcialidade e viés.

Validação de dados TF

Analise e transforme dados para detectar problemas e projetar conjuntos de recursos mais eficazes.

Cartões de dados

Crie um relatório de transparência para seu conjunto de dados.

Escala de tom de pele de monge (MST)

Uma escala de tom de pele mais inclusiva, com licença aberta, para tornar sua coleta de dados e necessidades de construção de modelo mais robustas e inclusivas.

etapa 3

Construa e treine o modelo

Use as ferramentas a seguir para treinar modelos usando técnicas interpretáveis ​​e de preservação da privacidade e muito mais.

Correção do modelo TF

Treine modelos de aprendizado de máquina para promover resultados mais igualitários.

Privacidade TF

Treine modelos de machine learning com privacidade.

TF Federado

Treine modelos de aprendizado de máquina usando técnicas de aprendizado federado.

Otimização restrita de TF

Otimize problemas com restrição de desigualdade.

Malha TF

Implemente modelos baseados em treliça flexíveis, controlados e interpretáveis.

Passo 4

Avaliar modelo

Depure, avalie e visualize o desempenho do modelo usando as seguintes ferramentas.

Indicadores de Equidade

Avalie as métricas de imparcialidade comumente identificadas para classificadores binários e multiclasse.

Análise do modelo de TF

Avalie modelos de maneira distribuída e calcule diferentes fatias de dados.

Ferramenta What-If

Examine, avalie e compare os modelos de aprendizado de máquina.

Ferramenta de interpretabilidade de linguagem

Visualize e entenda os modelos de PNL.

IA explicável

Desenvolva modelos de aprendizado de máquina interpretáveis ​​e inclusivos.

Testes de privacidade do TF

Avalie as propriedades de privacidade dos modelos de classificação.

TensorBoard

Meça e visualize o fluxo de trabalho de aprendizado de máquina.

Passo 5

Implantar e monitorar

Use as ferramentas a seguir para rastrear e comunicar sobre o contexto e os detalhes do modelo.

Kit de ferramentas de cartão modelo

Gere cartões de modelo com facilidade usando o kit de ferramentas de cartão de modelo.

Metadados de ML

Registre e recupere metadados associados aos fluxos de trabalho do desenvolvedor de ML e do cientista de dados.

Cartões modelo

Organize os fatos essenciais do aprendizado de máquina de maneira estruturada.

Recursos comunitários

Saiba o que a comunidade está fazendo e explore maneiras de se envolver.

Crowdsource do Google

Ajude os produtos do Google a se tornarem mais inclusivos e representativos de seu idioma, região e cultura.

Desafio AI DevPost responsável

Pedimos aos participantes que usassem o TensorFlow 2.2 para criar um modelo ou aplicativo com os princípios de IA responsável em mente. Confira a galeria para ver os vencedores e outros projetos incríveis.

IA responsável com TensorFlow (TF Dev Summit '20)

Apresentando uma estrutura para pensar sobre ML, justiça e privacidade.