Aprenda como integrar práticas de IA responsável ao seu fluxo de trabalho de ML usando o TensorFlow

O TensorFlow está comprometido em ajudar a progredir no desenvolvimento responsável da IA, compartilhando uma coleção de recursos e ferramentas com a comunidade de ML.

O que é IA Responsável?

O desenvolvimento da IA ​​está a criar novas oportunidades para resolver problemas desafiantes do mundo real. Também está a levantar novas questões sobre a melhor forma de construir sistemas de IA que beneficiem a todos.

O projeto de sistemas de IA deve seguir as melhores práticas de desenvolvimento de software, ao mesmo tempo em que adota uma abordagem centrada no ser humano.
abordagem para ML

Justiça

À medida que o impacto da IA ​​aumenta em todos os setores e sociedades, é fundamental trabalhar no sentido de sistemas que sejam justos e inclusivos para todos

Interpretabilidade

Compreender e confiar nos sistemas de IA é importante para garantir que funcionam conforme pretendido

Privacidade

Modelos de treinamento baseados em dados confidenciais precisam de salvaguardas que preservem a privacidade

Segurança

A identificação de ameaças potenciais pode ajudar a manter os sistemas de IA seguros e protegidos

IA responsável em seu fluxo de trabalho de ML

Práticas responsáveis ​​de IA podem ser incorporadas em todas as etapas do fluxo de trabalho de ML. Aqui estão algumas questões-chave a serem consideradas em cada estágio.

Para quem é meu sistema de ML?

A forma como os usuários reais experimentam seu sistema é essencial para avaliar o verdadeiro impacto de suas previsões, recomendações e decisões. Certifique-se de obter informações de um conjunto diversificado de usuários no início do processo de desenvolvimento.

Estou usando um conjunto de dados representativo?

Seus dados são amostrados de forma a representar seus usuários (por exemplo, serão usados ​​para todas as idades, mas você só tem dados de treinamento de idosos) e o cenário do mundo real (por exemplo, serão usados ​​durante todo o ano, mas você só tem treinamento dados do verão)?

Existe preconceito humano/do mundo real em meus dados?

Os preconceitos subjacentes nos dados podem contribuir para ciclos de feedback complexos que reforçam os estereótipos existentes.

Que métodos devo usar para treinar meu modelo?

Use métodos de treinamento que incorporem justiça, interpretabilidade, privacidade e segurança ao modelo.

Como está o desempenho do meu modelo?

Avalie a experiência do usuário em cenários do mundo real em um amplo espectro de usuários, casos de uso e contextos de uso. Teste e itere primeiro no dogfood, seguido de testes contínuos após o lançamento.

Existem ciclos de feedback complexos?

Mesmo que tudo no design geral do sistema seja cuidadosamente elaborado, os modelos baseados em ML raramente funcionam com 100% de perfeição quando aplicados a dados reais e em tempo real. Quando ocorre um problema num produto ativo, considere se este se alinha com quaisquer desvantagens sociais existentes e como será impactado por soluções de curto e longo prazo.

Ferramentas de IA responsáveis ​​para TensorFlow

O ecossistema TensorFlow possui um conjunto de ferramentas e recursos para ajudar a resolver algumas das questões acima.

Passo 1

Definir problema

Use os recursos a seguir para projetar modelos tendo em mente a IA responsável.

Guia de pesquisa de pessoas + IA (PAIR)

Saiba mais sobre o processo de desenvolvimento de IA e as principais considerações.

PAR Exploráveis

Explore, por meio de visualizações interativas, as principais questões e conceitos no domínio da IA ​​responsável.

Passo 2

Construir e preparar dados

Use as ferramentas a seguir para examinar os dados em busca de possíveis vieses.

Conheça seus dados (beta)

Investigue interativamente seu conjunto de dados para melhorar a qualidade dos dados e mitigar problemas de imparcialidade e preconceito.

Validação de dados TF

Analise e transforme dados para detectar problemas e projetar conjuntos de recursos mais eficazes.

Cartões de dados

Crie um relatório de transparência para seu conjunto de dados.

Escala de Tom de Pele de Monge (MST)

Uma escala de tons de pele mais inclusiva, com licença aberta, para tornar suas necessidades de coleta de dados e construção de modelos mais robustas e inclusivas.

etapa 3

Construir e treinar modelo

Use as ferramentas a seguir para treinar modelos usando técnicas interpretáveis ​​de preservação de privacidade e muito mais.

Correção do modelo TF

Treine modelos de aprendizado de máquina para promover resultados mais equitativos.

Privacidade TF

Treine modelos de aprendizado de máquina com privacidade.

TF Federado

Treine modelos de aprendizado de máquina usando técnicas de aprendizado federado.

Otimização restrita de TF

Otimizar problemas limitados pela desigualdade.

Malha TF

Implemente modelos baseados em rede flexíveis, controlados e interpretáveis.

Passo 4

Avaliar modelo

Depure, avalie e visualize o desempenho do modelo usando as ferramentas a seguir.

Indicadores de Justiça

Avalie métricas de justiça comumente identificadas para classificadores binários e multiclasses.

Análise do modelo TF

Avalie modelos de maneira distribuída e calcule diferentes fatias de dados.

Ferramenta hipotética

Examine, avalie e compare modelos de aprendizado de máquina.

Ferramenta de interpretabilidade linguística

Visualize e compreenda os modelos de PNL.

IA explicável

Desenvolva modelos de aprendizado de máquina interpretáveis ​​e inclusivos.

Testes de privacidade TF

Avalie as propriedades de privacidade dos modelos de classificação.

TensorBoard

Meça e visualize o fluxo de trabalho de machine learning.

Etapa 5

Implantar e monitorar

Use as ferramentas a seguir para rastrear e comunicar sobre o contexto e os detalhes do modelo.

Kit de ferramentas de cartão modelo

Gere cartões de modelo com facilidade usando o kit de ferramentas de cartão de modelo.

Metadados de ML

Registre e recupere metadados associados a fluxos de trabalho de desenvolvedores de ML e cientistas de dados.

Cartões de modelo

Organize os fatos essenciais do aprendizado de máquina de forma estruturada.

Recursos comunitários

Saiba o que a comunidade está fazendo e explore maneiras de se envolver.

Crowdsource do Google

Ajude os produtos do Google a se tornarem mais inclusivos e representativos do seu idioma, região e cultura.

Desafio DevPost de IA Responsável

Pedimos aos participantes que usassem o TensorFlow 2.2 para criar um modelo ou aplicativo com os princípios da IA ​​responsável em mente. Confira a galeria para ver os vencedores e outros projetos incríveis.

IA responsável com TensorFlow (TF Dev Summit '20)

Apresentando uma estrutura para pensar sobre ML, justiça e privacidade.

,

Aprenda como integrar práticas de IA responsável ao seu fluxo de trabalho de ML usando o TensorFlow

O TensorFlow está comprometido em ajudar a progredir no desenvolvimento responsável da IA, compartilhando uma coleção de recursos e ferramentas com a comunidade de ML.

O que é IA Responsável?

O desenvolvimento da IA ​​está a criar novas oportunidades para resolver problemas desafiantes do mundo real. Também está a levantar novas questões sobre a melhor forma de construir sistemas de IA que beneficiem a todos.

O projeto de sistemas de IA deve seguir as melhores práticas de desenvolvimento de software, ao mesmo tempo em que adota uma abordagem centrada no ser humano.
abordagem para ML

Justiça

À medida que o impacto da IA ​​aumenta em todos os setores e sociedades, é fundamental trabalhar no sentido de sistemas que sejam justos e inclusivos para todos

Interpretabilidade

Compreender e confiar nos sistemas de IA é importante para garantir que funcionam conforme pretendido

Privacidade

Modelos de treinamento baseados em dados confidenciais precisam de salvaguardas que preservem a privacidade

Segurança

A identificação de ameaças potenciais pode ajudar a manter os sistemas de IA seguros e protegidos

IA responsável em seu fluxo de trabalho de ML

Práticas responsáveis ​​de IA podem ser incorporadas em todas as etapas do fluxo de trabalho de ML. Aqui estão algumas questões-chave a serem consideradas em cada estágio.

Para quem é meu sistema de ML?

A forma como os usuários reais experimentam seu sistema é essencial para avaliar o verdadeiro impacto de suas previsões, recomendações e decisões. Certifique-se de obter informações de um conjunto diversificado de usuários no início do processo de desenvolvimento.

Estou usando um conjunto de dados representativo?

Seus dados são amostrados de forma a representar seus usuários (por exemplo, serão usados ​​para todas as idades, mas você só tem dados de treinamento de idosos) e o cenário do mundo real (por exemplo, serão usados ​​durante todo o ano, mas você só tem treinamento dados do verão)?

Existe preconceito humano/do mundo real em meus dados?

Os preconceitos subjacentes nos dados podem contribuir para ciclos de feedback complexos que reforçam os estereótipos existentes.

Que métodos devo usar para treinar meu modelo?

Use métodos de treinamento que incorporem justiça, interpretabilidade, privacidade e segurança ao modelo.

Como está o desempenho do meu modelo?

Avalie a experiência do usuário em cenários do mundo real em um amplo espectro de usuários, casos de uso e contextos de uso. Teste e itere primeiro no dogfood, seguido de testes contínuos após o lançamento.

Existem ciclos de feedback complexos?

Mesmo que tudo no design geral do sistema seja cuidadosamente elaborado, os modelos baseados em ML raramente funcionam com 100% de perfeição quando aplicados a dados reais e em tempo real. Quando ocorre um problema num produto ativo, considere se este se alinha com quaisquer desvantagens sociais existentes e como será impactado por soluções de curto e longo prazo.

Ferramentas de IA responsáveis ​​para TensorFlow

O ecossistema TensorFlow possui um conjunto de ferramentas e recursos para ajudar a resolver algumas das questões acima.

Passo 1

Definir problema

Use os recursos a seguir para projetar modelos tendo em mente a IA responsável.

Guia de pesquisa de pessoas + IA (PAIR)

Saiba mais sobre o processo de desenvolvimento de IA e as principais considerações.

PAR Exploráveis

Explore, por meio de visualizações interativas, as principais questões e conceitos no domínio da IA ​​responsável.

Passo 2

Construir e preparar dados

Use as ferramentas a seguir para examinar os dados em busca de possíveis vieses.

Conheça seus dados (Beta)

Investigue interativamente seu conjunto de dados para melhorar a qualidade dos dados e mitigar problemas de imparcialidade e preconceito.

Validação de dados TF

Analise e transforme dados para detectar problemas e projetar conjuntos de recursos mais eficazes.

Cartões de dados

Crie um relatório de transparência para seu conjunto de dados.

Escala de Tom de Pele de Monge (MST)

Uma escala de tons de pele mais inclusiva, com licença aberta, para tornar suas necessidades de coleta de dados e construção de modelos mais robustas e inclusivas.

etapa 3

Construir e treinar modelo

Use as ferramentas a seguir para treinar modelos usando técnicas interpretáveis ​​de preservação de privacidade e muito mais.

Correção do modelo TF

Treine modelos de aprendizado de máquina para promover resultados mais equitativos.

Privacidade TF

Treine modelos de aprendizado de máquina com privacidade.

TF Federado

Treine modelos de aprendizado de máquina usando técnicas de aprendizado federado.

Otimização restrita de TF

Otimizar problemas limitados pela desigualdade.

Malha TF

Implemente modelos baseados em rede flexíveis, controlados e interpretáveis.

Passo 4

Avaliar modelo

Depure, avalie e visualize o desempenho do modelo usando as ferramentas a seguir.

Indicadores de Justiça

Avalie métricas de justiça comumente identificadas para classificadores binários e multiclasses.

Análise do modelo TF

Avalie modelos de maneira distribuída e calcule diferentes fatias de dados.

Ferramenta hipotética

Examine, avalie e compare modelos de aprendizado de máquina.

Ferramenta de interpretabilidade linguística

Visualize e compreenda os modelos de PNL.

IA explicável

Desenvolva modelos de aprendizado de máquina interpretáveis ​​e inclusivos.

Testes de privacidade TF

Avalie as propriedades de privacidade dos modelos de classificação.

TensorBoard

Meça e visualize o fluxo de trabalho de machine learning.

Etapa 5

Implantar e monitorar

Use as ferramentas a seguir para rastrear e comunicar sobre o contexto e os detalhes do modelo.

Kit de ferramentas de cartão modelo

Gere cartões de modelo com facilidade usando o kit de ferramentas de cartão de modelo.

Metadados de ML

Registre e recupere metadados associados a fluxos de trabalho de desenvolvedores de ML e cientistas de dados.

Cartões de modelo

Organize os fatos essenciais do aprendizado de máquina de forma estruturada.

Recursos comunitários

Saiba o que a comunidade está fazendo e explore maneiras de se envolver.

Crowdsource do Google

Ajude os produtos do Google a se tornarem mais inclusivos e representativos do seu idioma, região e cultura.

Desafio DevPost de IA Responsável

Pedimos aos participantes que usassem o TensorFlow 2.2 para criar um modelo ou aplicativo com os princípios da IA ​​responsável em mente. Confira a galeria para ver os vencedores e outros projetos incríveis.

IA responsável com TensorFlow (TF Dev Summit '20)

Apresentando uma estrutura para pensar sobre ML, justiça e privacidade.