Aprenda a integrar práticas de IA responsável em seu fluxo de trabalho de ML usando o TensorFlow
O TensorFlow tem o compromisso de ajudar a progredir no desenvolvimento responsável da IA, compartilhando uma coleção de recursos e ferramentas com a comunidade de ML.
O que é IA responsável?
O desenvolvimento da IA está criando novas oportunidades para resolver problemas desafiadores do mundo real. Também está levantando novas questões sobre a melhor maneira de construir sistemas de IA que beneficiem a todos.
Práticas recomendadas para IA
O design de sistemas de IA deve seguir as melhores práticas de desenvolvimento de software, ao mesmo tempo em que adota uma abordagem centrada no ser humano.
abordagem para ML
imparcialidade
À medida que o impacto da IA aumenta em todos os setores e sociedades, é fundamental trabalhar em direção a sistemas que sejam justos e inclusivos para todos
Interpretabilidade
Compreender e confiar nos sistemas de IA é importante para garantir que eles funcionem conforme o esperado
Privacidade
Modelos de treinamento a partir de dados confidenciais precisam de salvaguardas de preservação da privacidade
Segurança
A identificação de possíveis ameaças pode ajudar a manter os sistemas de IA seguros e protegidos
IA responsável em seu fluxo de trabalho de ML
Práticas responsáveis de IA podem ser incorporadas em todas as etapas do fluxo de trabalho de ML. Aqui estão algumas questões-chave a serem consideradas em cada etapa.
Para quem é meu sistema de ML?
A maneira como os usuários reais experimentam seu sistema é essencial para avaliar o verdadeiro impacto de suas previsões, recomendações e decisões. Certifique-se de obter informações de um conjunto diversificado de usuários no início do processo de desenvolvimento.
Estou usando um conjunto de dados representativo?
Seus dados são amostrados de forma que representem seus usuários (por exemplo, serão usados para todas as idades, mas você só tem dados de treinamento de idosos) e a configuração do mundo real (por exemplo, será usado o ano todo, mas você só tem dados de treinamento dados do verão)?
Existe viés do mundo real/humano em meus dados?
Os vieses subjacentes nos dados podem contribuir para ciclos de feedback complexos que reforçam os estereótipos existentes.
Quais métodos devo usar para treinar meu modelo?
Use métodos de treinamento que criem imparcialidade, interpretabilidade, privacidade e segurança no modelo.
Como está o desempenho do meu modelo?
Avalie a experiência do usuário em cenários do mundo real em um amplo espectro de usuários, casos de uso e contextos de uso. Teste e itere em dogfood primeiro, seguido de testes contínuos após o lançamento.
Existem ciclos de feedback complexos?
Mesmo que tudo no design geral do sistema seja cuidadosamente elaborado, os modelos baseados em ML raramente operam com 100% de perfeição quando aplicados a dados reais e ao vivo. Quando ocorrer um problema em um produto ativo, considere se ele se alinha com quaisquer desvantagens sociais existentes e como será afetado por soluções de curto e longo prazo.
Ferramentas de IA responsáveis para o TensorFlow
O ecossistema TensorFlow tem um conjunto de ferramentas e recursos para ajudar a resolver algumas das questões acima.
Definir problema
Use os seguintes recursos para projetar modelos com IA responsável em mente.
Saiba mais sobre o processo de desenvolvimento de IA e as principais considerações.
Explore, por meio de visualizações interativas, as principais questões e conceitos no domínio da IA responsável.
Construir e preparar dados
Use as seguintes ferramentas para examinar os dados em busca de possíveis vieses.
Investigue interativamente seu conjunto de dados para melhorar a qualidade dos dados e mitigar problemas de imparcialidade e viés.
Analise e transforme dados para detectar problemas e projetar conjuntos de recursos mais eficazes.
Uma escala de tom de pele mais inclusiva, com licença aberta, para tornar sua coleta de dados e necessidades de construção de modelo mais robustas e inclusivas.
Construa e treine o modelo
Use as ferramentas a seguir para treinar modelos usando técnicas interpretáveis e de preservação da privacidade e muito mais.
Treine modelos de aprendizado de máquina para promover resultados mais igualitários.
Treine modelos de aprendizado de máquina usando técnicas de aprendizado federado.
Avaliar modelo
Depure, avalie e visualize o desempenho do modelo usando as seguintes ferramentas.
Avalie as métricas de imparcialidade comumente identificadas para classificadores binários e multiclasse.
Avalie modelos de maneira distribuída e calcule diferentes fatias de dados.
Desenvolva modelos de aprendizado de máquina interpretáveis e inclusivos.
Avalie as propriedades de privacidade dos modelos de classificação.
Implantar e monitorar
Use as ferramentas a seguir para rastrear e comunicar sobre o contexto e os detalhes do modelo.
Gere cartões de modelo com facilidade usando o kit de ferramentas de cartão de modelo.
Registre e recupere metadados associados aos fluxos de trabalho do desenvolvedor de ML e do cientista de dados.
Organize os fatos essenciais do aprendizado de máquina de maneira estruturada.
Recursos comunitários
Saiba o que a comunidade está fazendo e explore maneiras de se envolver.
Ajude os produtos do Google a se tornarem mais inclusivos e representativos de seu idioma, região e cultura.
Pedimos aos participantes que usassem o TensorFlow 2.2 para criar um modelo ou aplicativo com os princípios de IA responsável em mente. Confira a galeria para ver os vencedores e outros projetos incríveis.
Apresentando uma estrutura para pensar sobre ML, justiça e privacidade.