Aprenda cómo integrar prácticas de IA responsable en su flujo de trabajo de aprendizaje automático utilizando TensorFlow

TensorFlow se compromete a ayudar a avanzar en el desarrollo responsable de la IA compartiendo una colección de recursos y herramientas con la comunidad de ML.

¿Qué es la IA responsable?

El desarrollo de la IA está creando nuevas oportunidades para resolver problemas desafiantes del mundo real. También está planteando nuevas preguntas sobre la mejor manera de construir sistemas de IA que beneficien a todos.

El diseño de sistemas de IA debe seguir las mejores prácticas de desarrollo de software y, al mismo tiempo, adoptar una perspectiva centrada en el ser humano.
acercamiento al aprendizaje automático

Justicia

A medida que aumenta el impacto de la IA en todos los sectores y sociedades, es fundamental trabajar para lograr sistemas que sean justos e inclusivos para todos.

Interpretabilidad

Comprender y confiar en los sistemas de IA es importante para garantizar que funcionen según lo previsto

Privacidad

Los modelos de capacitación a partir de datos confidenciales necesitan salvaguardias para preservar la privacidad

Seguridad

Identificar amenazas potenciales puede ayudar a mantener los sistemas de IA seguros y protegidos

IA responsable en su flujo de trabajo de ML

Se pueden incorporar prácticas responsables de IA en cada paso del flujo de trabajo de ML. A continuación se presentan algunas preguntas clave a considerar en cada etapa.

¿Para quién es mi sistema ML?

La forma en que los usuarios reales experimentan su sistema es esencial para evaluar el verdadero impacto de sus predicciones, recomendaciones y decisiones. Asegúrese de obtener comentarios de un conjunto diverso de usuarios al principio de su proceso de desarrollo.

¿Estoy utilizando un conjunto de datos representativo?

¿Se muestrean sus datos de una manera que represente a sus usuarios (por ejemplo, se usarán para todas las edades, pero solo tiene datos de capacitación de personas mayores) y el entorno del mundo real (por ejemplo, se usarán durante todo el año, pero solo tiene datos de capacitación? datos del verano)?

¿Hay sesgos humanos o del mundo real en mis datos?

Los sesgos subyacentes en los datos pueden contribuir a complejos ciclos de retroalimentación que refuerzan los estereotipos existentes.

¿Qué métodos debo utilizar para entrenar mi modelo?

Utilice métodos de capacitación que incorporen equidad, interpretabilidad, privacidad y seguridad al modelo.

¿Cómo está funcionando mi modelo?

Evalúe la experiencia del usuario en escenarios del mundo real en un amplio espectro de usuarios, casos de uso y contextos de uso. Primero pruebe e itere en dogfood, seguido de pruebas continuas después del lanzamiento.

¿Existen ciclos de retroalimentación complejos?

Incluso si todo en el diseño general del sistema está cuidadosamente elaborado, los modelos basados ​​en ML rara vez funcionan con un 100 % de perfección cuando se aplican a datos reales y en vivo. Cuando ocurre un problema en un producto en vivo, considere si se alinea con alguna desventaja social existente y cómo se verá afectado por las soluciones a corto y largo plazo.

Herramientas de IA responsables para TensorFlow

El ecosistema TensorFlow tiene un conjunto de herramientas y recursos para ayudar a abordar algunas de las preguntas anteriores.

Paso 1

Definir problema

Utilice los siguientes recursos para diseñar modelos teniendo en cuenta la IA responsable.

Guía de investigación de personas + IA (PAIR)

Obtenga más información sobre el proceso de desarrollo de la IA y las consideraciones clave.

PAR explorables

Explore, a través de visualizaciones interactivas, preguntas y conceptos clave en el ámbito de la IA responsable.

Paso 2

Construir y preparar datos.

Utilice las siguientes herramientas para examinar los datos en busca de posibles sesgos.

Conozca sus datos (Beta)

Investigue de forma interactiva su conjunto de datos para mejorar la calidad de los datos y mitigar los problemas de equidad y sesgo.

Validación de datos TF

Analice y transforme datos para detectar problemas y diseñar conjuntos de funciones más eficaces.

Tarjetas de datos

Cree un informe de transparencia para su conjunto de datos.

Escala de tono de piel de monje (MST)

Una escala de tono de piel más inclusiva, con licencia abierta, para que sus necesidades de recopilación de datos y creación de modelos sean más sólidas e inclusivas.

Paso 3

Construir y entrenar modelo

Utilice las siguientes herramientas para entrenar modelos utilizando técnicas interpretables que preserven la privacidad y más.

Corrección del modelo TF

Entrene modelos de aprendizaje automático para promover resultados más equitativos.

Privacidad TF

Entrene modelos de aprendizaje automático con privacidad.

TF Federado

Entrene modelos de aprendizaje automático utilizando técnicas de aprendizaje federado.

Optimización restringida de TF

Optimizar los problemas restringidos por la desigualdad.

Enrejado TF

Implemente modelos basados ​​en celosías flexibles, controlados e interpretables.

Etapa 4

Evaluar modelo

Depure, evalúe y visualice el rendimiento del modelo utilizando las siguientes herramientas.

Indicadores de equidad

Evalúe métricas de equidad comúnmente identificadas para clasificadores binarios y de clases múltiples.

Análisis del modelo TF

Evalúe modelos de forma distribuida y calcule sobre diferentes sectores de datos.

Herramienta Qué pasaría si

Examinar, evaluar y comparar modelos de aprendizaje automático.

Herramienta de interpretabilidad del lenguaje

Visualizar y comprender modelos de PNL.

IA explicable

Desarrollar modelos de aprendizaje automático interpretables e inclusivos.

Pruebas de privacidad TF

Evaluar las propiedades de privacidad de los modelos de clasificación.

Tablero Tensor

Mida y visualice el flujo de trabajo del aprendizaje automático.

Paso 5

Implementar y monitorear

Utilice las siguientes herramientas para realizar un seguimiento y comunicar sobre el contexto y los detalles del modelo.

Kit de herramientas para tarjetas modelo

Genere tarjetas modelo con facilidad utilizando el kit de herramientas Model Card.

Metadatos de aprendizaje automático

Registre y recupere metadatos asociados con los flujos de trabajo de desarrolladores de ML y científicos de datos.

Tarjetas modelo

Organice los hechos esenciales del aprendizaje automático de forma estructurada.

Recursos de la comunidad

Conozca lo que está haciendo la comunidad y explore formas de participar.

Crowdsource por Google

Ayude a que los productos de Google sean más inclusivos y representativos de su idioma, región y cultura.

Desafío DevPost de IA responsable

Les pedimos a los participantes que usaran TensorFlow 2.2 para crear un modelo o aplicación teniendo en mente los principios de la IA responsable. Echa un vistazo a la galería para ver los ganadores y otros proyectos increíbles.

IA responsable con TensorFlow (TF Dev Summit '20)

Presentamos un marco para pensar en el aprendizaje automático, la equidad y la privacidad.

,

Aprenda cómo integrar prácticas de IA responsable en su flujo de trabajo de aprendizaje automático utilizando TensorFlow

TensorFlow se compromete a ayudar a avanzar en el desarrollo responsable de la IA compartiendo una colección de recursos y herramientas con la comunidad de ML.

¿Qué es la IA responsable?

El desarrollo de la IA está creando nuevas oportunidades para resolver problemas desafiantes del mundo real. También está planteando nuevas preguntas sobre la mejor manera de construir sistemas de IA que beneficien a todos.

El diseño de sistemas de IA debe seguir las mejores prácticas de desarrollo de software y, al mismo tiempo, adoptar una perspectiva centrada en el ser humano.
acercamiento al aprendizaje automático

Justicia

A medida que aumenta el impacto de la IA en todos los sectores y sociedades, es fundamental trabajar para lograr sistemas que sean justos e inclusivos para todos.

Interpretabilidad

Comprender y confiar en los sistemas de IA es importante para garantizar que funcionen según lo previsto

Privacidad

Los modelos de capacitación a partir de datos confidenciales necesitan salvaguardias para preservar la privacidad

Seguridad

Identificar amenazas potenciales puede ayudar a mantener los sistemas de IA seguros y protegidos

IA responsable en su flujo de trabajo de ML

Se pueden incorporar prácticas responsables de IA en cada paso del flujo de trabajo de ML. A continuación se presentan algunas preguntas clave a considerar en cada etapa.

¿Para quién es mi sistema ML?

La forma en que los usuarios reales experimentan su sistema es esencial para evaluar el verdadero impacto de sus predicciones, recomendaciones y decisiones. Asegúrese de obtener comentarios de un conjunto diverso de usuarios al principio de su proceso de desarrollo.

¿Estoy utilizando un conjunto de datos representativo?

¿Se muestrean sus datos de una manera que represente a sus usuarios (por ejemplo, se usarán para todas las edades, pero solo tiene datos de capacitación de personas mayores) y el entorno del mundo real (por ejemplo, se usarán durante todo el año, pero solo tiene datos de capacitación? datos del verano)?

¿Hay sesgos humanos o del mundo real en mis datos?

Los sesgos subyacentes en los datos pueden contribuir a complejos ciclos de retroalimentación que refuerzan los estereotipos existentes.

¿Qué métodos debo utilizar para entrenar mi modelo?

Utilice métodos de capacitación que incorporen equidad, interpretabilidad, privacidad y seguridad al modelo.

¿Cómo está funcionando mi modelo?

Evalúe la experiencia del usuario en escenarios del mundo real en un amplio espectro de usuarios, casos de uso y contextos de uso. Primero pruebe e itere en dogfood, seguido de pruebas continuas después del lanzamiento.

¿Existen ciclos de retroalimentación complejos?

Incluso si todo en el diseño general del sistema está cuidadosamente elaborado, los modelos basados ​​en ML rara vez funcionan con un 100 % de perfección cuando se aplican a datos reales y en vivo. Cuando ocurre un problema en un producto en vivo, considere si se alinea con alguna desventaja social existente y cómo se verá afectado por las soluciones a corto y largo plazo.

Herramientas de IA responsables para TensorFlow

El ecosistema TensorFlow tiene un conjunto de herramientas y recursos para ayudar a abordar algunas de las preguntas anteriores.

Paso 1

Definir problema

Utilice los siguientes recursos para diseñar modelos teniendo en cuenta la IA responsable.

Guía de investigación de personas + IA (PAIR)

Obtenga más información sobre el proceso de desarrollo de la IA y las consideraciones clave.

PAR explorables

Explore, a través de visualizaciones interactivas, preguntas y conceptos clave en el ámbito de la IA responsable.

Paso 2

Construir y preparar datos.

Utilice las siguientes herramientas para examinar los datos en busca de posibles sesgos.

Conozca sus datos (Beta)

Investigue de forma interactiva su conjunto de datos para mejorar la calidad de los datos y mitigar los problemas de equidad y sesgo.

Validación de datos TF

Analice y transforme datos para detectar problemas y diseñar conjuntos de funciones más eficaces.

Tarjetas de datos

Cree un informe de transparencia para su conjunto de datos.

Escala de tono de piel de monje (MST)

Una escala de tono de piel más inclusiva, con licencia abierta, para que sus necesidades de recopilación de datos y creación de modelos sean más sólidas e inclusivas.

Paso 3

Construir y entrenar modelo

Utilice las siguientes herramientas para entrenar modelos utilizando técnicas interpretables que preserven la privacidad y más.

Corrección del modelo TF

Entrene modelos de aprendizaje automático para promover resultados más equitativos.

Privacidad TF

Entrene modelos de aprendizaje automático con privacidad.

TF Federado

Entrene modelos de aprendizaje automático utilizando técnicas de aprendizaje federado.

Optimización restringida de TF

Optimizar los problemas restringidos por la desigualdad.

Enrejado TF

Implemente modelos basados ​​en celosías flexibles, controlados e interpretables.

Etapa 4

Evaluar modelo

Depure, evalúe y visualice el rendimiento del modelo utilizando las siguientes herramientas.

Indicadores de equidad

Evalúe métricas de equidad comúnmente identificadas para clasificadores binarios y de clases múltiples.

Análisis del modelo TF

Evalúe modelos de forma distribuida y calcule sobre diferentes sectores de datos.

Herramienta Qué pasaría si

Examinar, evaluar y comparar modelos de aprendizaje automático.

Herramienta de interpretabilidad del lenguaje

Visualizar y comprender modelos de PNL.

IA explicable

Desarrollar modelos de aprendizaje automático interpretables e inclusivos.

Pruebas de privacidad TF

Evaluar las propiedades de privacidad de los modelos de clasificación.

Tablero Tensor

Mida y visualice el flujo de trabajo del aprendizaje automático.

Paso 5

Implementar y monitorear

Utilice las siguientes herramientas para realizar un seguimiento y comunicar sobre el contexto y los detalles del modelo.

Kit de herramientas para tarjetas modelo

Genere tarjetas modelo con facilidad utilizando el kit de herramientas Model Card.

Metadatos de aprendizaje automático

Registre y recupere metadatos asociados con los flujos de trabajo de desarrolladores de ML y científicos de datos.

Tarjetas modelo

Organice los hechos esenciales del aprendizaje automático de forma estructurada.

Recursos de la comunidad

Conozca lo que está haciendo la comunidad y explore formas de participar.

Crowdsource por Google

Ayude a que los productos de Google sean más inclusivos y representativos de su idioma, región y cultura.

Desafío DevPost de IA responsable

Les pedimos a los participantes que usaran TensorFlow 2.2 para crear un modelo o aplicación teniendo en mente los principios de la IA responsable. Echa un vistazo a la galería para ver los ganadores y otros proyectos increíbles.

IA responsable con TensorFlow (TF Dev Summit '20)

Presentamos un marco para pensar en el aprendizaje automático, la equidad y la privacidad.