Asista al Simposio Mujeres en ML el 7 de diciembre Regístrese ahora
Organiza tus páginas con colecciones Guarda y categoriza el contenido según tus preferencias.

Aprenda cómo integrar prácticas de IA responsable en su flujo de trabajo de ML usando TensorFlow

TensorFlow se compromete a ayudar a avanzar en el desarrollo responsable de la IA al compartir una colección de recursos y herramientas con la comunidad de ML.

¿Qué es la IA responsable?

El desarrollo de la IA está creando nuevas oportunidades para resolver problemas desafiantes del mundo real. También plantea nuevas preguntas sobre la mejor manera de construir sistemas de IA que beneficien a todos.

El diseño de sistemas de IA debe seguir las mejores prácticas de desarrollo de software mientras se toma un enfoque centrado en el ser humano.
enfoque de ML

Justicia

A medida que el impacto de la IA aumenta en todos los sectores y sociedades, es fundamental trabajar hacia sistemas que sean justos e inclusivos para todos.

Interpretabilidad

Comprender y confiar en los sistemas de IA es importante para garantizar que funcionen según lo previsto

Privacidad

Los modelos de entrenamiento a partir de datos confidenciales necesitan garantías de preservación de la privacidad

Seguridad

Identificar amenazas potenciales puede ayudar a mantener los sistemas de IA seguros y protegidos

IA responsable en su flujo de trabajo de ML

Las prácticas responsables de IA se pueden incorporar en cada paso del flujo de trabajo de ML. Aquí hay algunas preguntas clave a considerar en cada etapa.

¿Para quién es mi sistema ML?

La forma en que los usuarios reales experimentan su sistema es esencial para evaluar el verdadero impacto de sus predicciones, recomendaciones y decisiones. Asegúrese de obtener información de un conjunto diverso de usuarios desde el principio de su proceso de desarrollo.

¿Estoy usando un conjunto de datos representativo?

¿Se muestrean sus datos de una manera que represente a sus usuarios (p. ej., se usarán para todas las edades, pero solo tiene datos de capacitación de personas mayores) y el entorno del mundo real (p. ej., se usarán durante todo el año, pero solo tiene datos del verano)?

¿Existe un sesgo del mundo real/humano en mis datos?

Los sesgos subyacentes en los datos pueden contribuir a circuitos de retroalimentación complejos que refuerzan los estereotipos existentes.

¿Qué métodos debo usar para entrenar a mi modelo?

Use métodos de entrenamiento que construyan imparcialidad, interpretabilidad, privacidad y seguridad en el modelo.

¿Cómo está funcionando mi modelo?

Evalúe la experiencia del usuario en escenarios del mundo real en un amplio espectro de usuarios, casos de uso y contextos de uso. Pruebe e itere en dogfood primero, seguido de pruebas continuas después del lanzamiento.

¿Existen bucles de retroalimentación complejos?

Incluso si todo en el diseño general del sistema está cuidadosamente elaborado, los modelos basados ​​en ML rara vez funcionan con un 100 % de perfección cuando se aplican a datos reales y en vivo. Cuando ocurre un problema en un producto en vivo, considere si se alinea con las desventajas sociales existentes y cómo se verá afectado por las soluciones a corto y largo plazo.

Herramientas de IA responsable para TensorFlow

El ecosistema TensorFlow tiene un conjunto de herramientas y recursos para ayudar a abordar algunas de las preguntas anteriores.

Paso 1

Definir problema

Utilice los siguientes recursos para diseñar modelos teniendo en cuenta la IA responsable.

Guía de People + AI Research (PAIR)

Obtenga más información sobre el proceso de desarrollo de IA y las consideraciones clave.

PAR Explorables

Explore, a través de visualizaciones interactivas, preguntas y conceptos clave en el ámbito de la IA responsable.

Paso 2

Construir y preparar datos.

Utilice las siguientes herramientas para examinar los datos en busca de posibles sesgos.

Conozca sus datos (Beta)

Investigue de forma interactiva su conjunto de datos para mejorar la calidad de los datos y mitigar los problemas de imparcialidad y sesgo.

Validación de datos de TF

Analice y transforme los datos para detectar problemas y diseñar conjuntos de funciones más efectivos.

Tarjetas de datos

Cree un informe de transparencia para su conjunto de datos.

Escala de tono de piel de monje (MST)

Una escala de tono de piel más inclusiva, con licencia abierta, para que sus necesidades de recopilación de datos y creación de modelos sean más sólidas e inclusivas.

Paso 3

Construir y entrenar modelo

Use las siguientes herramientas para entrenar modelos usando técnicas interpretables de preservación de la privacidad y más.

Corrección del modelo TF

Entrene modelos de aprendizaje automático para promover resultados más equitativos.

Privacidad de TF

Entrene modelos de aprendizaje automático con privacidad.

TF federado

Entrene modelos de aprendizaje automático utilizando técnicas de aprendizaje federado.

Optimización restringida de TF

Optimizar los problemas con restricciones de desigualdad.

Celosía TF

Implemente modelos flexibles, controlados e interpretables basados ​​en celosías.

Paso 4

Evaluar modelo

Depure, evalúe y visualice el rendimiento del modelo con las siguientes herramientas.

Indicadores de equidad

Evalúe las métricas de equidad comúnmente identificadas para clasificadores binarios y de clases múltiples.

Análisis del modelo TF

Evalúe modelos de manera distribuida y calcule sobre diferentes segmentos de datos.

Herramienta ¿Y si?

Examine, evalúe y compare modelos de aprendizaje automático.

Herramienta de interpretación del lenguaje

Visualiza y comprende modelos de PNL.

IA explicable

Desarrolle modelos de aprendizaje automático interpretables e inclusivos.

Pruebas de privacidad de TF

Evaluar las propiedades de privacidad de los modelos de clasificación.

TensorTablero

Mida y visualice el flujo de trabajo de aprendizaje automático.

Paso 5

Implementar y monitorear

Use las siguientes herramientas para rastrear y comunicar sobre el contexto y los detalles del modelo.

Kit de herramientas de tarjeta modelo

Genere tarjetas modelo con facilidad usando el kit de herramientas de tarjeta modelo.

Metadatos de aprendizaje automático

Registre y recupere metadatos asociados con los flujos de trabajo de desarrolladores de ML y científicos de datos.

Modelo de tarjetas

Organice los hechos esenciales del aprendizaje automático de forma estructurada.

Recursos de la comunidad

Conozca lo que está haciendo la comunidad y explore formas de involucrarse.

Colaboración colectiva de Google

Ayuda a que los productos de Google sean más inclusivos y representativos de tu idioma, región y cultura.

Desafío DevPost de IA responsable

Pedimos a los participantes que usaran TensorFlow 2.2 para crear un modelo o una aplicación teniendo en cuenta los principios de IA responsable. Echa un vistazo a la galería para ver los ganadores y otros proyectos increíbles.

IA responsable con TensorFlow (TF Dev Summit '20)

Presentamos un marco para pensar en ML, equidad y privacidad.