Google se compromete a impulsar la igualdad racial para las comunidades afrodescendientes. Obtén información al respecto.

Aprende cómo integrar las prácticas de Responsible AI en el flujo de trabajo de AA con TensorFlow

TensorFlow se compromete a ayudar al desarrollo responsable de la IA con la iniciativa de compartir un conjunto de recursos y herramientas con la comunidad de AA.

¿Qué es Responsible AI?

El desarrollo de la IA está generando nuevas oportunidades para resolver problemas complejos del mundo real. Además, está generando nuevas preguntas sobre la mejor forma de compilar sistemas de IA beneficiosos para todas las personas.

Prácticas recomendadas para la IA

El diseño de los sistemas de IA debe cumplir con las prácticas recomendadas para el desarrollo de software y aplicar un
enfoque de la AA centrado en las personas

Equidad

Debido a que el impacto de la IA aumenta en todos los sectores y sociedades, es de suma importancia trabajar para lograr sistemas equitativos que incluyan a todas las personas

Interpretabilidad

Es importante comprender y confiar en los sistemas de IA para asegurarse de que funcionen correctamente

Privacidad

Para entrenar modelos por medio del uso de datos sensibles es necesario proteger y preservar la privacidad

Seguridad

Identificar posibles amenazas sirve para mantener los sistemas de IA seguros y protegidos

Responsible AI en el flujo de trabajo de AA

Se pueden incorporar las prácticas de Responsible AI en cada paso del flujo de trabajo de AA. A continuación se incluyen algunas preguntas clave que deben tenerse en cuenta en cada etapa.

¿A quién está dirigido mi sistema de AA?

La forma en que los usuarios reales experimentan el sistema es fundamental para evaluar el verdadero impacto de sus predicciones, recomendaciones y decisiones. Asegúrate de obtener entradas de un conjunto de usuarios diverso al comienzo del proceso de desarrollo.

¿Estoy usando una conjunto de datos representativo?

¿El muestreo de datos representa a los usuarios? (p. ej. se utilizará para todas las edades, pero solo tienes datos de entrenamiento sobre adultos mayores).¿El muestreo representa escenarios de la vida real? (p. ej. se utilizará para todo el año, pero solo hay datos de entrenamiento sobre el verano).

¿Hay algún sesgo del mundo real o humano en mis datos?

Es posible que los sesgos subyacentes en los datos contribuyan a ciclos de reacción complejos que acentúen los estereotipos existentes.

¿Qué métodos debería utilizar para entrenar mi modelo?

Usa métodos de entrenamiento que generen equidad, interpretabilidad, privacidad y seguridad en el modelo.

¿Cuál es el rendimiento de mi modelo?

Evalúa la experiencia del usuario en escenarios de la vida real según los tipos de usuarios, casos y contextos de uso. Primero ensaya y realiza iteraciones mediante pruebas internas; luego haz pruebas de forma constante después del lanzamiento.

¿Hay ciclos de reacción complejos?

Incluso si se pensó minuciosamente cada detalle del diseño del sistema en general, los modelos basados en el AA pocas veces funcionan con una efectividad absoluta cuando se aplican a datos reales y en tiempo real. Si surge algún problema con un producto en uso, evalúa si muestra alguna desventaja social existente y el impacto que tendrán en el producto las soluciones a corto y largo plazo.

Herramientas de Responsible AI para TensorFlow

El ecosistema de TensorFlow cuenta con un conjunto de herramientas y recursos para ayudar a resolver algunas de las preguntas anteriores.

Paso 1

Define el problema

Usa los siguientes recursos para diseñar modelos teniendo en cuenta el Responsible AI.

People + AI Research (PAIR) Guidebook

Obtén más información sobre el proceso de desarrollo de IA y las consideraciones clave.

PAIR Explorables

Usa visualizaciones interactivas para explorar preguntas y conceptos clave del campo de la Responsible AI.

Paso 2

Construye y prepara datos

Usa las siguientes herramientas para examinar los datos a fin de encontrar posibles sesgos.

TF Data Validation

Analiza y transforma datos para detectar problemas y diseñar conjuntos de atributos más eficaces.

Tarjetas de datos

Crea un informe de transparencia para tu conjunto de datos.

Paso 3

Compila y entrena un modelo

Usa las siguientes herramientas para entrenar modelos, a la vez que preservas la privacidad, usas técnicas interpretables y mucho más.

TF Privacy

Entrena modelos de aprendizaje automático con privacidad.

TF Federated

Usa técnicas de aprendizaje federado para entrenar modelos de aprendizaje automático.

TF Constrained Optimization

Optimiza problemas de restricciones por inequidad.

TF Lattice

Implementa modelos flexibles, interpretables y controlados basados en cuadrículas.

Paso 4

Evalúa el modelo

Usa las siguientes herramientas para depurar, evalar y visualizar el funcionamiento del modelo.

Indicadores de equidad

Evalúa las métricas de equidad que se identifican de manera habitual para clasificadores binarios y de clase múltiple.

TF Model Analysis

Evalúa modelos de forma distribuida y procesa diferentes segmentos de datos.

Herramienta What-If

Examina, evalúa y compara modelos de aprendizaje automático.

Explainable AI

Desarrolla modelos de aprendizaje automático que sean interpretables e inclusivos.

TF Privacy Tests

Evalúa las propiedades de privacidad de los modelos de clasificación.

TensorBoard

Mide y visualiza el flujo de trabajo del aprendizaje automático.

Paso 5

Implementa y supervisa

Usa las siguientes herramientas para rastrear y comunicar el contexto y los detalles del modelo.

Kit de herramientas de Model Card

Usa el kit de herramientas Model Card para generar tarjetas de modelos con facilidad.

Metadatos de AA

Registra y recupera metadatos asociados con flujos de trabajo de desarrolladores de AA y científicos de datos.

Model Cards

Organiza los datos fundamentales sobre aprendizaje automático de forma estructurada.

Más información

Obtén información sobre lo que hace la comunidad y conoce formas de participar.

Crowdsource de Google

Ayuda a que los productos de Google sean más inclusivos y representen mejor tu lenguaje, región y cultura.

Desafío de IA responsable de DevPost

Usa TensorFlow 2.2 para compilar un modelo o una aplicación teniendo en cuenta los principios de Responsible IA.

Responsible AI con TensorFlow (TF Dev Summit 2020)

Presentación de un marco de trabajo para reflexionar sobre el AA, la equidad y la privacidad.

Continue