Scopri come integrare le pratiche di IA responsabile nel tuo flusso di lavoro ML utilizzando TensorFlow

TensorFlow si impegna ad aiutare a compiere progressi nello sviluppo responsabile dell'IA condividendo una raccolta di risorse e strumenti con la comunità ML.

Che cos'è l'IA responsabile?

Lo sviluppo dell'IA sta creando nuove opportunità per risolvere problemi complessi e reali. Sta inoltre sollevando nuove domande sul modo migliore per costruire sistemi di intelligenza artificiale a vantaggio di tutti.

La progettazione di sistemi di intelligenza artificiale dovrebbe seguire le migliori pratiche di sviluppo del software mentre si prende un approccio incentrato sull'uomo
approccio a ML

Equità

Poiché l'impatto dell'IA aumenta in tutti i settori e nelle società, è fondamentale lavorare per sistemi che siano equi e inclusivi per tutti

Interpretabilità

Comprendere e fidarsi dei sistemi di intelligenza artificiale è importante per garantire che funzionino come previsto

Privacy

I modelli di formazione a partire dai dati sensibili necessitano di salvaguardie per la tutela della privacy

Sicurezza

L'identificazione di potenziali minacce può aiutare a mantenere i sistemi di IA sicuri e protetti

IA responsabile nel tuo flusso di lavoro ML

Pratiche di intelligenza artificiale responsabili possono essere incorporate in ogni fase del flusso di lavoro ML. Ecco alcune domande chiave da considerare in ogni fase.

A chi è rivolto il mio sistema ML?

Il modo in cui gli utenti reali sperimentano il tuo sistema è essenziale per valutare il vero impatto delle sue previsioni, raccomandazioni e decisioni. Assicurati di ricevere input da un insieme diversificato di utenti all'inizio del processo di sviluppo.

Sto utilizzando un set di dati rappresentativo?

I tuoi dati sono campionati in un modo che rappresenti i tuoi utenti (ad es. verranno utilizzati per tutte le età, ma hai solo i dati di allenamento degli anziani) e l'impostazione del mondo reale (ad es. verranno utilizzati tutto l'anno, ma hai solo formazione dati dell'estate)?

C'è un pregiudizio nel mondo reale/umano nei miei dati?

I pregiudizi sottostanti nei dati possono contribuire a complessi circuiti di feedback che rafforzano gli stereotipi esistenti.

Quali metodi devo usare per addestrare il mio modello?

Utilizzare metodi di formazione che integrano equità, interpretabilità, privacy e sicurezza nel modello.

Come sta andando il mio modello?

Valuta l'esperienza dell'utente in scenari reali in un ampio spettro di utenti, casi d'uso e contesti d'uso. Testare e ripetere prima in dogfood, seguito da test continui dopo il lancio.

Ci sono circuiti di feedback complessi?

Anche se tutto nella progettazione complessiva del sistema è realizzato con cura, i modelli basati su ML raramente funzionano con una perfezione del 100% se applicati a dati reali e in tempo reale. Quando si verifica un problema in un prodotto live, valuta se è in linea con eventuali svantaggi sociali esistenti e in che modo sarà influenzato dalle soluzioni a breve e lungo termine.

Strumenti di intelligenza artificiale responsabili per TensorFlow

L'ecosistema TensorFlow dispone di una suite di strumenti e risorse per aiutare ad affrontare alcune delle domande di cui sopra.

Passo 1

Definisci problema

Utilizza le seguenti risorse per progettare modelli tenendo conto dell'IA responsabile.

Guida alle persone + ricerca sull'intelligenza artificiale (PAIR).

Scopri di più sul processo di sviluppo dell'IA e sulle considerazioni chiave.

COPPIA Esplorabili

Esplora, tramite visualizzazioni interattive, domande e concetti chiave nel regno dell'IA responsabile.

Passo 2

Costruire e preparare i dati

Utilizzare i seguenti strumenti per esaminare i dati per potenziali distorsioni.

Conosci i tuoi dati (Beta)

Esamina in modo interattivo il tuo set di dati per migliorare la qualità dei dati e mitigare i problemi di equità e bias.

Convalida dei dati TF

Analizza e trasforma i dati per rilevare problemi e progettare set di funzionalità più efficaci.

Schede Dati

Crea un rapporto sulla trasparenza per il tuo set di dati.

Scala del tono della pelle del monaco (MST)

Una scala del tono della pelle più inclusiva, con licenza aperta, per rendere le tue esigenze di raccolta dati e creazione di modelli più solide e inclusive.

Passaggio 3

Costruisci e addestra il modello

Utilizzare gli strumenti seguenti per addestrare i modelli utilizzando tecniche interpretabili e di tutela della privacy e altro ancora.

Riparazione del modello TF

Addestra modelli di machine learning per promuovere risultati più equi.

TF Privacy

Addestra modelli di machine learning con la privacy.

Federativa TF

Addestra modelli di machine learning utilizzando tecniche di apprendimento federato.

Ottimizzazione vincolata TF

Ottimizza i problemi vincolati dalla disuguaglianza.

Reticolo TF

Implementare modelli basati su reticolo flessibili, controllati e interpretabili.

Passaggio 4

Valuta il modello

Esegui il debug, valuta e visualizza le prestazioni del modello utilizzando i seguenti strumenti.

Indicatori di equità

Valuta le metriche di equità comunemente identificate per classificatori binari e multi-classe.

Analisi del modello TF

Valuta i modelli in modo distribuito e calcola su diverse sezioni di dati.

Strumento What-If

Esaminare, valutare e confrontare i modelli di machine learning.

Strumento di interpretazione del linguaggio

Visualizzare e comprendere i modelli NLP.

IA spiegabile

Sviluppare modelli di apprendimento automatico interpretabili e inclusivi.

Test sulla privacy di TF

Valutare le proprietà di privacy dei modelli di classificazione.

Scheda Tensor

Misura e visualizza il flusso di lavoro di machine learning.

Passaggio 5

Distribuire e monitorare

Utilizzare gli strumenti seguenti per monitorare e comunicare il contesto e i dettagli del modello.

Kit di strumenti per schede modello

Genera facilmente schede modello utilizzando il kit di strumenti per schede modello.

Metadati ML

Registra e recupera i metadati associati ai flussi di lavoro di sviluppatori ML e data scientist.

Schede modello

Organizza i fatti essenziali dell'apprendimento automatico in modo strutturato.

Risorse comunitarie

Scopri cosa sta facendo la community ed esplora i modi per essere coinvolti.

Crowdsource di Google

Aiuta i prodotti Google a diventare più inclusivi e rappresentativi della tua lingua, regione e cultura.

Sfida responsabile dell'IA DevPost

Abbiamo chiesto ai partecipanti di utilizzare TensorFlow 2.2 per creare un modello o un'applicazione tenendo presenti i principi dell'IA responsabile. Dai un'occhiata alla gallery per vedere i vincitori e altri fantastici progetti.

Intelligenza artificiale responsabile con TensorFlow (TF Dev Summit '20)

Presentazione di un framework per pensare a ML, equità e privacy.