Dowiedz się, jak zintegrować praktyki odpowiedzialnej sztucznej inteligencji z przepływem pracy ML za pomocą TensorFlow

TensorFlow angażuje się we wspieranie postępów w odpowiedzialnym rozwoju sztucznej inteligencji poprzez udostępnianie zbioru zasobów i narzędzi społeczności ML.

Czym jest odpowiedzialna sztuczna inteligencja?

Rozwój sztucznej inteligencji stwarza nowe możliwości rozwiązywania trudnych, rzeczywistych problemów. Rodzi również nowe pytania dotyczące najlepszego sposobu budowania systemów AI, które przyniosą korzyści wszystkim.

Projektowanie systemów sztucznej inteligencji powinno być zgodne z najlepszymi praktykami tworzenia oprogramowania, jednocześnie biorąc pod uwagę skoncentrowaną na człowieku
podejście do ML

Uczciwość

Ponieważ wpływ sztucznej inteligencji rośnie w różnych sektorach i społeczeństwach, kluczowe znaczenie ma praca nad systemami, które są sprawiedliwe i integracyjne dla wszystkich

Interpretowalność

Zrozumienie i zaufanie do systemów sztucznej inteligencji jest ważne, aby upewnić się, że działają zgodnie z przeznaczeniem

Prywatność

Modele szkoleniowe z danych wrażliwych wymagają ochrony prywatności

Bezpieczeństwo

Identyfikacja potencjalnych zagrożeń może pomóc w utrzymaniu bezpieczeństwa systemów AI AI

Odpowiedzialna sztuczna inteligencja w przepływie pracy ML

Odpowiedzialne praktyki sztucznej inteligencji można włączyć na każdym etapie przepływu pracy ML. Oto kilka kluczowych pytań do rozważenia na każdym etapie.

Dla kogo jest mój system ML?

Sposób, w jaki prawdziwi użytkownicy doświadczają Twojego systemu, jest niezbędny do oceny rzeczywistego wpływu jego prognoz, zaleceń i decyzji. Upewnij się, że na wczesnym etapie procesu rozwoju otrzymujesz informacje od zróżnicowanej grupy użytkowników.

Czy używam reprezentatywnego zbioru danych?

Czy Twoje dane są próbkowane w sposób, który reprezentuje Twoich użytkowników (np. będą używane dla wszystkich grup wiekowych, ale masz tylko dane treningowe od osób starszych) i ustawienia w świecie rzeczywistym (np. będą używane przez cały rok, ale masz tylko szkolenie dane z lata)?

Czy w moich danych jest rzeczywiste/ludzkie stronniczość?

Ukryte uprzedzenia w danych mogą przyczynić się do powstania złożonych pętli sprzężenia zwrotnego, które wzmacniają istniejące stereotypy.

Jakich metod powinienem użyć do trenowania mojego modelu?

Użyj metod szkoleniowych, które wbudowują w model uczciwość, interpretowalność, prywatność i bezpieczeństwo.

Jak radzi sobie mój model?

Oceń doświadczenie użytkownika w rzeczywistych scenariuszach w szerokim spektrum użytkowników, przypadków użycia i kontekstów użycia. Najpierw przetestuj i wykonaj iterację w testach wewnętrznych, a po uruchomieniu kontynuuj testowanie.

Czy istnieją złożone pętle sprzężenia zwrotnego?

Nawet jeśli wszystko w ogólnym projekcie systemu jest starannie wykonane, modele oparte na ML rzadko działają ze 100% perfekcją, gdy są stosowane do rzeczywistych danych na żywo. Gdy problem pojawia się w aktywnym produkcie, zastanów się, czy jest on zgodny z istniejącymi wadami społecznymi i jak wpłyną na niego zarówno rozwiązania krótko-, jak i długoterminowe.

Odpowiedzialne narzędzia AI dla TensorFlow

Ekosystem TensorFlow zawiera zestaw narzędzi i zasobów, które pomogą rozwiązać niektóre z powyższych pytań.

Krok 1

Zdefiniuj problem

Skorzystaj z poniższych zasobów, aby zaprojektować modele z myślą o odpowiedzialnej sztucznej inteligencji.

Poradnik Ludzie + AI Research (PAIR)

Dowiedz się więcej o procesie rozwoju AI i kluczowych kwestiach.

PARA obiekty eksploracyjne

Eksploruj za pomocą interaktywnych wizualizacji kluczowe pytania i koncepcje w dziedzinie odpowiedzialnej sztucznej inteligencji.

Krok 2

Konstruuj i przygotuj dane

Użyj poniższych narzędzi, aby zbadać dane pod kątem potencjalnych błędów systematycznych.

Walidacja danych TF

Analizuj i przekształcaj dane w celu wykrywania problemów i projektowania bardziej efektywnych zestawów funkcji.

Karty danych

Utwórz raport przejrzystości dla swojego zbioru danych.

Krok 3

Zbuduj i trenuj model

Użyj poniższych narzędzi, aby trenować modele przy użyciu technik umożliwiających zachowanie prywatności i nie tylko.

Naprawa modelu TF

Trenuj modele uczenia maszynowego, aby promować bardziej sprawiedliwe wyniki.

Prywatność TF

Trenuj modele uczenia maszynowego z zachowaniem prywatności.

Federacja TF

Trenuj modele uczenia maszynowego przy użyciu technik uczenia sfederowanego.

Ograniczona optymalizacja TF

Optymalizuj problemy ograniczone nierównościami.

Krata TF

Implementuj elastyczne, kontrolowane i interpretowalne modele oparte na sieci.

Krok 4

Oceń model

Debuguj, oceniaj i wizualizuj wydajność modelu za pomocą następujących narzędzi.

Wskaźniki uczciwości

Oceń powszechnie identyfikowane metryki sprawiedliwości dla klasyfikatorów binarnych i wieloklasowych.

Analiza modelu TF

Oceniaj modele w sposób rozproszony i obliczaj na różnych wycinkach danych.

Narzędzie warunkowe

Badaj, oceniaj i porównuj modele uczenia maszynowego.

Wytłumaczalna sztuczna inteligencja

Twórz interpretowalne i integracyjne modele uczenia maszynowego.

Testy prywatności TF

Oceń właściwości prywatności modeli klasyfikacyjnych.

Tensorboard

Mierz i wizualizuj przepływ pracy uczenia maszynowego.

Krok 5

Wdrażaj i monitoruj

Użyj poniższych narzędzi, aby śledzić i komunikować się na temat kontekstu i szczegółów modelu.

Zestaw narzędzi do kart modeli

Z łatwością generuj karty modeli za pomocą zestawu narzędzi Model Card.

Metadane ML

Rejestruj i pobieraj metadane związane z przepływami pracy dla programistów ML i analityków danych.

Karty modeli

Uporządkuj podstawowe fakty uczenia maszynowego w uporządkowany sposób.

Zasoby wspólnotowe

Dowiedz się, co robi społeczność, i poznaj sposoby na zaangażowanie się.

Crowdsource od Google

Pomóż produktom Google stać się bardziej wszechstronnym i reprezentatywnym dla Twojego języka, regionu i kultury.

Odpowiedzialne wyzwanie AI DevPost

Poprosiliśmy uczestników, aby wykorzystali TensorFlow 2.2 do zbudowania modelu lub aplikacji z myślą o zasadach Responsible AI. Zajrzyj do galerii, aby zobaczyć zwycięzców i inne niesamowite projekty.

Odpowiedzialna sztuczna inteligencja z TensorFlow (TF Dev Summit '20)

Przedstawiamy ramy do myślenia o ML, uczciwości i prywatności.

Kontynuuj