Dowiedz się, jak zintegrować praktyki odpowiedzialnej sztucznej inteligencji z przepływem pracy ML za pomocą TensorFlow
TensorFlow angażuje się we wspieranie postępów w odpowiedzialnym rozwoju sztucznej inteligencji poprzez udostępnianie zbioru zasobów i narzędzi społeczności ML.
Czym jest odpowiedzialna sztuczna inteligencja?
Rozwój sztucznej inteligencji stwarza nowe możliwości rozwiązywania trudnych, rzeczywistych problemów. Rodzi również nowe pytania dotyczące najlepszego sposobu budowania systemów AI, które przyniosą korzyści wszystkim.
Zalecane najlepsze praktyki dotyczące sztucznej inteligencji
Projektowanie systemów sztucznej inteligencji powinno być zgodne z najlepszymi praktykami tworzenia oprogramowania, jednocześnie biorąc pod uwagę skoncentrowaną na człowieku
podejście do ML
Uczciwość
Ponieważ wpływ sztucznej inteligencji rośnie w różnych sektorach i społeczeństwach, kluczowe znaczenie ma praca na rzecz systemów, które są sprawiedliwe i integracyjne dla wszystkich
Interpretowalność
Zrozumienie i zaufanie do systemów sztucznej inteligencji jest ważne, aby upewnić się, że działają zgodnie z przeznaczeniem
Prywatność
Modele szkoleniowe z danych wrażliwych wymagają ochrony prywatności
Bezpieczeństwo
Identyfikacja potencjalnych zagrożeń może pomóc w utrzymaniu bezpieczeństwa systemów AI
Odpowiedzialna sztuczna inteligencja w przepływie pracy ML
Odpowiedzialne praktyki sztucznej inteligencji można włączyć na każdym etapie przepływu pracy ML. Oto kilka kluczowych pytań do rozważenia na każdym etapie.
Dla kogo jest mój system ML?
Sposób, w jaki prawdziwi użytkownicy doświadczają Twojego systemu, jest niezbędny do oceny rzeczywistego wpływu jego prognoz, zaleceń i decyzji. Upewnij się, że na wczesnym etapie procesu rozwoju otrzymujesz informacje od zróżnicowanej grupy użytkowników.
Czy używam reprezentatywnego zbioru danych?
Czy Twoje dane są próbkowane w sposób, który reprezentuje Twoich użytkowników (np. będą używane dla wszystkich grup wiekowych, ale masz tylko dane treningowe od osób starszych) i ustawienia w świecie rzeczywistym (np. będą używane przez cały rok, ale masz tylko szkolenie dane z lata)?
Czy w moich danych jest rzeczywiste/ludzkie stronniczość?
Ukryte uprzedzenia w danych mogą przyczynić się do powstania złożonych sprzężeń zwrotnych, które wzmacniają istniejące stereotypy.
Jakich metod powinienem użyć do trenowania mojego modelu?
Użyj metod szkoleniowych, które wbudowują w model uczciwość, interpretowalność, prywatność i bezpieczeństwo.
Jak radzi sobie mój model?
Oceń doświadczenie użytkownika w rzeczywistych scenariuszach w szerokim spektrum użytkowników, przypadków użycia i kontekstów użycia. Najpierw przetestuj i wykonaj iterację w testach wewnętrznych, a po uruchomieniu kontynuuj testowanie.
Czy istnieją złożone pętle sprzężenia zwrotnego?
Nawet jeśli wszystko w ogólnym projekcie systemu jest starannie dopracowane, modele oparte na ML rzadko działają ze 100% perfekcją, gdy są stosowane do rzeczywistych, rzeczywistych danych. Gdy problem pojawia się w aktywnym produkcie, zastanów się, czy jest on zgodny z istniejącymi wadami społecznymi i jak wpłyną na niego zarówno rozwiązania krótko-, jak i długoterminowe.
Odpowiedzialne narzędzia AI dla TensorFlow
Ekosystem TensorFlow zawiera zestaw narzędzi i zasobów, które pomogą rozwiązać niektóre z powyższych pytań.
Zdefiniuj problem
Skorzystaj z poniższych zasobów, aby zaprojektować modele z myślą o odpowiedzialnej sztucznej inteligencji.

Dowiedz się więcej o procesie rozwoju AI i kluczowych kwestiach.

Eksploruj, za pomocą interaktywnych wizualizacji, kluczowe pytania i koncepcje w dziedzinie odpowiedzialnej sztucznej inteligencji.
Konstruuj i przygotuj dane
Użyj poniższych narzędzi, aby zbadać dane pod kątem potencjalnych błędów systematycznych.

Interaktywnie badaj swój zestaw danych, aby poprawić jakość danych i złagodzić problemy ze sprawiedliwością i stronniczością.

Analizuj i przekształcaj dane w celu wykrywania problemów i projektowania bardziej efektywnych zestawów funkcji.


Bardziej inkluzywna skala odcieni skóry, z otwartą licencją, aby gromadzenie danych i tworzenie modeli było bardziej niezawodne i integracyjne.
Zbuduj i trenuj model
Użyj poniższych narzędzi, aby trenować modele przy użyciu technik umożliwiających zachowanie prywatności i nie tylko.

Trenuj modele uczenia maszynowego, aby promować bardziej sprawiedliwe wyniki.


Trenuj modele uczenia maszynowego przy użyciu technik uczenia sfederowanego.


Implementuj elastyczne, kontrolowane i interpretowalne modele oparte na sieci.
Oceń model
Debuguj, oceniaj i wizualizuj wydajność modelu za pomocą następujących narzędzi.

Oceń powszechnie identyfikowane metryki sprawiedliwości dla klasyfikatorów binarnych i wieloklasowych.

Oceniaj modele w sposób rozproszony i obliczaj na różnych wycinkach danych.



Opracuj dające się zinterpretować i włączające modele uczenia maszynowego.


Wdrażaj i monitoruj
Użyj poniższych narzędzi, aby śledzić i komunikować się na temat kontekstu i szczegółów modelu.

Z łatwością generuj karty modeli za pomocą zestawu narzędzi Model Card.

Rejestruj i pobieraj metadane związane z przepływami pracy dla programistów ML i analityków danych.

Zasoby wspólnotowe
Dowiedz się, czym zajmuje się społeczność, i poznaj sposoby na zaangażowanie się.

Pomóż produktom Google stać się bardziej wszechstronnym i reprezentatywnym dla Twojego języka, regionu i kultury.

Poprosiliśmy uczestników, aby wykorzystali TensorFlow 2.2 do zbudowania modelu lub aplikacji z myślą o zasadach Responsible AI. Zajrzyj do galerii, aby zobaczyć zwycięzców i inne niesamowite projekty.

Przedstawiamy ramy do myślenia o ML, uczciwości i prywatności.