Google is committed to advancing racial equity for Black communities. See how.
Diese Seite wurde von der Cloud Translation API übersetzt.
Switch to English

Erfahren Sie, wie Sie mit TensorFlow verantwortungsvolle KI-Praktiken in Ihren ML-Workflow integrieren

TensorFlow engagiert sich dafür, Fortschritte bei der verantwortungsvollen Entwicklung der KI zu erzielen, indem eine Sammlung von Ressourcen und Tools mit der ML-Community geteilt wird.

Was ist verantwortliche KI?

Die Entwicklung der KI eröffnet neue Möglichkeiten zur Lösung herausfordernder, realer Probleme. Es wirft auch neue Fragen auf, wie KI-Systeme am besten gebaut werden können, von denen alle profitieren.

Das Entwerfen von KI-Systemen sollte den Best Practices der Softwareentwicklung folgen und dabei auf den Menschen ausgerichtet sein
Ansatz zu ML

Gerechtigkeit

Da die Auswirkungen der KI in verschiedenen Sektoren und Gesellschaften zunehmen, ist es wichtig, auf Systeme hinzuarbeiten, die für alle fair und inklusiv sind

Interpretierbarkeit

Das Verständnis und Vertrauen in KI-Systeme ist wichtig, um sicherzustellen, dass sie wie beabsichtigt funktionieren

Privatsphäre

Schulungsmodelle aus sensiblen Daten erfordern Schutzmaßnahmen zum Schutz der Privatsphäre

Sicherheit

Das Erkennen potenzieller Bedrohungen kann dazu beitragen, KI-Systeme sicher zu halten

Verantwortliche KI in Ihrem ML-Workflow

Verantwortungsbewusste KI-Praktiken können in jeden Schritt des ML-Workflows integriert werden. Hier sind einige wichtige Fragen, die in jeder Phase zu berücksichtigen sind.

Für wen ist mein ML-System?

Die Art und Weise, wie tatsächliche Benutzer Ihr System erleben, ist entscheidend, um die tatsächlichen Auswirkungen seiner Vorhersagen, Empfehlungen und Entscheidungen beurteilen zu können. Stellen Sie sicher, dass Sie zu Beginn Ihres Entwicklungsprozesses Eingaben von verschiedenen Benutzern erhalten.

Benutze ich einen repräsentativen Datensatz?

Werden Ihre Daten so abgetastet, dass sie Ihre Benutzer repräsentieren (z. B. werden sie für alle Altersgruppen verwendet, aber Sie haben nur Schulungsdaten von Senioren) und die reale Umgebung (z. B. werden sie das ganze Jahr über verwendet, aber Sie haben nur Schulungen Daten aus dem Sommer)?

Gibt es reale / menschliche Vorurteile in meinen Daten?

Grundlegende Verzerrungen in Daten können zu komplexen Rückkopplungsschleifen beitragen, die vorhandene Stereotypen verstärken.

Mit welchen Methoden sollte ich mein Modell trainieren?

Verwenden Sie Schulungsmethoden, die Fairness, Interpretierbarkeit, Datenschutz und Sicherheit in das Modell integrieren.

Wie funktioniert mein Modell?

Bewerten Sie die Benutzererfahrung in realen Szenarien für ein breites Spektrum von Benutzern, Anwendungsfällen und Anwendungskontexten. Testen und iterieren Sie zuerst in Hundefutter, gefolgt von weiteren Tests nach dem Start.

Gibt es komplexe Rückkopplungsschleifen?

Selbst wenn alles im Gesamtsystemdesign sorgfältig ausgearbeitet ist, arbeiten ML-basierte Modelle selten mit 100% Perfektion, wenn sie auf reale Live-Daten angewendet werden. Wenn ein Problem in einem Live-Produkt auftritt, prüfen Sie, ob es mit bestehenden gesellschaftlichen Nachteilen in Einklang steht und wie sich kurz- und langfristige Lösungen darauf auswirken.

Verantwortliche KI-Tools für TensorFlow

Das TensorFlow-Ökosystem verfügt über eine Reihe von Tools und Ressourcen, mit denen einige der oben genannten Fragen beantwortet werden können.

Schritt 1

Problem definieren

Verwenden Sie die folgenden Ressourcen, um Modelle mit Blick auf Responsible AI zu entwerfen.

People + AI Research (PAIR) Leitfaden

Erfahren Sie mehr über den KI-Entwicklungsprozess und wichtige Überlegungen.

PAAR Explorables

Entdecken Sie mithilfe interaktiver Visualisierungen wichtige Fragen und Konzepte im Bereich der verantwortungsvollen KI.

Schritt 2

Daten erstellen und vorbereiten

Verwenden Sie die folgenden Tools, um Daten auf mögliche Verzerrungen zu untersuchen.

TF-Datenvalidierung

Analysieren und transformieren Sie Daten, um Probleme zu erkennen und effektivere Funktionssätze zu entwickeln.

Datenkarten

Erstellen Sie einen Transparenzbericht für Ihr Dataset.

Schritt 3

Modell bauen und trainieren

Verwenden Sie die folgenden Tools, um Modelle mit datenschutzrechtlichen, interpretierbaren Techniken und mehr zu trainieren.

TF Datenschutz

Trainieren Sie Modelle für maschinelles Lernen mit Privatsphäre.

TF Federated

Trainieren Sie Modelle für maschinelles Lernen mithilfe von Verbundlernen.

TF-eingeschränkte Optimierung

Optimieren Sie Probleme mit eingeschränkter Ungleichheit.

TF-Gitter

Implementieren Sie flexible, kontrollierte und interpretierbare gitterbasierte Modelle.

Schritt 4

Modell auswerten

Debuggen, bewerten und visualisieren Sie die Modellleistung mit den folgenden Tools.

Fairness-Indikatoren

Bewerten Sie häufig identifizierte Fairness-Metriken für binäre Klassifizierer und Klassifizierer mit mehreren Klassen.

TF-Modellanalyse

Bewerten Sie Modelle auf verteilte Weise und berechnen Sie sie über verschiedene Datenbereiche.

Was-wäre-wenn-Tool

Untersuchen, bewerten und vergleichen Sie Modelle des maschinellen Lernens.

Erklärbare KI

Entwicklung interpretierbarer und integrativer Modelle für maschinelles Lernen.

TF-Datenschutztests

Bewerten Sie die Datenschutzmerkmale von Klassifizierungsmodellen.

TensorBoard

Messen und visualisieren Sie den Workflow für maschinelles Lernen.

Schritt 5

Bereitstellen und überwachen

Verwenden Sie die folgenden Tools, um den Modellkontext und Details zu verfolgen und zu kommunizieren.

Modellkarten-Toolkit

Generieren Sie mit dem Model Card Toolkit mühelos Modellkarten.

ML Metadaten

Aufzeichnen und Abrufen von Metadaten zu Workflows von ML-Entwicklern und Datenwissenschaftlern.

Modellkarten

Organisieren Sie die wesentlichen Fakten des maschinellen Lernens strukturiert.

Mehr erfahren

Erfahren Sie, was die Community tut, und erkunden Sie Möglichkeiten, sich zu engagieren.

Crowdsource von Google

Helfen Sie den Produkten von Google, integrativer und repräsentativer für Ihre Sprache, Region und Kultur zu werden.

Verantwortliche AI ​​DevPost Challenge

Verwenden Sie TensorFlow 2.2, um ein Modell oder eine Anwendung unter Berücksichtigung der Responsible AI-Prinzipien zu erstellen.

Verantwortliche KI mit TensorFlow (TF Dev Summit '20)

Einführung eines Rahmens zum Nachdenken über ML, Fairness und Datenschutz.

Weiter