Eine Frage haben? Verbinden Sie sich mit der Community im TensorFlow Forum Visit Forum

Erfahren Sie, wie Sie mit TensorFlow Responsible verantwortungsvolle KI-Praktiken in Ihren ML-Workflow integrieren

TensorFlow setzt sich dafür ein, Fortschritte bei der verantwortungsvollen Entwicklung von KI zu erzielen, indem es eine Sammlung von Ressourcen und Tools mit der ML-Community teilt.

Was ist verantwortungsvolle KI?

Die Entwicklung der KI schafft neue Möglichkeiten, herausfordernde, reale Probleme zu lösen. Es wirft auch neue Fragen auf, wie KI-Systeme am besten aufgebaut werden können, von denen alle profitieren.

Das Entwerfen von KI-Systemen sollte den Best Practices der Softwareentwicklung folgen und gleichzeitig eine menschzentrierte
Herangehensweise an ML

Gerechtigkeit

Da der Einfluss von KI in allen Sektoren und Gesellschaften zunimmt, ist es entscheidend, auf Systeme hinzuarbeiten, die für alle fair und integrativ sind

Interpretierbarkeit

KI-Systeme zu verstehen und ihnen zu vertrauen ist wichtig, um sicherzustellen, dass sie wie beabsichtigt funktionieren

Privatsphäre

Schulungsmodelle für sensible Daten erfordern Schutzmaßnahmen zum Schutz der Privatsphäre

Sicherheit

Die Identifizierung potenzieller Bedrohungen kann dazu beitragen, KI-Systeme sicher und geschützt zu halten

Verantwortungsvolle KI in Ihrem ML-Workflow

Verantwortungsvolle KI-Praktiken können in jeden Schritt des ML-Workflows integriert werden. Hier sind einige wichtige Fragen, die Sie in jeder Phase berücksichtigen sollten.

Für wen ist mein ML-System?

Die Art und Weise, wie die tatsächlichen Benutzer Ihr System erleben, ist entscheidend für die Beurteilung der tatsächlichen Auswirkungen seiner Vorhersagen, Empfehlungen und Entscheidungen. Stellen Sie sicher, dass Sie frühzeitig in Ihrem Entwicklungsprozess Input von verschiedenen Benutzern erhalten.

Verwende ich einen repräsentativen Datensatz?

Sind Ihre Daten so erfasst, dass sie Ihre Benutzer (zB werden für alle Altersgruppen verwendet, aber Sie haben nur Trainingsdaten von Senioren) und die reale Umgebung (zB werden das ganze Jahr über verwendet, aber Sie haben nur Schulungen) repräsentieren? Daten vom Sommer)?

Gibt es in meinen Daten reale/menschliche Verzerrungen?

Die zugrunde liegenden Verzerrungen in den Daten können zu komplexen Rückkopplungsschleifen beitragen, die bestehende Stereotypen verstärken.

Welche Methoden sollte ich verwenden, um mein Modell zu trainieren?

Verwenden Sie Trainingsmethoden, die Fairness, Interpretierbarkeit, Datenschutz und Sicherheit in das Modell integrieren.

Wie schneidet mein Modell ab?

Bewerten Sie die Benutzererfahrung in realen Szenarien für ein breites Spektrum von Benutzern, Anwendungsfällen und Nutzungskontexten. Testen und iterieren Sie zuerst in Dogfood, gefolgt von weiteren Tests nach der Einführung.

Gibt es komplexe Feedbackschleifen?

Auch wenn alles im Gesamtsystemdesign sorgfältig ausgearbeitet ist, funktionieren ML-basierte Modelle selten mit 100%iger Perfektion, wenn sie auf echte Live-Daten angewendet werden. Wenn ein Problem in einem Live-Produkt auftritt, überlegen Sie, ob es mit bestehenden gesellschaftlichen Nachteilen in Einklang steht und wie es von kurz- und langfristigen Lösungen beeinflusst wird.

Verantwortliche KI-Tools für TensorFlow

Das TensorFlow-Ökosystem verfügt über eine Reihe von Tools und Ressourcen, um einige der oben genannten Fragen zu lösen.

Schritt 1

Problem definieren

Verwenden Sie die folgenden Ressourcen, um Modelle mit Blick auf verantwortungsvolle KI zu entwerfen.

Leitfaden für Menschen + KI-Forschung (PAIR)

Erfahren Sie mehr über den KI-Entwicklungsprozess und die wichtigsten Überlegungen.

PAAR Erforschbares

Erkunden Sie anhand interaktiver Visualisierungen Schlüsselfragen und Konzepte im Bereich der verantwortungsvollen KI.

Schritt 2

Daten erstellen und vorbereiten

Verwenden Sie die folgenden Tools, um Daten auf potenzielle Verzerrungen zu untersuchen.

TF-Datenvalidierung

Analysieren und transformieren Sie Daten, um Probleme zu erkennen und effektivere Feature-Sets zu entwickeln.

Datenkarten

Erstellen Sie einen Transparenzbericht für Ihren Datensatz.

Schritt 3

Modell bauen und trainieren

Verwenden Sie die folgenden Tools, um Modelle mit datenschutzwahrenden, interpretierbaren Techniken und mehr zu trainieren.

TF-Modell-Korrektur

Trainieren Sie Modelle für maschinelles Lernen, um gerechtere Ergebnisse zu erzielen.

TF-Datenschutz

Trainieren Sie Modelle für maschinelles Lernen mit Datenschutz.

TF Federated

Trainieren Sie Machine-Learning-Modelle mit föderierten Lerntechniken.

TF-beschränkte Optimierung

Optimieren Sie ungleichheitsbeschränkte Probleme.

TF-Gitter

Implementieren Sie flexible, kontrollierte und interpretierbare gitterbasierte Modelle.

Schritt 4

Modell auswerten

Debuggen, bewerten und visualisieren Sie die Modellleistung mit den folgenden Tools.

Fairness-Indikatoren

Bewerten Sie allgemein identifizierte Fairness-Metriken für binäre und Multi-Class-Klassifikatoren.

TF-Modellanalyse

Bewerten Sie Modelle auf verteilte Weise und berechnen Sie über verschiedene Datenscheiben.

Was-wäre-wenn-Tool

Untersuchen, bewerten und vergleichen Sie Modelle für maschinelles Lernen.

Tool zur Sprachinterpretation

Visualisieren und verstehen Sie NLP-Modelle.

Erklärbare KI

Entwickeln Sie interpretierbare und integrative Modelle für maschinelles Lernen.

TF-Datenschutztests

Bewerten Sie die Datenschutzeigenschaften von Klassifizierungsmodellen.

TensorBoard

Messen und visualisieren Sie den Machine-Learning-Workflow.

Schritt 5

Bereitstellen und überwachen

Verwenden Sie die folgenden Tools, um Modellkontext und Details zu verfolgen und zu kommunizieren.

Modellkarten-Toolkit

Generieren Sie ganz einfach Modellkarten mit dem Modellkarten-Toolkit.

ML-Metadaten

Aufzeichnen und Abrufen von Metadaten im Zusammenhang mit ML-Entwickler- und Datenwissenschaftler-Workflows.

Modellkarten

Organisieren Sie die wesentlichen Fakten des maschinellen Lernens strukturiert.

Gemeinschaftsressourcen

Erfahren Sie, was die Community tut, und erkunden Sie Möglichkeiten, sich zu engagieren.

Crowdsource von Google

Helfen Sie mit, die Produkte von Google integrativer und repräsentativer für Ihre Sprache, Region und Kultur zu machen.

Verantwortungsvolle AI DevPost Challenge

Wir haben die Teilnehmer gebeten, TensorFlow 2.2 zu verwenden, um ein Modell oder eine Anwendung unter Berücksichtigung der Prinzipien der verantwortungsvollen KI zu erstellen. In der Galerie finden Sie die Gewinner und andere tolle Projekte.

Verantwortungsvolle KI mit TensorFlow (TF Dev Summit '20)

Einführung eines Rahmens, um über ML, Fairness und Datenschutz nachzudenken.

Weiter