Erfahren Sie, wie Sie mit TensorFlow verantwortungsbewusste KI-Praktiken in Ihren ML-Workflow integrieren
TensorFlow engagiert sich dafür, Fortschritte bei der verantwortungsvollen Entwicklung der KI zu erzielen, indem eine Sammlung von Ressourcen und Tools mit der ML-Community geteilt wird.
Was ist verantwortungsbewusste KI?
Die Entwicklung der KI eröffnet neue Möglichkeiten zur Lösung herausfordernder, realer Probleme. Es wirft auch neue Fragen auf, wie KI-Systeme am besten gebaut werden können, von denen alle profitieren.
Empfohlene Best Practices für AI
Das Entwerfen von KI-Systemen sollte den Best Practices der Softwareentwicklung folgen und dabei auf den Menschen ausgerichtet sein
Ansatz zu ML
Gerechtigkeit
Da die Auswirkungen der KI in verschiedenen Sektoren und Gesellschaften zunehmen, ist es wichtig, auf Systeme hinzuarbeiten, die für alle fair und inklusiv sind
Interpretierbarkeit
Das Verständnis und Vertrauen in KI-Systeme ist wichtig, um sicherzustellen, dass sie wie beabsichtigt funktionieren
Privatsphäre
Schulungsmodelle für sensible Daten erfordern Schutzmaßnahmen zum Schutz der Privatsphäre
Sicherheit
Das Erkennen potenzieller Bedrohungen kann dazu beitragen, KI-Systeme sicher zu halten
Verantwortliche KI in Ihrem ML-Workflow
Verantwortungsbewusste KI-Praktiken können in jeden Schritt des ML-Workflows integriert werden. Hier sind einige wichtige Fragen, die in jeder Phase zu berücksichtigen sind.
Für wen ist mein ML-System?
Die Art und Weise, wie tatsächliche Benutzer Ihr System erleben, ist entscheidend, um die tatsächlichen Auswirkungen seiner Vorhersagen, Empfehlungen und Entscheidungen beurteilen zu können. Stellen Sie sicher, dass Sie zu Beginn Ihres Entwicklungsprozesses Eingaben von verschiedenen Benutzern erhalten.
Benutze ich einen repräsentativen Datensatz?
Werden Ihre Daten so abgetastet, dass sie Ihre Benutzer repräsentieren (z. B. werden sie für alle Altersgruppen verwendet, aber Sie haben nur Schulungsdaten von Senioren) und die reale Umgebung (z. B. werden sie das ganze Jahr über verwendet, aber Sie haben nur Schulungen Daten aus dem Sommer)?
Gibt es reale / menschliche Vorurteile in meinen Daten?
Grundlegende Verzerrungen in Daten können zu komplexen Rückkopplungsschleifen beitragen, die vorhandene Stereotypen verstärken.
Mit welchen Methoden sollte ich mein Modell trainieren?
Verwenden Sie Schulungsmethoden, die Fairness, Interpretierbarkeit, Datenschutz und Sicherheit in das Modell integrieren.
Wie funktioniert mein Modell?
Bewerten Sie die Benutzererfahrung in realen Szenarien für ein breites Spektrum von Benutzern, Anwendungsfällen und Anwendungskontexten. Testen und iterieren Sie zuerst in Hundefutter, gefolgt von weiteren Tests nach dem Start.
Gibt es komplexe Rückkopplungsschleifen?
Selbst wenn alles im Gesamtsystemdesign sorgfältig ausgearbeitet ist, arbeiten ML-basierte Modelle selten mit 100% iger Perfektion, wenn sie auf reale Live-Daten angewendet werden. Wenn ein Problem in einem Live-Produkt auftritt, prüfen Sie, ob es mit bestehenden gesellschaftlichen Nachteilen in Einklang steht und wie sich dies sowohl auf kurz- als auch auf langfristige Lösungen auswirkt.
Verantwortliche KI-Tools für TensorFlow
Das TensorFlow-Ökosystem verfügt über eine Reihe von Tools und Ressourcen, mit denen einige der oben genannten Fragen beantwortet werden können.
Problem definieren
Verwenden Sie die folgenden Ressourcen, um Modelle mit Blick auf Responsible AI zu entwerfen.

Erfahren Sie mehr über den KI-Entwicklungsprozess und wichtige Überlegungen.

Entdecken Sie mithilfe interaktiver Visualisierungen wichtige Fragen und Konzepte im Bereich der verantwortungsvollen KI.
Daten erstellen und vorbereiten
Verwenden Sie die folgenden Tools, um Daten auf mögliche Verzerrungen zu untersuchen.

Analysieren und transformieren Sie Daten, um Probleme zu erkennen und effektivere Funktionssätze zu entwickeln.

Modell bauen und trainieren
Verwenden Sie die folgenden Tools, um Modelle mit datenschutzrechtlichen, interpretierbaren Techniken und mehr zu trainieren.

Trainieren Sie Modelle für maschinelles Lernen, um gerechtere Ergebnisse zu erzielen.


Trainieren Sie Modelle für maschinelles Lernen mit föderierten Lerntechniken.

Optimieren Sie Probleme mit eingeschränkter Ungleichheit.

Implementieren Sie flexible, kontrollierte und interpretierbare gitterbasierte Modelle.
Modell auswerten
Debuggen, bewerten und visualisieren Sie die Modellleistung mit den folgenden Tools.

Bewerten Sie häufig identifizierte Fairness-Metriken für binäre Klassifizierer und Klassifizierer mit mehreren Klassen.

Bewerten Sie Modelle auf verteilte Weise und berechnen Sie sie über verschiedene Datenscheiben.

Untersuchen, bewerten und vergleichen Sie Modelle des maschinellen Lernens.


Entwickeln Sie interpretierbare und integrative Modelle für maschinelles Lernen.

Bewerten Sie die Datenschutzmerkmale von Klassifizierungsmodellen.

Bereitstellen und überwachen
Verwenden Sie die folgenden Tools, um den Modellkontext und Details zu verfolgen und zu kommunizieren.


Aufzeichnen und Abrufen von Metadaten, die mit Workflows von ML-Entwicklern und Datenwissenschaftlern verknüpft sind.

Organisieren Sie die wesentlichen Fakten des maschinellen Lernens strukturiert.
Gemeinschaftsressourcen
Erfahren Sie, was die Community tut, und erkunden Sie Möglichkeiten, sich zu engagieren.

Helfen Sie den Produkten von Google, integrativer und repräsentativer für Ihre Sprache, Region und Kultur zu werden.

Wir haben die Teilnehmer gebeten, TensorFlow 2.2 zu verwenden, um ein Modell oder eine Anwendung unter Berücksichtigung der Prinzipien der verantwortungsvollen KI zu erstellen. Schauen Sie sich die Galerie an, um die Gewinner und andere großartige Projekte zu sehen.

Einführung eines Rahmens zum Nachdenken über ML, Fairness und Datenschutz.