コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。

TensorFlow を使用して、責任ある AI プラクティスを ML ワークフローに統合する方法を学びます

TensorFlow は、一連のリソースとツールを ML コミュニティと共有することにより、AI の責任ある開発の進歩を支援することに取り組んでいます。

責任ある AI とは

AI の発展は、困難な現実世界の問題を解決する新たな機会を生み出しています。また、すべての人に利益をもたらす AI システムを構築する最善の方法について、新たな疑問も生じています。

AI システムの設計は、ソフトウェア開発のベスト プラクティスに従う必要があります。
機械学習へのアプローチ

公平性

セクターや社会全体で AI の影響が増大するにつれて、すべての人にとって公平で包括的なシステムに向けて取り組むことが重要です。

解釈可能性

AI システムを理解して信頼することは、AI システムが意図したとおりに機能することを保証するために重要です

プライバシー

機密データからモデルをトレーニングするには、プライバシーを保護するセーフガードが必要です

安全

潜在的な脅威を特定することで、AI システムを安全かつセキュアに保つことができます

ML ワークフローにおける責任ある AI

責任ある AI プラクティスは、ML ワークフローのすべてのステップに組み込むことができます。ここでは、各段階で考慮すべきいくつかの重要な質問を示します。

私の ML システムは誰のためのものですか?

実際のユーザーがシステムをどのように体験するかは、その予測、推奨事項、および決定の真の影響を評価するために不可欠です。開発プロセスの早い段階で、さまざまなユーザーから意見を聞くようにしてください。

代表的なデータセットを使用していますか?

データはユーザーを表す方法でサンプリングされていますか (たとえば、すべての年齢層に使用されますが、高齢者からのトレーニング データしかありません)、現実世界の設定 (例: 一年中使用されますが、トレーニングしか受けていません)夏のデータ)?

私のデータには現実世界/人間の偏りがありますか?

データの根底にあるバイアスは、既存のステレオタイプを強化する複雑なフィードバック ループに寄与する可能性があります。

モデルのトレーニングにはどのような方法を使用すればよいですか?

公平性、解釈可能性、プライバシー、およびセキュリティをモデルに組み込むトレーニング方法を使用します。

モデルのパフォーマンスは?

幅広いユーザー、ユース ケース、および使用コンテキストにわたって、実際のシナリオでユーザー エクスペリエンスを評価します。最初にドッグフードでテストと反復を行い、その後、リリース後にテストを継続します。

複雑なフィードバック ループはありますか?

全体的なシステム設計のすべてが慎重に作成されたとしても、ML ベースのモデルが実際のライブ データに適用されたときに 100% 完璧に動作することはめったにありません。実際の製品で問題が発生した場合は、それが既存の社会的不利益と一致するかどうか、および短期的および長期的な解決策によってどのように影響を受けるかを検討してください。

TensorFlow 向けの責任ある AI ツール

TensorFlow エコシステムには、上記の質問のいくつかに取り組むのに役立つ一連のツールとリソースがあります。

ステップ1

問題を定義する

次のリソースを使用して、責任ある AI を念頭に置いてモデルを設計してください。

People + AI Research (PAIR) ガイドブック

AI 開発プロセスと重要な考慮事項の詳細をご覧ください。

ペア探索可能

インタラクティブな視覚化を通じて、責任ある AI の領域における重要な質問と概念を探ります。

ステップ2

データの構築と準備

次のツールを使用して、潜在的なバイアスについてデータを調べます。

自分のデータを知る (ベータ)

データセットをインタラクティブに調査して、データ品質を改善し、公平性とバイアスの問題を軽減します。

TF データ検証

データを分析および変換して問題を検出し、より効果的な機能セットを設計します。

データカード

データセットの透明性レポートを作成します。

モンク スキン トーン スケール (MST)

データ収集とモデル構築のニーズをより堅牢かつ包括的にするための、より包括的なスキン トーン スケール、オープン ライセンス。

ステップ 3

モデルの構築とトレーニング

次のツールを使用して、プライバシー保護、解釈可能な手法などを使用してモデルをトレーニングします。

TF モデルの修復

機械学習モデルをトレーニングして、より公平な結果を促進します。

TF プライバシー

プライバシーを考慮して機械学習モデルをトレーニングします。

TF連合

連合学習手法を使用して機械学習モデルをトレーニングします。

TF 制約付き最適化

不等式制約問題を最適化します。

TFラティス

柔軟で制御された解釈可能な格子ベースのモデルを実装します。

ステップ 4

モデルを評価する

次のツールを使用して、モデルのパフォーマンスをデバッグ、評価、視覚化します。

公平性指標

バイナリおよびマルチクラス分類子の一般的に識別される公平性メトリックを評価します。

TF モデル分析

分散された方法でモデルを評価し、データのさまざまなスライスを計算します。

仮定のツール

機械学習モデルを調査、評価、比較します。

言語解釈ツール

NLP モデルを視覚化して理解します。

説明可能な AI

解釈可能で包括的な機械学習モデルを開発します。

TF プライバシー テスト

分類モデルのプライバシー プロパティを評価します。

TensorBoard

機械学習ワークフローを測定して視覚化します。

ステップ 5

デプロイと監視

次のツールを使用して、モデルのコンテキストと詳細を追跡および伝達します。

モデルカードツールキット

モデル カード ツールキットを使用して、モデル カードを簡単に生成します。

ML メタデータ

ML 開発者およびデータ サイエンティストのワークフローに関連するメタデータを記録および取得します。

モデルカード

構造化された方法で機械学習の本質的な事実を整理します。

コミュニティ リソース

コミュニティが何をしているかを学び、参加する方法を探ります。

Google によるクラウドソーシング

Google のサービスがより包括的になり、お客様の言語、地域、文化を代表するようになります。

責任ある AI DevPost チャレンジ

参加者には、TensorFlow 2.2 を使用して、責任ある AI の原則を念頭に置いてモデルまたはアプリケーションを構築するように依頼しました。ギャラリーをチェックして、受賞者やその他の素晴らしいプロジェクトをご覧ください。

TensorFlow による責任ある AI (TF Dev Summit '20)

ML、公平性、プライバシーについて考えるフレームワークを紹介します。