TensorFlow を使用して責任ある AI への取り組みを ML ワークフローに統合する方法をご確認ください

私の ML システムの対象となるのはどのようなユーザーでしょうか？

システムによる予測や推奨、決定の持つ真の影響力を評価するためには、実際のユーザーがどのようにシステムを使用しているのかを知ることが重要です。開発の早い段階で、多様なユーザーからフィードバックをもらいましょう。

私が使用するのは代表的なデータセットですか？

データがお客様のユーザーを代表するようにサンプリング（例: すべての年齢層に使用するが、所持するのは高齢者のトレーニング データのみ）されており、かつ現実に即して設定（例: 年間を通じて使用するが、所持するのは夏期のトレーニング データのみ）されていますか？

データに現実世界や人間のバイアスはありますか？

データの根底にあるバイアスは、既存の固定概念を強化する複雑なフィードバック ループの原因になる可能性があります。

どのような方法でモデルのトレーニングを行えばよいですか？

モデルに公平性と解釈可能性をもたらし、プライバシーとセキュリティに配慮したトレーニング方法を選びます。

モデルのパフォーマンスを把握するにはどうすればよいですか？

さまざまなユーザー、ユースケース、使用コンテキストにわたって現実世界のシナリオでのユーザー エクスペリエンスを評価します。まず dogfood でテストを繰り返し実行し、リリース後も継続してテストを行います。

複雑なフィードバック ループはありますか？

システムの全体的な設計に細部まで慎重に取り組んだとしても、機械学習モデルを現実世界のデータに適用した場合、100% 完璧に動作することはめったにありません。稼働中のプロダクトに問題が発生した場合は、その問題が、既存の社会的なデメリットと合致するものか、また短期および長期ソリューションによってどのように影響を受けるかを検討してください。