Google is committed to advancing racial equity for Black communities. See how.
Эта страница была переведа с помощью Cloud Translation API.
Switch to English

Узнайте, как интегрировать практики ответственного ИИ в рабочий процесс машинного обучения с помощью TensorFlow

TensorFlow стремится помочь добиться прогресса в ответственном развитии ИИ, делясь коллекцией ресурсов и инструментов с сообществом машинного обучения.

Что такое ответственный ИИ?

Развитие искусственного интеллекта открывает новые возможности для решения сложных реальных проблем. Это также поднимает новые вопросы о том, как лучше всего создавать системы искусственного интеллекта, которые принесут пользу всем.

При проектировании систем искусственного интеллекта следует руководствоваться передовыми методами разработки программного обеспечения, в то же время уделяя особое внимание человеку.
подход к ML

Справедливость

Поскольку влияние ИИ увеличивается во всех секторах и обществах, очень важно работать над системами, которые будут справедливыми и открытыми для всех.

Интерпретируемость

Понимание систем искусственного интеллекта и доверие к ним важно для обеспечения их правильной работы.

Конфиденциальность

Для обучения моделей на основе конфиденциальных данных необходимы меры защиты конфиденциальности

Безопасность

Выявление потенциальных угроз может помочь сохранить безопасность систем ИИ

Ответственный ИИ в рабочем процессе машинного обучения

Ответственные методы искусственного интеллекта могут быть включены на каждом этапе рабочего процесса машинного обучения. Вот несколько ключевых вопросов, которые нужно учитывать на каждом этапе.

Для кого предназначена моя система машинного обучения?

То, как реальные пользователи воспринимают вашу систему, важно для оценки истинного воздействия ее прогнозов, рекомендаций и решений. Убедитесь, что на раннем этапе процесса разработки вы получаете отзывы от разнообразных пользователей.

Я использую репрезентативный набор данных?

Выбраны ли ваши данные таким образом, чтобы они представляли ваших пользователей (например, будут использоваться для всех возрастов, но у вас есть данные обучения только от пожилых людей) и реальных настроек (например, будут использоваться круглый год, но у вас есть только обучение данные с лета)?

Есть ли в моих данных реальная / человеческая предвзятость?

Основные предубеждения в данных могут способствовать возникновению сложных петель обратной связи, которые укрепляют существующие стереотипы.

Какие методы мне следует использовать для обучения моей модели?

Используйте методы обучения, которые обеспечивают справедливость, интерпретируемость, конфиденциальность и безопасность в модели.

Как работает моя модель?

Оценивайте взаимодействие с пользователем в реальных сценариях для широкого круга пользователей, вариантов использования и контекстов использования. Сначала протестируйте и повторите тестовую программу, а затем продолжите тестирование после запуска.

Существуют ли сложные петли обратной связи?

Даже если все в общем дизайне системы тщательно продумано, модели на основе машинного обучения редко работают со 100% -ным совершенством при применении к реальным, живым данным. Когда проблема возникает в действующем продукте, подумайте, согласуется ли она с существующими социальными недостатками и как на нее повлияют как краткосрочные, так и долгосрочные решения.

Ответственные инструменты ИИ для TensorFlow

В экосистеме TensorFlow есть набор инструментов и ресурсов, которые помогут решить некоторые из вышеперечисленных вопросов.

Шаг 1

Определить проблему

Используйте следующие ресурсы для разработки моделей с учетом Ответственного ИИ.

Руководство по исследованиям People + AI Research (PAIR)

Узнайте больше о процессе разработки ИИ и ключевых моментах.

ПАРА Исследуемые

Изучите с помощью интерактивных визуализаций ключевые вопросы и концепции в области ответственного ИИ.

Шаг 2

Построить и подготовить данные

Используйте следующие инструменты, чтобы изучить данные на предмет потенциальных предубеждений.

Проверка данных TF

Анализируйте и преобразовывайте данные для обнаружения проблем и разработки более эффективных наборов функций.

Карты данных

Создайте отчет о прозрачности для вашего набора данных.

Шаг 3

Построить и обучить модель

Используйте следующие инструменты для обучения моделей с использованием сохраняющих конфиденциальность, интерпретируемых методов и т. Д.

Конфиденциальность TF

Обучайте модели машинного обучения с конфиденциальностью.

TF Federated

Обучайте модели машинного обучения с помощью методов федеративного обучения.

Оптимизация с ограничениями TF

Оптимизация задач, связанных с неравенством.

Решетка TF

Реализуйте гибкие, контролируемые и интерпретируемые модели на основе решеток.

Шаг 4

Оценить модель

Отлаживайте, оценивайте и визуализируйте производительность модели с помощью следующих инструментов.

Индикаторы справедливости

Оцените часто определяемые показатели справедливости для двоичных и многоклассовых классификаторов.

Анализ модели TF

Оценивайте модели распределенным образом и выполняйте вычисления на различных срезах данных.

Что если инструмент

Изучите, оцените и сравните модели машинного обучения.

Объяснимый ИИ

Разрабатывайте интерпретируемые и инклюзивные модели машинного обучения.

Тесты конфиденциальности TF

Оцените свойства конфиденциальности моделей классификации.

TensorBoard

Измеряйте и визуализируйте рабочий процесс машинного обучения.

Шаг 5

Развертывание и мониторинг

Используйте следующие инструменты для отслеживания и обмена информацией о контексте и деталях модели.

Набор инструментов для модельных карт

С легкостью создавайте карточки моделей с помощью инструментария Model Card.

Метаданные ML

Записывайте и извлекайте метаданные, связанные с рабочими процессами разработчиков машинного обучения и специалистов по данным.

Модельные карты

Организуйте важные факты машинного обучения структурированным образом.

Учить больше

Узнайте, чем занимается сообщество, и изучите способы участия.

Краудсорс от Google

Помогите продуктам Google стать более инклюзивными и отражающими ваш язык, регион и культуру.

Ответственный вызов AI DevPost

Используйте TensorFlow 2.2 для создания модели или приложения с учетом принципов ответственного ИИ.

Ответственный ИИ с TensorFlow (TF Dev Summit '20)

Представляем концепцию машинного обучения, справедливости и конфиденциальности.

Продолжить