Google стремится продвигать расовую справедливость для черных сообществ. Смотри как.
Эта страница была переведа с помощью Cloud Translation API.
Switch to English

Узнайте, как интегрировать ответственные практики искусственного интеллекта в рабочий процесс ML с помощью TensorFlow

TensorFlow стремится помочь добиться прогресса в ответственном развитии ИИ, поделившись коллекцией ресурсов и инструментов с сообществом ОД.

Что такое ответственный ИИ?

Развитие ИИ создает новые возможности для решения сложных, реальных проблем. Это также поднимает новые вопросы о лучшем способе создания систем искусственного интеллекта, которые приносят пользу всем.

Проектирование систем ИИ должно следовать передовым методам разработки программного обеспечения, в то же время ориентируясь на человека
подход к ОД

справедливость

По мере того, как влияние ИИ возрастает в разных секторах и обществах, очень важно работать над системами, которые были бы справедливыми и инклюзивными для всех

Интерпретируемость

Понимание и доверие к системам искусственного интеллекта важно для обеспечения того, чтобы они работали как задумано

Конфиденциальность

Тренировочные модели на основе конфиденциальных данных нуждаются в защите конфиденциальности

Безопасность

Выявление потенциальных угроз может помочь сохранить системы ИИ в безопасности

Ответственный ИИ в вашем рабочем процессе по ОД

Ответственная практика ИИ может быть включена на каждом этапе рабочего процесса ОД. Вот несколько ключевых вопросов для рассмотрения на каждом этапе.

Для кого моя система ML?

То, как реальные пользователи воспринимают вашу систему, важно для оценки истинного влияния ее прогнозов, рекомендаций и решений. Убедитесь в том, чтобы получить информацию от различных пользователей на ранних этапах процесса разработки.

Я использую репрезентативный набор данных?

Выбираются ли ваши данные таким образом, чтобы они представляли ваших пользователей (например, будут использоваться для всех возрастов, но у вас есть только данные обучения от пожилых людей) и в реальных условиях (например, будут использоваться круглогодично, но у вас есть только обучение данные с лета)?

Есть ли в моих данных реальный / человеческий уклон

Основные отклонения в данных могут способствовать возникновению сложных петель обратной связи, которые усиливают существующие стереотипы.

Какие методы я должен использовать для обучения моей модели?

Используйте методы обучения, которые встраивают в модель честность, интерпретируемость, конфиденциальность и безопасность.

Как работает моя модель?

Оцените пользовательский опыт в реальных сценариях для широкого круга пользователей, вариантов использования и условий использования. Сначала протестируйте и итерируйте в собачьей еде, а затем продолжите тестирование после запуска.

Есть ли сложные петли обратной связи?

Даже если все в общем дизайне системы тщательно продумано, модели на основе ML редко работают со 100% совершенством при применении к реальным, живым данным. Когда проблема возникает в живом продукте, подумайте, соответствует ли он каким-либо существующим социальным недостаткам, и как на него будут влиять как краткосрочные, так и долгосрочные решения.

Ответственные инструменты AI для TensorFlow

В экосистеме TensorFlow есть набор инструментов и ресурсов, которые помогут решить некоторые из приведенных выше вопросов.

Шаг 1

Определить проблему

Используйте следующие ресурсы для разработки моделей с учетом ответственного ИИ.

Руководство по исследованиям людей + AI (PAIR)

Узнайте больше о процессе разработки ИИ и основных соображениях.

ПАРА Взрывчатка

Исследуйте с помощью интерактивных визуализаций ключевые вопросы и концепции в сфере Ответственного ИИ.

Шаг 2

Построить и подготовить данные

Используйте следующие инструменты для изучения данных на предмет возможных ошибок.

Проверка данных TF

Анализировать и преобразовывать данные для выявления проблем и разработки более эффективных наборов функций.

Карты данных

Создайте отчет о прозрачности для вашего набора данных.

Шаг 3

Построить и модель поезда

Используйте следующие инструменты для обучения моделей, используя сохранение конфиденциальности, интерпретируемые методы и многое другое.

TF Privacy

Обучайте модели машинного обучения секретности.

TF Federated

Обучайте модели машинного обучения с использованием методов федеративного обучения.

TF ограниченная оптимизация

Оптимизировать проблемы, связанные с неравенством.

TF Решетка

Реализуйте гибкие, управляемые и интерпретируемые модели на основе решетки.

Шаг 4

Оценить модель

Отладка, оценка и визуализация производительности модели с использованием следующих инструментов.

Показатели справедливости

Оцените общепризнанные показатели справедливости для двоичных и мультиклассовых классификаторов.

Анализ модели TF

Оценивайте модели распределенным образом и вычисляйте различные фрагменты данных.

Что, если инструмент

Изучите, оцените и сравните модели машинного обучения.

Объясняемый ИИ

Разработка интерпретируемых и инклюзивных моделей машинного обучения.

Тесты конфиденциальности TF

Оцените свойства конфиденциальности классификационных моделей.

TensorBoard

Измерьте и визуализируйте рабочий процесс машинного обучения.

Шаг 5

Развертывание и мониторинг

Используйте следующие инструменты для отслеживания и обмена информацией о контексте и деталях модели.

Модель Карточка Инструментарий

С легкостью создавайте модельные карты с помощью инструментария Model Card.

ML метаданные

Записывайте и извлекайте метаданные, связанные с рабочими процессами разработчика и исследователя данных ML.

Карточки моделей

Организовать основные факты машинного обучения в структурированном виде.

Выучить больше

Узнайте, что делает сообщество, и найдите способы принять участие.

Краудсорсинг от Google

Помогите продуктам Google стать более инклюзивными и представительными для вашего языка, региона и культуры.

Ответственный AI DevPost Challenge

Используйте TensorFlow 2.2 для построения модели или приложения с учетом принципов ответственного ИИ.

Ответственный ИИ с TensorFlow (TF Dev Summit '20)

Внедрение основы для размышлений о ML, справедливости и конфиденциальности.

Продолжить