Оптимизируйте свои подборки Сохраняйте и классифицируйте контент в соответствии со своими настройками.

Узнайте, как интегрировать методы ответственного ИИ в рабочий процесс машинного обучения с помощью TensorFlow.

TensorFlow стремится помочь добиться прогресса в ответственной разработке ИИ, делясь коллекцией ресурсов и инструментов с сообществом машинного обучения.

Что такое ответственный ИИ?

Развитие ИИ создает новые возможности для решения сложных реальных проблем. Это также поднимает новые вопросы о том, как лучше всего создавать системы ИИ, которые принесут пользу всем.

При проектировании систем искусственного интеллекта следует следовать передовым методам разработки программного обеспечения, при этом ориентируясь на человека.
подход к ОД

Справедливость

По мере того, как влияние ИИ увеличивается во всех секторах и обществах, крайне важно работать над созданием систем, которые были бы справедливыми и инклюзивными для всех.

Интерпретируемость

Понимание систем искусственного интеллекта и доверие к ним важно для обеспечения того, чтобы они работали должным образом.

Конфиденциальность

Модели обучения на основе конфиденциальных данных нуждаются в мерах защиты конфиденциальности

Безопасность

Выявление потенциальных угроз может помочь обеспечить безопасность систем ИИ.

Ответственный искусственный интеллект в вашем рабочем процессе машинного обучения

Ответственные методы ИИ могут быть включены на каждом этапе рабочего процесса машинного обучения. Вот несколько ключевых вопросов, которые необходимо рассмотреть на каждом этапе.

Для кого предназначена моя система машинного обучения?

То, как реальные пользователи воспринимают вашу систему, важно для оценки истинного влияния ее прогнозов, рекомендаций и решений. Убедитесь, что вы получаете информацию от различных групп пользователей на ранних этапах процесса разработки.

Использую ли я репрезентативный набор данных?

Отбираются ли ваши данные таким образом, чтобы они представляли ваших пользователей (например, будут использоваться для всех возрастов, но у вас есть только обучающие данные от пожилых людей) и реальные условия (например, будут использоваться круглый год, но у вас есть только обучающие данные? данные с лета)?

Имеются ли в моих данных реальные/человеческие предубеждения?

Скрытые предубеждения в данных могут способствовать возникновению сложных петель обратной связи, которые усиливают существующие стереотипы.

Какие методы следует использовать для обучения моей модели?

Используйте методы обучения, которые встраивают в модель справедливость, интерпретируемость, конфиденциальность и безопасность.

Как работает моя модель?

Оценивайте взаимодействие с пользователем в реальных сценариях для широкого спектра пользователей, вариантов использования и контекстов использования. Сначала протестируйте и итерируйте тестовую версию, а затем продолжите тестирование после запуска.

Существуют ли сложные петли обратной связи?

Даже если в общем дизайне системы все тщательно продумано, модели на основе машинного обучения редко работают со 100-процентным совершенством применительно к реальным оперативным данным. Когда проблема возникает в работающем продукте, подумайте, согласуется ли она с какими-либо существующими социальными недостатками и как на нее повлияют как краткосрочные, так и долгосрочные решения.

Ответственные инструменты искусственного интеллекта для TensorFlow

В экосистеме TensorFlow есть набор инструментов и ресурсов, которые помогут решить некоторые из вышеперечисленных вопросов.

Шаг 1

Определить проблему

Используйте следующие ресурсы для разработки моделей с учетом ответственного ИИ.

Руководство «Люди + исследования ИИ» (PAIR)

Узнайте больше о процессе разработки ИИ и ключевых моментах.

ПАРА

Исследуйте с помощью интерактивных визуализаций ключевые вопросы и концепции в области ответственного ИИ.

Шаг 2

Создание и подготовка данных

Используйте следующие инструменты для проверки данных на наличие потенциальных погрешностей.

Знай свои данные (бета)

В интерактивном режиме исследуйте свой набор данных, чтобы улучшить качество данных и смягчить проблемы со справедливостью и предвзятостью.

Проверка данных перехода

Анализируйте и преобразовывайте данные, чтобы обнаруживать проблемы и создавать более эффективные наборы функций.

Карты данных

Создайте отчет о прозрачности для вашего набора данных.

Шкала тонов кожи монаха (MST)

Более полная шкала оттенков кожи с открытой лицензией, которая сделает сбор данных и построение модели более надежным и всеобъемлющим.

Шаг 3

Построить и обучить модель

Используйте следующие инструменты для обучения моделей с использованием методов сохранения конфиденциальности, интерпретируемых методов и т. д.

Исправление модели TF

Обучайте модели машинного обучения, чтобы добиваться более справедливых результатов.

Конфиденциальность TF

Обучайте модели машинного обучения с соблюдением конфиденциальности.

Федеративное ТФ

Обучайте модели машинного обучения, используя методы федеративного обучения.

Ограниченная оптимизация TF

Оптимизация задач, ограниченных неравенством.

Решетка ТФ

Внедряйте гибкие, контролируемые и интерпретируемые модели на основе решетки.

Шаг 4

Оценить модель

Отладьте, оцените и визуализируйте производительность модели с помощью следующих инструментов.

Показатели справедливости

Оцените общеизвестные показатели справедливости для бинарных и многоклассовых классификаторов.

Анализ модели TF

Оценивайте модели распределенным образом и выполняйте вычисления на разных срезах данных.

Инструмент «что, если»

Изучите, оцените и сравните модели машинного обучения.

Инструмент языковой интерпретации

Визуализируйте и понимайте модели НЛП.

Объяснимый ИИ

Разрабатывайте интерпретируемые и инклюзивные модели машинного обучения.

Тесты конфиденциальности TF

Оцените свойства конфиденциальности моделей классификации.

TensorBoard

Измеряйте и визуализируйте рабочий процесс машинного обучения.

Шаг 5

Развертывание и мониторинг

Используйте следующие инструменты для отслеживания и обмена информацией о контексте и деталях модели.

Инструментарий карты модели

С легкостью создавайте карты моделей с помощью инструментария Model Card.

Метаданные машинного обучения

Записывайте и извлекайте метаданные, связанные с рабочими процессами разработчика машинного обучения и специалиста по данным.

Карты моделей

Организуйте основные факты машинного обучения в структурированном виде.

Ресурсы сообщества

Узнайте, что делает сообщество, и изучите способы принять участие.

Краудсорсинг от Google

Помогите продуктам Google стать более инклюзивными и отражающими ваш язык, регион и культуру.

Ответственный ИИ DevPost Challenge

Мы попросили участников использовать TensorFlow 2.2 для создания модели или приложения с учетом принципов ответственного ИИ. Загляните в галерею, чтобы увидеть победителей и другие удивительные проекты.

Ответственный ИИ с TensorFlow (TF Dev Summit '20)

Представляем основу для размышлений об машинном обучении, честности и конфиденциальности.