Узнайте, как интегрировать практики ответственного ИИ в рабочий процесс машинного обучения с помощью TensorFlow
TensorFlow стремится помочь добиться прогресса в ответственном развитии ИИ, поделившись набором ресурсов и инструментов с сообществом машинного обучения.
Что такое ответственный ИИ?
Развитие искусственного интеллекта открывает новые возможности для решения сложных реальных проблем. Также возникают новые вопросы о том, как лучше всего создавать системы искусственного интеллекта, которые принесут пользу всем.
Рекомендуемые передовые практики для ИИ
При проектировании систем искусственного интеллекта необходимо следовать передовым методам разработки программного обеспечения, в то время как
подход к ML
Справедливость
Поскольку влияние ИИ возрастает во всех секторах и обществах, очень важно работать над системами, которые будут справедливыми и открытыми для всех.
Интерпретируемость
Понимание систем искусственного интеллекта и доверие к ним важно для обеспечения их правильной работы.
Конфиденциальность
Для обучения моделей на основе конфиденциальных данных необходимы меры защиты конфиденциальности
Безопасность
Выявление потенциальных угроз может помочь обеспечить безопасность систем ИИ
Ответственный ИИ в рабочем процессе машинного обучения
Ответственные методы искусственного интеллекта могут быть включены на каждом этапе рабочего процесса машинного обучения. Вот несколько ключевых вопросов, которые нужно учитывать на каждом этапе.
Для кого предназначена моя система машинного обучения?
То, как реальные пользователи воспринимают вашу систему, важно для оценки истинного воздействия ее прогнозов, рекомендаций и решений. Убедитесь, что в самом начале процесса разработки вы получаете отзывы от разнообразных пользователей.
Я использую репрезентативный набор данных?
Выбраны ли ваши данные таким образом, чтобы они представляли ваших пользователей (например, будут использоваться для всех возрастов, но у вас есть данные об обучении только от пожилых людей) и реальные настройки (например, будут использоваться круглый год, но у вас есть только обучение данные с лета)?
Есть ли в моих данных реальная / человеческая предвзятость?
Основные предубеждения в данных могут способствовать возникновению сложных петель обратной связи, которые укрепляют существующие стереотипы.
Какие методы мне следует использовать для обучения моей модели?
Используйте методы обучения, которые обеспечивают справедливость, интерпретируемость, конфиденциальность и безопасность в модели.
Как работает моя модель?
Оценивайте взаимодействие с пользователем в реальных сценариях для широкого круга пользователей, вариантов использования и контекстов использования. Сначала протестируйте и повторите тестовую программу, а затем продолжите тестирование после запуска.
Существуют ли сложные петли обратной связи?
Даже если все в общем дизайне системы тщательно продумано, модели на основе машинного обучения редко работают со 100% -ным совершенством при применении к реальным, живым данным. Когда проблема возникает в действующем продукте, подумайте, согласуется ли она с существующими социальными недостатками и как на нее повлияют как краткосрочные, так и долгосрочные решения.
Ответственные инструменты ИИ для TensorFlow
В экосистеме TensorFlow есть набор инструментов и ресурсов, которые помогут решить некоторые из вышеперечисленных вопросов.
Определить проблему
Используйте следующие ресурсы для разработки моделей с учетом Ответственного ИИ.
Узнайте больше о процессе разработки ИИ и ключевых моментах.
Изучите с помощью интерактивных визуализаций ключевые вопросы и концепции в области ответственного ИИ.
Построить и подготовить данные
Используйте следующие инструменты, чтобы изучить данные на предмет потенциальных предубеждений.
Анализируйте и преобразовывайте данные для обнаружения проблем и разработки более эффективных наборов функций.
Построить и обучить модель
Используйте следующие инструменты для обучения моделей, используя методы сохранения конфиденциальности, интерпретируемые методы и многое другое.
Обучайте модели машинного обучения для достижения более справедливых результатов.
Обучайте модели машинного обучения с помощью методов федеративного обучения.
Реализуйте гибкие, контролируемые и интерпретируемые модели на основе решеток.
Оценить модель
Отлаживайте, оценивайте и визуализируйте производительность модели с помощью следующих инструментов.
Оцените обычно определяемые показатели справедливости для двоичных и многоклассовых классификаторов.
Оценивайте модели распределенным образом и выполняйте вычисления на различных срезах данных.
Развертывание и мониторинг
Используйте следующие инструменты для отслеживания и обмена информацией о контексте и деталях модели.
С легкостью создавайте карточки моделей с помощью инструментария Model Card.
Записывайте и извлекайте метаданные, связанные с рабочими процессами разработчиков машинного обучения и специалистов по данным.
Учить больше
Узнайте, чем занимается сообщество, и изучите способы участия.
Помогите продуктам Google стать более инклюзивными и отражающими ваш язык, регион и культуру.
Используйте TensorFlow 2.2 для создания модели или приложения с учетом принципов ответственного ИИ.
Представляем концепцию машинного обучения, справедливости и конфиденциальности.