Узнайте, как интегрировать практики ответственного ИИ в рабочий процесс машинного обучения с помощью TensorFlow
TensorFlow стремится помочь добиться прогресса в ответственном развитии ИИ, поделившись набором ресурсов и инструментов с сообществом машинного обучения.
Что такое ответственный ИИ?
Развитие искусственного интеллекта открывает новые возможности для решения сложных реальных проблем. Это также поднимает новые вопросы о том, как лучше всего создавать системы искусственного интеллекта, которые принесут пользу всем.
Рекомендуемые передовые практики для ИИ
При проектировании систем искусственного интеллекта следует руководствоваться передовыми методами разработки программного обеспечения, в то же время принимая во внимание интересы человека.
подход к ML
Справедливость
Поскольку влияние ИИ возрастает во всех секторах и обществах, очень важно работать над системами, которые будут справедливыми и открытыми для всех.
Интерпретируемость
Понимание систем искусственного интеллекта и доверие к ним важно для обеспечения их правильной работы.
Конфиденциальность
Для обучения моделей с использованием конфиденциальных данных необходимы меры защиты конфиденциальности
Безопасность
Выявление потенциальных угроз может помочь обеспечить безопасность и надежность систем искусственного интеллекта
Ответственный ИИ в рабочем процессе машинного обучения
Ответственные практики искусственного интеллекта могут быть включены на каждом этапе рабочего процесса машинного обучения. Вот несколько ключевых вопросов, которые нужно учитывать на каждом этапе.
Для кого предназначена моя система машинного обучения?
То, как реальные пользователи воспринимают вашу систему, важно для оценки истинного воздействия ее прогнозов, рекомендаций и решений. Убедитесь, что на раннем этапе процесса разработки вы получаете отзывы от разнообразных пользователей.
Я использую репрезентативный набор данных?
Выбраны ли ваши данные таким образом, чтобы они представляли ваших пользователей (например, будут использоваться для всех возрастов, но у вас есть данные обучения только от пожилых людей) и реальных настроек (например, будут использоваться круглый год, но у вас есть только обучение данные с лета)?
Есть ли в моих данных реальная / человеческая предвзятость?
Основные предубеждения в данных могут способствовать возникновению сложных петель обратной связи, которые укрепляют существующие стереотипы.
Какие методы мне следует использовать для обучения моей модели?
Используйте методы обучения, которые обеспечивают справедливость, интерпретируемость, конфиденциальность и безопасность в модели.
Как работает моя модель?
Оценивайте пользовательский опыт в реальных сценариях для широкого круга пользователей, вариантов использования и контекстов использования. Сначала протестируйте и повторяйте тестовую версию, а затем продолжайте тестирование после запуска.
Существуют ли сложные петли обратной связи?
Даже если все в общем дизайне системы тщательно продумано, модели на основе машинного обучения редко работают со 100% -ным совершенством при применении к реальным, живым данным. Когда проблема возникает в действующем продукте, подумайте, согласуется ли она с существующими социальными недостатками и как на нее повлияют краткосрочные и долгосрочные решения.
Ответственные инструменты ИИ для TensorFlow
В экосистеме TensorFlow есть набор инструментов и ресурсов, которые помогут решить некоторые из вышеперечисленных вопросов.
Определить проблему
Используйте следующие ресурсы для разработки моделей с учетом Ответственного ИИ.
Узнайте больше о процессе разработки ИИ и основных моментах.
Изучите с помощью интерактивных визуализаций ключевые вопросы и концепции в области ответственного ИИ.
Построить и подготовить данные
Используйте следующие инструменты, чтобы проверить данные на предмет потенциальных предвзятостей.
Анализируйте и преобразовывайте данные для обнаружения проблем и разработки более эффективных наборов функций.
Построить и обучить модель
Используйте следующие инструменты для обучения моделей, используя методы сохранения конфиденциальности, интерпретируемые методы и многое другое.
Обучайте модели машинного обучения, чтобы добиться более справедливых результатов.
Обучайте модели машинного обучения с помощью методов федеративного обучения.
Реализуйте гибкие, контролируемые и интерпретируемые модели на основе решеток.
Оценить модель
Отлаживайте, оценивайте и визуализируйте производительность модели с помощью следующих инструментов.
Оцените обычно определяемые показатели справедливости для двоичных и многоклассовых классификаторов.
Оценивайте модели распределенным образом и выполняйте вычисления на различных срезах данных.
Развертывание и мониторинг
Используйте следующие инструменты для отслеживания и обмена информацией о контексте и деталях модели.
С легкостью создавайте карточки моделей с помощью инструментария Model Card.
Записывайте и извлекайте метаданные, связанные с рабочими процессами разработчиков машинного обучения и специалистов по данным.
Ресурсы сообщества
Узнайте, чем занимается сообщество, и изучите способы участия.
Помогите продуктам Google стать более инклюзивными и отражающими ваш язык, регион и культуру.
Мы попросили участников использовать TensorFlow 2.2 для создания модели или приложения с учетом принципов ответственного ИИ. Посетите галерею, чтобы увидеть победителей и другие замечательные проекты.
Представляем концепцию машинного обучения, справедливости и конфиденциальности.