Узнайте, как интегрировать методы ответственного ИИ в рабочий процесс машинного обучения с помощью TensorFlow.
TensorFlow стремится помочь добиться прогресса в ответственной разработке ИИ, делясь коллекцией ресурсов и инструментов с сообществом машинного обучения.
Что такое ответственный ИИ?
Развитие ИИ создает новые возможности для решения сложных реальных проблем. Это также поднимает новые вопросы о том, как лучше всего создавать системы ИИ, которые принесут пользу всем.
Рекомендуемые лучшие практики для ИИ
При проектировании систем искусственного интеллекта следует следовать передовым методам разработки программного обеспечения, при этом ориентируясь на человека.
подход к ОД
Справедливость
По мере того, как влияние ИИ увеличивается во всех секторах и обществах, крайне важно работать над созданием систем, которые были бы справедливыми и инклюзивными для всех.
Интерпретируемость
Понимание систем искусственного интеллекта и доверие к ним важно для обеспечения того, чтобы они работали должным образом.
Конфиденциальность
Модели обучения на основе конфиденциальных данных нуждаются в мерах защиты конфиденциальности
Безопасность
Выявление потенциальных угроз может помочь обеспечить безопасность систем ИИ.
Ответственный искусственный интеллект в вашем рабочем процессе машинного обучения
Ответственные методы ИИ могут быть включены на каждом этапе рабочего процесса машинного обучения. Вот несколько ключевых вопросов, которые необходимо рассмотреть на каждом этапе.
Для кого предназначена моя система машинного обучения?
То, как реальные пользователи воспринимают вашу систему, важно для оценки истинного влияния ее прогнозов, рекомендаций и решений. Убедитесь, что вы получаете информацию от различных групп пользователей на ранних этапах процесса разработки.
Использую ли я репрезентативный набор данных?
Отбираются ли ваши данные таким образом, чтобы они представляли ваших пользователей (например, будут использоваться для всех возрастов, но у вас есть только обучающие данные от пожилых людей) и реальные условия (например, будут использоваться круглый год, но у вас есть только обучающие данные? данные с лета)?
Имеются ли в моих данных реальные/человеческие предубеждения?
Скрытые предубеждения в данных могут способствовать возникновению сложных петель обратной связи, которые усиливают существующие стереотипы.
Какие методы следует использовать для обучения моей модели?
Используйте методы обучения, которые встраивают в модель справедливость, интерпретируемость, конфиденциальность и безопасность.
Как работает моя модель?
Оценивайте взаимодействие с пользователем в реальных сценариях для широкого спектра пользователей, вариантов использования и контекстов использования. Сначала протестируйте и итерируйте тестовую версию, а затем продолжите тестирование после запуска.
Существуют ли сложные петли обратной связи?
Даже если в общем дизайне системы все тщательно продумано, модели на основе машинного обучения редко работают со 100-процентным совершенством применительно к реальным оперативным данным. Когда проблема возникает в работающем продукте, подумайте, связана ли она с какими-либо существующими социальными недостатками и как на нее повлияют как краткосрочные, так и долгосрочные решения.
Ответственные инструменты искусственного интеллекта для TensorFlow
В экосистеме TensorFlow есть набор инструментов и ресурсов, которые помогут решить некоторые из вышеперечисленных вопросов.
Определить проблему
Используйте следующие ресурсы для разработки моделей с учетом ответственного ИИ.
Узнайте больше о процессе разработки ИИ и ключевых моментах.
Исследуйте с помощью интерактивных визуализаций ключевые вопросы и концепции в области ответственного ИИ.
Создание и подготовка данных
Используйте следующие инструменты для проверки данных на наличие потенциальных погрешностей.
В интерактивном режиме исследуйте свой набор данных, чтобы улучшить качество данных и смягчить проблемы со справедливостью и предвзятостью.
Анализируйте и преобразовывайте данные, чтобы обнаруживать проблемы и создавать более эффективные наборы функций.
Более полная шкала оттенков кожи с открытой лицензией, которая сделает сбор данных и построение модели более надежным и всеобъемлющим.
Построить и обучить модель
Используйте следующие инструменты для обучения моделей с использованием методов сохранения конфиденциальности, интерпретируемых методов и т. д.
Обучайте модели машинного обучения, чтобы добиваться более справедливых результатов.
Обучайте модели машинного обучения с соблюдением конфиденциальности.
Обучайте модели машинного обучения, используя методы федеративного обучения.
Внедряйте гибкие, контролируемые и интерпретируемые модели на основе решетки.
Оценить модель
Отладьте, оцените и визуализируйте производительность модели с помощью следующих инструментов.
Оцените общеизвестные показатели справедливости для бинарных и многоклассовых классификаторов.
Оценивайте модели распределенным образом и выполняйте вычисления на разных срезах данных.
Развертывание и мониторинг
Используйте следующие инструменты для отслеживания и обмена информацией о контексте и деталях модели.
С легкостью создавайте карты моделей с помощью инструментария Model Card.
Записывайте и извлекайте метаданные, связанные с рабочими процессами разработчика машинного обучения и специалиста по данным.
Ресурсы сообщества
Узнайте, что делает сообщество, и изучите способы принять участие.
Помогите продуктам Google стать более инклюзивными и отражающими ваш язык, регион и культуру.
Мы попросили участников использовать TensorFlow 2.2 для создания модели или приложения с учетом принципов ответственного ИИ. Загляните в галерею, чтобы увидеть победителей и другие удивительные проекты.
Представляем основу для размышлений об машинном обучении, честности и конфиденциальности.