Оптимизировать модели машинного обучения
import tensorflow as tf import tensorflow_model_optimization as tfmot model = tf.keras.Sequential([...]) pruning_schedule = tfmot.sparsity.keras.PolynomialDecay( initial_sparsity=0.0, final_sparsity=0.5, begin_step=2000, end_step=4000) model_for_pruning = tfmot.sparsity.keras.prune_low_magnitude( model, pruning_schedule=pruning_schedule) ... model_for_pruning.fit(...)
TensorFlow Model Optimization Toolkit - это набор инструментов для оптимизации моделей машинного обучения для развертывания и выполнения. Среди множества применений этот инструментарий поддерживает методы, используемые для:
- Сократите время ожидания и затраты на логический вывод для облачных и периферийных устройств (например, мобильных устройств, Интернета вещей).
- Развертывайте модели на периферийных устройствах с ограничениями по обработке, памяти, энергопотреблению, использованию сети и пространству для хранения модели.
- Включите выполнение и оптимизируйте для существующего оборудования или новых ускорителей специального назначения.
Выберите модель и инструмент оптимизации в зависимости от вашей задачи:
-
Повысьте производительность с помощью стандартных моделей
Во многих случаях предварительно оптимизированные модели могут повысить эффективность вашего приложения. -
Используйте набор инструментов для оптимизации модели TensorFlow
Попробуйте инструменты после обучения, чтобы оптимизировать уже обученную модель TensorFlow. -
Оптимизировать дальше
Используйте инструменты оптимизации времени обучения и узнайте об этих методах.