Optimieren Sie Modelle für maschinelles Lernen
import tensorflow as tf import tensorflow_model_optimization as tfmot model = tf.keras.Sequential([...]) pruning_schedule = tfmot.sparsity.keras.PolynomialDecay( initial_sparsity=0.0, final_sparsity=0.5, begin_step=2000, end_step=4000) model_for_pruning = tfmot.sparsity.keras.prune_low_magnitude( model, pruning_schedule=pruning_schedule) ... model_for_pruning.fit(...)
Das TensorFlow Model Optimization Toolkit ist eine Reihe von Tools zur Optimierung von ML-Modellen für die Bereitstellung und Ausführung. Unter vielen Verwendungszwecken unterstützt das Toolkit Techniken, die verwendet werden, um:
- Reduzieren Sie die Latenz- und Inferenzkosten für Cloud- und Edge-Geräte (z. B. Mobilgeräte, IoT).
- Stellen Sie Modelle auf Edge-Geräten mit Einschränkungen in Bezug auf Verarbeitung, Speicher, Stromverbrauch, Netzwerknutzung und Modellspeicherplatz bereit.
- Aktivieren Sie die Ausführung auf und optimieren Sie sie für vorhandene Hardware oder neue Spezialbeschleuniger.
Wählen Sie das Modell und das Optimierungswerkzeug abhängig von Ihrer Aufgabe:
-
Verbessern Sie die Leistung mit Standardmodellen
In vielen Fällen können voroptimierte Modelle die Effizienz Ihrer Anwendung verbessern. -
Verwenden Sie das TensorFlow Model Optimization Toolkit
Probieren Sie die Tools nach dem Training aus, um ein bereits trainiertes TensorFlow-Modell zu optimieren. -
Weiter optimieren
Verwenden Sie Tools zur Optimierung der Trainingszeit und lernen Sie die Techniken kennen.