Optimieren Sie Modelle für maschinelles Lernen
import tensorflow as tf
import tensorflow_model_optimization as tfmot
model = tf.keras.Sequential([...])
pruning_schedule = tfmot.sparsity.keras.PolynomialDecay(
initial_sparsity=0.0, final_sparsity=0.5,
begin_step=2000, end_step=4000)
model_for_pruning = tfmot.sparsity.keras.prune_low_magnitude(
model, pruning_schedule=pruning_schedule)
...
model_for_pruning.fit(...)
Das TensorFlow Model Optimization Toolkit ist eine Reihe von Tools zur Optimierung von ML-Modellen für die Bereitstellung und Ausführung. Unter vielen Verwendungszwecken unterstützt das Toolkit Techniken, die verwendet werden, um:
- Reduzieren Sie die Latenz- und Inferenzkosten für Cloud- und Edge-Geräte (z. B. Mobilgeräte, IoT).
- Stellen Sie Modelle auf Edge-Geräten mit Einschränkungen in Bezug auf Verarbeitung, Speicher, Stromverbrauch, Netzwerknutzung und Modellspeicherplatz bereit.
- Aktivieren Sie die Ausführung auf und optimieren Sie sie für vorhandene Hardware oder neue Spezialbeschleuniger.
Wählen Sie das Modell und das Optimierungswerkzeug abhängig von Ihrer Aufgabe:
-
Verbessern Sie die Leistung mit Standardmodellen
In vielen Fällen können voroptimierte Modelle die Effizienz Ihrer Anwendung verbessern. -
Verwenden Sie das TensorFlow Model Optimization Toolkit
Probieren Sie die Tools nach dem Training aus, um ein bereits trainiertes TensorFlow-Modell zu optimieren. -
Weiter optimieren
Verwenden Sie Tools zur Optimierung der Trainingszeit und lernen Sie die Techniken kennen.