Wnioskowanie TensorFlow Lite z metadanymi

Wnioskowanie modeli za pomocą metadanych może być tak proste, jak kilka linijek kodu. Metadane TensorFlow Lite zawierają bogaty opis tego, co robi model i jak z niego korzystać. Może umożliwić generatorom kodu automatyczne generowanie kodu wnioskowania, na przykład za pomocą funkcji Android Studio ML Binding lub TensorFlow Lite Android code generator . Można go również użyć do skonfigurowania niestandardowego potoku wnioskowania.

Narzędzia i biblioteki

TensorFlow Lite zapewnia różnorodne narzędzia i biblioteki do obsługi różnych poziomów wymagań wdrożeniowych w następujący sposób:

Generuj interfejs modelu za pomocą generatorów kodu Android

Istnieją dwa sposoby automatycznego wygenerowania niezbędnego kodu opakowania systemu Android dla modelu TensorFlow Lite z metadanymi:

  1. Android Studio ML Model Binding to narzędzie dostępne w Android Studio do importowania modelu TensorFlow Lite za pomocą interfejsu graficznego. Android Studio automatycznie skonfiguruje ustawienia dla projektu i wygeneruje klasy opakowujące na podstawie metadanych modelu.

  2. TensorFlow Lite Code Generator to plik wykonywalny, który automatycznie generuje interfejs modelu na podstawie metadanych. Obecnie obsługuje Androida z Javą. Kod opakowania eliminuje potrzebę bezpośredniej interakcji z ByteBuffer . Zamiast tego programiści mogą wchodzić w interakcje z modelem TensorFlow Lite z typowanymi obiektami, takimi jak Bitmap i Rect . Użytkownicy Android Studio mogą również uzyskać dostęp do funkcji codegen za pośrednictwem Android Studio ML Binding .

Wykorzystaj gotowe interfejsy API dzięki bibliotece zadań TensorFlow Lite

Biblioteka zadań TensorFlow Lite zapewnia zoptymalizowane, gotowe do użycia interfejsy modeli dla popularnych zadań uczenia maszynowego, takich jak klasyfikacja obrazów, pytania i odpowiedzi itp. Interfejsy modeli są specjalnie zaprojektowane dla każdego zadania, aby osiągnąć najlepszą wydajność i użyteczność. Biblioteka zadań działa na wielu platformach i jest obsługiwana w językach Java, C++ i Swift.

Twórz niestandardowe potoki wnioskowania za pomocą biblioteki wsparcia TensorFlow Lite

Biblioteka wsparcia TensorFlow Lite to wieloplatformowa biblioteka, która pomaga dostosowywać interfejs modelu i budować potoki wnioskowania. Zawiera różne metody i struktury danych do wykonywania przetwarzania wstępnego i końcowego oraz konwersji danych. Został również zaprojektowany tak, aby pasował do zachowania modułów TensorFlow, takich jak TF.Image i TF.Text, zapewniając spójność od szkolenia po wnioskowanie.

Przeglądaj wstępnie wytrenowane modele z metadanymi

Przeglądaj hostowane modele TensorFlow Lite i TensorFlow Hub , aby pobrać wstępnie wytrenowane modele z metadanymi do zadań wizyjnych i tekstowych. Zobacz także różne opcje wizualizacji metadanych .

Obsługa TensorFlow Lite Repozytorium GitHub

Odwiedź repozytorium TensorFlow Lite Support GitHub , aby uzyskać więcej przykładów i kod źródłowy. Przekaż nam swoją opinię, tworząc nowy problem w serwisie GitHub .