TensorFlow Lite

TensorFlow Lite, geliştiricilerin modellerini mobil, gömülü ve IoT cihazlarda çalıştırmalarına yardımcı olarak cihaz üzerinde makine öğrenimi sağlayan bir araç setidir.

Ana Özellikler

  • 5 temel kısıtlamayı ele alarak cihaz üzerinde makine öğrenimi için optimize edilmiştir: gecikme (bir sunucuya gidiş dönüş yoktur), gizlilik (cihazdan kişisel veri çıkmaz), bağlantı (internet bağlantısı gerekmez), boyut (azaltılmış model ve ikili boyut) ve güç tüketimi (verimli çıkarım ve ağ bağlantılarının olmaması).
  • Android ve iOS cihazları, gömülü Linux ve mikro denetleyicileri kapsayan çoklu platform desteği .
  • Java, Swift, Objective-C, C ++ ve Python içeren çeşitli dil desteği .
  • Donanım hızlandırma ve model optimizasyonu ile yüksek performans .
  • Birden çok platformda görüntü sınıflandırma, nesne algılama, poz tahmini, soru yanıtlama, metin sınıflandırması gibi yaygın makine öğrenimi görevleri için uçtan uca örnekler

Geliştirme iş akışı

Aşağıdaki kılavuz, iş akışının her adımını açıklar ve diğer talimatlara bağlantılar sağlar:

1. Bir TensorFlow Lite modeli oluşturun

Bir TensorFlow Lite modeli, FlatBuffers olarak bilinen ( .tflite dosya uzantısı ile tanımlanan) özel bir verimli taşınabilir formatta temsil edilir. Bu, TensorFlow Lite'ın sınırlı bilgi işlem ve bellek kaynaklarına sahip cihazlarda verimli bir şekilde çalışmasını sağlayan küçültülmüş boyut (küçük kod ayak izi) ve daha hızlı çıkarım (verilere fazladan ayrıştırma / paket açma adımı olmadan doğrudan erişilir) gibi TensorFlow protokol arabellek modeli formatına göre çeşitli avantajlar sağlar. .

Bir TensorFlow Lite modeli isteğe bağlı olarak, cihaz üzerinde çıkarsama sırasında ön ve son işleme boru hatlarının otomatik olarak oluşturulması için insan tarafından okunabilir model açıklamasına ve makine tarafından okunabilir verilere sahip meta verileri içerebilir. Daha fazla ayrıntı için Meta veri ekleme bölümüne bakın.

Aşağıdaki şekillerde bir TensorFlow Lite modeli oluşturabilirsiniz:

  • Mevcut bir TensorFlow Lite modelini kullanın: Mevcut bir modeli seçmek için TensorFlow Lite Örneklerine bakın. Modeller meta veriler içerebilir veya içermeyebilir.

  • Bir TensorFlow Lite modeli oluşturun: Kendi özel veri kümenizle bir model oluşturmak için TensorFlow Lite Model Oluşturucuyu kullanın. Varsayılan olarak, tüm modeller meta veriler içerir.

  • TensorFlow modelini TensorFlow Lite modeline dönüştürme: Bir TensorFlow modelini TensorFlow Lite modeline dönüştürmek için TensorFlow Lite Converter'ı kullanın. Dönüştürme sırasında, doğrulukta minimum kayıpla veya hiç kayıp olmadan model boyutunu ve gecikmeyi azaltmak için niceleme gibi optimizasyonları uygulayabilirsiniz. Varsayılan olarak, tüm modeller meta veri içermez.

2. Çıkarımı Çalıştır

Çıkarım , giriş verilerine dayalı tahminler yapmak için cihazda bir TensorFlow Lite modeli yürütme sürecini ifade eder. Model tipine göre aşağıdaki şekillerde çıkarım çalıştırabilirsiniz:

Android ve iOS cihazlarda, donanım hızlandırmayı kullanarak performansı artırabilirsiniz. Her iki platformda da bir GPU Temsilcisi kullanabilirsiniz, Android'de NNAPI Temsilcisini (daha yeni cihazlar için) veya Hexagon Temsilcisini (eski cihazlarda) ve iOS'ta Core ML Temsilcisini kullanabilirsiniz . Yeni donanım hızlandırıcılara destek eklemek için kendi temsilcinizi tanımlayabilirsiniz .

Başlamak

Hedef cihazınıza bağlı olarak aşağıdaki kılavuzlara başvurabilirsiniz:

Teknik kısıtlamalar