Sık Sorulan Sorular

Sorunuzun cevabını burada bulamazsanız lütfen konuyla ilgili ayrıntılı belgelerimize bakın veya bir GitHub sorunu bildirin.

Model Dönüşümü

TensorFlow'dan TensorFlow Lite'a dönüşüm için hangi formatlar desteklenir?

Desteklenen formatlar burada listelenmiştir

TensorFlow Lite'ta neden bazı işlemler uygulanmıyor?

TFLite'ı hafif tutmak için TFLite'da yalnızca belirli TF operatörleri ( izin verilenler listesinde listelenen) desteklenir.

Modelim neden dönüştürülmüyor?

TensorFlow Lite işlemlerinin sayısı TensorFlow'unkinden daha az olduğundan bazı modeller dönüştürme işlemi yapamayabilir. Bazı yaygın hatalar burada listelenmiştir.

Eksik işlemlerle veya kontrol akışı işlemleriyle ilgili olmayan dönüşüm sorunları için GitHub sorunlarımızı arayın veya yeni bir sorun gönderin.

Bir TensorFlow Lite modelinin orijinal TensorFlow modeliyle aynı şekilde davrandığını nasıl test edebilirim?

Test etmenin en iyi yolu, burada gösterildiği gibi aynı girişler (test verileri veya rastgele girişler) için TensorFlow ve TensorFlow Lite modellerinin çıkışlarını karşılaştırmaktır.

GraphDef protokol arabelleğinin giriş/çıkışlarını nasıl belirlerim?

Bir .pb dosyasındaki grafiği incelemenin en kolay yolu, makine öğrenimi modelleri için açık kaynaklı bir görüntüleyici olan Netron'u kullanmaktır.

Netron grafiği açamıyorsa Summary_graph aracını deneyebilirsiniz.

Summary_graph aracı bir hata verirse GraphDef'i TensorBoard ile görselleştirebilir ve grafikteki giriş ve çıkışları arayabilirsiniz. Bir .pb dosyasını görselleştirmek için aşağıdaki gibi import_pb_to_tensorboard.py komut dosyasını kullanın:

python import_pb_to_tensorboard.py --model_dir <model path> --log_dir <log dir path>

Bir .tflite dosyasını nasıl incelerim?

Netron, TensorFlow Lite modelini görselleştirmenin en kolay yoludur.

Netron, TensorFlow Lite modelinizi açamıyorsa depomuzdaki görselleştirme.py betiğini deneyebilirsiniz.

TF 2.5 veya sonraki bir sürümünü kullanıyorsanız

python -m tensorflow.lite.tools.visualize model.tflite visualized_model.html

Aksi takdirde bu betiği Bazel ile çalıştırabilirsiniz.

bazel run //tensorflow/lite/tools:visualize model.tflite visualized_model.html

Optimizasyon

Dönüştürülen TensorFlow Lite modelimin boyutunu nasıl küçültebilirim?

Modelin boyutunu azaltmak için TensorFlow Lite'a dönüştürme sırasında eğitim sonrası kuantizasyon kullanılabilir. Eğitim sonrası niceleme, ağırlıkları kayan noktadan 8 bit hassasiyete kadar niceler ve kayan nokta hesaplamaları gerçekleştirmek için çalışma zamanı sırasında bunları dekuantize eder. Ancak bunun bazı doğruluk etkileri olabileceğini unutmayın.

Modeli yeniden eğitmek bir seçenekse Niceleme duyarlı eğitimi düşünün. Ancak kuantizasyona duyarlı eğitimin yalnızca evrişimli sinir ağı mimarilerinin bir alt kümesi için mevcut olduğunu unutmayın.

Farklı optimizasyon yöntemlerini daha iyi anlamak için Model optimizasyonu konusuna bakın.

TensorFlow Lite performansını makine öğrenimi görevim için nasıl optimize edebilirim?

TensorFlow Lite performansını optimize etmeye yönelik üst düzey süreç şuna benzer:

  • Görev için doğru modele sahip olduğunuzdan emin olun. Görüntü sınıflandırması için TensorFlow Hub'a göz atın.
  • İş parçacığı sayısını azaltın. Birçok TensorFlow Lite operatörü çok iş parçacıklı çekirdekleri destekler. Bunu yapmak için C++ API'sinde SetNumThreads() kullanabilirsiniz. Ancak iş parçacıklarını artırmak, ortama bağlı olarak performans değişkenliğine neden olur.
  • Donanım Hızlandırıcılarını kullanın. TensorFlow Lite, delegeleri kullanan belirli donanımlar için model hızlandırmayı destekler. Hangi hızlandırıcıların desteklendiği ve bunların cihazdaki modelinizle nasıl kullanılacağı hakkında bilgi için Temsilciler kılavuzumuza bakın.
  • (Gelişmiş) Profil Modeli. Tensorflow Lite kıyaslama aracı, operatör başına istatistikleri gösterebilen yerleşik bir profil oluşturucuya sahiptir. Belirli bir platform için bir operatörün performansını nasıl optimize edebileceğinizi biliyorsanız özel bir operatör uygulayabilirsiniz.

Performansın nasıl optimize edileceğine ilişkin daha ayrıntılı bir tartışma için En İyi Uygulamalara göz atın.