TFF işbirlikçilerinin 8/11/2022 toplantısından notlar

  • Önerilen gündem konusu: Jeremy Lewi, oluşturulabilecek yeni bileşenler için TFF tabanlı fikirlerini sunacak
  • [JL] Basit birleşik analiz senaryolarına odaklanmak, basit beslemeli ortalama almak için TFF'yi Google sayfalarına bağlamak. Kubernetes'te çalışmak, sayfalardan okumak.
  • [JL] Bir zorluk, şu anda çalışanların giriş noktalarına sahip olmaları gerektiğidir.
    • Bu genellikle böyle değildir, bu nedenle bağlantının ters yönde kurulmasını sağlayan bir taşıma katmanına ihtiyaç duyar, işçiler bir sunucuyu çağırır.
    • Böyle bir bileşen şu anda ekosistemde değil.
  • [BC] Ayrıca buna ihtiyaç olduğunu gördü. Şu anda TFF'yi müşterilerin veri yüklediği sınırlı bir şekilde şirket içi bulutta kullanıyor. Ancak, çoklu veri merkezi ayarına geçmek için yukarıda açıklanan JL gibi bir şeye ihtiyaç duyacaktır.
  • [JL] Mevcut çalışma zamanının yerini alması durumunda, çalışanların bir sunucudaki kuyruktan iş öğelerini "çekmesine" olanak sağlayacak bir katman düşünmek.
  • [KO] Bunu "değiştirme" açısından düşünmek zorunda değilsiniz - hesaplama geliştirmeyi ve çalışma zamanının %98'ini aynı tutabilir ve bunun yerine önerdiğiniz şekilde çalışan yeni bileşeni değiştirebilirsiniz. yürütücü isteklerini yukarıdan aşağıya iletmek için bir mekanizma olarak uzak yürütücüyü devre dışı bırakın.
  • [BC] Zaman uyumsuz olması mı gerekir yoksa mevcut eşitleme paradigması içinde mi çalışır?
  • [BC] Ayrıca, mevcut platformlardan bazıları “görev sırası” yaklaşımını kullanıyor, bu yüzden bu yerleşik bir fikir gibi görünüyor.
  • [BC] Zaman aşımlarını tanıtmak, belki de aradaki boşluğu kapatmaya yardımcı olabilir (yavaş çalışanlar veya geride kalanlarla başa çıkmak için).
  • [KO] Senkronizasyon ve async ile ilgili olarak, TFF'de “kohort” kavramını gerektiren toplu soyutlamalarımız var. Bu nedenle, bazı istemcilerin birlikte bir "kohort"a katılmaya karar verdiği bir zaman olması gerekir ve sunucunun bunun gerçekleşmesinde bir rol oynaması gerekir. Bu yapıldığı sürece, bireysel yürütücü isteklerinin istemcilere iletilme şekli değişebilir. Yukarıdan aşağıya çağıran uzaktan yürütücü, bu konuda gitmenin bir yoludur, ancak tek yol değildir; yukarıda önerilene benzer bir iş kalemi tabanlı iletişim modeli de bu yapıya kesinlikle uyabilir. Birinin taslak hazırlaması için küçük bir-iki çağrı cihazı önerisi için malzeme gibi mi görünüyor?
  • [JL] Hepimizin üzerinde tekrarlayacağı yeni bir bileşen için bir teklif yazmak için gönüllü olmak.
  • [JL] BTW, ilgili işlevselliğe sahip başka bitişik depolar var mı?
  • [KO] Bilginize, https://github.com/google/federated-compute ayrıca Google'dan, ancak bu çoğunlukla mobil bir senaryoya odaklanıyor, bu noktada TFF'ye bağlı değil ve sahip olduğunuz işlevselliği içermiyor burada açıklıyorum, bu yüzden bu grupta küçük bir öneriyi denemek ve formüle etmek kesinlikle mantıklı.
  • [BD] Ele alınması gereken bazı sorular: sonuçları önbelleğe alma, ne zaman toplanmalı.
  • [Hao] Eşzamansız değilse belki bu senaryoda önbelleğe almaya gerek yoktur
  • [KO] Basit bir MapReduce modeline uyan senaryolar için TFF'de biraz desteğimiz var, bkz. https://www.tensorflow.org/federated/api _docs/python/tff/backends/mapreduce. Bu kitaplık, TFF hesaplamalarını daha basit bir platformda yürütebileceğiniz MapReduce benzeri bir forma çevirmenizi sağlar. Ancak, ifade gücünde bir miktar kayıp vardır ve daha önce tartışılan ve sevrr ile istemciler arasında çok sayıda ileri geri iletişim gerektiren bazı fikirler bu çerçevede ifade edilemez. Ayrıca, uzun süreli bağlantılar sağlayabilen iyi hazırlanmış müşteri gruplarıyla (silolar) uğraştığımız için, çapraz silo ayarı bu tür fikirleri benzersiz bir şekilde mümkün kılar.
  • [Hao] Toplu operasyonlar ne olacak, allreduce - bunlar destekleniyor mu yoksa uyumlu mu?
  • [KO] Şu anda değil. Allreduce, bir şekilde sınırlı bir kullanıma sahip olacaktır, çünkü tek bir beslemeli ortalama senaryoda yararlanılabilse de, işlem turları arasında sunucuda hiçbir iş olmadığını varsayar. Daha genel durumlarda işe yaramaz. Ancak, bunun iki yarısına sahip olmak - verimli yayın modu ve verimli toplama modu, belki donanım hızlandırması ile bile, TFF'de yararlanabileceğimiz bir şey olacaktır.
  • [KO] Görünüşe göre JL yeni bir bileşen için bir teklif taslağı hazırlamaya hazır ve diğerlerinin de içinde ne olması gerektiği konusunda fikirleri var - hadi işbirliği yapalım (odadaki herkesten +1). 2 hafta içinde, muhtemelen tartışılacak bir taslakla yeniden bir araya gelmek.