Stokastik Çift Koordinat Yükselişi (SDCA) optimize edicinin dağıtılmış versiyonu
L1 + L2 düzenlileştirmeli doğrusal modeller. Küresel optimizasyon hedefi oldukça dışbükey olduğundan, optimize edici her adımda ikili hedefi optimize eder. Optimize edici, her güncellemeyi tek seferde bir örnek olarak uygular. Örnekler eşit şekilde örneklenir ve optimize edici öğrenme oranından bağımsızdır ve doğrusal yakınsama oranına sahiptir.
[Yakınsal Stokastik İkili Koordinat Yükselişi](http://arxiv.org/pdf/1211.2717v1.pdf).
Shai Shalev-Shwartz, Tong Zhang. 2012
$$Loss Objective = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|$$
[Dağıtılmış Primal-İkili Optimizasyonda Toplama ve Ortalama Alma](http://arxiv.org/abs/1502.03508).
Chenxin Ma, Virginia Smith, Martin Jaggi, Michael I. Jordan, Peter Richtarik, Martin Takac. 2015
[Uyarlanabilir Olasılıklarla Stokastik İkili Koordinat Yükselişi](https://arxiv.org/abs/1502.08053).
Dominik Csiba, Zheng Qu, Peter Richtarik. 2015
İç İçe Sınıflar
| sınıf | SdcaOptimizer.Seçenekler | SdcaOptimizer için isteğe bağlı özellikler | |
Sabitler
| Sicim | OP_NAME | Bu operasyonun TensorFlow çekirdek motoru tarafından bilinen adı |
Genel Yöntemler
| statik SdcaOptimizer.Options | uyarlanabilir (Boolean uyarlanabilir) |
| statik SdcaOptimizer | create ( Kapsam kapsamı, Yinelenebilir< İşlenen < TInt64 >> sparseExampleIndices, Yinelenebilir< İşlenen < TInt64 >> sparseFeatureIndices, Yinelenebilir< İşlenen < TFloat32 >> sparseFeatureValues, Yinelenebilir< İşlenen < TFloat32 >> yoğunFeatures, İşlenen < TFloat32 > exampleWeights, İşlenen < TFloat32 > exampleLabels, Yinelenebilir< İşlenen < TInt64 >> sparseIndices, Yinelenebilir< İşlenen < TFloat32 >> sparseWeights, Yinelenebilir< İşlenen < TFloat32 >> yoğunWeights, İşlenen < TFloat32 > exampleStateData, String lostType, Float l1, Float l2, Long numLossPartitions, Long numInnerIterations , Seçenekler... seçenekler) Yeni bir SdcaOptimizer işlemini saran bir sınıf oluşturmaya yönelik fabrika yöntemi. |
| Liste< Çıkış < TFloat32 >> | outDeltaDenseWeights () değerlerin yoğun bir özellik grubuyla ilişkili delta ağırlıkları olduğu vektörlerin listesi. |
| Liste< Çıkış < TFloat32 >> | outDeltaSparseWeights () her değerin seyrek bir özellik grubuyla ilişkili delta ağırlıkları olduğu vektörlerin listesi. |
| Çıkış < TFloat32 > | outExampleStateData () güncellenmiş örnek durum verilerini içeren vektörlerin listesi. |
Kalıtsal Yöntemler
Sabitler
genel statik son Dize OP_NAME
Bu operasyonun TensorFlow çekirdek motoru tarafından bilinen adı
Genel Yöntemler
public static SdcaOptimizer.Options uyarlanabilir (Boolean uyarlanabilir)
Parametreler
| uyarlanabilir | İç döngü için Uyarlanabilir SDCA'nın kullanılıp kullanılmayacağı. |
|---|
public static SdcaOptimizer create ( Kapsam kapsamı, Yinelenebilir< İşlenen < TInt64 >> sparseExampleIndices, Yinelenebilir< İşlenen < TInt64 >> sparseFeatureIndices, Yinelenebilir< İşlenen < TFloat32 >> sparseFeatureValues, Yinelenebilir< İşlenen < TFloat32 >> yoğunFeatures, İşlenen < TFloat32 > exampleWeights, İşlenen < TFloat32 > exampleLabels, Yinelenebilir< İşlenen < TInt64 >> sparseIndices, Yinelenebilir< İşlenen < TFloat32 >> sparseWeights, Yinelenebilir< İşlenen < TFloat32 >> yoğun Ağırlıklar, İşlenen < TFloat32 > exampleStateData, String lostType, Float l1, Float l2, Long numLossPartitions , Uzun numInnerIterations, Seçenekler... seçenekler)
Yeni bir SdcaOptimizer işlemini saran bir sınıf oluşturmaya yönelik fabrika yöntemi.
Parametreler
| kapsam | mevcut kapsam |
|---|---|
| seyrekÖrnekEndeksler | örnek indeksler içeren vektörlerin listesi. |
| seyrek Özellik Endeksleri | özellik indekslerini içeren vektörlerin listesi. |
| seyrekÖzellikDeğerleri | her özellik grubuyla ilişkili özellik değerini içeren vektörlerin listesi. |
| yoğunÖzellikler | yoğun özellik değerlerini içeren matrislerin listesi. |
| örnekAğırlıklar | her örnekle ilişkili ağırlığı içeren bir vektör. |
| örnekEtiketler | her örnekle ilişkili etiketi/hedefi içeren bir vektör. |
| seyrek Endeksler | her değerin seyrek_ağırlıklarda karşılık gelen ağırlıklara sahip endeksler olduğu bir vektör listesi. Bu alan yoğun yaklaşım nedeniyle ihmal edilebilir. |
| seyrek Ağırlıklar | her değerin seyrek bir özellik grubuyla ilişkili ağırlık olduğu vektörlerin listesi. |
| yoğunAğırlıklar | değerlerin yoğun bir özellik grubuyla ilişkili ağırlıklar olduğu vektörlerin listesi. |
| örnekDurumVerileri | örnek durum verilerini içeren vektörlerin listesi. |
| kayıp türü | Primal kaybın türü. Şu anda SdcaSolver lojistik, kare ve menteşe kayıplarını desteklemektedir. |
| l1 | Simetrik l1 düzenleme gücü. |
| l2 | Simetrik l2 düzenleme gücü. |
| numLossPartitions | Genel kayıp fonksiyonunun bölüm sayısı. |
| numInnerIterations | Mini parti başına yineleme sayısı. |
| seçenekler | isteğe bağlı nitelik değerlerini taşır |
İadeler
- SdcaOptimizer'ın yeni bir örneği
genel Liste< Çıktı < TFloat32 >> outDeltaDenseWeights ()
değerlerin yoğun bir özellik grubuyla ilişkili delta ağırlıkları olduğu vektörlerin listesi.
genel Liste< Çıktı < TFloat32 >> outDeltaSparseWeights ()
her değerin seyrek bir özellik grubuyla ilişkili delta ağırlıkları olduğu vektörlerin listesi.