SigmoidCrossEntropyWithLogits

दिए गए logits सिग्मॉइड क्रॉस एन्ट्रापी की गणना करता है।

असतत वर्गीकरण कार्यों में संभाव्यता त्रुटि को मापता है जिसमें प्रत्येक वर्ग स्वतंत्र है और परस्पर अनन्य नहीं है। उदाहरण के लिए, कोई मल्टीलेबल वर्गीकरण कर सकता है जहां एक तस्वीर में एक ही समय में एक हाथी और एक कुत्ता दोनों हो सकते हैं।

संक्षिप्तता के लिए, मान लीजिए x = logits , z = labels । छद्म कोड में लॉजिस्टिक हानि

 z * -log(sigmoid(x)) + (1 - z) * -log(1 - sigmoid(x))
  = z * -log(1 / (1 + exp(-x))) + (1 - z) * -log(exp(-x) / (1 + exp(-x)))
  = z * log(1 + exp(-x)) + (1 - z) * (-log(exp(-x)) + log(1 + exp(-x)))
  = z * log(1 + exp(-x)) + (1 - z) * (x + log(1 + exp(-x))
  = (1 - z) * x + log(1 + exp(-x))
  = x - x * z + log(1 + exp(-x))
 

x < 0 के लिए, exp(-x) में अतिप्रवाह से बचने के लिए, हम उपरोक्त

 x - x * z + log(1 + exp(-x))
  = log(exp(x)) - x * z + log(1 + exp(-x))
  = - x * z + log(1 + exp(x))
 

इसलिए, स्थिरता सुनिश्चित करने और अतिप्रवाह से बचने के लिए, कार्यान्वयन इस समकक्ष फॉर्मूलेशन

   max(x, 0) - x * z + log(1 + exp(-abs(x)))
 

लॉगिट और labels प्रकार और आकार समान होना चाहिए।