जनगणना आय वर्गीकारक के लिए मॉडल कार्ड

मॉडल विवरण

अवलोकन

संस्करण

मालिकों

• मॉडल कार्ड टीम, model-cards@google.com

संदर्भ

• इंटरैक्टिव-2021-02-05T22_01_17.129037

विचार

बक्सों का इस्तेमाल करें

• यह डेटासेट जिस पर इस मॉडल को प्रशिक्षित किया गया था, मूल रूप से एमएल एल्गोरिदम के अनुभवजन्य विश्लेषण के संचालन में मशीन लर्निंग समुदाय का समर्थन करने के लिए बनाया गया था। वयस्क डेटा सेट का उपयोग निष्पक्षता से संबंधित अध्ययनों में किया जा सकता है जो लोगों की वार्षिक आय के आधार पर लिंग और नस्ल में असमानताओं की तुलना करते हैं।

सीमाओं

• यह विभिन्न संवेदनशील वर्गों में एक वर्ग-असंतुलित डेटासेट है। पुरुष-से-महिला उदाहरणों का अनुपात लगभग 2:1 है और संयुक्त रूप से हर दूसरी जाति की तुलना में "सफेद" विशेषता वाले कहीं अधिक उदाहरण हैं। इसके अलावा, $50,000 या उससे कम कमाने वालों का $50,000 या अधिक कमाने वालों का अनुपात 3:1 से थोड़ा अधिक है। आय स्तरों में असंतुलन के कारण, हम देख सकते हैं कि हमारी वास्तविक नकारात्मक दर काफी अधिक है, जबकि हमारी वास्तविक सकारात्मक दर काफी कम है। जब हम केवल "महिला" उप-समूह को देखते हैं, तो यह और भी अधिक हद तक सही होता है, क्योंकि $50,000+ कमाने वाले समूह में और भी कम महिला उदाहरण हैं, जिससे हमारा मॉडल इन उदाहरणों से आगे निकल जाता है। इससे बचने के लिए, हम भविष्य के पुनरावृत्तियों (जैसे अंडरसैंपलिंग, हाइपरपैरामीटर ट्यूनिंग, आदि) में विभिन्न उपचारात्मक रणनीतियों का प्रयास कर सकते हैं, लेकिन हम सभी निष्पक्षता मुद्दों को ठीक करने में सक्षम नहीं हो सकते हैं।

नैतिक प्रतिपूर्ति

• जोखिम: हम इस दृष्टिकोण को व्यक्त करने का जोखिम उठाते हैं कि इस डेटासेट में केवल वही विशेषताएँ हैं जो किसी की आय का अनुमान लगाती हैं, भले ही हम जानते हैं कि ऐसा नहीं है।
  शमन रणनीति: जैसा कि उल्लेख किया गया है, डेटासेट में वर्ग असंतुलन को दूर करने के लिए कुछ हस्तक्षेप करने की आवश्यकता हो सकती है।

ट्रेन सेट

इवल सेट

मात्रात्मक विश्लेषण