अमेज़ॅन स्क्रेप्स सीक्रेट एआई रिक्रूटिंग इंजन जिसने महिलाओं के खिलाफ मामले दिखाए

अमेज़ॅन के एआई रिसर्च वैज्ञानिकों ने अपने भर्ती मशीन सीखने के इंजन पर महिलाओं के खिलाफ पूर्वाग्रह को उजागर किया

11 अक्टूबर, 2018 को रॉबर्टो इरियनडो द्वारा

साभार: द वर्ज |

प्रतिष्ठित प्रोफेसर स्टुअर्ट इवांस ने कार्नेगी मेलन विश्वविद्यालय में एक व्याख्यान के दौरान उल्लेख किया कि कैसे मशीन लर्निंग एल्गोरिदम में पक्षपात हमारे समाज को नकारात्मक रूप से प्रभावित कर सकते हैं, चाहे ये अनजाने में पर्यवेक्षण सीखने के माध्यम से जोड़े गए हों या अन्य प्रकार के मशीन सीखने पर ऑडिट से चूक गए हों। इस मामले में अमेज़ॅन की एआई अनुसंधान टीम 2014 से एक भर्ती मशीन-लर्निंग आधारित इंजन का निर्माण कर रही थी, जिसने शीर्ष प्रतिभा की खोज को बुद्धिमानी से स्वचालित करने के उद्देश्य से आवेदक के रिज्यूमे की समीक्षा करने का ध्यान रखा।

टीम के एक एआई शोध वैज्ञानिक का हवाला देते हुए: "हर कोई इस पवित्र कंघी बनानेवाले की रेती चाहता था," लोगों में से एक ने कहा। "वे सचमुच चाहते थे कि यह एक इंजन हो जहां मैं आपको 100 रिज्यूमे देने जा रहा हूं, यह शीर्ष पांच को बाहर कर देगा, और हम उन्हें किराए पर लेंगे।" हालांकि, 2015 तक, अमेज़ॅन को एहसास हुआ कि इसकी नई प्रणाली रेटिंग उम्मीदवारों नहीं थी। सॉफ्टवेयर डेवलपर नौकरियों और अन्य तकनीकी पदों के लिए लिंग-तटस्थ तरीके से।

अमेजन की भर्ती मशीन लर्निंग मॉडल को 10 साल की अवधि में कंपनी को प्रस्तुत रिज्यूमे में कुछ मापदंडों का विश्लेषण करके आवेदकों को प्रशिक्षित करने के लिए प्रशिक्षित किया गया था। मशीन लर्निंग मॉडल के आधार पर, अधिकांश आदर्श उम्मीदवारों को पुरुषों के रूप में उत्पन्न किया गया था, जो कि तकनीकी उद्योग में पुरुष वर्चस्व का प्रतिबिंब है - इसलिए मॉडल को खिलाया गया डेटा लैंगिक समानता के लिए निष्पक्ष नहीं था, लेकिन औ गर्भनिरोधक।

अमेज़ॅन की शोध टीम ने कहा है कि उन्होंने केंद्रीय एल्गोरिदम को संशोधित किया और मशीन लर्निंग मॉडल को इन लिंग पूर्वाग्रहों के लिए तटस्थ बना दिया, हालांकि यह गारंटी नहीं थी कि इंजन उम्मीदवारों को छांटने के अन्य तरीके (यानी आवेदक के रिज्यूमे में पुरुष प्रमुख कीवर्ड) को डिवाइस नहीं करेगा। भेदभावपूर्ण साबित हो।

नियोक्ताओं ने लंबे समय से प्रौद्योगिकी का उपयोग करने के लिए भर्ती प्रक्रिया को चौड़ा करने और मानव भर्तीकर्ताओं की व्यक्तिपरक राय पर निर्भरता कम करने का सपना देखा है। फिर भी, एमएल अनुसंधान वैज्ञानिक जैसे निहार शाह, जिनका अनुसंधान सांख्यिकीय सीखने के सिद्धांत और खेल के सिद्धांत के क्षेत्रों में है, कार्नेगी मेलन विश्वविद्यालय में मशीन लर्निंग विभाग के लोगों से सीखने पर ध्यान केंद्रित करने के साथ कहते हैं कि अभी बहुत काम करना बाकी है।

"यह सुनिश्चित करने के लिए कि एल्गोरिथ्म उचित है, यह सुनिश्चित करने के लिए कि एल्गोरिथ्म वास्तव में व्याख्या योग्य और व्याख्यात्मक है - यह अभी भी काफी दूर है," प्रोफेसर शाह ने उल्लेख किया।

क्रेडिट: हान हुआंग | डेटा विज़ुअलाइज़ेशन डेवलपर | रायटर ग्राफिक्स

अमेजन के भर्ती इंजन से मशीन लर्निंग मॉडल पर एल्गोरिदम के संशोधन के बाद रिज्यूमे पर मर्दाना प्रमुख कीवर्ड निर्णायक थे। अनुसंधान समूह ने 500 मॉडल बनाए जो विशिष्ट कार्य और स्थानों पर केंद्रित थे। उन्होंने प्रत्येक को 50,000 से अधिक मापदंडों को पहचानना सिखाया जो आवेदकों के रिज्यूमे पर दिखाई देते हैं। एल्गोरिदम ने अंततः उन कौशल के प्रति कम प्रतिशत को महत्व देना सीखा जो सभी आवेदकों, यानी प्रोग्रामिंग भाषाओं, प्लेटफ़ॉर्मों आदि में सामान्य थे।

अंतिम नोट:

हमारे समाज के लिए यह जरूरी है कि हम मशीन लर्निंग की तरफ ध्यान केंद्रित करें, लेकिन बायसी पर विशेष ध्यान दें - जो कभी-कभी अनजाने में इन कार्यक्रमों में जुड़ जाते हैं। शुक्र है कि अमेज़ॅन की एआई अनुसंधान टीम इस तरह के पूर्वाग्रहों को पहचानने और उस पर कार्रवाई करने में सक्षम थी। फिर भी, बयानबाजी करते हुए - क्या होगा अगर अंत में, इन पूर्वाग्रहों को मान्यता नहीं दी गई, बाद में कंपनी में भर्ती होने वाली प्रतिभाओं के लिए सामान्य दिन की ओर इस तरह के पक्षपाती एमएल निर्णय इंजन को जोड़ना?

प्रभाव, परिणाम के साथ अत्याचार होता।

मैं हमेशा प्रतिक्रिया के लिए खुला रहता हूं, कृपया टिप्पणियों में साझा करें यदि आपको ऐसा कुछ दिखाई देता है जिसे फिर से देखने की आवश्यकता हो सकती है। पढ़ने के लिए धन्यवाद!

अस्वीकरण: इस लेख में व्यक्त किए गए विचार लेखक के हैं और कार्नेगी मेलन विश्वविद्यालय के विचारों का प्रतिनिधित्व नहीं करते हैं, न ही अन्य कंपनियां (प्रत्यक्ष या अप्रत्यक्ष रूप से) लेखक (नों) से जुड़ी हैं। इन लेखन का उद्देश्य अंतिम उत्पाद नहीं है, फिर भी चर्चा और सुधार के लिए उत्प्रेरक होने के साथ-साथ वर्तमान सोच का प्रतिबिंब है।

आप मुझे यहां पा सकते हैं: मेरी निजी वेबसाइट, मध्यम, इंस्टाग्राम, ट्विटर, फेसबुक, लिंक्डइन या मेरी वेब डिज़ाइन कंपनी के माध्यम से।

संदर्भ: