चार साल पहले एक अमेरिकी विश्वविद्यालय से स्नातक होने के बाद से, केविन कारबॉलो ने केवल एक त्वरित, स्वचालित अस्वीकृति ईमेल प्राप्त करने के लिए नौकरी के लिए आवेदन करने की संख्या खो दी है – कभी-कभी आवेदन करने के कुछ घंटे बाद।

अन्य के जैसे नौकरी तलाशने वाले दुनिया भर में, Carballo के अनुप्रयोगों की जांच एल्गोरिदम द्वारा तेजी से की जा रही है, जो आकर्षक आवेदकों को हायरिंग मैनेजरों के लिए स्वचालित रूप से फ़्लैग करने के लिए बनाए गए हैं।

“इन दिनों किसी प्रकार की स्वचालित प्रणाली द्वारा विश्लेषण किए बिना नौकरी के लिए आवेदन करने का कोई तरीका नहीं है,” 27 वर्षीय कारबॉलो ने कहा, जो लातीनी है और विश्वविद्यालय जाने वाला अपने परिवार का पहला सदस्य है।

लॉ स्कूल में आवेदन करने से पहले एक लॉ फर्म में कार्य अनुभव प्राप्त करने की आशा रखने वाले कारबॉलो ने कहा, “ऐसा लगता है कि आंखों पर पट्टी बांधकर शूटिंग करना – मेरे पास अपनी पूरी कहानी बताने का कोई तरीका नहीं है जब कोई मशीन मेरा आकलन कर रही हो।” फोन द्वारा थॉमसन रॉयटर्स फाउंडेशन।

से कृत्रिम होशियारी (एआई) कार्यक्रम जो एक वीडियो साक्षात्कार के दौरान एक आवेदक के चेहरे के भाव का आकलन करते हैं, नौकरी के प्रदर्शन की भविष्यवाणी करने वाले स्क्रीनिंग प्लेटफॉर्म को फिर से शुरू करने के लिए, एआई भर्ती उद्योग का मूल्य $ 500 मिलियन से अधिक है।

“वे बढ़ रहे हैं, वे तेज़ हैं, वे अपेक्षाकृत सस्ते हैं – वे हर जगह हैं,” ब्रुकिंग्स इंस्टीट्यूट के एक साथी एलेक्स एंगर ने कहा, जो हायरिंग में एआई का अध्ययन करता है।

“लेकिन इस बिंदु पर इन उपकरणों को इस तरह से बनाने के लिए बहुत कम प्रोत्साहन है जो पक्षपाती नहीं है,” उन्होंने कहा, पूर्वाग्रह के लिए एक प्रणाली का पूरी तरह से परीक्षण करने में शामिल लागत और समय नियमों की आवश्यकता के बिना निषेधात्मक होने की संभावना थी।

Carballo के लिए, नस्लीय पूर्वाग्रह उनकी सर्वोच्च चिंता है।

“मुझे चिंता है कि ये एल्गोरिदम मेरे जैसे लोगों द्वारा डिज़ाइन नहीं किए गए हैं, और वे मेरे जैसे लोगों को चुनने के लिए डिज़ाइन नहीं किए गए हैं,” उन्होंने कहा, उन्होंने कहा कि उन्होंने विभिन्न एआई आकलनों के ढेर सारे वीडियो एनालिटिक्स से लेकर कस्टम लॉजिक गेम्स तक किए हैं।

दुनिया भर के सांसदों के लिए भेदभाव का जोखिम भी एक केंद्रीय मुद्दा है क्योंकि वे एआई प्रौद्योगिकी के उपयोग को विनियमित करने के तरीके का वजन करते हैं, खासकर श्रम बाजार में।

जबकि यूरोपीय संघ भर्ती में एआई के उपयोग पर नियम लागू करने के लिए तैयार है, अमेरिकी सांसद एल्गोरिथम पूर्वाग्रह को दूर करने के लिए संघीय कानूनों पर विचार कर रहे हैं। पिछले साल, न्यूयॉर्क शहर में विधायकों ने विशेष रूप से एआई को काम पर रखने के लिए एक कानून का प्रस्ताव दिया था।

“हम एक विभक्ति बिंदु पर आ रहे हैं,” एंगर ने कहा।

‘यह एक खदान है’

मानव संसाधन (एचआर) उद्योग समूह मर्सर के सबसे हालिया सर्वेक्षण के अनुसार, संयुक्त राज्य में 55% से अधिक एचआर प्रबंधक भविष्य कहनेवाला एल्गोरिदम का उपयोग करते हैं ताकि उन्हें भर्ती विकल्प बनाने में मदद मिल सके।

एआई को हायरिंग पाइपलाइन के हर चरण में पेश किया जा रहा है, नौकरी के विज्ञापनों से जो संभावित आवेदक अपने आवेदनों और रिज्यूमे के विश्लेषण और मूल्यांकन के लिए देखते हैं।

COVID-19 महामारी ने ऐसे उपकरणों को अपनाने में तेजी लाई है। HireVue, एक AI हायरिंग फर्म, जो वीडियो इंटरव्यू में नौकरी के आवेदकों द्वारा दिए गए उत्तरों का विश्लेषण और स्कोर करने के लिए टूल बनाती है, ने पिछले साल की तुलना में इस साल उपयोग में 46% की वृद्धि दर्ज की।

कंप्यूटर वैज्ञानिक मनीष राघवन ने कहा कि एआई में वृद्धि भर्ती प्रक्रिया में पूर्वाग्रह को खत्म करने का एक वास्तविक अवसर प्रदान कर सकती है। कॉर्नेल विश्वविद्यालय जो एल्गोरिदम को काम पर रखने में पूर्वाग्रह का अध्ययन करता है।

“कोई भी आपको यह बताने वाला नहीं है कि पारंपरिक भर्ती समान थी,” उन्होंने कहा। “और एआई सिस्टम के साथ हम उनका परीक्षण इस तरह से कर सकते हैं कि हम कभी भी लोगों के अपने पूर्वाग्रहों का परीक्षण या ऑडिट नहीं कर सकते।”

HireVue के मुख्य कार्यकारी अधिकारी केविन पार्कर ने कहा कि सभी उम्मीदवारों को एक ही साक्षात्कार के अधीन करना, एक ही एल्गोरिथ्म द्वारा आंका जाता है, जो लोगों की व्यक्तिपरकता और पूर्वाग्रह को समाप्त करता है।

“हम माप सकते हैं कि पुरुष और महिलाएं कैसे स्कोर करते हैं, और तुलना कर सकते हैं कि गोरे उम्मीदवारों के खिलाफ रंग के लोग कैसे स्कोर करते हैं,” उन्होंने कहा। “हम वास्तव में किसी भी चीज को खत्म करने के लिए एल्गोरिदम को ठीक करने की कोशिश करते हैं जो प्रतिकूल प्रभाव पैदा कर सकता है, और बहुत करीब समानता में आ सकता है।”

लेकिन समस्या, राघवन ने कहा, यह है कि जब आप मशीन लर्निंग एल्गोरिदम बनाते हैं, तो पूर्वाग्रह कई तरह से उसमें घुस सकता है, जिसका पता लगाना मुश्किल होता है।

क्रोध ने उस दृश्य को प्रतिध्वनित किया।

उन्होंने कहा, “प्राकृतिक भाषा प्रसंस्करण प्रणालियों को सफेद नामों को अधिक योग्य के रूप में जोड़ने के लिए दिखाया गया है। फिर से शुरू स्क्रीनिंग सिस्टम को उन सभी आवेदकों को बाहर निकालने के लिए दिखाया गया है जो महिला कॉलेज गए थे।”

“यह एक खदान है,” उन्होंने कहा।

राघवन ने कहा कि कारबालो जैसे नौकरी चाहने वालों के लिए – जो जातीय अल्पसंख्यकों से संबंधित हैं और जिनकी पृष्ठभूमि वंचित है, स्वचालित उपकरण आसानी से भेदभाव के पैटर्न को सुदृढ़ कर सकते हैं।

2017 में, अमेज़ॅन ने एआई रेज़्यूमे स्क्रिनर का उपयोग करना बंद कर दिया, क्योंकि इसे दंडित रिज्यूमे की खोज के बाद “महिला” शब्द शामिल था, स्वचालित रूप से सभी महिला कॉलेजों के स्नातकों को डाउनग्रेड कर रहा था।

क्योंकि आवेदकों के पास अक्सर यह समझने का कोई तरीका नहीं होता है कि उन्हें कैसे स्कोर किया गया, वे सोच रहे हैं कि क्या पूर्वाग्रह में कमी आई है, कारबॉलो ने कहा।

“मैं पहली पीढ़ी का कॉलेज छात्र हूं, मैं लातीनी हूं, और मैं एक शीर्ष विश्वविद्यालय में नहीं गया – और हर बार जब मुझे अस्वीकृति मिलती है, तो मुझे आश्चर्य होता है कि क्या सिस्टम को मेरे जैसे किसी को बाहर निकालने के लिए डिज़ाइन किया गया था।”

ऑडिट, रेगुलेट या बैन?

राघवन ने अपने स्वयं के शोध का हवाला देते हुए कहा कि उद्योग पक्षपात से लड़ने के लिए उत्सुक है, यह दर्शाता है कि 15 सबसे बड़ी फर्मों में से 12 ने भेदभाव से निपटने के लिए कुछ प्रयासों की घोषणा की है।

लेकिन एंगर ने कहा कि वर्तमान में कंपनियों के लिए पूर्वाग्रह का पता लगाने और उन्हें जड़ से खत्म करने के लिए महत्वपूर्ण संसाधनों का निवेश करने के लिए बहुत कम प्रोत्साहन था, क्योंकि नियामक अभी तक टूट नहीं रहे हैं।

हालाँकि, यह बदलना शुरू हो सकता है, क्योंकि नीति निर्माता उद्योग पर एक नज़र डालना शुरू करते हैं।

यूरोपीय संसद द्वारा विचार किए जाने वाले नियामक प्रस्तावों में एआई को “उच्च-जोखिम” के रूप में नियुक्त किया जाएगा, जिसका अर्थ है कि ऐसी प्रणालियों को बेचने वाली किसी भी कंपनी को सार्वजनिक डेटा-बेस में शामिल करना होगा।

डिजिटल राइट्स ग्रुप एक्सेस नाउ के एक विश्लेषक डैनियल लेउफ़र के अनुसार, यह यूरोपीय संघ में इस तरह के उपकरण बेचने वाली फर्मों पर आवश्यकताओं को भी लागू करेगा, जैसे कि डेटासेट “प्रासंगिक, प्रतिनिधि, त्रुटियों से मुक्त और पूर्ण” हैं।

लेउफ़र ने कहा कि मसौदा नियम बहुत दूर नहीं जाते हैं, भर्ती में कुछ एआई उपकरणों पर पूर्ण प्रतिबंध लगाने का आह्वान करते हैं, जिसमें कोई भी बायोमेट्रिक जानकारी जैसे कि चेहरे की गति या आवाज की टोन का उपयोग करना शामिल है।

“मेरी नाक की लंबाई; मैं कैसे बोलता हूं, जिस तरह से मैं अपना मुंह चलाता हूं; हमें लोगों को इस तरह के इनपुट से किसी के काम के प्रदर्शन के बारे में अनुमान लगाने की अनुमति नहीं देनी चाहिए,” उन्होंने कहा।

न्यूयॉर्क शहर में, नगर परिषद एक ऐसे कानून पर विचार कर रही है जो एआई हायरिंग उद्योग को विनियमित करेगा, और कंपनियों को पूर्वाग्रह के लिए अपने स्वयं के ऑडिट करने के लिए मजबूर करेगा, लेकिन आलोचकों को डर है कि यह भेदभाव पर लगाम लगाने के लिए पर्याप्त नहीं होगा।

सर्विलांस टेक्नोलॉजी ओवरसाइट प्रोजेक्ट (STOP) के कार्यकारी निदेशक अल्बर्ट फॉक्स काह्न ने कहा, “एक त्रुटिपूर्ण एल्गोरिथ्म सैकड़ों लाखों लोगों को प्रभावित कर सकता है, जो आगे की पूर्वाग्रह जांच को लंबित रखने में AI पर रोक चाहता है।

STOP और 11 अन्य डिजिटल और नागरिक अधिकार समूहों ने पिछले साल के अंत में न्यूयॉर्क सिटी काउंसिल को एक पत्र भेजा, जिसमें मुकदमा दायर करने के लिए भेदभाव करने वाले आवेदकों को अनुमति देने सहित मजबूत सुरक्षा के लिए कहा गया था।

कान ने कहा, “जब तक हम एआई पूर्वाग्रह और भेदभाव को रोकने के लिए प्रभावी नियामक संरचनाओं के साथ आने में सक्षम नहीं होते हैं, तब तक हमें विराम देना होगा।”

अप्रैल में, पिछले एक साल में कई अल्पकालिक अस्थायी नौकरियों में काम करने के बाद, Carballo को आखिरकार एक कानूनी फर्म में पूर्णकालिक नौकरी मिल गई। हायरिंग मैनेजर ने एआई स्क्रिनर के उपयोग के बिना उसका साक्षात्कार लिया।

“मुझे लगता है कि इससे फर्क पड़ा – मैं सिर्फ एक खुरदरे पड़ोस का लड़का नहीं था, जिसका स्पेनिश उपनाम था,” उन्होंने कहा। “मैं एक छाप बनाने में सक्षम था।”

(एवी आशेर-शापिरो @AASchapiro द्वारा रिपोर्टिंग; हेलेन पॉपर द्वारा संपादन। कृपया थॉमसन रॉयटर्स की धर्मार्थ शाखा, थॉमसन रॉयटर्स फाउंडेशन को श्रेय दें, जो दुनिया भर में उन लोगों के जीवन को कवर करती है जो स्वतंत्र रूप से या निष्पक्ष रूप से जीने के लिए संघर्ष करते हैं। http:/ पर जाएँ। /news.trust.org)