ऐ और मशीन लर्निंग एल्गोरिदम डेटा में रुझानों का निरीक्षण करते हैं, उनकी व्याख्या करते हैं और पैटर्न पहचान के माध्यम से संघ बनाते हैं और फिर जटिल समस्याओं को हल करने के लिए स्थापित पैटर्न का उपयोग करते हैं। एआई मानव डिजाइन टीमों का एक उपोत्पाद है, जो स्वाभाविक रूप से इस पर अपने व्यक्तिगत पूर्वाग्रहों को छापते हैं।
“हालांकि मैं एक मनोवैज्ञानिक नहीं हूं, फिर भी मैंने अपने जीवनकाल में पर्याप्त पूर्वाग्रह देखा है और यह कैसे सॉफ्टवेयर प्रौद्योगिकी उद्योग में समस्याएं पैदा कर सकता है। अचेतन पूर्वाग्रह, पुष्टिकरण पूर्वाग्रह, आत्मीयता पूर्वाग्रह, स्वयं सेवा पूर्वाग्रह कुछ सामान्य हैं जो मैं अपने उद्योग से संबंधित हूं। ये पूर्वाग्रह एआई एल्गोरिदम, डेटा और विकसित किए जा रहे एआई समाधान के इरादे में फ़ीड करते हैं,” कहते हैं राकेश कोटियां, हेड – डन एंड ब्रैडस्ट्रीट टेक्नोलॉजी एंड कॉरपोरेट सर्विसेज इंडिया।
एआई पूर्वाग्रहों को मोटे तौर पर डेटा पूर्वाग्रह और सामाजिक एआई पूर्वाग्रह के रूप में वर्गीकृत किया जाता है और कोटियन का मानना है कि एआई अपनाने पर दोनों समान रूप से बड़ी चिंताएं हैं।
आज प्रौद्योगिकी प्रतिभा भारी मांग में है; कंपनियां प्रतिस्पर्धा में बढ़त हासिल करने के लिए एआई मॉडल लागू करके प्रतिभा खोजने और आकर्षित करने के तरीके खोज रही हैं। प्रायोगिक मॉडल में ऐसे साक्ष्य देखे गए हैं जो महिला उम्मीदवारों की तुलना में पुरुष उम्मीदवारों के प्रति पक्षपाती रहे हैं। हालांकि यह सामाजिक पूर्वाग्रह की तरह लग सकता है और लग सकता है, यह डेटा पूर्वाग्रह है।
“कर्मचारियों का प्रदर्शन मूल्यांकन और पदोन्नति प्रबंधन कंपनियों और उनके कर्मचारियों के प्रति बहुत संवेदनशील है। मानव मशीन इंटरफ़ेस कैसे काम करेगा जो प्रक्रिया में लिए गए निर्णयों के कारण उत्पन्न होने वाले पूर्वाग्रहों को समाप्त करेगा। भर्ती मॉडल उदाहरण पूर्वाग्रहों में, यहां भी हम सामाजिक पूर्वाग्रह के पहलुओं के साथ डेटा पूर्वाग्रह देखते हैं, “कोटियन ने कहा।
लेकिन आप पूर्वाग्रह की पहचान कैसे करते हैं?
कई व्यावसायिक रूप से उपलब्ध उपकरण हैं जो एआई मॉडल में पूर्वाग्रह को पहचानने और कम करने में मदद कर सकते हैं, हमें यह समझने की जरूरत है कि अधिकांश पूर्वाग्रह डेटा मॉडल में शुरू होते हैं।
गोपाली रावल, प्रबंध निदेशक, लीड – एआई प्रैक्टिस, भारत में उन्नत प्रौद्योगिकी केंद्र (एटीसीआई), एक्सेंचर ऐसा लगता है कि एआई मॉडल में पूर्वाग्रह अक्सर प्रशिक्षण डेटा सेट में पूर्वाग्रह से उत्पन्न होता है। “आप चाहते हैं कि आपका डेटा सेट जितना संभव हो उतना प्रतिनिधि हो। उदाहरण के लिए, यदि आप दिल के दौरे के लक्षणों की पहचान करने के लिए एआई मॉडल को प्रशिक्षित कर रहे हैं, और आप केवल पुरुषों के मेडिकल रिकॉर्ड पर मॉडल को प्रशिक्षित करते हैं, तो आपका एआई पुरुषों और महिलाओं पर समान रूप से अच्छा प्रदर्शन नहीं करेगा, क्योंकि महिलाओं के दिल के दौरान अक्सर अलग-अलग लक्षण होते हैं। हमला, ”वह कहती हैं।
एआई और एमएल के पारंपरिक सीआरएम पर कब्जा करने के आगमन के साथ, पूर्वाग्रहों का पता लगाना बहुत कठिन है। एआई मॉडलिंग की प्रक्रिया में उठाए गए प्रत्येक कदम में पूर्वाग्रह के पनपने का जोखिम हो सकता है। ऐसे कई तरीके हैं जहां कोई व्यक्ति पूर्वाग्रह की पहचान कर सकता है। लेकिन अगर कोई आवश्यक ढांचा है, सर्वोत्तम अभ्यास और उपकरण मौजूद हैं, तो यह इनमें से कई पूर्वाग्रहों को पकड़ और साफ कर सकता है।
डेटा का संदर्भ प्रत्येक उद्योग, क्षेत्र या संगठन के लिए अद्वितीय है। इसलिए, डेटा को समग्र रूप से देखा जाना चाहिए और डेटा वैज्ञानिक को डेटा में संभावित वैध पूर्वाग्रहों को समझने के लिए व्यावसायिक उपयोगकर्ताओं के साथ मिलकर काम करना चाहिए।
“उदाहरण के लिए, एक बैंक यह पा सकता है कि पुरुषों को उनके ऐतिहासिक बंधक डेटा में अधिक प्रतिनिधित्व दिया गया है, जिसे संबोधित किया जाना चाहिए ताकि एक ऋण एल्गोरिदम अनजाने में केवल पुरुषों को बंधक के लिए अनुमोदित करने के लिए प्रशिक्षित न हो; चिकित्सा में, जहां कंप्यूटर दृष्टि एल्गोरिदम को त्वचा कैंसर का पता लगाने में मदद करने के लिए प्रशिक्षित किया जा रहा है, एआई को सभी त्वचा टोन पर समान रूप से अच्छा प्रदर्शन करने में सक्षम होना चाहिए, इसलिए डेटा में नस्लीय विविधता को सटीक रूप से प्रतिबिंबित करना महत्वपूर्ण है; और एचआर में आप यह सुनिश्चित करना चाहते हैं कि आपका एल्गोरिदम किसी विशेष आयु वर्ग के पक्षपाती नहीं है, “रावल बताते हैं।
चूंकि प्रशिक्षण डेटा हर क्षेत्र और उद्योग के लिए अलग और अद्वितीय है, इसलिए एआई पूर्वाग्रह का अर्थ विभिन्न उद्योगों के लिए अलग-अलग होगा।
पूर्वाग्रह हमारे चारों ओर है। यह हमारे स्वभाव में है। यह कभी-कभी मनुष्यों के माध्यम से होता है कि यह पूर्वाग्रह एआई एल्गोरिदम में रेंगता है। इसलिए एआई रणनीति का होना महत्वपूर्ण है ताकि पूर्वाग्रह जैसे मुद्दों की पहचान की जा सके और संभावित नुकसान पहुंचाने से पहले उन्हें कम किया जा सके। एआई रणनीति यह आकलन करने में भी मदद करेगी कि शासन के कौन से स्तर किन अनुप्रयोगों के लिए उपयुक्त हैं।
एआई को सफलतापूर्वक स्केल करने में सक्षम होने में सबसे महत्वपूर्ण तत्वों में से एक यह सुनिश्चित करना है कि यह मज़बूती से और अपेक्षित रूप से प्रदर्शन करता है, जिसका अर्थ है कि समग्र एआई रणनीति के हिस्से के रूप में एल्गोरिथम और डेटा पूर्वाग्रह को संबोधित करना। पूर्वाग्रह से निपटने और लगातार प्रदर्शन के लिए निगरानी रखने के लिए शासन होने से संगठनों और अंतिम उपयोगकर्ताओं को उनके एआई परिनियोजन में अधिक विश्वास मिल सकता है। अक्सर संगठन नस्ल, लिंग, आयु, आय और यहां तक कि वैवाहिक स्थिति या भौगोलिक स्थिति जैसी विशेषताओं में पूर्वाग्रह को कम करना चाहते हैं।
.