प्रिय पाठक,
यदि आप टॉम क्रूज के प्रशंसक हैं, तो आपने निश्चित रूप से अल्पसंख्यक रिपोर्ट देखी होगी। 2002 की क्राइम फ्लिक उस समय भविष्यवादी लग रही थी क्योंकि यह दर्शाती है कि कंप्यूटर कैसे भविष्यवाणी कर सकता है जब किसी व्यक्ति के अपराध करने की संभावना होती है, इससे पहले कि उन्होंने इसके बारे में सोचा भी नहीं था।
कल्पना कीजिए कि पुलिस अपराध की भविष्यवाणी करने के लिए इस तरह की प्रणाली का उपयोग कर रही है और अपराध को होने से रोकने के लिए अग्रिम गिरफ्तारी करती है। अपने शहर की सुरक्षा के लिए बहुत अच्छा लगता है, है ना? अब, क्या होगा अगर भविष्यवाणी गलत है और सिस्टम उन नागरिकों के खिलाफ अलार्म बजा रहा है जिनके पास कोई अपराध करने की कोई संभावना नहीं है? ऐसा तब होता है जब कृत्रिम बुद्धि के नेतृत्व वाली प्रणाली पूर्वाग्रहों में निहित होती है।
अल्पसंख्यक रिपोर्ट में दिखाया गया भविष्य 2012 में खुद को उजागर करना शुरू कर दिया जब पूरे अमेरिका में कई पुलिस विभागों ने पुलिसिंग को रोकने के लिए COMPAS नामक एक प्रणाली का उपयोग करना शुरू कर दिया और कम से कम 2016 तक इसका उपयोग करना जारी रखा। सिस्टम, एक एआई एल्गोरिदम, भविष्यवाणी कर सकता है कि कितनी संभावना है एक व्यक्ति को पिछले रिकॉर्ड के आधार पर फिर से अपराध करना है। इसके तुरंत बाद एक विस्तृत रिपोर्ट में इस अत्यधिक उन्नत एल्गोरिथम को समाप्त करते हुए, समाज के एक विशेष वर्ग के प्रति पक्षपाती होने के लिए सिस्टम को दोषी ठहराया गया।
सभी एआई एल्गोरिदम का भाग्य अंततः पूर्वाग्रह के इर्द-गिर्द इस मुद्दे पर टिका हुआ है। आप कितने निश्चित हैं कि आपके एल्गोरिदम द्वारा की गई भविष्यवाणियां वास्तव में सटीक और पूर्वाग्रह से मुक्त हैं? यदि आप नहीं हैं, तो एक परियोजना पर काम करने में महीनों खर्च कर सकते हैं लेकिन अगर परियोजना पर भरोसा नहीं किया जा सकता है तो यह अभी भी रद्दी हो जाएगा। इससे भी बदतर, यदि लागू किया जाता है, तो परियोजना का आपकी कंपनी की प्रतिष्ठा और वित्त पर दूरगामी प्रभाव पड़ सकता है।
इसे ध्यान में रखते हुए, इस सप्ताह के एआई बुलेटिन में, हमने आपके एआई सिस्टम में पूर्वाग्रहों को पहचानने और फिर उन्हें समाप्त करने के सरल तरीके बताए हैं। हमारे पास एक दिलचस्प केस स्टडी भी है एक्साइड लाइफ बीमा फर्म ने पूर्वाग्रहों को समाप्त करने पर कैसे काम किया, इस पर बीमा।
इस सप्ताह आपके लिए विचार के लिए यह बहुत कुछ है। आप कहानियों के बारे में क्या सोचते हैं हमें बताएं।
सादर
वरुण अग्रवाल
संपादक, ईटीसीआईओ
varun.aggarwal@timesinternet.in
इससे पहले कि आप AI पूर्वाग्रह को ठीक करें, समझें कि यह वास्तव में क्या है
आज, प्रौद्योगिकी प्रतिभा भारी मांग में है। कंपनियां प्रतिस्पर्धा में बढ़त हासिल करने के लिए एआई मॉडल को लागू करके प्रतिभा को खोजने और आकर्षित करने के लिए विभिन्न तरीकों से नवाचार कर रही हैं। प्रायोगिक मॉडल में साक्ष्य इस बात पर प्रकाश डालते हैं कि महिला उम्मीदवारों की तुलना में पुरुष उम्मीदवारों के प्रति पूर्वाग्रह रहा है। हालांकि यह सामाजिक पूर्वाग्रह की तरह लग सकता है और लग सकता है, यह डेटा पूर्वाग्रह है।
एआई और एमएल के पारंपरिक सीआरएम पर कब्जा करने के आगमन के साथ, पूर्वाग्रहों का पता लगाना बहुत कठिन है। एआई मॉडलिंग की प्रक्रिया में उठाए गए प्रत्येक कदम में पूर्वाग्रहों के बढ़ने का जोखिम हो सकता है। ऐसे कई तरीके हैं जहां कोई व्यक्ति पूर्वाग्रहों की पहचान कर सकता है। लेकिन अगर कोई आवश्यक ढांचा है, सर्वोत्तम अभ्यास और उपकरण मौजूद हैं, तो यह इनमें से कई पूर्वाग्रहों को पकड़ और साफ कर सकता है।
अधिक पढ़ें..
एआई पूर्वाग्रह को कम करने के लिए आप क्या कर सकते हैं?
मनुष्यों द्वारा बनाए गए एआई-आधारित एल्गोरिदम में पक्षपात के माध्यम से प्रचलित लापरवाही को रोकने के लिए डेटा और एनालिटिक्स पेशेवरों को एआई शासन के प्रति सचेत रहने की आवश्यकता है। विश्लेषिकी और डेटा विज्ञान टीमों को एआई-आधारित परियोजनाओं से संपर्क करना चाहिए, मॉडल डेटा में पूर्वाग्रह के लिए गहरी नजर रखना चाहिए।
अधिक पढ़ें..
एक्साइड लाइफ़ इंश्योरेंस कैसे AI को भरोसेमंद बना रहा है?
एआई को लागू करने में सबसे बड़ी बाधाओं में से एक विश्वास है। एक विशिष्ट खंड के प्रति तरजीही व्यवहार, या तो संकीर्ण प्रशिक्षण डेटा या दुर्भावनापूर्ण इरादे के कारण से इंकार नहीं किया जा सकता है।
“एआई मॉडल में विश्वास बनाने में आमतौर पर समय लगता है। हमने ऐतिहासिक डेटा से मान्यताओं को निकालकर और उन्हें मॉडल में फीड करके प्रक्रिया शुरू की। इसके बाद हम कुछ पायलट चरणों में चले गए जहां एमएल एल्गोरिदम को बढ़ाने के लिए सिस्टम को उत्पादन डेटा खिलाया गया था, और वर्तमान में, हम इन मॉडलों को सभी उपयोगकर्ता डेटा तक विस्तारित करने की दिशा में आगे बढ़ रहे हैं। यह अंतत: धारणा आधार का विस्तार करेगा और इन एआई मॉडलों के परिणाम में अधिक विश्वास पैदा करेगा, ”एक्साइड लाइफ इंश्योरेंस के मुख्य प्रौद्योगिकी अधिकारी अयान डे ने समझाया।
अधिक पढ़ें…
हमें एआई की आवश्यकता क्यों है जो पारदर्शी, समझाने योग्य और जिम्मेदार हो
एंड-यूज़र के लिए यह आवश्यक है कि वह इस बात से अवगत हो कि तकनीक से उन्हें क्या और कैसे लाभ और प्रभाव पड़ेगा। जिम्मेदार एआई पक्षपाती डेटा या एल्गोरिदम के उपयोग से बचाव कर सकता है। यह सुनिश्चित करेगा कि स्वचालित निर्णय उचित और व्याख्या योग्य हैं और उपयोगकर्ता के विश्वास और व्यक्तिगत गोपनीयता को बनाए रखने में मदद करते हैं।
AI पैटर्न (तंत्रिका नेटवर्क) की एक श्रृंखला के विश्लेषण के आधार पर काम करता है, जिसे मशीन लर्निंग और डीप लर्निंग के माध्यम से इकट्ठा किया जाता है और ऐसे मामले में अगर थोड़ी सी भी गलती या पूर्वाग्रह है, तो यह निर्विवाद रूप से वांछित आउटपुट को खतरे में डाल देगा और संभावित रूप से बड़े पैमाने पर हो सकता है प्रतिष्ठा की हानि, वित्तीय हानि और पर्यावरणीय क्षति के रूप में इससे भी बड़ी हानि के रूप में क्षति।
अधिक पढ़ें…
.