Monday, November 29, 2021
Home Internet NextGen Tech एआई पूर्वाग्रह को कम करने के लिए आप क्या कर सकते हैं?,...

एआई पूर्वाग्रह को कम करने के लिए आप क्या कर सकते हैं?, आईटी न्यूज, ईटी सीआईओ

काम करने वाली और बनाने वाली कंपनियां एल्गोरिदम अक्सर समझते हैं क्या एआई पूर्वाग्रह है, इसे पहचानने में भी सक्षम हो सकता है लेकिन इस यात्रा का सबसे चुनौतीपूर्ण हिस्सा एआई एल्गोरिदम में पूर्वाग्रह को खत्म करना या कम करना है। लेकिन सबसे पहला और सबसे महत्वपूर्ण सवाल, क्यों?

हमें AI पूर्वाग्रह को दूर करने के लिए काम करने की आवश्यकता क्यों है?

एआई एल्गोरिदम में पूर्वाग्रह का प्रभाव ब्रांड छवि और यहां तक ​​कि एक उद्यम के लिए व्यावसायिक अवसर पर भी पड़ सकता है। एक भेदभावपूर्ण एआई प्रणाली त्रुटिपूर्ण भविष्यवाणियों को जन्म दे सकती है, जो वित्तीय प्रभाव, व्यापक मुकदमों, कानूनी दंड, और अपने मूल्यवान संरक्षकों से विश्वास की हानि के साथ एक ब्रांड के लोकाचार को दर्शाती है। यहां तक ​​​​कि अगर कंपनी एआई पूर्वाग्रह पैदा करने वाले मुद्दों को हल करती है, तो विश्वास वापस हासिल करना काफी चुनौती बन जाता है और इससे उबरने में उम्र लग सकती है।

“एक बार एक दोषपूर्ण एआई एल्गोरिदम शामिल होने के बाद एक ब्रांड के लिए एक बदनामी पैदा करने वाला एक दोलन प्रभाव होता है। कहने की जरूरत नहीं है, यह भेदभावपूर्ण और अनुचित निर्णयों को नियोजित करता है, समुदाय में कपटी विभाजन को गहरा करता है और कंपनी के भविष्य पर प्रभाव डालता है, ”साकेत दंडोटिया, सह-संस्थापक और सीओओ ने कहा, Toch.ai.

तो, इस चुनौती को कैसे हल करें? आपके AI एल्गोरिथम को पूर्वाग्रहों से दूर रखने वाले सर्वोत्तम अभ्यास क्या हैं?

सबसे पहले किसी को यह स्वीकार करने की आवश्यकता है कि एक पूर्वाग्रह है। यदि आप समस्या को स्वीकार करते हैं तो ही आप समाधान खोजने पर काम कर सकते हैं। और फिर अपने आप से सवाल करें कि क्या आपके पास पूर्वाग्रह को मापने के लिए पर्याप्त डेटा है।

“डेटा स्रोत प्रदाता की पृष्ठभूमि जांच बहुत महत्वपूर्ण है। कुछ जांच यह सुनिश्चित करने के लिए होगी कि डेटा कैसे स्रोत और रखरखाव किया गया, जनसांख्यिकीय विवरण इत्यादि। आंतरिक डेटा स्रोतों के लिए डेटा की पूर्णता के लिए जांच की जानी चाहिए, दूषित डेटा को खत्म करना या अपडेट करना आदि। असंरचित डेटा के साथ काम करते समय डेटा लेबलिंग के बाद इसका पालन किया जाना चाहिए। डेटा लेबलिंग में 4 आंखों की जांच होनी चाहिए जो पूर्वाग्रह की पहचान करने और उसे खत्म करने के लिए महत्वपूर्ण है,” समझाया राकेश कोटियां, हेड – डन एंड ब्रैडस्ट्रीट टेक्नोलॉजी एंड कॉरपोरेट सर्विसेज इंडिया।

डेटा अंतर्ग्रहण के अगले चरण में, टीम को यह जांचना चाहिए कि कहीं कोई डेटा लीक तो नहीं है या डेटा काट-छाँट तो नहीं है। डेटा के मिलान के बाद, प्रशिक्षण, मूल्यांकन और सत्यापन के लिए मॉडल को डेटा फीड करना, लाइव होना। लेकिन टीम को यह सुनिश्चित करना चाहिए कि लाइव होने के बाद, मॉडल को ठीक करने के लिए अंतर्दृष्टि इकट्ठा करने के लिए निरंतर निगरानी बहुत महत्वपूर्ण है।

डेटा और एनालिटिक्स लीडर्स को खुद के बारे में जागरूक होने और मनुष्यों द्वारा बनाए गए एआई-आधारित एल्गोरिदम में पक्षपात के माध्यम से प्रचलित लापरवाही को रोकने के लिए एआई गवर्नेंस में दिमागी जागरूकता को शामिल करने की आवश्यकता है। विश्लेषिकी नेताओं और उनकी टीमों को एआई-आधारित परियोजनाओं से संपर्क करना चाहिए, ताकि वे उन सभी कार्यों के बारे में लगातार जागरूक रहें जो एआई विकास से संबंधित हैं।

शेखर मूर्ति, मुख्य ग्राहक अधिकारी, येलो.एआई ने बताया कि कोई भी सचेत या अचेतन पूर्वाग्रह स्व-शिक्षण एआई प्रणाली को प्रभावित कर सकता है और प्रतिकूल परिणामों के लिए अप्रत्याशित तरीके से निर्णयों को प्रभावित कर सकता है। उन्होंने आगे सुझाव दिया कि इससे बचने के लिए रोकथाम तकनीकों और मानव निर्णय के लिए एक साथ योजना बनाना आवश्यक है। तकनीकी रूप से समाधान की सुरक्षा के लिए मजबूत आंकड़ों, बड़े और समावेशी डेटा नमूनों और एल्गोरिथम प्रदर्शन संकेतकों को आगे बढ़ाने की आवश्यकता है। महत्वपूर्ण चौकियों को लागू किया जाना चाहिए और डेटा स्रोतों, उपकरणों और संसाधनों के करीब प्रयोग किया जाना चाहिए जो एल्गोरिदम विकसित करने में शामिल हैं।

हम अक्सर यह भूल जाते हैं कि एआई सिस्टम प्रशिक्षण डेटा के आधार पर निर्णय लेते हैं, जो अस्पष्ट चरों पर पूर्वाग्रही मानवीय राय द्वारा मांगे जाते हैं। समाज के किसी भी नागरिक के प्रति कर्तव्यनिष्ठ और निष्पक्ष होना नवप्रवर्तनक का दायित्व बन जाता है।

वैभव डोबरियाल डोबी, मुख्य उत्पाद अधिकारी, लुमीक कहा कि जब तक आप अपने डेटा को नहीं समझेंगे तब तक आप एमएल नहीं कर सकते। वह कहते हैं, “अगर मैं कहता हूं कि मेरे पास लिंग पूर्वाग्रह है और लिंग डेटा एकत्र करना बंद कर देता है तो कोई रास्ता नहीं है कि मैं पूर्वाग्रह को खत्म करने में सक्षम हूं। जब मैं शासन अवलोकन ढांचे से डेटा को विशेष रूप से पूर्वाग्रह के परिप्रेक्ष्य से देखता हूं, तो यह खुलता है मेरे लिए एक खिड़की। मेरा बिंदु आपके दृष्टिकोण को बदलना है। अपने डेटा और उस निर्णय को देखें जो एल्गोरिथम व्यावसायिक दृष्टिकोण से नहीं बल्कि पक्षपातपूर्ण दृष्टिकोण से कर रहा है।”

उपरोक्त बिंदु को ध्यान में रखते हुए, Toch.AI के सह-संस्थापक और सीटीओ, आलोक पाटिल को लगता है कि व्यावसायिक उद्देश्य को परिभाषित करने और स्पष्ट करने से पूर्वाग्रहों को रोकने में मदद मिलेगी और जिस कारण से एआई को नियोजित किया गया था, उसे बढ़ाना होगा। “यह केवल एआई एल्गोरिथ्म को संशोधित करने के लिए पर्याप्त नहीं है, पक्षपाती एआई को संशोधित करने के लिए मानव-संचालित तरीकों के आसपास अधिक उदार सुधार की आवश्यकता है। ‘गोल्डन मीन’ को निर्धारित करना होगा जो मनुष्यों और मशीनों की मदद करेगा, ”पाटिल बताते हैं।

पाटिल का सुझाव है कि पूर्वाग्रहों को नियंत्रण में रखने के लिए कंपनियों को तीसरे पक्ष के ऑडिट के लिए जाना चाहिए, जबकि साथ ही उन्हें अपने स्वयं के प्रशिक्षण डेटा का अध्ययन करने पर ध्यान केंद्रित करने की आवश्यकता है। “अपने स्वयं के डेटा को समझने से विविध अंतिम उपयोगकर्ताओं का प्रतिनिधित्व करते हुए निंदनीय लेबल को नियंत्रित करने में मदद मिलती है। एक मशीन लर्निंग टीम को आत्मसात करें, जो सही प्रश्न पूछने में मदद करेगी। टीम विविधता लाएगी, एल्गोरिदम के साथ बातचीत करेगी, बाजार में जाने से पहले समस्या का समाधान करेगी, ”पाटिल कहते हैं।

जबकि कई उपकरण, सॉफ्टवेयर और प्रथाएं टीम को पूर्वाग्रह को कम करने के लिए काम करती रहेंगी, प्रत्येक नेता डेटा की सफाई पर काम करते रहने का सुझाव देता है। उत्तर हमेशा डेटा में ही निहित होगा। हमें इस बात का ज्ञान होना चाहिए कि हम क्या एकत्र कर रहे हैं और एल्गोरिथम क्या महत्वपूर्ण समझता है।

जब आप डेटा और एल्गोरिथम के साथ तैयार हों, तो इसे निर्णय लेने दें और वास्तव में आपके लिए निर्णय न लें। एल्गोरिथम को सही तर्क के साथ निर्णय लेने के लिए डेटा का उपयोग करने दें।

.

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Most Popular

Recent Comments