हालांकि यह बताने के कई कारण हो सकते हैं कि एक मॉडल क्यों विफल हुआ, उनमें से एक आत्मविश्वास से अधिक एमएल है। हम एआई-एमएल मॉडल को अति आत्मविश्वासी कह सकते हैं जब मॉडल अपनी सभी भविष्यवाणियों में उच्च विश्वास दिखाते हैं। प्रतिगमन (घर या कार की कीमत जैसे निरंतर मूल्यों की भविष्यवाणी) की तुलना में वर्गीकरण (कुत्ते या बिल्ली की छवि की भविष्यवाणी) के मामले में यह अधिक स्पष्ट है क्योंकि वे संभाव्य मॉडल हैं।
“आधुनिक एआई-एमएल मॉडल, जैसे-जैसे वे बड़े होते गए हैं, अति आत्मविश्वास से भरे हुए हैं। इसका मतलब यह है कि जब मॉडल की भविष्यवाणी में गलत होने की संभावना है, तब भी यह उच्च आत्मविश्वास प्रदर्शित कर सकता है। इससे मॉडल का आत्मविश्वास काफी अविश्वसनीय हो जाता है।” प्रसन्ना सत्तीगेरी, – रिसर्च स्टाफ सदस्य, आईबीएम रिसर्च एआई, एमआईटी-आईबीएम वाटसन एआई लैब।
अति आत्मविश्वास से मॉडल की भविष्यवाणियों में गलत विश्वास होता है और इस प्रकार मॉडल त्रुटियों का पता नहीं चल पाता है। यदि मॉडल का अपनी भविष्यवाणियों में विश्वास सार्थक और सटीक है, तो एक मानव या अन्य प्रणाली हस्तक्षेप कर सकती है और जब मॉडल आश्वस्त नहीं होता है तो इस प्रकार किसी भी त्रुटि से बचा जा सकता है।
“उदाहरण के लिए, निर्णय लेने के लिए एआई की भविष्यवाणियों का उपयोग करने वाले डॉक्टर या ऋण अधिकारी पर विचार करें। जब मॉडल आश्वस्त नहीं होता है, तो वे मॉडल की भविष्यवाणियों को अस्वीकार कर सकते हैं और निर्णय लेने के लिए नई जानकारी और/या अन्य विशेषज्ञ ला सकते हैं। इस फ्रेमवर्क को सेलेक्टिव प्रेडिक्शन या रिजेक्ट ऑप्शन के साथ प्रेडिक्शन कहा जाता है। हमें सही ढंग से काम करने के लिए चयनात्मक भविष्यवाणी के लिए, अपने आत्मविश्वास को सटीक रूप से व्यक्त करने के लिए मॉडल की आवश्यकता है, और अति आत्मविश्वास नहीं होना चाहिए,” सत्तीगेरी ने समझाया।
अति आत्मविश्वास वाले मॉडल का महत्वपूर्ण आर्थिक प्रभाव हो सकता है; वे उपयोगकर्ताओं के बीच अविश्वास भी पैदा करते हैं। अति आत्मविश्वास वाले मॉडल को उजागर करने की लागत उद्योग के आधार पर अलग-अलग प्रभाव डालती है। उदाहरण के लिए, एक लापरवाह मॉडल के आधार पर अपने उपयोगकर्ता को फिल्म की सिफारिश करने का प्रभाव एक स्वायत्त ड्राइविंग कार द्वारा उत्पन्न अति-आत्मविश्वास की भविष्यवाणी से काफी अलग है।
अधिकांश मशीन लर्निंग कार्यों के लिए, हमारे पास पहले से मौजूद ऐतिहासिक डेटा के आधार पर अनदेखी की सटीक भविष्यवाणी करना उद्देश्य है। अति आत्मविश्वास वाले मॉडल मशीन लर्निंग के इस मूल आधार को प्रभावित करते हैं।
“एक उदाहरण पर विचार करें जहां आप, मार्केटिंग के प्रमुख के रूप में, एक विशिष्ट ऑडियंस सेगमेंट को लुभाने के लिए अपना पैसा खर्च करने के लिए सबसे अच्छा मार्केटिंग चैनल तय करने का प्रयास कर रहे हैं। एक अति-आत्मविश्वास वाला मॉडल आपको अपने बजट का एक बड़ा हिस्सा किसी खास चैनल को जरूरत से ज्यादा आवंटित करने की सलाह दे सकता है। इस उदाहरण में, हो सकता है कि मॉडल ने सही चैनल की सटीक भविष्यवाणी की हो, लेकिन इसने आपको उतनी ही बिक्री उत्पन्न करने के लिए काफी अधिक पैसा खर्च किया है,” समझाया अश्विन थोटेबोस कॉर्पोरेशन के प्रधान डेटा वैज्ञानिक।
थोटे ने आगे बताया कि अति आत्मविश्वास वाले मॉडल, विशेष रूप से संकीर्ण डेटासेट पर प्रशिक्षित, कंपनियों के लिए एक गंभीर खतरा पैदा करते हैं और उनकी प्रतिष्ठा को नुकसान पहुंचा सकते हैं। क्रेडिट कार्ड, मॉर्गेज और बीमा कंपनियां सिंथेटिक पहचान धोखाधड़ी के प्रमुख शिकार हैं। सामान्य तौर पर, आंशिक/पक्षपाती डेटा पर प्रशिक्षित अति आत्मविश्वास वाले मॉडल डेटा में कुछ विशेषताओं पर अधिक ध्यान देते हैं। इन सुविधाओं के सामने आने के बाद सिस्टम धोखाधड़ी का शिकार हो जाता है। नौकरी की आवश्यकताओं को पूरा करने के लिए मालिश फिर से शुरू करना एक और तुच्छ तरीका है जिससे आवेदक अति आत्मविश्वास वाले मॉडल का लाभ उठा रहे हैं।
एमएल मॉडल होने का मुख्य कारण आरओआई बढ़ाना और मानव आधारित त्रुटियों को छोड़ना है, लेकिन अति आत्मविश्वास वाले मॉडल के कारण, कंपनी ग्राहकों, बिक्री को खो सकती है या नकारात्मक आरओआई भी हो सकती है।
“मॉडल का उपयोग कहां किया जा रहा है, इस पर निर्भर करते हुए, मॉडल में अति आत्मविश्वास के कारण प्रभाव और भुगतान की लागत महत्वपूर्ण हो सकती है। उदाहरण के लिए, चेहरे की पहचान के मामले में, मॉडल उच्च आत्मविश्वास के साथ गलत भविष्यवाणी कर सकता है। प्रमाणीकरण के लिए उपयोग किए जाने पर इससे सुरक्षा भंग हो सकती है, जो एक बड़ा खतरा है। इसके विपरीत, यह एक मामूली घटना है यदि मॉडल का उपयोग छवि गैलरी में केवल चेहरे से छवियों को खोजने के लिए किया जाता है, “डॉ। मंजीत दहिया, वीपी और हेड – एआई और मशीन लर्निंग, कारदेखो।
.