Tuesday, March 5, 2024
HomeEducationक्या आर्टिफिशियल इंटेलिजेंस नस्लवादी और सेक्सिस्ट है?

क्या आर्टिफिशियल इंटेलिजेंस नस्लवादी और सेक्सिस्ट है?

हम सभी अपने फोन को अनलॉक करने के लिए चेहरे की पहचान का उपयोग करते हैं। और हम सभी ऑनलाइन सामग्री को स्वचालित रूप से हमें सुझाव देते हैं। लेकिन हम में से कुछ को दूसरों की तुलना में कृत्रिम बुद्धिमत्ता (एआई) के साथ अधिक सफलता मिली है।

चेहरे की पहचान एआई के एक अध्ययन से पता चला है कि प्रमुख कंपनियों आईबीएम, माइक्रोसॉफ्ट और अमेज़ॅन के सिस्टमों ने ओपरा विन्फ्रे, मिशेल ओबामा और सेरेना विलियम्स के चेहरे को खराब कर दिया, जबकि सफेद पुरुषों के साथ बिल्कुल भी परेशानी नहीं हुई।

यहां तक ​​कि डिजिटल सहायकों जैसे कि कोरटाना या गूगल असिस्टेंट की आवाज़ों में डिफ़ॉल्ट रूप से महिला आवाज़ें होती हैं, शायद अनजाने में लाखों उपयोगकर्ताओं के मन में महिला अधीनता के स्टीरियोटाइप को मजबूत करती हैं।

इन एआई का पूर्वाग्रह इस तथ्य के कारण होता है कि अधिकांश एआई के मौजूदा डिजाइनर मोटे तौर पर 20 और 30 के दशक में विकलांगों के बिना सफेद पुरुष हैं। वे आम तौर पर ऐसे लोग हैं जो उच्च सामाजिक आर्थिक क्षेत्रों में बड़े हुए हैं, अक्सर समान शैक्षिक पृष्ठभूमि के साथ।

शायद अस्वाभाविक रूप से, जिसके परिणामस्वरूप एआई को संकीर्ण और पक्षपाती डेटासेट का उपयोग करके बनाया और शिक्षित किया जाता है जो अप्रतिसादी होते हैं। उदाहरण के लिए, प्रशिक्षण के लिए एकत्र किए गए चेहरों के अमेरिकी सरकार के डेटासेट में 75 प्रतिशत पुरुष और 80 प्रतिशत हल्के चमड़ी वाले व्यक्ति थे। इस बारे में कुछ भी जानबूझकर नहीं किया गया है – एआई डेवलपर्स ने केवल इसलिए ध्यान नहीं दिया क्योंकि उनके पास खुद विविधता का कोई अनुभव नहीं था।

शुक्र है कि ज्वार बदल रहा है, और आज अधिकांश प्रमुख तकनीकी कंपनियां अवांछित गैसों की पहचान करने और उन्हें हमारी प्रौद्योगिकियों से मिटाने की कोशिश कर रही हैं।

अधिक पढ़ें:

अपने प्रश्न प्रस्तुत करने के लिए हमें ईमेल करें questions@sciencefocus.com (अपना नाम और स्थान शामिल करना न भूलें)

Leave a Reply

Most Popular

Recent Comments