गारेंस बर्क द्वारा

बिडेन प्रशासन ने मंगलवार को दूरगामी लक्ष्यों के एक सेट का अनावरण किया, जिसका उद्देश्य के उदय से होने वाले नुकसान को टालना है कृत्रिम होशियारी सिस्टम, जिसमें लोगों के व्यक्तिगत डेटा की सुरक्षा और निगरानी को सीमित करने के दिशा-निर्देश शामिल हैं।

एआई बिल ऑफ राइट्स का खाका विशेष रूप से विशिष्ट प्रवर्तन कार्रवाइयों को निर्धारित नहीं करता है, बल्कि इसके बजाय एक के रूप में अभिप्रेत है सफेद घर अधिकारियों ने कहा कि एआई-ईंधन वाली दुनिया में डिजिटल और नागरिक अधिकारों की रक्षा के लिए अमेरिकी सरकार से कार्रवाई का आह्वान करें।

“यह बिडेन-हैरिस प्रशासन वास्तव में कह रहा है कि हमें न केवल सरकार में, बल्कि सभी क्षेत्रों में एक साथ काम करने की आवश्यकता है, वास्तव में केंद्र में समानता और नागरिक अधिकारों को केंद्र में रखने के लिए जो हम बनाते हैं और उपयोग करते हैं और गवर्नमेंट टेक्नोलॉजीज,” व्हाइट हाउस ऑफिस ऑफ साइंस एंड टेक्नोलॉजी पॉलिसी में विज्ञान और समाज के उप निदेशक अलोंड्रा नेल्सन ने कहा। “हम अपनी तकनीकों से बेहतर और बेहतर की उम्मीद कर सकते हैं और करना चाहिए।”

कार्यालय ने कहा कि श्वेत पत्र प्रौद्योगिकी कंपनियों को जवाबदेह ठहराने के प्रशासन के एजेंडे में एक प्रमुख प्रगति का प्रतिनिधित्व करता है, और नए नियमों को तौलने और एआई प्रौद्योगिकियों के विशिष्ट प्रभावों का अध्ययन करने के लिए विभिन्न संघीय एजेंसियों की प्रतिबद्धताओं पर प्रकाश डाला। दस्तावेज़ दो दर्जन से अधिक विभिन्न विभागों के साथ एक साल के लंबे परामर्श के बाद उभरा, और इसमें नागरिक समाज समूहों, प्रौद्योगिकीविदों, उद्योग शोधकर्ताओं और तकनीकी कंपनियों से प्रतिक्रिया भी शामिल है, जिसमें पलंतिर और माइक्रोसॉफ्ट.

यह पांच मूल सिद्धांतों का सुझाव देता है जो व्हाइट हाउस का कहना है कि एल्गोरिथम पूर्वाग्रह के प्रभावों को सीमित करने के लिए एआई सिस्टम में बनाया जाना चाहिए, उपयोगकर्ताओं को अपने डेटा पर नियंत्रण देना और यह सुनिश्चित करना कि स्वचालित सिस्टम सुरक्षित और पारदर्शी रूप से उपयोग किए जाते हैं।

परिणामी गैर-बाध्यकारी सिद्धांत अकादमिक अनुसंधान, एजेंसी अध्ययनों और समाचार रिपोर्टों का हवाला देते हैं जिन्होंने एआई-संचालित उपकरणों से वास्तविक दुनिया के नुकसान का दस्तावेजीकरण किया है, जिसमें चेहरे की पहचान उपकरण शामिल हैं जो गलत गिरफ्तारी में योगदान करते हैं और एक स्वचालित प्रणाली जो ऋण चाहने वालों के साथ भेदभाव करती है जो ऐतिहासिक रूप से भाग लेते हैं ब्लैक कॉलेज या विश्वविद्यालय।

श्वेत पत्र में यह भी कहा गया है कि माता-पिता और सामाजिक कार्यकर्ता समान रूप से यह जानने से लाभान्वित हो सकते हैं कि क्या बाल कल्याण एजेंसियां ​​​​यह तय करने में मदद करने के लिए एल्गोरिदम का उपयोग कर रही हैं कि परिवारों की जांच कब की जानी चाहिए।

इस साल की शुरुआत में एक के प्रकाशन के बाद एक एल्गोरिथम उपकरण की समीक्षा कॉल में भाग लेने वाले कई लोगों के अनुसार, एक पेंसिल्वेनिया बाल कल्याण प्रणाली में उपयोग किया गया, OSTP कर्मचारी अधिक जानने के लिए लेख में उद्धृत स्रोतों तक पहुंचे। एपी की जांच में पाया गया कि एलेघेनी काउंटी टूल ने अपने संचालन के पहले वर्षों में श्वेत बच्चों की तुलना में “अनिवार्य” उपेक्षा जांच के लिए अश्वेत बच्चों की अनुपातहीन संख्या को फ़्लैग करने का एक पैटर्न दिखाया।

मई में, सूत्रों ने कहा कि कार्नेगी मेलॉन विश्वविद्यालय के शोधकर्ताओं और अमेरिकन सिविल लिबर्टीज यूनियन के कर्मचारियों ने ओएसटीपी अधिकारियों के साथ बाल कल्याण एजेंसियों के एल्गोरिदम के उपयोग के बारे में बात की। नेल्सन ने कहा कि बच्चों को प्रौद्योगिकी के नुकसान से बचाना चिंता का विषय है।

नेल्सन ने कहा, “यदि कोई उपकरण या स्वचालित प्रणाली एक कमजोर समुदाय को असमान रूप से नुकसान पहुंचा रही है, तो उम्मीद की जानी चाहिए कि कुछ विशिष्ट अनुप्रयोगों और निर्देशात्मक सुझावों के माध्यम से इसे संबोधित करने के लिए लीवर और अवसर होंगे।” राष्ट्रपति के उप सहायक के रूप में जो बिडेन.

OSTP ने मई की बैठक के बारे में अतिरिक्त टिप्पणी नहीं दी।

फिर भी, क्योंकि कई एआई-संचालित उपकरण राज्य और स्थानीय स्तर पर विकसित, अपनाए गए या वित्त पोषित हैं, संघीय सरकार के पास उनके उपयोग के संबंध में सीमित निरीक्षण है। श्वेत पत्र इस बात का कोई विशेष उल्लेख नहीं करता है कि बिडेन प्रशासन राज्य या स्थानीय स्तर पर विशिष्ट नीतियों को कैसे प्रभावित कर सकता है, लेकिन प्रशासन के एक वरिष्ठ अधिकारी ने कहा कि प्रशासन यह खोज रहा था कि एआई मार्गदर्शन के साथ संघीय अनुदान को कैसे संरेखित किया जाए।

श्वेत पत्र में उपकरण विकसित करने वाली तकनीकी कंपनियों पर अधिकार नहीं है और न ही इसमें कोई नया विधायी प्रस्ताव शामिल है। नेल्सन ने कहा कि एजेंसियां ​​स्वचालित सिस्टम को गलत तरीके से लोगों को नुकसान पहुंचाने से रोकने के लिए मौजूदा नियमों का उपयोग करना जारी रखेंगी।

श्वेत पत्र ने विशेष रूप से न्याय विभाग के माध्यम से वित्त पोषित एआई-संचालित प्रौद्योगिकियों को भी संबोधित नहीं किया, जिसका नागरिक अधिकार प्रभाग अलग से एल्गोरिथम हानि, पूर्वाग्रह और भेदभाव की जांच कर रहा है, नेल्सन ने कहा।

अधिक निगरानी के आह्वान के बीच, श्वेत पत्र ने यह भी कहा कि जब उचित रूप से लागू किया जाता है, तो एआई सिस्टम में समाज को स्थायी लाभ लाने की शक्ति होती है, जैसे कि किसानों को अधिक कुशलता से भोजन उगाने या बीमारियों की पहचान करने में मदद करना।

दस्तावेज़ में कहा गया है, “अमेरिकी नवाचार की शक्ति से प्रेरित, ये उपकरण हमारे समाज के हर हिस्से को फिर से परिभाषित करने और सभी के लिए जीवन को बेहतर बनाने की क्षमता रखते हैं। यह महत्वपूर्ण प्रगति नागरिक अधिकारों या लोकतांत्रिक मूल्यों की कीमत पर नहीं आनी चाहिए।”