डीपफेक क्या है और क्या आपको इनके बारे में चिंतित होना चाहिए?

अगर आपने टॉम क्रूज को टिकटोक पर अजीबोगरीब जादू के करतब करते देखा है, तो डोनाल्ड ट्रम्प ने एक अजीबोगरीब प्रस्तुति में शाऊल गुडमैन की भूमिका निभाई है बैटर कॉल शालया ओबामा हाई-प्रोफाइल हस्तियों का अपमान करने वाला सार्वजनिक भाषण कर रहे हैं, आपने एक डीपफेक देखा है।

प्रौद्योगिकी के ये स्मार्ट उपयोग आवाजों, चेहरों को संपादित कर सकते हैं, और आम तौर पर डिजिटल रूप से मीडिया में हेरफेर कर सकते हैं ताकि ऐसा लगे कि किसी ने ऐसा कहा या कुछ किया जो उन्होंने नहीं किया।

लेकिन मीडिया के ये हेरफेर किए गए रूप कैसे काम करते हैं, क्या आपको उनके बारे में चिंतित होना चाहिए, और क्या वे भविष्य में एक मुद्दा बनने की संभावना रखते हैं? हमने इसका पता लगाने के लिए टेक्नोलॉजिस्ट सैम ग्रेगरी से बात की।

डीपफेक क्या है और नाम कहां से आया है?

डीपफेक एक शब्द है जिसका उपयोग वीडियो, ध्वनि, छवि या किसी अन्य डिजिटल सामग्री के हेरफेर का वर्णन करने के लिए किया जाता है। दूसरे शब्दों में, ग्रेगरी कहते हैं, “यह एक तरीका है जिसमें आप किसी को ऐसा दिखते हैं जैसे उन्होंने कहा या कुछ ऐसा किया जो उन्होंने कभी नहीं किया।”

हालांकि, कैच-ऑल वाक्यांश के रूप में, डीपफेक चेहरे की अदला-बदली के विचार के लिए थोड़ा बहुत विशिष्ट है। इस वजह से, प्रौद्योगिकी का वर्णन करने के लिए विभिन्न शब्दों का उपयोग करने के लिए बहुत समर्थन है।

“बहुत से लोग ‘सिंथेटिक मीडिया’ जैसे शब्दों का उपयोग करना पसंद करते हैं क्योंकि यह हमें चेहरे की अदला-बदली, लिप-सिंक डबिंग, किसी अन्य स्रोत के आधार पर किसी के चेहरे या शरीर को हिलाने की क्षमता को शामिल करने की अनुमति देता है। यहां तक ​​​​कि यह हमें उन घटनाओं और चेहरों को बनाने की क्षमता को शामिल करने की अनुमति देता है जो कभी अस्तित्व में नहीं थे, ”ग्रेगरी कहते हैं।

शब्द की उत्पत्ति एक और कारण है कि कई लोग डिजिटल हेरफेर के इन रूपों के लिए एक नया शब्द ढूंढ रहे हैं। 2017 में वापस, एक Reddit उपयोगकर्ता ने अभिनेत्रियों और मशहूर हस्तियों के चेहरे को अश्लील वीडियो में डालने के लिए इन उपकरणों का उपयोग करना शुरू कर दिया।

“हम उस पहले शब्द में फंस गए हैं जिसका इस्तेमाल निर्माता द्वारा किया गया था जो इन गैर-सहमति वाली यौन छवियों को बना रहा था। Reddit उपयोगकर्ता को ‘डीपफेक’ कहा जाता है,” ग्रेगरी कहते हैं।

क्या डीपफेक एक नया मुद्दा है या कुछ ऐसा है जो कुछ समय से है?

यह वास्तव में हाल के वर्षों में है कि हमने डीपफेक पर ध्यान दिया है, लेकिन यह तकनीक कितने समय से उपलब्ध है, या यह पूरी तरह से एक नया मुद्दा है जिसका हम आधुनिक डिजिटल युग में सामना कर रहे हैं?

“मीडिया हेरफेर, जैसे वीडियो और फ़ोटो को संपादित करने या यहां तक ​​​​कि उनमें हेरफेर करने की क्षमता, हमारे पास लंबे समय से है। जिन प्रगतियों ने हमें इसका गहन अध्ययन करने की अनुमति दी है, वे वास्तव में पिछले आठ या नौ वर्षों में हैं, ”ग्रेगरी कहते हैं।

“ऐसा करने की क्षमता, डेटा से सीखने वाले इन एल्गोरिदम का उपयोग करने के लिए, आप इसे बनाने के लिए फ़ीड करते हैं, उदाहरण के लिए, आपके एआई का नकली चेहरा। यह वास्तव में पिछले 10 वर्षों की तकनीकी प्रगति है।”

ग्रेगरी का मानना ​​​​है कि, जबकि यह तकनीक कुछ समय के लिए उपलब्ध है, इसने पोर्नोग्राफ़ी की दुनिया में अपनी उत्पत्ति के कारण लोगों की नज़रों में अधिक रुचि देखी है जहाँ इसे बड़ी मात्रा में प्रचार मिला।

हालांकि, उनका यह भी मानना ​​है कि यह तकनीक और इसके संभावित खतरों को आम जनता पूरी तरह से नहीं समझ पा रही है।

“बहुत प्रचार है। हाल के वर्षों में इस बात को लेकर सुर्खियां बनी थीं कि कैसे डीपफेक वैश्विक स्तर पर चुनावों को बाधित करेगा। उस प्रचार ने वास्तविक खतरों को दूर कर दिया है। इसलिए वे लगभग पांच साल से लोगों की नज़रों में हैं, लेकिन अक्सर इस तरह से विकृत तरीके से होते हैं जो मौजूद वास्तविक खतरों को पकड़ नहीं पाते हैं। ”

क्या डीपफेक का सकारात्मक इस्तेमाल किया जा सकता है?

अधिकांश भाग के लिए, डीपफेक या सिंथेटिक मीडिया के कवरेज ने प्रौद्योगिकी के नकारात्मक पक्ष पर ध्यान केंद्रित किया है, लेकिन इसका मतलब यह नहीं है कि इसका सकारात्मक उपयोग नहीं किया जा सकता है।

सैम ग्रेगरी का मानना ​​​​है कि ऐसे पांच प्रमुख तरीके हैं जिनसे प्रौद्योगिकी का सकारात्मक उपयोग किया जा सकता है:

• डीपफेक का इस्तेमाल शक्तिशाली व्यंग्य और पैरोडी बनाने के लिए किया जा सकता है। ये यथार्थवादी डीपफेक राजनेताओं और मशहूर हस्तियों की यथार्थवादी प्रस्तुतियाँ बना सकते हैं, जिन्हें अगर डीपफेक सामग्री के रूप में लेबल किया जाता है, तो वे व्यंग्य में बेहतर विसर्जन कर सकते हैं।
• जबकि डीपफेक के सबसे यथार्थवादी संस्करणों के लिए शक्तिशाली सॉफ्टवेयर और कौशल की आवश्यकता होती है, औसत व्यक्ति के उपयोग के लिए बहुत सारे ऐप भी हैं। ये आप पर सेलिब्रिटी के चेहरों को ढँक सकते हैं, अपने आप को अपने दोस्त के यथार्थवादी संस्करण में बदल सकते हैं, या ऐसा दिखा सकते हैं कि कोई गाना गा रहा है।
• जब फिल्म और टीवी की बात आती है तो डीपफेक का एक और सकारात्मक उपयोग होता है। डीपफेक तकनीक के इस्तेमाल से वीडियो को डब करने की जरूरत नहीं पड़ेगी। इसके बजाय, अभिनेताओं को यह दिखाने के लिए संपादित किया जा सकता है कि वे फिल्मों के लिए आवश्यक प्रत्येक अलग भाषा में बोल रहे थे। हालांकि, यह महंगा होने की संभावना है और वर्तमान में यह एक यथार्थवादी विकल्प नहीं है।
• ग्रेगरी का यह भी मानना ​​​​है कि डीपफेक सामग्री की खोज के एक नए तरीके की ओर ले जा सकता है। Google या विकिपीडिया आपको वह जानकारी बताने के बजाय जो आप खोज रहे थे, एक यथार्थवादी अवतार आपसे बात कर सकता है। वीडियो-फ़ॉरवर्ड दुनिया में, यह एक आशाजनक विकल्प हो सकता है।
• ग्रेगरी सूचियों का अंतिम सकारात्मक उपयोग लोगों की रक्षा करना है। “एक फिल्म थी जिसका नाम था चेचन्या में आपका स्वागत है जिसमें चेचन्या में बहुत कमजोर एलजीबीटीक्यू कार्यकर्ता थे, और उन्होंने देश के बाहर स्वयंसेवकों की भर्ती की, स्वयंसेवकों का उपयोग करके गहरे नकली चेहरे बनाए, और उन्होंने चेचन्या में फिल्म में कमजोर कार्यकर्ताओं के साथ उनकी अदला-बदली की,” ग्रेगरी कहते हैं।

क्या डीपफेक बनाने में बहुत अधिक ऊर्जा और समय लगता है?

हाल की प्रौद्योगिकियां, ज्यादातर क्रिप्टोकुरेंसी स्पेस में, उन्हें चलाने के लिए आवश्यक ऊर्जा की मात्रा के लिए बैकलैश का सामना करना पड़ा है। लेकिन डीपफेक के बारे में क्या, क्या वे चलाने के लिए ऊर्जा के जबरन स्तर का उपयोग कर रहे हैं?

“वे जैसे छोटे देश की ऊर्जा नहीं ले रहे हैं Bitcoin करता है या ऐसा कुछ। लेकिन वे कम्प्यूटेशनल रूप से गहन हैं, और यह कम्प्यूटेशनल शक्ति विकसित करने के लिए वीडियो में कंपनियों की बड़ी दौड़ में से एक है जिसका उपयोग आप ऐसा करने के लिए कर सकते हैं, ”ग्रेगरी कहते हैं।

“एक अच्छा डीपफेक करना सस्ता नहीं है। जैसा कि हम आगे देखते हैं कि खतरे क्या हैं, यह याद रखने योग्य है कि कम से कम फिलहाल, वास्तव में अच्छा फेस-स्वैप डीपफेक करना अभी भी कम्प्यूटेशनल रूप से गहन है। वे अच्छा प्रदर्शन करने के लिए महंगे कंप्यूटरों में कुछ निवेश करते हैं।”