मैंने 2011 में एक इंटेलिजेंस एडवांस्ड रिसर्च प्रोजेक्ट्स एक्टिविटी (IARPA) प्रतियोगिता के साथ चरमपंथी गतिविधि पर ऑनलाइन शोध करना शुरू किया था। प्रतियोगिता थी: यह दिया गया कि आप सार्वजनिक रूप से उपलब्ध जानकारी जानते हैं, आप वास्तविक दुनिया में भविष्य की घटनाओं के बारे में क्या अनुमान लगा सकते हैं?

उस चरण में, हम ट्विटर पर देख रहे थे। आप ऐसा कर सकते हैं [now] एक मेगाफोन के साथ बाहर खड़े आदमी से ट्विटर के बराबर सुना। हर कोई रुकता है और सेल्फी लेता है, और यह ध्यान आकर्षित करता है, लेकिन मैंने कभी किसी को जाते नहीं देखा, “तुम सही हो, तुमने मेरी सोच बदल दी है”। यह अन्य क्षेत्रों जैसे समुदायों में ऑनलाइन होता है जहां ट्रस्ट बनाया जाता है। यह ट्विटर पर मौजूद नहीं है।

2014 में, मेरे समूह में एक रूसी वक्ता ने रूसी सोशल मीडिया प्लेटफॉर्म V.contakte पर इस्लामिक स्टेट (ISIS) के चारों ओर गतिविधि पर प्रहार किया। हमने उन्हें फेसबुक पर खोजने की कोशिश की, लेकिन फेसबुक ने उन्हें पहले ही बंद कर दिया। V.contakte, हालांकि, केवल कभी-कभी उन्हें बंद कर देता था। यह दिलचस्प था, क्योंकि अगर वे उन्हें बस जाने देते और उन्हें बाधित नहीं करते, तो आईएसआईएस बर्फ की एक बड़ी बूँद में विकसित हो जाता – इससे छुटकारा पाना आसान होता। लेकिन उन्होंने ऐसा नहीं किया।

हमने आईएसआईएस समुदायों का पता लगाया क्योंकि उन्होंने यहां एक छोटा समूह और एक छोटा समूह बनाया। मुझे लगता है कि यह यार्ड में कीड़े की तरह है। आप उन्हें बाधित करने जा रहे हैं यदि आप एक कोने में एक जूते के साथ खड़े हैं और उन्हें एक बार में मारा है, लेकिन आप उन्हें रोकने नहीं जा रहे हैं। यह deplatforming की तरह है। निश्चित रूप से, कुछ ऐसे हैं जो बस बाद में अपने कार्य को एक साथ नहीं करेंगे, लेकिन वे अभी भी एक दूसरे को ढूंढेंगे। और इसी तरह हम ऑनलाइन अतिवादी समर्थन के जेलेशन सिद्धांत के साथ आए।

विचार यह है कि जो लोग एक-दूसरे से अलग दिखाई देते हैं वे ऑनलाइन घृणा समूहों में ‘जेल’ कर सकते हैं। यह स्पष्ट नफरत वाले समुदाय नहीं हैं जिनके बारे में आप चिंता करना चाहते हैं और बंद करना चाहते हैं। उनमें से हर एक के लिए लगभग 5 से 10 समुदाय उनसे जुड़े हुए हैं।

ISIS समुदाय ने कभी भी खुद को ‘ISIS ऑनलाइन’ नहीं कहा, और उन्होंने कभी भी अपने पृष्ठों पर झंडा नहीं दिखाया। चरमपंथी संगठन पालतू प्रेमियों, माता-पिता, वैकल्पिक स्वास्थ्य में रुचि रखने वाले लोगों के लिए समर्पित समूहों से गुजरते हैं। वे विशिष्ट शब्दों और शीर्षकों को लक्षित करते हैं। यही चारा है। उन साइटों को घृणा समूहों द्वारा देखा जाता है, जो तब सीधी भर्ती करते हैं जहां मूल चर्चा होती है – आमतौर पर एक निजी सर्वर या एक एन्क्रिप्टेड साइट पर।

यह उन्हें ट्रैक करने के लिए कठिन बनाता है, और यह उन्हें रोकने के प्रयासों के लिए लचीला बनाता है। फेसबुक ने बहुत सारे समुदायों को मारा है जिन्हें हम ‘बुरे लोग’ कहेंगे। लेकिन वे दूसरे, कम-स्पष्ट समुदायों से चूक गए हैं। लेकिन हमारे पास यह देखने के लिए कोई नक्शा नहीं है कि उन्होंने कहां हस्तक्षेप किया है और यह काम क्यों नहीं कर रहा है।

लोगों, समूहों और समूहों के बीच संबंध हर समय बदलते रहते हैं। हाइपरलिंक दिखाई देते हैं और नीचे ले जाते हैं; एक नेटवर्क एक दिन एक तरह से देख सकता है, और अगले अलग। मुझे यह जानने की जरूरत है कि ये समूह कैसे जुड़ते हैं और कैसे वे कुछ सामग्री को जीवित रहने और अधिक एक्सपोजर प्राप्त करने में मदद करते हैं।

मुझे नई भौतिकी बनाने की जरूरत है जो यह बता सके कि ये समुदाय कैसे व्यवहार करते हैं। तब यदि हम इन नेटवर्कों की गतिकी को समझ और उसका अनुमान लगा सकते हैं – जैसे हम ब्रह्मांडीय धूल का एक समूह, या एक गिलास दही दूध – तो हम देख सकते हैं कि अतिवाद को रोकने के लिए हस्तक्षेप कहाँ हो सकता है।

चरमपंथी समूहों पर नज़र रखने का भविष्य मशीन सीखने या एआई नहीं है। मनुष्य बॉट्स के चारों ओर काम करने के तरीके पाएंगे। लेकिन यह लोगों और मशीनों के बीच कुछ संयोजन है। यह प्रगति पर काम है। मनुष्य में अंतर्ज्ञान है। किसी ने अंतर्ज्ञान वाली मशीन नहीं बनाई। फिर भी।

के द्वारा इंटरव्यू लिया गया एलेक्स क्रोटोस्की

इंटरनेट को फिर से महान बनाने के बारे में अधिक जानकारी: