यह व्यक्तिगत है। मुझे लगता है कि ऑनलाइन बदमाशी का मेरा पहला अनुभव शायद 15 साल पहले था जब किसी ने वास्तव में हाई स्कूल के दौरान मुझे समर्पित एक नफरत साइट बनाई थी! लेकिन आज समस्या नियंत्रण से बाहर हो गई है: जिस सतह क्षेत्र पर आप पर हमला किया जा सकता है वह सिर्फ विशाल है और विसंगति भारी है।

मैंने 2008 में फेसबुक पर नजर रखी थी, मैं Pinterest पर था जब उसके पास सिर्फ 10 कर्मचारी थे और मैं Quora पर काम करने वाला दूसरा इंजीनियर था। इन स्थानों पर मेरा समय मुझे सिखाता है कि आप प्लेटफ़ॉर्म से सामग्री समस्या को अलग समस्या के रूप में नहीं निकाल सकते। यह इन समुदायों में कैसे काम करता है, इसका निर्माण किया गया है: खराब तरीके से डिजाइन किए गए तंत्र दुरुपयोग की क्षमता को खोलते हैं।

मैंने यह भी देखा कि सिलिकॉन वैली में विविधता और समावेश की कमी का क्या मतलब है। यह एक ऐसी जगह है जहाँ अपने स्वयं के जनसांख्यिकीय की समस्याओं को हल करने की आदत है। ऐसा लगता है कि यह पता लगाने की कोशिश कर रहा है: “माँ ने मेरे लिए क्या किया जो मैं खुद नहीं करना चाहती? मेरे लिए खाना बनाना, मेरी धुलाई करना, मुझे गाड़ी चलाना। यह इस तरह से वाक्यांश करने के लिए समस्याग्रस्त है, लेकिन आप बिंदु प्राप्त करते हैं। अगर ऐसे लोग नहीं हैं जिन्हें खराब सामान से निपटना पड़ा है, तो इसका मतलब है कि इन समस्याओं के समाधान को प्राथमिकता नहीं दी गई है।

इसलिए, आखिरकार, मैं निर्माण करना चाहता था ब्लॉक पार्टी ऐप उन सभी की मदद करने के लिए है जो इंटरनेट पर उत्पीड़न और बदमाशी से निपटते हैं। हमें कुछ सहायक बनाने के लिए परिष्कृत AI की आवश्यकता नहीं थी। रास्ता ब्लॉक पार्टी वर्तमान में उत्पीड़न या बदमाशी को फ़िल्टर करना सरल सांख्यिकी के माध्यम से होता है [rules]।

उदाहरण के लिए, ‘मुझे एक ब्रेक मोड की आवश्यकता है’ ।

हम सब कुछ इकट्ठा करते हैं और इसे एक फ़ोल्डर में डालते हैं जिसे आप बाद में समीक्षा कर सकते हैं। इस तरह, आपको किसी भी चीज़ को याद करने के बारे में चिंता करने की ज़रूरत नहीं है लेकिन आप चीजों को कैसे और कब चुनते हैं, यह चुनने के लिए मिलता है।

इस दृष्टिकोण का मतलब है कि किसी भी प्रकार की मशीन-लर्निंग एल्गोरिदम के साथ जो कुछ भी सटीकता तक पहुंचता है, उसे वर्गीकृत करने में हमें सही नहीं है। और आप ‘सही’ को कैसे परिभाषित करते हैं: क्या बदमाशी है और क्या नहीं? प्रत्येक व्यक्ति की अपनी सीमा होती है, और यह इस बात पर निर्भर करता है कि आप कैसा महसूस कर रहे हैं। ऐसे समय होते हैं जब मैं दुनिया और दूसरों से सुनने के लिए तैयार होता हूं जहां मैं इन लोगों से निपटने के लिए बस इतना थक जाता हूं।

इस रणनीति का अर्थ यह भी है कि हम अन्य सुविधाएँ जोड़ सकते हैं। उदाहरण के लिए, आप दूसरों को उस फ़ोल्डर तक पहुंच प्रदान कर सकते हैं, जैसे कि मित्रों या अधिकारियों को परेशान करने के लिए देख सकते हैं। यह उन्हें मेरे पूर्ण ट्विटर क्रेडेंशियल्स देने के लिए बेहतर है ताकि वे सब कुछ देखें।

सोशल प्लेटफॉर्म्स के बहुत सारे मौजूदा डिजाइन उत्पीड़न से निपटने के लिए पीड़ित पर दबाव डालते हैं। मैंने यह रेडिट एएमए किया [Ask Me Anything] पिछली गर्मियों में और यह 4,000 ट्रोल्स के साथ खत्म हो गया था। रेडिट की प्रतिक्रिया थी कि वे उत्पीड़न की निंदा नहीं करते हैं, और मुझे इसकी रिपोर्ट करनी चाहिए। लेकिन मैं वहां बैठकर हजारों टिप्पणियों और खातों की रिपोर्ट करने नहीं जा रहा हूं। यह उस व्यक्ति पर उस बोझ को डालने के लिए निराशाजनक और संभावित रूप से आघात है जिसे दुरुपयोग से निपटना है। हमारे जैसी साझा प्रणाली, प्रत्यायोजित पहुंच के साथ, इसका मतलब है कि आप दूसरों की मदद कर सकते हैं।

हमारे पास एक वॉचलिस्ट सुविधा है जो आपको लोगों पर नज़र रखने की सुविधा देती है। मेरे पास एक बार कोई ऐसा व्यक्ति था जिसने हर बार ट्वीट किया और मैं उसे देखना नहीं चाहता था, इसलिए मैंने उसे मौन कर दिया। लेकिन फिर कुछ बिंदु पर वह शारीरिक रूप से मुझे घूरने के लिए आगे बढ़ा और मैंने इसे म्यूटिंग के कारण नहीं देखा। उस समय से मुझे यह सुनिश्चित करने के लिए नियमित रूप से उनके खाते की जांच करनी थी कि मैं शारीरिक रूप से सुरक्षित होने जा रहा हूं।

अंतत: हमारा लक्ष्य एक ऐसे बिंदु पर पहुंचना है जहां हम ट्विटर या इंस्टाग्राम जैसे प्लेटफार्मों के लिए मौजूदा सॉफ्टवेयर के शीर्ष पर नहीं बनेंगे, लेकिन नए प्लेटफार्मों के लिए उपकरण प्रदान करेंगे जो उन्हें एक ही नुकसान से बचने में मदद करेंगे। इसे ऐप में भुगतान प्रसंस्करण की तरह सोचें – एक स्टार्ट-अप को उस सॉफ़्टवेयर को बनाने की आवश्यकता नहीं है, वे बस किसी और से मुद्रीकरण उपकरण में प्लग करते हैं। ब्लॉक पार्टी वह उपकरण हो सकता है, और उम्मीद है कि सभी के लिए इस समस्या को हल करेंगे।

के द्वारा इंटरव्यू लिया गया दान बेनेट

इंटरनेट को फिर से महान बनाने के बारे में अधिक जानकारी: