कंपनी ने कहा कि इसकी नई भिक्षु त्वचा टोन स्केल फिट्ज़पैट्रिक स्किन टाइप के नाम से जाने जाने वाले छह रंगों के त्रुटिपूर्ण मानक को प्रतिस्थापित करता है, जो यह आकलन करने के लिए तकनीक उद्योग में लोकप्रिय हो गया था कि क्या स्मार्टवॉच हृदय गति सेंसर, कृत्रिम होशियारी चेहरे की पहचान और अन्य पेशकशों सहित सिस्टम रंग पूर्वाग्रह दिखाते हैं।
टेक शोधकर्ताओं ने स्वीकार किया कि फिट्ज़पैट्रिक ने गहरे रंग की त्वचा वाले लोगों का प्रतिनिधित्व किया। रॉयटर्स ने पिछले साल विशेष रूप से रिपोर्ट किया था कि Google एक विकल्प विकसित कर रहा था।
कंपनी ने हार्वर्ड यूनिवर्सिटी के समाजशास्त्री एलिस मोंक के साथ भागीदारी की, जो रंगवाद का अध्ययन करते हैं और कैमरों द्वारा अमानवीय महसूस किया था जो उनके चेहरे का पता लगाने और उनकी त्वचा की टोन को प्रतिबिंबित करने में विफल रहे।
भिक्षु ने कहा कि फिट्ज़पैट्रिक हल्की त्वचा के बीच मतभेदों को वर्गीकृत करने के लिए बहुत अच्छा है। लेकिन ज्यादातर लोग गहरे रंग के होते हैं, इसलिए वह एक ऐसा पैमाना चाहते थे जो “दुनिया के अधिकांश लोगों के लिए बेहतर काम करे,” उन्होंने कहा।
फोटोशॉप और अन्य डिजिटल कला उपकरणों के माध्यम से भिक्षु ने 10 टन क्यूरेट किए – एआई सिस्टम को प्रशिक्षित करने और उसका आकलन करने में मदद करने वाले लोगों के लिए एक प्रबंधनीय संख्या। उन्होंने और Google ने संयुक्त राज्य भर में लगभग 3,000 लोगों का सर्वेक्षण किया और पाया कि एक महत्वपूर्ण संख्या ने कहा कि 10-बिंदु पैमाने ने उनकी त्वचा के साथ-साथ 40-छाया वाले पैलेट से मेल खाया।
Google की ज़िम्मेदार AI टीम के उत्पाद प्रमुख तुलसी दोशी ने मोंक स्केल को “प्रतिनिधि होने और ट्रैक्टेबल होने के बीच एक अच्छा संतुलन” कहा।
Google पहले से ही इसे लागू कर रहा है। सौंदर्य से संबंधित Google छवियां “ब्राइडल मेकअप लुक्स” जैसी खोज अब भिक्षु के आधार पर फ़िल्टरिंग परिणामों की अनुमति देती हैं। “प्यारे बच्चे” जैसी छवि खोज अब अलग-अलग त्वचा टोन वाली तस्वीरें दिखाती हैं।
Google फ़ोटो में फ़िल्टर विकल्पों से कई लोग संतुष्ट हैं और कंपनी का चेहरा-मिलान सॉफ़्टवेयर पक्षपाती नहीं है, यह सुनिश्चित करने के लिए भिक्षु पैमाने को भी तैनात किया जा रहा है।
फिर भी, दोशी ने कहा कि यदि कंपनियों के पास प्रत्येक टोन पर पर्याप्त डेटा नहीं है, या यदि दूसरों की त्वचा को वर्गीकृत करने के लिए उपयोग किए जाने वाले लोग या उपकरण प्रकाश अंतर या व्यक्तिगत धारणाओं से पक्षपाती हैं, तो समस्याएँ उत्पादों में रिस सकती हैं।