उत्पादों में पूर्वाग्रह को रोकने के लिए Google Skin tone के एक नए उपाय की खोज पर कार्य कर रहा है
अल्फाबेट इंक के Google ने इस सप्ताह रायटर को बताया कि यह त्वचा की टोन को वर्गीकृत करने के लिए उद्योग-मानक पद्धति का एक विकल्प विकसित कर रहा है, जो कि प्रौद्योगिकी शोधकर्ताओं और त्वचा विशेषज्ञों के बढ़ते कोरस का कहना है कि यह आकलन करने के लिए अपर्याप्त है कि उत्पाद रंग के लोगों के खिलाफ पक्षपाती हैं या नहीं।
मुद्दा एक छह-रंग का पैमाना है जिसे फिट्ज़पैट्रिक स्किन टाइप (FST) के रूप में जाना जाता है, जिसका त्वचा विशेषज्ञों ने 1970 के दशक से उपयोग किया है।
टेक कंपनियां अब लोगों को वर्गीकृत करने और यह मापने के लिए इस पर भरोसा करती हैं कि क्या चेहरे की पहचान प्रणाली या स्मार्टवॉच हार्ट-रेट सेंसर जैसे उत्पाद त्वचा की टोन में समान रूप से अच्छा प्रदर्शन करते हैं।
आलोचकों का कहना है कि एफएसटी, जिसमें "सफेद" त्वचा के लिए चार श्रेणियां और "ब्लैक" और "ब्राउन" के लिए एक-एक श्रेणी शामिल है, रंग के लोगों के बीच विविधता की उपेक्षा करता है।
यूएस डिपार्टमेंट ऑफ होमलैंड सिक्योरिटी के शोधकर्ताओं ने पिछले अक्टूबर में एक संघीय प्रौद्योगिकी मानकों के सम्मेलन के दौरान, चेहरे की पहचान के मूल्यांकन के लिए एफएसटी को छोड़ने की सिफारिश की क्योंकि यह विविध आबादी में रंग सीमा का खराब प्रतिनिधित्व करता है।
एफएसटी के बारे में रॉयटर्स के सवालों के जवाब में, Google ने पहली बार और साथियों से आगे कहा कि यह चुपचाप बेहतर उपायों का अनुसरण कर रहा है।
"हम वैकल्पिक, अधिक समावेशी, उपायों पर काम कर रहे हैं जो हमारे उत्पादों के विकास में उपयोगी हो सकते हैं, और वैज्ञानिक और चिकित्सा विशेषज्ञों के साथ-साथ रंग के समुदायों के साथ काम करने वाले समूहों के साथ सहयोग करेंगे," कंपनी ने विवरण देने से इनकार करते हुए कहा प्रयास पर।
विवाद तकनीक उद्योग में नस्लवाद और विविधता पर एक बड़ी गणना का हिस्सा है, जहां कार्यबल वित्त जैसे क्षेत्रों की तुलना में अधिक सफेद है।
यह सुनिश्चित करना कि प्रौद्योगिकी सभी त्वचा के रंगों के साथ-साथ अलग-अलग उम्र और लिंग के लिए अच्छी तरह से काम करती है, नए उत्पादों के रूप में अधिक महत्व ग्रहण कर रही है, जो अक्सर कृत्रिम बुद्धि (एएल) द्वारा संचालित होते हैं, स्वास्थ्य देखभाल और कानून प्रवर्तन जैसे संवेदनशील और विनियमित क्षेत्रों में विस्तारित होते हैं।
कंपनियों को पता है कि उनके उत्पाद उन समूहों के लिए दोषपूर्ण हो सकते हैं जिनका अनुसंधान और परीक्षण डेटा में कम प्रतिनिधित्व है।
एफएसटी पर चिंता यह है कि गहरे रंग की त्वचा के लिए इसके सीमित पैमाने से ऐसी तकनीक विकसित हो सकती है, जो सुनहरे भूरे रंग की त्वचा के लिए काम करती है लेकिन एस्प्रेसो लाल टोन के लिए विफल हो जाती है।
कई प्रकार के उत्पाद FST से कहीं अधिक समृद्ध पैलेट प्रदान करते हैं। क्रायोला ने पिछले साल 24 स्किन टोन क्रेयॉन लॉन्च किए थे, और मैटल इंक की बार्बी फैशनिस्टा डॉल ने इस साल नौ टोन कवर किए हैं।
यह मुद्दा Google के लिए अकादमिक से बहुत दूर है। जब कंपनी ने फरवरी में घोषणा की कि कुछ एंड्रॉइड फोन पर कैमरे उंगलियों के माध्यम से पल्स दरों को माप सकते हैं, तो उसने कहा कि रीडिंग औसतन 1.8% तक गलत होगी, भले ही उपयोगकर्ताओं के पास था या नहीं हल्की या गहरी त्वचा।
कंपनी ने बाद में इसी तरह की वारंटी दी कि त्वचा का प्रकार मीट वीडियो कॉन्फ्रेंस पर पृष्ठभूमि को फ़िल्टर करने के लिए एक सुविधा के परिणामों को विशेष रूप से प्रभावित नहीं करेगा, न ही त्वचा की स्थिति की पहचान के लिए आने वाले वेब टूल, जिसे अनौपचारिक रूप से डर्म असिस्ट कहा जाता है। वे निष्कर्ष सिक्स-टोन FST . के साथ परीक्षण से प्राप्त हुए हैं
प्रारंभ बिंदु
देर से हार्वर्ड विश्वविद्यालय के त्वचा विशेषज्ञ डॉ थॉमस फिट्ज़पैट्रिक ने सोरायसिस के लिए पराबैंगनी विकिरण उपचार को निजीकृत करने के लिए पैमाने का आविष्कार किया, एक खुजली वाली त्वचा की स्थिति।
उन्होंने "श्वेत" लोगों की त्वचा को रोमन अंकों I से IV के रूप में यह पूछकर समूहीकृत किया कि वे धूप में निश्चित अवधि के बाद कितने सनबर्न या टैन विकसित हुए।
एक दशक बाद "भूरी" त्वचा के लिए V और "काले" के लिए VI टाइप करने के लिए आया। यह पैमाना अभी भी सनब्लॉक उत्पादों के परीक्षण के लिए अमेरिकी नियमों का हिस्सा है, और यह रोगियों के कैंसर के जोखिम और अधिक का आकलन करने के लिए एक लोकप्रिय त्वचाविज्ञान मानक बना हुआ है।
कुछ त्वचा विशेषज्ञों का कहना है कि पैमाना देखभाल के लिए एक खराब और अत्यधिक उपयोग किया जाने वाला उपाय है और अक्सर नस्ल और जातीयता से जुड़ा होता है। "बहुत से लोग मानेंगे कि मैं त्वचा का प्रकार V हूं, जो शायद ही कभी जलता है, लेकिन मेरी त्वचा जलती है।
सुसान टेलर, पेन्सिलवेनिया विश्वविद्यालय के त्वचा विशेषज्ञ ने कहा, जिन्होंने हाशिए के समुदायों पर शोध को बढ़ावा देने के लिए 2004 में स्किन ऑफ कलर सोसाइटी की स्थापना की थी। "मेरी त्वचा के रंग को देखने के लिए और यह कहने के लिए कि मैं टाइप वी हूं, क्या मुझे नुकसान होता है।"
प्रौद्योगिकी कंपनियां, हाल तक, असंबद्ध थीं। इमोजी की देखरेख करने वाले एक उद्योग संघ यूनिकोड ने 2014 में एफएसटी को पीले रंग से परे पांच त्वचा टोन अपनाने के आधार के रूप में संदर्भित किया, यह कहते हुए कि पैमाने "नकारात्मक संघों के बिना" था।
"जेंडर शेड्स" शीर्षक से 2018 का एक अध्ययन, जिसमें पाया गया कि चेहरे की विश्लेषण प्रणाली अक्सर गहरे रंग की त्वचा वाले लोगों को गलत तरीके से पेश करती है, ए.आई. के मूल्यांकन के लिए एफएसटी का उपयोग करके लोकप्रिय हुई।
शोध ने एफएसटी को "शुरुआती बिंदु" के रूप में वर्णित किया, लेकिन बाद में आए समान अध्ययनों के वैज्ञानिकों ने रॉयटर्स को बताया कि उन्होंने लगातार बने रहने के लिए पैमाने का इस्तेमाल किया।
"अपेक्षाकृत अपरिपक्व बाजार के लिए पहले उपाय के रूप में, यह लाल झंडों की पहचान करने में हमारी मदद करने के अपने उद्देश्य को पूरा करता है," अल के ऑडिट पर ध्यान केंद्रित करने वाले मोज़िला के एक साथी इनियोलुवा डेबोरा राजी ने कहा।
डीपफेक का पता लगाने के लिए अप्रैल के एक अध्ययन परीक्षण में, फेसबुक इंक के शोधकर्ताओं ने एफएसटी लिखा "स्पष्ट रूप से भूरे और काले रंग की त्वचा के भीतर विविधता को शामिल नहीं करता है।"
फिर भी, उन्होंने ३,००० व्यक्तियों के वीडियो जारी किए जिनका उपयोग ए.आई. सिस्टम के मूल्यांकन के लिए किया जाएगा, जिसमें आठ मानव चूहे के आकलन के आधार पर एफएसटी टैग संलग्न हैं।
रैटर्स का निर्णय केंद्रीय है। फेशियल रिकग्निशन सॉफ्टवेयर स्टार्टअप एनीविज़न ने पिछले साल रैटर्स को सेलिब्रिटी उदाहरण दिए: पूर्व बेसबॉल महान डेरेक जेटर टाइप IV के रूप में, मॉडल टायरा बैंक्स ए वी, और रैपर 50 सेंट ए VI।
AnyVision ने रायटर को बताया कि वह FST के उपयोग पर फिर से विचार करने के Google के निर्णय से सहमत है, और Facebook ने कहा कि यह बेहतर उपायों के लिए खुला है।
Microsoft Corp और स्मार्टवॉच निर्माता Apple Inc और Garmin Ltd स्वास्थ्य संबंधी सेंसर पर काम करते समय FST का संदर्भ देते हैं।
लेकिन एफएसटी का उपयोग गहरे रंग की त्वचा पर स्मार्टवॉच से हृदय गति रीडिंग के बारे में "झूठे आश्वासन" को बढ़ावा दे सकता है, ब्लैक लाइव्स मैटर सामाजिक समानता आंदोलन से प्रेरित कैलिफोर्निया विश्वविद्यालय सैन डिएगो के चिकित्सकों ने पिछले साल स्लीप जर्नल में लिखा था।
Microsoft ने FST की खामियों को स्वीकार किया। ऐप्पल ने कहा कि यह विभिन्न उपायों, एफएसटी का उपयोग करके केवल कई बार त्वचा टोन में मनुष्यों पर परीक्षण करता है। गार्मिन ने कहा कि व्यापक परीक्षण के कारण यह मानता है कि रीडिंग विश्वसनीय हैं।
विक्टर कैसाले, जिन्होंने मेकअप कंपनी मोब ब्यूटी की स्थापना की और नए क्रेयॉन पर क्रायोला की मदद की, ने कहा कि उन्होंने नींव के लिए 40 शेड विकसित किए, प्रत्येक अगले से लगभग 3% अलग है, या अधिकांश वयस्कों के लिए पर्याप्त है।
इलेक्ट्रॉनिक्स पर रंग सटीकता से पता चलता है कि तकनीकी मानकों में 12 से 18 टोन होना चाहिए, उन्होंने कहा, "आपके पास सिर्फ छह नहीं हो सकते।"
