AI favours the rich and powerful, disadvantageous for the rest: Mozilla


2022 इंटरनेट हेल्थ रिपोर्ट के अनुसार, कृत्रिम बुद्धिमत्ता (एआई) से लाभ उठाने वालों और प्रौद्योगिकी से नुकसान पहुंचाने वालों के बीच बढ़ती शक्ति असमानता इंटरनेट के सामने एक शीर्ष चुनौती है, जिसमें कहा गया है कि एआई और स्वचालन प्रभावशाली लोगों के लिए एक शक्तिशाली उपकरण हो सकता है। – उदाहरण के लिए, टेक टाइटन्स जो इससे अधिक लाभ कमा रहे हैं, लेकिन साथ ही कमजोर समूहों और समाजों के लिए हानिकारक हो सकते हैं।

मोज़िला के शोधकर्ताओं द्वारा संकलित रिपोर्ट, गैर-लाभकारी जो फ़ायरफ़ॉक्स वेब ब्राउज़र का निर्माण करती है और वेब पर गोपनीयता की वकालत करती है, ने कहा, “वास्तविक जीवन में, एआई के नुकसान उन लोगों को असमान रूप से प्रभावित करते हैं जो वैश्विक रूप से लाभान्वित नहीं हैं। सत्ता की प्रणाली।”

“स्वचालित करने के लिए वैश्विक भीड़ के बीच, हम भेदभाव और निगरानी के गंभीर खतरे देखते हैं। मोज़िला के शोधकर्ताओं ने कहा, हम पारदर्शिता और जवाबदेही का अभाव देखते हैं, और बड़े परिणाम के निर्णयों के लिए स्वचालन पर अधिक निर्भरता देखते हैं।

हालांकि, रिपोर्ट में कहा गया है कि जटिल वास्तविक दुनिया डेटा के विशाल स्वाथ के साथ प्रशिक्षित सिस्टम, कंप्यूटिंग कार्यों में क्रांतिकारी बदलाव कर रहे हैं, जिसमें भाषण को पहचानना, वित्तीय धोखाधड़ी का पता लगाना, सेल्फ-ड्राइविंग कारों का संचालन करना आदि शामिल हैं, जो पहले मुश्किल या असंभव थे, वहाँ हैं एआई ब्रह्मांड में पर्याप्त और अधिक चुनौतियां।

उदाहरण के लिए, मशीन लर्निंग मॉडल अक्सर नस्लवादी और सेक्सिस्ट रूढ़ियों को पुन: पेश करते हैं क्योंकि वे इंटरनेट मंचों, लोकप्रिय संस्कृति और फोटो अभिलेखागार से प्राप्त डेटा में पूर्वाग्रह के कारण होते हैं।

गैर-लाभकारी का मानना ​​है कि बड़ी कंपनियां इस बारे में पारदर्शी नहीं हैं कि वे एल्गोरिदम में हमारे व्यक्तिगत डेटा का उपयोग कैसे करती हैं जो सोशल मीडिया पोस्ट, उत्पादों और खरीद की सिफारिश करती हैं।

इसके अलावा, प्रचार या अन्य हानिकारक सामग्री दिखाने के लिए सिफारिश प्रणालियों में हेरफेर किया जा सकता है। YouTube के मोज़िला अध्ययन में, एल्गोरिथम अनुशंसाएँ लोगों को 71 प्रतिशत वीडियो दिखाने के लिए ज़िम्मेदार थीं जिन्हें उन्होंने देखने के लिए खेद व्यक्त किया था।

Google, Amazon और Facebook जैसी कंपनियों के पास AI पूर्वाग्रह जैसे मुद्दों से निपटने के लिए प्रमुख कार्यक्रम हैं, फिर भी सूक्ष्म तरीके से पूर्वाग्रहों को एल्गोरिदम में इंजेक्ट किया गया है। उदाहरण के लिए, द न्यूयॉर्क टाइम्स ने 2015 की Google फोटो जांच की ओर इशारा किया था जहां Google ने काले लोगों की तस्वीरों को गोरिल्ला के रूप में लेबल किए जाने के बाद माफ़ी मांगी थी। ऐसी शर्मनाक समस्याओं को दूर करने के लिए Google ने गोरिल्ला, चिम्पांजी और बंदरों के लिए लेबल हटा दिए।

इसी तरह, अमेरिका में जॉर्ज फ्लॉयड की हत्या पर 2020 के मेगा विरोध पर, अमेज़ॅन ने अपने चेहरे की पहचान सॉफ्टवेयर से पैसा कमाया और इसे पुलिस विभागों को बेच दिया, भले ही शोध से पता चला हो कि चेहरे की पहचान कार्यक्रम गोरे लोगों की तुलना में रंग के लोगों की गलत पहचान करते हैं, और यह भी कि पुलिस द्वारा इसके उपयोग के परिणामस्वरूप एक अन्यायपूर्ण गिरफ्तारी हो सकती है जो बड़े पैमाने पर अश्वेत लोगों को प्रभावित करेगी। फेसबुक ने श्वेत नागरिकों और पुलिस पुलिस के साथ विवाद में अश्वेत पुरुषों की क्लिप भी प्रदर्शित की।

लेकिन मोज़िला के शोधकर्ता अपने तरीके से भिन्न हैं, यह कहते हुए कि बिग टेक बहुत सारे अकादमिक शोध के लिए धन देता है और यहां तक ​​​​कि एआई की सामाजिक समस्याओं या जोखिमों पर ध्यान केंद्रित करने वाले कागजात भी, वे पैदल नहीं चलते हैं।

मोज़िला के इंटरनेट हेल्थ रिपोर्ट एडिटर सोलाना लार्सन ने रिपोर्ट में कहा, “एआई पर प्रभाव और नियंत्रण का केंद्रीकरण अधिकांश लोगों के लाभ के लिए काम नहीं करता है।” इसका उद्देश्य “बड़ी तकनीक के दायरे से परे प्रौद्योगिकी पारिस्थितिकी तंत्र को मजबूत करना है।” और उद्यम पूंजी स्टार्टअप अगर हम भरोसेमंद एआई की पूरी क्षमता को अनलॉक करना चाहते हैं,” उसने कहा।

मोज़िला ने सुझाव दिया कि “नियमों का एक नया सेट नवाचार के लिए रेलिंग सेट करने में मदद कर सकता है जो नुकसान को कम करता है और डेटा गोपनीयता, उपयोगकर्ता अधिकारों और अधिक को लागू करता है।”

सभी को पकड़ो प्रौद्योगिकी समाचार और लाइव मिंट पर अपडेट। डाउनलोड करें टकसाल समाचार ऐप दैनिक प्राप्त करने के लिए बाजार अपडेट & रहना व्यापार समाचार.

अधिक
कम

की सदस्यता लेना टकसाल समाचार पत्र

* एक वैध ईमेल प्रविष्ट करें

* हमारे न्यूज़लैटर को सब्सक्राइब करने के लिए धन्यवाद।

Leave a Comment