भयानक एआई: जब एआई हद पार कर जाता है

आउफुल एआई एक ओपन रिपॉजिटरी है जो आर्टिफिशियल इंटेलिजेंस तकनीकों के वास्तविक दुनिया के उदाहरणों को एक साथ लाती है जो सबसे बुरा काम करती हैं। जैसे कि अत्यधिक निगरानी, अनुचित निर्णय या ऐसी प्रणालियाँ जो कुछ लोगों के साथ दूसरों की तुलना में बुरा व्यवहार करती हैं।
इसका विचार सरल है: यह दिखाना कि क्या गलत हो रहा है ताकि इसे होने से रोका जा सके।

समस्या: लोगों को पता चले बिना मशीनों द्वारा निर्णय लेना

बढ़ते हुए, स्कूल, व्यवसाय, अस्पताल, पुलिस बल, बैंक और यहां तक कि सोशल मीडिया प्लेटफॉर्म भी अपने निर्णय लेने में कृत्रिम बुद्धिमत्ता का उपयोग कर रहे हैं।
समस्या? ज़्यादातर समय, लोग इस बात से अनजान होते हैं कि ऐसा हो रहा है।

उदाहरण के लिए, चेहरे की पहचान करने वाली एआई (AI) या पूर्वानुमानित आपराधिक न्याय प्रणाली नस्लीय या लैंगिक पक्षपात के अधीन हो सकती हैं। जब कोड और डेटा स्वामित्व वाले होते हैं, तो उनका ऑडिट करने, चुनौती देने या उन्हें सुधारने का कोई तरीका नहीं होता है। यह 'अल्गोरिथम शासन' के एक नए रूप के बराबर है — स्वचालित निर्णय जो लोगों के जीवन को नियंत्रित करते हैं।

ऐसा क्यों होता है?

इनमें से कई तकनीकें ऐसी कंपनियों द्वारा बनाई जाती हैं जो कोड का खुलासा नहीं करती हैं, डेटा का खुलासा नहीं करती हैं और यह नहीं बताती हैं कि निर्णय कैसे लिए जाते हैं।
अन्य को सार्वजनिक या निजी संस्थानों द्वारा 'ब्लैक बॉक्स' के रूप में खरीदा जाता है: वे काम करते हैं… लेकिन कोई भी यह नहीं देख सकता कि उनके अंदर क्या है।

और प्रभाव क्या हैं?

ये समस्याएँ सैद्धांतिक नहीं हैं; ये रोजमर्रा की जिंदगी में होती हैं:

• अन्याय: ऐसी प्रणालियाँ जो कुछ लोगों के साथ बुरा व्यवहार करती हैं (लिंग, पड़ोस, त्वचा के रंग या लहजे के आधार पर)।

• अवसरों की हानि: एल्गोरिदम जो क्रेडिट, बीमा या रोजगार से वंचित करते हैं।

• निगरानी: कैमरे जो बिना किसी कारण के लोगों पर नज़र रखते हैं।

• तनाव और भ्रम: यह महसूस करना कि 'कुछ' हमारे लिए निर्णय ले रहा है, लेकिन यह जाने बिना कि कैसे। यह ऐसे स्थान पर रहने जैसा है जहाँ नियम हैं, लेकिन कोई आपको नहीं बताता कि वे क्या हैं।

जो समूह पहले से ही हाशिए पर हैं, उन्हें सबसे बुरा असर महसूस होता है: एल्गोरिथम पक्षपात असमानताओं को स्वचालित निर्णयों में बदल देता है। अपारदर्शिता तटस्थ नहीं है;
यह पहले से मौजूद अन्याय को बनाए रखती है।

Awful AI क्या करता है?

Awful AI कोई 'जादुई उपकरण' नहीं है, बल्कि यह दृश्यता और बहस के लिए एक बुनियादी ढांचे के रूप में कार्य करता है — एक खुली भंडार, जो वाणिज्यिक पक्षपात से मुक्त है, और जो AI के दुरुपयोग का दस्तावेजीकरण और खुलासा करता है। यह अपने आप में महत्वपूर्ण है: यह उस चीज़ को उजागर करता है जिसे आमतौर पर छिपाया जाता है। पारदर्शिता जवाबदेही की दिशा में पहला कदम है।

इसका खुला होना यह दर्शाता है कि कोई भी — शोधकर्ता, पत्रकार, कार्यकर्ता — सूची को देख सकता है, मामलों की जांच कर सकता है, रिपोर्टों पर आगे कार्रवाई कर सकता है, अध्ययन कर सकता है और संस्थानों पर दबाव डाल सकता है। यह कॉर्पोरेट-तकनीकी क्षेत्र के बाहर के समुदायों को सशक्त बनाता है।

इसके अलावा, 'अफुल एआई' उस चीज़ को प्रेरित करता है जिसे लेखक 'प्रतिस्पर्धात्मक तकनीक' कहते हैं — यानी, विवाद और प्रतिरोध की तकनीकें: चूँकि समस्या मौजूद है, इसलिए प्रतिकारक शक्तियों पर विचार करना आवश्यक है। हालांकि रिपॉजिटरी स्वयं एक तैयार-प्रणाली विकल्प प्रदान नहीं करती है, यह एक महत्वपूर्ण ज्ञान आधार के रूप में कार्य करती है, उन लोगों के लिए एक शुरुआती बिंदु है जो ऐसे एआई की कल्पना करना चाहते हैं जो निष्पक्ष, विनियमित, लेखा-परीक्षण योग्य और सामान्य भलाई के अनुरूप हों।

यह कार्य आवश्यक है: इस धारणा को चुनौती देने के लिए कि एआई (AI) अपरिहार्य है, और यह पुनः पुष्टि करने के लिए कि प्रौद्योगिकियाँ सामाजिक और राजनीतिक विकल्प हैं जो नैतिक निर्णयों पर निर्भर करते हैं।

यह पुर्तगाल में नागरिक प्रौद्योगिकी विकसित करने वालों की कैसे मदद करता है

हालांकि आउफुल एआई पुर्तगाली नहीं है — और प्रलेखित मामले अक्सर संयुक्त राज्य अमेरिका, यूरोप या ग्लोबल नॉर्थ से आते हैं — किसी भी ऐसे संदर्भ में जहां एआई और स्वचालन बढ़ रहे हैं, एक महत्वपूर्ण बुनियादी ढांचे के रूप में इसकी भूमिका मूल्यवान है।

पुर्तगाल में, पूरे यूरोप की तरह, सार्वजनिक और निजी पहलें स्वचालित प्रणालियों को अपनाना शुरू कर रही हैं: चेहरे की पहचान, एल्गोरिदम पर आधारित प्रशासनिक निर्णय, और व्यक्तिगत डेटा का बड़े पैमाने पर विश्लेषण। निगरानी, बहस और विकल्पों के बिना, हम उन्हीं दुरुपयोगों को दोहराएंगे — अलगाव, अपारदर्शिता, एल्गोरिथम भेदभाव और बड़े पैमाने पर निगरानी।

जो लोग मुक्त सॉफ्टवेयर, खुले डेटा और खुली शासन का समर्थन करते हैं, उनके लिए अफ़ुल एआई जागरूकता बढ़ाने, दस्तावेज़ीकरण और लामबंदी के लिए एक मूल्यवान उपकरण के रूप में काम करता है।

एक ऐसी तकनीक जिस पर हम भरोसा कर सकते हैं क्योंकि हम देख सकते हैं कि यह कैसे काम करती है

यह रिपॉजिटरी हमें यह एहसास दिलाती है कि बेहतर तरीके हैं:

• ओपन-सोर्स सॉफ़्टवेयर: हम कोड को देख सकते हैं और उसमें योगदान दे सकते हैं

• खुला और अच्छी तरह से प्रलेखित डेटा: हम जानते हैं कि निर्णय कहाँ से आते हैं

• सामुदायिक उपकरण: मदद करने के लिए डिज़ाइन किए गए, न कि निगरानी के लिए

• लो-टेक या हाइब्रिड तकनीक: सरल, फिर भी पारदर्शी

• ऐसे प्रक्रियाएँ जो समीक्षा और सुधार के लिए खुली हैं।

अपारदर्शिता तटस्थ नहीं है; यह पहले से मौजूद अन्याय को बनाए रखती है

लिंक

daviddao/awful-ai: Awful AI – 2021 संस्करण (DOI 10.5281/zenodo.5855971)