कैसे आप "एल्गोरिथ्म" किसानवाद में कहते हैं?

यह पद केन्या के नैरोबी में बिहेवियरल इकोनॉमिक्स के लिए बुशरा सेंटर के दया मुसिया और ग्रेस कमाउ द्वारा सह-लेखक, यूसी बर्कले और CEGA के डैन ब्जोर्कग्रेन और जोशुआ ब्लुमेन्स्टॉक के इनपुट के साथ था।

साभार: बुशरा सेंटर फॉर बिहेवियरल इकोनॉमिक्स

एक बार मानव द्वारा किए गए निर्णय एल्गोरिदम द्वारा तेजी से किए जा रहे हैं, यह एक ऋण देने, बीमारी का निदान करने या यहां तक ​​कि एक रेस्तरां आदेश लेने के लिए भी हो सकता है। हालांकि, इनमें से कुछ निर्णय तुच्छ हैं, जबकि अन्य व्यक्तिगत वित्त से संबंधित नहीं हैं, जो इस चिंता को बढ़ाता है कि यदि एल्गोरिदम का उपयोग महत्वपूर्ण निर्णय लेने के लिए किया जा रहा है, तो उन्हें यह स्पष्ट करना चाहिए कि वे निर्णय कैसे किए जाते हैं। उदाहरण के लिए, यूरोपीय संघ, डिजिटल फैसलों के लिए 'स्पष्टीकरण के अधिकार' पर जोर दे रहा है। लेकिन हमें जटिल मॉडल के आधार पर निर्णय कैसे समझाना चाहिए? क्या यह उन सभी के लिए निर्णयों की व्याख्या करना संभव है जो प्रभावित हैं, यहां तक ​​कि जिनके पास प्रौद्योगिकी और एल्गोरिदम के साथ बहुत कम पूर्व अनुभव है?

हमने डिजिटल ऋण देने के संदर्भ में इन सवालों की जांच की, जो विकासशील समाजों में मशीन सीखने के सबसे सफल अनुप्रयोगों में से एक है।

डिजिटल उधार क्या है?

चार में से एक केन्याई ने डिजिटल लोन लिया है (गुबिंस और टोटोलो, 2018)। डिजिटल क्रेडिट ने 6 मिलियन से अधिक केन्याई को क्रेडिट स्कोर दिया है कि वे अपने फोन (Björkegren और Grissen 2015) का उपयोग कैसे करते हैं, इस आधार पर उन्हें क्रेडिट तक पहुंच प्रदान करता है।

आमतौर पर, उपयोगकर्ता Google Play स्टोर से एक डिजिटल क्रेडिट ऐप डाउनलोड करते हैं, ऐप के लिए अपने सोशल मीडिया डेटा, जीपीएस डेटा, संपर्क सूचियों, एसएमएस, कॉल लॉग्स, और आगे तक पहुंचने की अनुमति सक्षम करते हैं। ऐप तब डेटा का विश्लेषण करता है और क्रेडिट स्कोर और ऋण आकार निर्धारित करने के लिए एल्गोरिदम का उपयोग करता है।

साभार: एम-पेसा

क्या लोग "एल्गोरिथ्म" की अवधारणा को समझते हैं?

यह प्रक्रिया, हालांकि, इस सवाल को भी जन्म देती है: क्या ये उपयोगकर्ता वास्तव में समझते हैं कि ये एल्गोरिदम कैसे काम करते हैं, और उनकी गतिविधि कैसे योग्य हो सकती है या उन्हें ऋण से अयोग्य घोषित कर सकती है? और यदि नहीं, तो क्या एल्गोरिदम की प्रकृति को गरीबों तक पहुंचाना संभव है? और ऐसा करने में, कितनी जानकारी प्रदान करना उचित है?

छह फोकस समूह चर्चाओं (FGDs) की एक श्रृंखला ने ऋण की पात्रता निर्धारित करने वाले डिजिटल क्रेडिट एल्गोरिदम की केन्यन्स की सामान्य समझ का पता लगाया। FGD को नैरोबी में बिहेवियरल इकोनॉमिक्स के लिए बुशरा सेंटर में आयोजित किया गया था, जहां 50 लोगों को आमंत्रित किया गया था: बुसारा के कम आय वाले प्रतिसादित पूल से किबेरा और कावांगवेयर निवासियों का एक विविध सेट, जिनके पास स्मार्टफ़ोन का स्वामित्व था और जिन्हें कम से कम कुछ पूर्व अनुभव था डिजिटल के साथ क्रेडिट। केवल 64% प्रतिभागियों ने माध्यमिक स्तर की शिक्षा प्राप्त की थी। प्रतिभागियों को तब डिजिटल क्रेडिट अनुमोदन प्रक्रिया की उनकी समझ को समझाने के लिए कहा गया था, सरल एल्गोरिथम प्रक्रिया को उन्हें समझाया गया था, और फिर उन्हें एल्गोरिदम को समझने के लिए काल्पनिक अभ्यासों के एक सेट के साथ प्रस्तुत किया गया था।

लगभग सभी प्रतिभागियों को एल्गोरिदम का बहुत कम ज्ञान या समझ थी जो डिजिटल क्रेडिट टूल का उपयोग करते हैं।

कई पारंपरिक औपचारिक प्रक्रियाओं के लिए आस्थगित किया गया था कि उन्होंने सोचा था कि इन प्लेटफार्मों ने ऋण के लिए अपनी पात्रता, बचत, आय के प्राथमिक स्रोत, ऋण गारंटर और / या MPESA लेनदेन का मूल्यांकन करने के लिए किस प्रक्रिया का उपयोग किया है। एल्गोरिथमिक दृष्टिकोण से कम परिचित होने वाले प्रतिभागियों ने यह माना कि सभी वित्तीय संस्थानों के बीच आवेदनों की जानकारी साझा करने के लिए कुछ बड़ी मिलीभगत मौजूद थी जिनका उपयोग सामूहिक रूप से पात्रता का मूल्यांकन करने के लिए किया जाएगा।

"मेरा मानना ​​है कि वे [उदाहरण के लिए, डिजिटल ऋणदाता] अन्य उधार संस्थानों, [टेलीकॉम, उदाहरण के लिए, Safaricom और क्रेडिट संदर्भ ब्यूरो CRB] के साथ जाएं और जांच करें कि क्या मैं एक अच्छा उधारकर्ता हूं या नहीं। "

हालांकि, प्रतिभागियों ने आमतौर पर माना कि फोन के उपयोग से लोगों की कुछ विशेषताओं को निर्धारित करना संभव है।

अन्य गतिविधियों के साथ कॉल, एसएमएस संदेश, एप्लिकेशन इंस्टॉल, बैटरी चार्जिंग पैटर्न और वाईफाई कनेक्शन पर फोन उपयोग डेटा, अन्य जनसांख्यिकीय विशेषताओं को परिभाषित कर सकते हैं। आमतौर पर, एफजीडी में उत्तरदाता यह समझने में सक्षम थे कि कुछ डेटा अच्छे या बुरे उधारकर्ताओं की पहचान कैसे कर सकते हैं। कुछ ने दिन-प्रतिदिन की व्यावसायिक बातचीत की ओर ध्यान देने के साथ व्यवहार को खंडित किया:

"व्यवसाय के लोगों को एक ही फोन नंबर से अधिक कॉल प्राप्त होने की संभावना है और उनका जीपीएस उन्हें बहुत कम घूम रहा होगा क्योंकि उन्हें अपने ग्राहकों को ऑनलाइन या व्यक्तिगत रूप से भाग लेने की आवश्यकता होती है।"

गोपनीयता मायने रखती है, लेकिन गुमनामी कई चिंताओं को संबोधित करती है।

अधिकांश प्रतिभागी इन ऐप्स पर दी जाने वाली अनुमतियों के उद्देश्य के बारे में स्पष्ट नहीं थे। जब इन ऐप्स द्वारा एकत्र किए गए डेटा को स्पष्ट रूप से वर्णित किया गया था, तो प्रतिभागियों ने अपनी गोपनीयता, कॉल रिकॉर्डिंग और एसएमएस सामग्री पर चिंता के सबसे संवेदनशील क्षेत्र होने पर चिंता जताई। लेकिन वे गुमनाम डेटा संग्रह, यानी हैशेड फोन नंबरों के साथ बहुत अधिक आरामदायक थे, इसलिए जब तक कोई सामग्री एकत्र नहीं की गई थी।

एल्गोरिथ्म विनिर्देशों के प्रभावी संचार के लिए सरल पैलेटेबल भाषा महत्वपूर्ण है।

बुशरा ने विभिन्न दृष्टिकोणों का उपयोग करके एल्गोरिदम को समझाने की कोशिश की, उदा। गणितीय समीकरण या ग्राफिक चित्र। अधिकांश प्रतिभागियों को गणितीय समीकरणों को समझने के लिए संघर्ष करना पड़ा जब गणितीय समीकरणों के रूप में प्रस्तुत किया गया था, जबकि एल्गोरिदम का आरेखीय प्रतिनिधित्व प्रतिभागियों द्वारा आसानी से समझ लिया गया था। अनुपात समझाने के लिए पाई चार्ट का उपयोग करना सबसे सफल रहा।

सरलीकृत शब्दावली इस आबादी के स्तर और दिन-प्रतिदिन की भाषा (बड़े पैमाने पर कठबोली) के अनुरूप है। "बढ़ी हुई अनुपात" या "कटौती" जैसे शब्दों को क्रमशः "अधिक" और "घटाना" के साथ बदल दिया जा सकता है। उधारकर्ता इन निर्णय नियमों को समझने के लिए उत्सुक हैं लेकिन केवल इस हद तक कि उनके लिए सामान्य अवधारणा को समझना आसान है।

एल्गोरिथम-प्रेरित संचार के लिए इसका क्या अर्थ है?

उपभोक्ता संरक्षण सुनिश्चित करने के लिए वैश्विक रूप से एल्गोरिथ्म पारदर्शिता को किस हद तक अनिवार्य किया जाना चाहिए, इस बारे में वैश्विक बहस जारी है। CEGA के डिजिटल क्रेडिट ऑब्जर्वेटरी (DCO) के माध्यम से बिल एंड मेलिंडा गेट्स फाउंडेशन द्वारा समर्थित जोशुआ ब्लुमेन्स्टॉक और डैनियल ब्योर्कग्रेन के नेतृत्व में एक वर्तमान परियोजना CEGA के डिजिटल क्रेडिट ऑब्जर्वेटरी (DCO) के माध्यम से समर्थित है, यह निर्धारित करने के लिए एल्गोरिदम को उचित रूप से संप्रेषित किया जा सकता है क्योंकि डिजिटल क्रेडिट अपनी पहुंच का विस्तार करने के लिए जारी है। ।