छवि क्रेडिट: स्केलेबल सहयोग समूह / एमआईटी मीडिया लैब। CC-बाय 4.0 इंटरनेशनल।

एआई के व्यवहार का अध्ययन

एक नया पेपर मशीन व्यवहार के उभरते अंतःविषय क्षेत्र को फ्रेम करता है

जैसा कि "सोच" तकनीक के साथ हमारी बातचीत तेजी से बढ़ती है, एमआईटी मीडिया लैब के शोधकर्ताओं के नेतृत्व में एक समूह अनुसंधान के एक नए क्षेत्र के लिए बुला रहा है - मशीन व्यवहार - जो जीव विज्ञान में कंप्यूटर विज्ञान और इंजीनियरिंग से परे कृत्रिम बुद्धिमत्ता के अध्ययन को ले जाएगा, अर्थशास्त्र, मनोविज्ञान, और अन्य व्यवहार और सामाजिक विज्ञान।

स्कैडल कोऑपरेशन ग्रुप का नेतृत्व करने वाले इयाद रहवान ने कहा, "हमें प्रभावकारी मशीनों पर अधिक खुला, विश्वसनीय, विश्वसनीय प्रभाव पड़ने की जरूरत है, जिसका असर समाज पर पड़ने वाली बुद्धिमान मशीनों पर पड़ रहा है, और इसलिए शोध में विशेषज्ञता और ज्ञान को शामिल करने की जरूरत है।" मीडिया लैब में।

मीडिया लैब के अन्य वैज्ञानिकों के साथ रहवान, मैनुअल सीब्रियन और निक ओब्रादोविच ने मैक्स प्लैंक इंस्टीट्यूट्स, स्टैनफोर्ड यूनिवर्सिटी, यूनिवर्सिटी ऑफ कैलिफोर्निया सैन डिएगो और अन्य शिक्षण संस्थानों के साथ-साथ गूगल, फेसबुक और फेसबुक से सहयोगियों को बुलाया। Microsoft, एक आर्टिफिशियल इंटेलिजेंस सिस्टम के व्यवहार को समझने के उद्देश्य से एक व्यापक वैज्ञानिक अनुसंधान एजेंडा के लिए एक मामला बनाते हुए नेचर में एक पेपर प्रकाशित करने के लिए।

"हम एजेंसी के साथ मशीनों के उदय को देख रहे हैं, ऐसी मशीनें जो निर्णय लेने और कार्रवाई करने वाले अभिनेता हैं," राहवान ने कहा। "यह वैज्ञानिक अध्ययन के एक नए क्षेत्र के लिए कहता है, जो उन्हें केवल इंजीनियरिंग और कंप्यूटर विज्ञान के उत्पादों के रूप में नहीं देखता है, बल्कि इसके साथ ही अपने स्वयं के व्यवहार पैटर्न और पारिस्थितिकी के साथ अभिनेताओं के एक नए वर्ग के रूप में भी है।"

ऐसा नहीं है कि अर्थशास्त्री और राजनीतिक वैज्ञानिक अपने क्षेत्रों में एआई की भूमिका का अध्ययन नहीं कर रहे हैं। उदाहरण के लिए, श्रम अर्थशास्त्री देख रहे हैं कि एआई कैसे नौकरी के बाजार को बदलेगा, जबकि राजनीतिक वैज्ञानिक राजनीतिक प्रक्रिया पर सोशल मीडिया के प्रभाव में देरी कर रहे हैं। लेकिन यह शोध काफी हद तक साइलो में हो रहा है।

पेपर के प्रकाशन के साथ, स्केलेबल सहयोग समूह ने अपने कई लेखकों के साथ साक्षात्कार की एक श्रृंखला जारी की है। यह विभिन्न क्षेत्रों में मशीन व्यवहार पर काम करने वालों को एक साथ लाने के लिए सम्मेलनों का आयोजन भी कर रहा है।

मीडिया लैब के निदेशक जोई इटो ने कहा, "मीडिया लैब ने लंबे समय से अपने शोध और सोच मशीनों के अध्ययन के लिए विशेषज्ञता और ज्ञान का इस्तेमाल किया है।" "मैं बहुत उत्साहित हूं कि कई अन्य लोगों ने इस दृष्टिकोण का समर्थन किया है, और इस गति से अब इसके पीछे निर्माण हो रहा है।"

एल्गोरिदम, विश्वास और गोपनीयता

हम सोच मशीनों के साथ हर दिन कई बार बातचीत करते हैं। हम सिरी को हमारे घर के सबसे पास के ड्राई क्लीनर को खोजने के लिए कह सकते हैं, एलेक्सा को डिश सोप ऑर्डर करने के लिए कह सकते हैं, या एक एल्गोरिथ्म द्वारा उत्पन्न चिकित्सा निदान प्राप्त कर सकते हैं। कई ऐसे उपकरण जो जीवन को आसान बनाते हैं, वास्तव में "सोच" अपने दम पर, ज्ञान प्राप्त करना और उस पर निर्माण करना और यहां तक ​​कि अन्य जटिल मशीनों के साथ संवाद करना और कभी भी अधिक जटिल निर्णय और निर्णय लेने के लिए - और उन प्रोग्रामरों में भी नहीं जो अपने लिखे कोड पूरी तरह से समझा सकता है।

उदाहरण के लिए, उदाहरण के लिए, एक गहरी तंत्रिका जाल द्वारा संचालित एक समाचार फ़ीड एक बागवानी पत्रिका से आपको एक लेख की सिफारिश करता है, भले ही आप एक माली न हों। स्केलेबल कोऑपरेशन ग्रुप के एक शोध वैज्ञानिक निक ओब्राडोविच ने कहा, "अगर मैंने उस इंजीनियर से पूछा जो एल्गोरिथम डिजाइन करता है, तो वह इंजीनियर व्यापक और कारणपूर्ण तरीके से यह बताने में सक्षम नहीं होगा कि उस एल्गोरिदम ने आपको उस लेख की सिफारिश करने का फैसला क्यों किया।" नेचर पेपर के प्रमुख लेखकों में से एक।

माता-पिता अक्सर अपने बच्चों के परिवार के निजी सहायक के साथ बातचीत को आकर्षक या मजाकिया समझते हैं। लेकिन क्या होता है जब अत्याधुनिक एआई से समृद्ध सहायक, टी। रेक्स के बारे में एक बच्चे के चौथे या पांचवें सवाल का जवाब देते हुए कहता है, "क्या यह अच्छा नहीं होता अगर आपके पास यह खिलौना होता?"

"क्या ड्राइविंग है कि सिफारिश?" राहवान ने कहा। "क्या उपकरण बच्चे के अनुभव को समृद्ध करने के लिए कुछ करने की कोशिश कर रहा है - या खिलौना डायनासोर को बेचने वाली कंपनी को समृद्ध करने के लिए? उस प्रश्न का उत्तर देना बहुत कठिन है। "

अब तक, किसी ने भी हमारे जीवन पर एल्गोरिथम निर्णयों के सभी महत्वपूर्ण संभावित परिणामों की जांच करने का एक निश्चित तरीका नहीं खोजा है। इसका मतलब है कि हमारे पास यह आकलन करने का कोई तरीका नहीं है कि एआई हमारे लिए जो विकल्प बना रहा है, वह मनुष्यों द्वारा किए गए फैसलों से बेहतर है, जब हम विशिष्ट और संकीर्ण उद्देश्यों से बाहर निकलते हैं, जिसके लिए इंजीनियर अनुकूलन कर रहे हैं।

छवि क्रेडिट: स्केलेबल सहयोग समूह / एमआईटी मीडिया लैब। CC-बाय 4.0 इंटरनेशनल।

मशीनों द्वारा निर्णय लेने की जांच करने के इच्छुक शोधकर्ताओं को अक्सर औद्योगिक गोपनीयता और कानूनी और बौद्धिक संपदा सुरक्षा द्वारा विफल किया जाता है। समाज में तैनात सबसे सर्वव्यापी एल्गोरिदम के लिए स्रोत कोड और मॉडल संरचनाएं मालिकाना हैं, जैसा कि डेटा का उपयोग उन्हें "ट्रेन" करने के लिए किया जाता है, इसलिए उन सभी की जांच की जा सकती है जो उनके इनपुट और आउटपुट हैं। रहवान ने कहा, "आइए हम यह अध्ययन करना चाहते हैं कि अमेज़ॅन कैसे अपना मूल्य निर्धारण करता है, जिसे खरीद के लिए साइट ब्राउज़ करने वाले नकली व्यक्तियों के निर्माण की आवश्यकता हो सकती है।" "ऐसा करने में, आप सेवा की शर्तों को तोड़ सकते हैं और यह एक अपराध हो सकता है।"

पेपर के सह-लेखक, नॉर्थईस्टर्न यूनिवर्सिटी के एलन मिस्लोव, कंप्यूटर फ्रॉड एंड एब्यूज एक्ट के प्रावधान की संवैधानिकता को चुनौती देने वाले मुकदमे में अकादमिक और मीडिया वादी के एक समूह के बीच हैं, जो अनुसंधान के लक्ष्य के साथ अनुसंधान करने के लिए इसे आपराधिक बनाता है। यह निर्धारित करना कि एल्गोरिदम आवास और रोजगार जैसे क्षेत्रों में अवैध भेदभाव पैदा करता है।

लेकिन भले ही बड़ी टेक कंपनियों ने अपने एल्गोरिदम के बारे में जानकारी साझा करने का फैसला किया और अन्यथा शोधकर्ताओं ने उनके लिए अधिक पहुंच की अनुमति दी, अनुसंधान और जांच के लिए एक और भी बड़ी बाधा है, जो यह है कि एआई एजेंट उपन्यास व्यवहार को प्राप्त कर सकते हैं क्योंकि वे अपने आसपास की दुनिया के साथ बातचीत करते हैं। और अन्य एजेंटों के साथ। इस तरह की बातचीत से सीखे गए व्यवहार का अनुमान लगाना लगभग असंभव है, और यहां तक ​​कि जब समाधानों को गणितीय रूप से वर्णित किया जा सकता है, तो वे कागज के अनुसार "इतने लंबे और जटिल हो सकते हैं कि वे अनिर्णायक हो"।

इसलिए, कुछ ऐसे मुद्दे उठाए जा रहे हैं जिनके बारे में एआई कैसे और क्यों निर्णय ले रहा है - और उनमें से कई में नैतिक प्रश्न हैं।

उदाहरण के लिए, उदाहरण के लिए, एक काल्पनिक स्व-ड्राइविंग कार बाजार पर सबसे सुरक्षित होने के रूप में बेची जाती है। एक कारक जो इसे सुरक्षित बनाता है वह यह है कि यह "जानता है" जब एक बड़ा ट्रक अपनी बाईं ओर खींचता है और स्वचालित रूप से अपने आप को तीन इंच तक दाईं ओर ले जाता है जबकि अपने स्वयं के लेन में शेष रहता है। लेकिन क्या होगा अगर एक साइकिल चालक या मोटरसाइकिल एक ही समय में दाईं ओर से ऊपर की ओर खींचे जाते हैं और इस प्रकार इस सुरक्षा सुविधा के कारण मारे जाते हैं?

"यदि आप आंकड़ों को देखने और कुल में कार के व्यवहार को देखने में सक्षम थे, तो यह एक अन्य मॉडल की तुलना में एक लाख से अधिक सवारी करने वालों की संख्या के तीन गुना अधिक हो सकता है," रहवान ने कहा। “एक कंप्यूटर वैज्ञानिक के रूप में, आप कार के रहने वालों की सुरक्षा और कार से बाहर के लोगों की सुरक्षा के बीच चुनाव कैसे कर सकते हैं? आप कार को केवल 'सुरक्षित' रखने के लिए इंजीनियर नहीं बन सकते - किसके लिए सुरक्षित है? "

एक क्षेत्र बढ़ रहा है

कागज का उद्देश्य खरोंच से एक नया क्षेत्र बनाना नहीं है, बल्कि सामान्य लक्ष्यों और पूरकताओं को पहचानने के लिए एक बैनर के तहत मशीन व्यवहार का अध्ययन करने वाले विद्वानों को एकजुट करना है। इस तरह की बात विज्ञान में हर समय होती है। उदाहरण के लिए, डच जीवविज्ञानी और नोबेल पुरस्कार विजेता निकोलास तिनबर्गेन द्वारा 1963 का एक पेपर, सवाल उठाए गए और उन मुद्दों की जांच की गई जिनके कारण जानवरों के व्यवहार के क्षेत्र की स्थापना हुई।

रहवान और सहयात्रियों को उम्मीद है कि मशीन व्यवहार के नवजात क्षेत्र का नामकरण और सर्वेक्षण करके, वे निर्माण के लिए, जांच के सभी क्षेत्रों से, अन्य शोधकर्ताओं के लिए एक रूपरेखा प्रदान कर सकते हैं। विविध, अंतःविषय दृष्टिकोणों को समझना महत्वपूर्ण है कि कैसे सर्वश्रेष्ठ अध्ययन किया जाए, और अंत में, इन उपन्यासों के साथ बुद्धिमान तकनीकों को जीया जाए।

यह पोस्ट मूल रूप से मीडिया लैब वेबसाइट पर प्रकाशित हुई थी।