ज्ञान भरकर बनाए जाने वाले AI के घटने के बीच, डेटा से सीखने वाले न्यूरल नेटवर्क के बढ़ने का दौर (1987〜2005)
विशेषज्ञों का ज्ञान भरकर बनाए जाने वाले AI का कारोबार सिकुड़ा और कहा गया कि दूसरी आ गई। लेकिन उसी समय, मस्तिष्क की तंत्रिका कोशिकाओं के जुड़ाव की नकल करने वाले न्यूरल नेटवर्क में आज की तकनीक की नींव रखने वाले तरीके एक के बाद एक जन्म ले रहे थे। इस अध्याय में इन तरीकों को एक-एक करके चलाकर समझेंगे।
011984〜1996 · अमेरिका
संख्याओं से सर्दी को मापना
1984 में जिस सर्दी की चिंता थी, क्या वह सचमुच आई?
अगस्त 1984 में अमेरिकी कृत्रिम बुद्धिमत्ता संघ (AAAI) के सम्मेलन की एक परिचर्चा में, संचालक मैकडर्मॉट (McDermott) ने का खाका खींचा। लगभग 5 वर्षों के भीतर रक्षा विभाग की विफल हो जाएगी, नई कंपनियाँ दिवालिया हो जाएँगी और AI के लिए पैसा मिलना बंद हो जाएगा। उन्होंने बताया कि कुछ लोग ऐसी स्थिति को कहते हैं। लेकिन उन्होंने यह भी कहा कि उनके विचार में ऐसा होने की संभावना अधिक नहीं थी।
दाईं ओर का चित्र इसके बाद के अमेरिकी डेटा को दिखाता है। AAAI के सदस्यों की संख्या 1987 में अपने शिखर, 16,421 पर थी, लेकिन 1996 तक घटकर 4,000〜5,000 रह गई। AI के लिए विशेष कंप्यूटर, Lisp मशीन, बनाने वाली कंपनी Symbolics की उत्पाद बिक्री वित्तीय वर्ष 1986〜1988 में 101.6 मिलियन डॉलर से घटकर 55.6 मिलियन डॉलर हो गई। अलग-अलग इकाइयों की संख्याओं की भी तुलना की जा सकती है, अगर सभी के शिखर को 100 मान लें।
एक ही पैमाने पर किया गया मान ＝ उस वर्ष की संख्या ÷ शिखर वाले वर्ष की संख्या × 100
शिखर
वह वर्ष जिसमें मान सबसे अधिक था
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:1984 की परिचर्चा ने AI की सर्दी की सटीक भविष्यवाणी की थी मूल स्रोत के अनुसार:संचालक ने इसे के रूप में दिखाया था और कहा था कि ऐसा होने की संभावना अधिक नहीं है। खाके की कई बातें सच हुईं, लेकिन 5 साल बाद सब कुछ एक साथ नहीं हुआ।
संचालक की अपनी राय
परिचर्चा के रिकॉर्ड में संचालक ने कहा, (अनुवाद)। उद्देश्य था शोधकर्ताओं से सावधानी बरतने और समाज को ईमानदारी से समझाने का आग्रह करना, ताकि उम्मीदों और वास्तविकता के बीच अंतर कम हो।
Lisp मशीनों की बिक्री क्यों घटी
Symbolics के एक संस्थापक के संस्मरण के अनुसार, 2 कारण एक साथ आए। Sun और Apollo जैसे सामान्य उपयोग के वर्कस्टेशन (एक व्यक्ति के उपयोग के लिए शक्तिशाली कंप्यूटर) पर Lisp आसानी से चलने लगा था। साथ ही, विशेषज्ञों का ज्ञान भरने वाले AI से जुड़ी अत्यधिक उम्मीदों की प्रतिक्रिया लगभग 1988 में सामने आई। वित्तीय वर्ष 1987 में बिक्री 82.1 मिलियन डॉलर थी।
सर्दी के दौरान क्या हो रहा था
1990 में MIT के ब्रूक्स (Brooks) ने लिखा, (अनुवाद)। रक्षा अनुसंधान संस्था DARPA ने अप्रैल 1988 में स्वचालित वाहन की परियोजना बंद कर दी और रणनीतिक कंप्यूटिंग पहल 1993 में बजट से हट गई।
खाके की एक बात, (अनुवाद), सचमुच हुई थी या नहीं, इसकी अभी पुष्टि नहीं हुई है।
मूल स्रोत और भरोसे का स्तर (3)संख्याओं से सर्दी को मापना
अगस्त 1984मूल स्रोत से पुष्टि
1984 की चर्चा में खींची गई की सबसे बुरी स्थिति ── बाद की घटनाओं से तुलना
अमेरिकन एसोसिएशन फ़ॉर आर्टिफ़िशियल इंटेलिजेंस (AAAI) के सम्मेलन में “AI के “अंधकार युग” — क्या हम उनसे बच सकते हैं या उनमें टिक सकते हैं?” नाम की चर्चा हुई। संचालक ड्रू मैकडर्मॉट (Drew McDermott) ने कहा कि उद्योग की हलचल के पीछे, लंबे समय से शोध कर रहे लोगों में इस चिंता से गहरी बेचैनी थी कि । सबसे बुरी स्थिति में उन्होंने कल्पना की कि 5 वर्ष बाद अमेरिका की असफल होगी, जापान की पाँचवीं पीढ़ी की परियोजना भी ठहर जाएगी, नई कंपनियाँ बंद हो जाएँगी, AI की फ़ंडिंग रुक जाएगी और सब अपने शोध का नाम बदल देंगे। उन्होंने बताया कि कुछ लोग इसे कहते हैं। लेकिन उन्होंने यह भी कहा कि उन्हें ऐसा होने की संभावना अधिक नहीं लगती। चर्चा में उन्होंने बताया कि दूसरे शोधकर्ता, रोजर शैंक (Roger Schank), से पूछा गया था कि क्या उन्हें संकट आने की उम्मीद है, और उन्होंने हाँ कहा था। दूसरी ओर, यह राय भी आई: (उसी वक्ता ने आगे कहा कि बुलबुला फूटने के बजाय शायद थोड़ा छोटा हो जाए)।
आम तौर पर कही जाने वाली बात:अक्सर कहा जाता है, “1984 की चर्चा ने AI की सर्दी का ठीक-ठीक पूर्वानुमान लगाया था—चेतावनी सही निकली” मूल स्रोत के अनुसार:संचालक ने इसे के रूप में बताया और खुद कहा था, । चर्चा में भी राय बँटी हुई थी: कुछ को विनाशकारी संकट की उम्मीद थी, तो कुछ को सर्दी के बजाय साँझ की संभावना लगी। अगले कुछ वर्षों में परिकल्पना के कई हिस्से सच हुए—रणनीतिक कंप्यूटिंग पहल में कटौती, कंपनियों और संस्था के सदस्यों में कमी, तथा पाँचवीं पीढ़ी की मुख्य परियोजना का अंत। लेकिन 5 वर्ष बाद सब कुछ एक साथ नहीं हुआ।
इसके बाद:बाद में परियोजना के प्रमुख हिस्सों में से एक, स्वचालित वाहन (ALV), का विकास अप्रैल 1988 में बंद कर दिया गया। 1987 में संबंधित विभाग का प्रमुख बने व्यक्ति ने भी AI परियोजनाओं के कुछ हिस्से बंद किए। 1993 में यह परियोजना DARPA के बजट से गायब हो गई। अमेरिकन एसोसिएशन फ़ॉर आर्टिफ़िशियल इंटेलिजेंस के सदस्यों की संख्या 1987 में 16,421 के शिखर पर थी और 1996 में 4,000〜5,000 पर स्थिर हुई। एक्सपर्ट सिस्टम बनाने वाली कई AI कंपनियाँ बंद हुईं, खरीदी गईं या उन्होंने अपना व्यवसाय बदल दिया। जापान की पाँचवीं पीढ़ी के कंप्यूटरों की मुख्य परियोजना वित्तीय वर्ष 1992 में समाप्त हुई। निल्सन (Nilsson) ने लिखा कि ये घटनाएँ 1980 के दशक के मध्य से अंत के बीच एक साथ उभरीं और इसे कहा जाने लगा।
जो अभी पता नहीं है:एक परिकल्पना, , सचमुच 1990 के दशक में हुई या नहीं, मूल स्रोतों से जाँचा नहीं गया (u08 में शामिल करने का संभावित विषय)।
1984 में भविष्य में शायद आने वाली सबसे खराब स्थिति का नाम था
AAAI-84 की परिचर्चा में संचालक ड्रू मैकडरमॉट (Drew McDermott) ने कहा कि शोधकर्ताओं को चिंता है कि AI से बहुत अधिक उम्मीदें होने पर कभी बड़ी परेशानी आ सकती है। सबसे खराब स्थिति उन्होंने ऐसी बताई: 5 वर्ष बाद strategic computing initiative (रणनीतिक कंप्यूटिंग योजना) बुरी तरह असफल हो, जापान की पाँचवीं पीढ़ी भी न चले, जापानी सरकार जल्द कंप्यूटरों से हाथ खींच ले, नई कंपनियाँ सब दिवालिया हों और AI के लिए कोई धन न मिले। उन्होंने इसे “यह स्थिति, जिसे कुछ लोग कहते हैं” कहा। ऐसा न होने देने के लिए खुद सावधान रहने और दुनिया को बताने का आह्वान किया। यानी दूसरे उछाल के दौरान भविष्य की चेतावनी का शब्द था। 1970 के दशक में शोध के धन की कमी को कहना बाद में दिया नाम है।
आम तौर पर कही जाने वाली बात:अक्सर माना जाता है कि “1970 के दशक में शोध के धन की कमी तब ‘AI की सर्दी’ कहलाती थी” मूल स्रोत के अनुसार:सबसे पुराना मिला रिकॉर्ड 1984 की परिचर्चा है, जहाँ यह भविष्य में शायद आने वाली सबसे खराब स्थिति का नाम है: “जिसे कुछ लोग कहते हैं”। (1970 का दशक) बाद का नाम है। अंग्रेज़ी पुस्तकों में की तरह सर्दियों को क्रम संख्या दी जाती है, लेकिन बहुत कम इस्तेमाल होता है।
जो अभी पता नहीं है: पहली बार किसने कहा, ज्ञात नहीं है। परिचर्चा में भी “जिसे कुछ लोग कहते हैं” कहा गया। Ngram के 1983 के छोटे मान का संबंध किस पुस्तक से है, यह नहीं जाँचा है।
AI की विशेष “Lisp मशीन” बनाने वाली कंपनियाँ सामान्य वर्कस्टेशन से हारने लगीं (1980 के दशक का अंत)
लगभग 1980 से Symbolics जैसी कंपनियाँ AI शोध में आम प्रोग्रामिंग भाषा Lisp तेज़ चलाने वाले विशेष कंप्यूटर “Lisp मशीन” बनाकर बेच रही थीं। Symbolics के एक संस्थापक की यादों के अनुसार Sun और Apollo जैसे नए आए और सामान्य कंप्यूटरों पर भी Lisp अच्छी तरह चलने लगा। इसलिए विशेष मशीनों का लाभ अचानक घट गया। उन्होंने यह भी लिखा कि बिक्री का बड़ा हिस्सा एक्सपर्ट सिस्टम (विशेषज्ञों का ज्ञान दर्ज करने वाले AI) की उम्मीदों पर निर्भर था, लेकिन अत्यधिक उम्मीदों की उलटी प्रतिक्रिया लगभग 1988 में आई और शुरू हुई। कंपनी ने बार-बार कर्मचारियों में कटौती की। MIT की कक्षा के छात्र शोधपत्र (2001) के अनुसार Symbolics की उत्पाद बिक्री वित्तीय वर्ष 1986, 1987 और 1988 में क्रमशः 101.6 मिलियन डॉलर, 82.1 मिलियन डॉलर और 55.6 मिलियन डॉलर रही। जापान के 1991 के श्वेतपत्र ने भी लिखा कि AI के लिए विशेष मशीनों के बजाय सामान्य कंप्यूटर, खास तौर पर पर्सनल कंप्यूटर, प्रमुख हो गए थे।
आम तौर पर कही जाने वाली बात:अक्सर कहा जाता है, “1987 में AI की सर्दी से Lisp मशीनों का बाज़ार एक साथ ढह गया” मूल स्रोत के अनुसार:संस्थापक की यादों में 2 कारण जुड़े हैं: Sun जैसे सामान्य वर्कस्टेशन और सामान्य मशीनों पर चलने वाला Lisp आने का तकनीकी बदलाव, तथा विशेषज्ञों का ज्ञान दर्ज करने वाले AI से अत्यधिक उम्मीदों की उलटी प्रतिक्रिया (लगभग 1988)। छात्र शोधपत्र के आँकड़ों में भी बिक्री वित्तीय वर्ष 1986 से कई वर्षों में घटी।
जो अभी पता नहीं है:Symbolics या LMI की वार्षिक रिपोर्ट जैसे मूल कंपनी स्रोत नहीं खोले गए। MIT की 1999 की स्नातक थीसिस (If It Works, It's Not AI) नहीं मिल सकी क्योंकि MIT की वेबसाइट पर मानव होने की पुष्टि वाला पृष्ठ आया।
5 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:गिरावट कब आई: छात्र शोधपत्र कहता है “1987 तक संकट”; यादों में “लगभग 1988 में बड़ी उलटी प्रतिक्रिया” है। बिक्री के आँकड़े केवल छात्र शोधपत्र से जाँचे गए (मूल कंपनी वार्षिक रिपोर्ट नहीं खोली गई)।
चित्र क्या दिखाता है:1984 में “सबसे बुरी स्थिति” के रूप में बताई गई AI की सर्दी 5 वर्ष बाद एक साथ नहीं आई। वह कई वर्षों में सदस्यों की संख्या और बिक्री घटने के रूप में आई।
021987〜2003 · जापान
क्या जापान में सर्दी नहीं आई?
जब अमेरिका में सर्दी की बात हो रही थी, तब जापान में क्या हो रहा था?
मार्च 1991 में अंतरराष्ट्रीय व्यापार और उद्योग मंत्रालय की देखरेख में तैयार ने जापान के बारे में लिखा कि उसने “AI के ऐसे “सर्दी के दौर” में प्रवेश नहीं किया जैसा पहले अमेरिका में देखा गया था” (अनुवाद)। जापान में फ़ज़ी (अस्पष्टता से निपटने वाला सिद्धांत) लोकप्रिय हुआ और 1990 में ने नए और लोकप्रिय शब्दों के पुरस्कार की नए शब्दों वाली श्रेणी में स्वर्ण पुरस्कार जीता।
श्वेतपत्र का एक आधार 1989 का सर्वेक्षण था। जवाब देने वाले कंप्यूटर का उपयोग करने वाले कार्यस्थलों में 26.2%, AI सेंटर के सदस्यों में 80.5% और कुल मिलाकर 37.8% ने AI अपनाया था। लेकिन प्रश्नावली भेजे गए 7,084 स्थानों में से केवल 1,844 ने जवाब दिया। दाईं ओर के चित्र में देखें कि किससे पूछा गया बदलने पर अनुपात कैसे बदलता है।
चित्र को संघ की सदस्यता पर बदलने से दिखता है कि कंपनियों आदि के सदस्यों की संख्या 1991 और 1992 में 155 कंपनियों के शिखर से घटकर 2003 में 49 हो गई। ऐसा लगता है कि जापान की सर्दी देर से और धीरे-धीरे आई।
जवाब देने वालों में अनुपात ＝ अपनाने वालों की संख्या ÷ जवाब देने वालों की संख्या
निचली सीमा
यह मानने पर अनुपात कि जवाब न देने वाले किसी भी स्थान ने AI नहीं अपनाया (अपनाने वालों की संख्या ÷ प्रश्नावली भेजे गए स्थानों की संख्या)
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:दूसरे उछाल के बाद जापान में भी बाकी दुनिया के साथ ही सर्दी आई मूल स्रोत के अनुसार:सरकार की देखरेख में बने 1991 के श्वेतपत्र ने लिखा कि जापान ने अमेरिका जैसी सर्दी का सामना नहीं किया था। संघ के कंपनी सदस्यों में गिरावट उसके बाद, 1993 की रिपोर्ट से दिखाई देने लगी।
फ़ज़ी की लोकप्रियता
1987 में सेंदाई शहर की मेट्रो के स्वचालित संचालन में पहले से अनुमान लगाने वाला फ़ज़ी नियंत्रण अपनाया गया और फरवरी 1990 में फ़ज़ी का उपयोग करने वाली वॉशिंग मशीन बाजार में आई। 1989 में 48 कंपनियों ने मिलकर अंतरराष्ट्रीय फ़ज़ी इंजीनियरिंग अनुसंधान प्रयोगशाला (LIFE) बनाई।
श्वेतपत्र ने कैसे तुलना की
श्वेतपत्र ने 1989 के सर्वेक्षण के कुल 37.8% की तुलना 1988 के 20.6% से करके 17.2 प्रतिशत अंक की बढ़ोतरी बताई। लेकिन दोनों अनुपात जवाब देने वाले स्थानों के हैं, और 1989 के कुल में AI में अधिक रुचि रखने वाले सदस्य भी शामिल हैं, जिनमें 80.5% ने AI अपनाया था।
जिस पत्रिका से “AI” शब्द गायब हुआ
AI की विशेष पत्रिका का नाम अप्रैल 1992 के अंक 151 से हो गया और अक्टूबर 1994 में उसका प्रकाशन बंद हो गया (ग्रंथसूची में कारण नहीं दिया गया है)। संघ की पत्रिका में 2023 के संस्मरण में हितोशी मात्सुबारा (Hitoshi Matsubara) ने उस समय को याद करते हुए कहा, (अनुवाद)। उसी अंक के एक अन्य लेख ने अलग-अलग क्षेत्रों के नाम अपनाने का कारण (अनुवाद) भी बताया।
संघ के सदस्यों की गिनती
ये आँकड़े हर वर्ष की आम सभा की रिपोर्टों से जोड़े गए हैं (हर वर्ष 31 मार्च की संख्या आदि)। नियमित सदस्यों का शिखर 1993 में 3,893 था। छात्र सदस्यों की संख्या घटती-बढ़ती रही, फिर भी 2002 तक उसका रुझान बढ़ने का था। इस साइट ने 2000 और 2001 के आँकड़े संकलित नहीं किए हैं।
मूल स्रोत और भरोसे का स्तर (7)क्या जापान में सर्दी नहीं आई?
20 मार्च 1991मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
1991 का सरकार की देखरेख में बना श्वेतपत्र: जापान “AI के ऐसे “सर्दी के दौर” में प्रवेश नहीं किया जैसा पहले अमेरिका में देखा गया था” (अनुवाद)
(AI白書1991) ने लिखा कि जापान पहले अमेरिका में देखे गए AI के में नहीं पहुँचा। संभवतः कारण था कि उपयोगकर्ताओं ने खुद ऐसे उपयोग खोजे जिनसे AI लाभ देता था (यह भी लिखा है कि अमेरिका से पहले ही गुज़र चुका था)। श्वेतपत्र के सर्वेक्षण में (दिसंबर 1989〜जनवरी 1990, 7,084 कार्यस्थलों को भेजा और 1,844 ने जवाब दिया), जवाब देने वाले 37.8% कार्यस्थलों में AI अपनाया गया था (कंप्यूटर इस्तेमाल करने वाले कार्यस्थलों में 26.2%, यानी 379 स्थान)। श्वेतपत्र ने 1988 के सर्वेक्षण के 20.6% से 17.2 प्रतिशत अंक की वृद्धि बताई। AI अपनाने वालों के 46.2% ने एक्सपर्ट सिस्टम (विशेषज्ञों का ज्ञान दर्ज करने की प्रणाली) और 20.6% ने मशीन अनुवाद इस्तेमाल किया।
आम तौर पर कही जाने वाली बात:अक्सर माना जाता है, “दूसरे उछाल के बाद जापान भी दुनिया के साथ सर्दी में गया” मूल स्रोत के अनुसार:सरकार की देखरेख के 1991 के श्वेतपत्र ने कहा कि जापान अमेरिका जैसी सर्दी में नहीं गया था। सर्वेक्षण में भी AI अपनाने वाले कार्यस्थलों का अनुपात 1988 से 1989 तक बढ़ा (लेकिन यह केवल जवाब देने वालों का अनुपात है)।
जो अभी पता नहीं है:1991 के बाद जापान में AI का उपयोग कैसे बदला, सर्दी कब आई या आई भी या नहीं, यह श्वेतपत्र नहीं बताता। परिणाम भी केवल जवाब देने वाले कार्यस्थलों (भेजे गए का 26%) का अनुपात हैं, पूरे जापान का नहीं।
1 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:जापान की “दूसरी सर्दी”: 1991 का यह श्वेतपत्र कहता है “अमेरिका जैसी सर्दी नहीं आई।” दूसरी ओर आंतरिक मामलों और संचार मंत्रालय के 2016 के श्वेतपत्र में “लगभग 1995 से फिर सर्दी का दौर” है (अलग रिकॉर्ड)। लिखने के वर्ष अलग हैं; यह भी पढ़ा जा सकता है कि 1991 तक सर्दी नहीं आई थी।
AI श्वेतपत्र 1991 ── कृत्रिम बुद्धिमत्ता की तकनीक और उपयोग (AI白書1991 ── 人工知能の技術と利用) (देखरेख: अंतरराष्ट्रीय व्यापार और उद्योग मंत्रालय के मशीनरी तथा सूचना उद्योग ब्यूरो का इलेक्ट्रॉनिक्स नीति विभाग; संपादन: ICOT-JIPDEC AI केंद्र; प्रकाशन: जापान सूचना प्रसंस्करण विकास संघ। · 1991 · p.11 भाग 2, अध्याय 1, 1.1 (और भाग 1 का सर्वेक्षण, PDF के पृष्ठ 3… · मूल स्रोत)
24 जुलाई 1986–2003मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
जापानी AI सोसाइटी की सदस्य संख्या (1986〜2003) ── नियमित सदस्य 1993 में और सहायक सदस्य 1991〜92 में सबसे अधिक। 2003 तक सहायक सदस्य एक तिहाई से कम रह गए। छात्र सदस्य 2002 तक बढ़ते रहे।
जापानी AI सोसाइटी की वार्षिक सभा रिपोर्टों की सदस्य संख्याएँ इस प्रकार हैं: नियमित सदस्य जुलाई 1986 की स्थापना पर लगभग 600 → 1988 में 2,554 → 1990 में 3,625 → 1993 में 3,893 (सबसे अधिक) → 1995 में 3,269 → 1999 में 3,044 → 2003 में 2,789। संस्था की सहायता करने वाले कंपनियों जैसे सहायक सदस्य लगभग 30 कंपनियाँ → 1988 में 100 → 1991 और 1992 में 155 (सबसे अधिक) → 1995 में 96 → 1999 में 65 → 2003 में 49 रहे, यानी शिखर के एक तिहाई से भी कम। वहीं छात्र सदस्यों में उतार-चढ़ाव के बावजूद बढ़ने का रुझान था: 1988 में 266 से 2002 में 539। 2003 की रिपोर्ट ने कहा कि पिछले कुछ वर्षों से संख्या धीरे-धीरे घट रही थी, लेकिन इस वर्ष लगभग 4% की बड़ी कमी आई। कंपनियों के अनुसंधान और विकास विभागों में कटौती से नियमित सदस्य घटे ही, उस समय तक बढ़ रहे छात्र सदस्य भी घटने लगे।
आम तौर पर कही जाने वाली बात:अक्सर सबको एक साथ कहा जाता है, “सर्दी के दौर में सभी AI शोध से दूर हो गए” मूल स्रोत के अनुसार:सदस्य संख्या दिखाती है कि पहले बड़ी कमी कंपनियों में आई (सहायक सदस्य 1991 और 1992 की 155 कंपनियों से 2003 की 49 तक)। नियमित सदस्य धीरे घटे (1993 के 3,893 से 2003 के 2,789 तक, लगभग 30% कमी)। छात्र सदस्यों में उतार-चढ़ाव के बावजूद 2002 तक वृद्धि का रुझान रहा (1988 में 266 → 2002 में 539; 2003 की रिपोर्ट भी (अनुवाद) कहती है)। मार्च 1991 के सरकार की देखरेख में बने श्वेतपत्र ने “AI के ऐसे “सर्दी के दौर” में प्रवेश नहीं किया जैसा पहले अमेरिका में देखा गया था” (अनुवाद) लिखा था (→ 1991 का सरकार की देखरेख में बना श्वेतपत…), लेकिन संस्था के आँकड़ों में गिरावट उसके बाद शुरू हुई (सहायक सदस्य 1993 की रिपोर्ट से〈155 कंपनियाँ → 134 संगठन〉; नियमित सदस्य 1993 के शिखर के बाद〈1994 की रिपोर्ट में 3,712〉)।
जो अभी पता नहीं है:सदस्य घटने के कारण पर संस्था की रिपोर्ट केवल 2003 में (अनुवाद) कहती है; उससे पहले के वर्षों के कारण नहीं बताती। (अनुवाद) वाली स्मृति से इसका कितना संबंध है, संख्याओं से पता नहीं चलता (→ 1990〜2000 के दशकों में कृत्रिम बुद्धिमत… देखें)।
3 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:सहायक सदस्यों की इकाई वर्ष के अनुसार “कंपनी”, “संगठन” या “व्यक्ति” लिखी गई है (1990 में “143 व्यक्ति”, 1993〜1995 में “संगठन”, 1996 में “93 व्यक्ति” मुद्रित है)। इस रिकॉर्ड में इन्हें समान श्रेणी के सदस्यों के रूप में रखा गया है।
1990 में फ़ज़ी नियंत्रण वाली वॉशिंग मशीन बिक्री में आई और ने नए शब्द और प्रचलित शब्द पुरस्कार की नए शब्द श्रेणी में स्वर्ण पुरस्कार जीता
Matsushita Electric ने 1 फ़रवरी 1990 को पूरी तरह स्वचालित वॉशिंग मशीन “आइसाइगो Day फ़ज़ी” बिक्री में उतारी। प्रकाश सेंसर से धुलाई के पानी के धुँधलेपन का पता लगाया जाता था। धुलाई का समय 6 नियमों से तय होता था, जैसे (अनुवाद) (संतृप्ति समय पानी का धुँधलापन स्थिर होने तक का समय है; पारगम्यता बताती है कि प्रकाश कितनी आसानी से गुजरता है)। नियम घरों से जुटाए डेटा और इंजीनियरों के व्यावहारिक ज्ञान से बने थे। उसी वर्ष में को नए शब्द श्रेणी का स्वर्ण पुरस्कार मिला। आयोजक के अनुसार यह घरेलू उपकरण में फ़ज़ी सिद्धांत का पहला इस्तेमाल था; इससे उछाल शुरू हुआ और कई कंपनियों वाला बड़ा फ़ज़ी बाज़ार बना।
आम तौर पर कही जाने वाली बात:अक्सर माना जाता है, “फ़ज़ी का उछाल घरेलू उपकरणों के विज्ञापनों से शुरू हुआ” मूल स्रोत के अनुसार:घरेलू उपकरणों से पहले सेंदाइ मेट्रो के 1987 के स्वचालित संचालन (→ सेंदाइ शहर की मेट्रो शुरू हुई और स्वचाल…) और 1989 का राष्ट्रीय अनुसंधान संघ LIFE (→ अंतरराष्ट्रीय फ़ज़ी इंजीनियरिंग अनुसंधा…) थे। घरेलू उपकरण में 1990 की वॉशिंग मशीन थी (आयोजक की व्याख्या)।
जो अभी पता नहीं है:बाद में फ़ज़ी घरेलू उपकरण कितने बिके, जैसे बिक्री की इकाई संख्या, जाँचा नहीं गया।
1989–1995मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
अंतरराष्ट्रीय फ़ज़ी इंजीनियरिंग अनुसंधान प्रयोगशाला (LIFE): 48 कंपनियों ने सरकार के समर्थन से संभालने की तकनीक पर 6 वर्ष शोध किया (1989〜1995)
वाली जानकारी संभालने के फ़ज़ी सिद्धांत को इंजीनियरिंग में लागू करने के लिए 1989 में तकनीकी अनुसंधान संघ “अंतरराष्ट्रीय फ़ज़ी इंजीनियरिंग अनुसंधान प्रयोगशाला (LIFE)” बना। केवल कंप्यूटर कंपनियाँ नहीं, वाहन, इस्पात और प्रतिभूति आदि क्षेत्रों की 48 कंपनियाँ (वित्तीय वर्ष 1989 के अंत में 49) शामिल हुईं। शोध अवधि लगभग 6 वर्ष और अनुसंधान तथा विकास खर्च लगभग 5 अरब येन अनुमानित था (1991 के श्वेतपत्र के समय)। संस्थान में 3 प्रयोगशालाएँ थीं, जो फ़ज़ी नियंत्रण, फ़ज़ी बुद्धिमान सूचना प्रसंस्करण और फ़ज़ी कंप्यूटरों पर शोध करती थीं। 2005 की समीक्षा के अनुसार योकोहामा के ओओसानबाशि घाट के पास प्रयोगशाला में पूरे दौर में कुल 66 शोधकर्ताओं ने काम किया और गतिविधियाँ 1995 तक चलीं। तोशिरो तेरानो (Toshiro Terano) पूरे 6 वर्ष निदेशक रहे।
जो अभी पता नहीं है:वास्तविक कुल खर्च जाँचा नहीं गया (1991 का श्वेतपत्र केवल कहता है, (अनुवाद))।
2 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:कंपनियों की संख्या: 48 (श्वेतपत्र का मुख्य पाठ और 2005 की समीक्षा), 49 (श्वेतपत्र में “हेइसेइ 1 के वित्तीय वर्ष के अंत में”)। गिनती के समय अलग हैं।
सेंदाइ शहर की मेट्रो शुरू हुई और स्वचालित ट्रेन संचालन में इस्तेमाल हुआ (अस्पष्टता संभालने वाले नियमों का AI)
15 जुलाई 1987 को सेंदाइ शहर की मेट्रो शुरू हुई (जापान की 9वीं शहरी मेट्रो)। Hitachi की स्वचालित ट्रेन संचालन प्रणाली ने अपनाया। इसमें (अगर ऐसा हो, तो ऐसा करें) में लिखे AI, यानी ज्ञान इंजीनियरिंग, के नियम अनुभवी चालकों के कौशल का स्थान लेते थे। लेख में लिखा है कि सफ़र का आराम, ठीक जगह रुकना और ऊर्जा की बचत बेहतर हुई; इसमें इस नियंत्रण को कहा गया है (बनाने वाली कंपनी के लेख के शब्द)।
आम तौर पर कही जाने वाली बात:अक्सर माना जाता है, “फ़ज़ी घरेलू उपकरणों का लोकप्रिय शब्द था” मूल स्रोत के अनुसार:घरेलू उपकरणों से पहले 1987 में शुरू सेंदाइ मेट्रो के स्वचालित संचालन में यह इस्तेमाल हो चुका था। विकासकर्ता कंपनी इसे (अगर–तो) के AI, यानी ज्ञान इंजीनियरिंग, के नियमों के रूप में समझाती है (दूसरे उछाल के ज्ञान डालने वाले AI के एक रूप में बताया गया)।
जो अभी पता नहीं है: बनाने वाली कंपनी के लेख के शब्द हैं; अन्य स्रोतों से पुष्टि नहीं हुई।
पत्रिका (日経AI) की यात्रा (1985〜1994) ── हर 2 सप्ताह की विशेष पत्रिका ने अप्रैल 1992 में नाम से “AI” हटाया और बनी; अक्टूबर 1994 में प्रकाशन बंद हुआ
Nikkei BP ने AI (कृत्रिम बुद्धिमत्ता) की विशेष पत्रिका (日経AI) का प्रकाशन 9 सितंबर 1985 के “प्रकाशन शुरू होने से पहले का विशेष अंक सं. 1” से शुरू किया। 6 जनवरी 1986 के अंक 1 से यह हर 2 सप्ताह में प्रकाशित हुई। 1990 से त्रैमासिक (日経AI別冊) भी शुरू हुआ। लेकिन अंक 150 (23 मार्च 1992) के बाद, अंक 151 (6 अप्रैल 1992) से नाम (日経インテリジェントシステム) हो गया और नाम से “AI” गायब हुआ। अंक 211 (3 अक्टूबर 1994) अंतिम रहा और प्रकाशन बंद हो गया (विशेषांक का नाम भी 1992 में (日経インテリジェントシステム別冊) हुआ और 1992 के शरद अंक के बाद बंद हो गया)। यह दूसरे उछाल में पैदा हुई, 1990 के दशक की शुरुआत में नाम बदला गया और फिर बंद हुई पत्रिका का रिकॉर्ड है।
आम तौर पर कही जाने वाली बात:“1990 के दशक में जापान में “AI” शब्द नापसंद किया जाता था”—इस साइट को मिले स्रोतों में यह बात 2023 में एक शोधकर्ता की यादों से आती है (→ 1990〜2000 के दशकों में कृत्रिम बुद्धिमत…) मूल स्रोत के अनुसार:उस समय का प्रमाण राष्ट्रीय संसद पुस्तकालय की ग्रंथसूची में है: AI की विशेष पत्रिका ने अप्रैल 1992 में नाम से “AI” हटाकर नाम रख लिया था। लेकिन नाम बदलने का कारण ग्रंथसूची में नहीं है (कारण अपुष्ट है)।
जो अभी पता नहीं है:नाम को “बुद्धिमान प्रणालियाँ” करने का कारण, प्रकाशन बंद करने का कारण और प्रसार संख्या में बदलाव इस साइट ने नहीं जाँचे (पत्रिका की असली प्रतियाँ या उस समय की घोषणाएँ नहीं खोली गईं)।
1992–2010मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
1990〜2000 के दशकों में को नापसंद करने की बात का स्रोत ── 2023 की संस्था पत्रिका की स्मृतियाँ (संस्था का नाम बदलने की चर्चा भी) और 1996 की पत्रिका में तथा “कृत्रिम बुद्धिमत्ता का शीतकाल”
जापानी AI सोसाइटी की पत्रिका ने 2023 में मुखपृष्ठ के चित्रों की श्रृंखला से AI का इतिहास दिखाया। तीसरे चित्र में “दूसरा शीतकाल” (लगभग 1992〜2010) था। हितोशि मात्सुबारा (Hitoshi Matsubara) ने व्याख्या में याद किया कि उस समय Deep Blue जैसी बड़ी खबरें थीं, लेकिन AI शब्द नापसंद होने से उन्हें AI के रूप में नहीं देखा गया। संस्था के व्यक्तिगत और कंपनी सदस्य लगातार घटे; संस्था लगभग बंद होने वाली थी और नाम बदलने पर भी विचार हुआ। तादाहिरो तानिगुचि (Tadahiro Taniguchi) ने लिखा कि तब कृत्रिम बुद्धिमत्ता पर शोध करने की इच्छा हो, फिर भी कहना गलत तरह समझा जाता था, और 2000 के दशक में न्यूरल नेटवर्कों का विरोध तेज़ था। उसी वर्ष नवंबर अंक की चर्चा में मात्सुबारा ने कहा कि लिखने पर राष्ट्रीय शोध अनुदान (KAKENHI) की समीक्षा पार करना कठिन होने की बात भी थी। दूसरी ओर मई अंक के मुखपृष्ठ चित्रकार की व्याख्या ने इस समय शोधकर्ताओं के के बजाय अपनी विशिष्ट शाखा का नाम अपनाने का कारण बताया। पहले की मई 1996 की पत्रिका (10वीं स्थापना वर्षगाँठ अंक) में हिरोआकि कितानो (Hiroaki Kitano) ने लिखा कि कुछ मीडिया में और जैसे शब्द फैले थे (लेकिन एक्सपर्ट सिस्टम जैसी उपलब्धियाँ व्यापक उपयोग में पहुँचने की बात भी कही)। फिर उन्होंने का लक्ष्य रखा। कंपनी में काम करने वाले मिकियो शोजि (Mikio Shoji) ने भी “कृत्रिम बुद्धिमत्ता का शीतकाल” सुनने का उल्लेख किया। उसी अंक की चर्चा में राय थी कि नई तकनीक उपयोगी हो, तो उसे AI न कहा जाए, तब भी ठीक है।
आम तौर पर कही जाने वाली बात:कहा जाता है, “जापान में भी 1990〜2000 के दशकों में शोधकर्ता “AI” शब्द से बचते थे” मूल स्रोत के अनुसार:स्रोतों में सबसे स्पष्ट बात 2023 की जापानी AI सोसाइटी की पत्रिका में हितोशि मात्सुबारा और तादाहिरो तानिगुचि की स्मृतियों में है। तत्कालीन रिकॉर्ड में 1996 की पत्रिका कहती है कि समाज में , और “कृत्रिम बुद्धिमत्ता का शीतकाल” सुने जाते थे (हिरोआकि कितानो, मिकियो शोजि)। अप्रैल 1992 में विशेष पत्रिका ने भी नाम से “AI” हटाया था (→ निक्केई AI पत्रिका (日経AI) की यात्रा (19…)। वहीं 2023 की व्याख्या में शोधकर्ताओं के अपनी शाखा के नाम अपनाने का कारण भी दिया है। संस्था का नाम बदलने पर विचार करने का उस समय का मूल रिकॉर्ड इस साइट को नहीं मिला।
जो अभी पता नहीं है: लिखे अनुदान आवेदनों की स्वीकृति सचमुच कठिन थी या नहीं, इसे गिनने वाला स्रोत नहीं मिला। संस्था का नाम बदलने पर कब और कहाँ चर्चा हुई, इसका तत्कालीन रिकॉर्ड भी अपुष्ट है।
5 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद: नाम न लगाने का कारण: मई 2023 अंक के चित्रकार की व्याख्या में ; उसी अंक में मात्सुबारा के शब्द (अनुवाद)। केवल एक को सही नहीं चुना गया।
चित्र क्या दिखाता है:1991 के श्वेतपत्र ने लिखा कि जापान में सर्दी नहीं आई, लेकिन उसके आधार की प्रतिशत संख्या “किससे पूछा गया” से बहुत बदलती है। अकादमिक संस्था के सदस्यों की संख्या देखने पर लगता है कि जापान की सर्दी देर से और धीरे-धीरे आई।
031992〜1995 · जापान की राष्ट्रीय योजनाएँ
प्रतीकों से सीखने की ओर
पाँचवीं पीढ़ी के बाद जापान की राष्ट्रीय योजनाओं का लक्ष्य क्या था?
1995 में जापान की 3 राष्ट्रीय योजनाएँ समाप्त हुईं। इनमें तर्क से निष्कर्ष निकालने वाले कंप्यूटर का लक्ष्य रखने वाली पाँचवीं पीढ़ी की योजना, कंप्यूटर के लिए विशाल शब्दकोश हाथ से बनाने वाला जापान इलेक्ट्रॉनिक शब्दकोश अनुसंधान संस्थान (EDR, 1986〜1995), और अस्पष्टता से निपटने वाला LIFE (1989〜1995) शामिल थे।
इससे पहले, 1992 में अंतरराष्ट्रीय व्यापार और उद्योग मंत्रालय ने 10 साल की योजना शुरू कर दी थी। इसमें प्रमुख भूमिका निभाने वाले नोबुयुकी ओत्सु (Nobuyuki Otsu) के अनुसार, पाँचवीं पीढ़ी ने पर काम किया था, जबकि RWC ने पर। यानी इसका लक्ष्य चित्र और आवाज़ जैसी अस्पष्ट जानकारी को सीखने के जरिए लचीले ढंग से संभालने की तकनीक था (उद्धरणों का अनुवाद)।
दाईं ओर के चित्र में “वर्तमान वर्ष” बदलने पर उस वर्ष चल रही योजनाओं का लक्ष्य प्रतीकों से पैटर्न और सीखने की ओर बढ़ता है।
प्रति वर्ष औसत ＝ कुल पैसा ÷ वर्षों की संख्या
औसत
हर वर्ष रकम समान नहीं थी; यह कुल को वर्षों की संख्या से भाग देने पर मिला मान है
पाँचवीं पीढ़ी की योजना कैसे समाप्त हुई
मुख्य योजना अपने निर्धारित 10 वर्षों से 1 साल बढ़कर मार्च 1993 में समाप्त हुई। अगले 2 वर्षों में बनाए गए सॉफ्टवेयर को सामान्य कंप्यूटरों पर भी चलने योग्य बनाया गया और कुल 100 सॉफ्टवेयर मुफ्त जारी किए गए। सरकारी बजट से चलने वाला सारा अनुसंधान मार्च 1995 में समाप्त हुआ।
RWC का पैसा और उपलब्धियाँ
1994 के एक लेख ने योजना के लिए (अनुवाद) लिखा, जबकि 2002 के सारांश में 10 वर्षों में लगभग 60 अरब येन लिखा था। सारांश ने सांकेतिक भाषा पढ़ने वाली प्रणाली जैसी उपलब्धियाँ गिनाईं और बताया कि योजना के दौरान लगभग 20% (14) उपलब्धियों का उत्पादों या वास्तविक काम में उपयोग हुआ। RWC के सीखने संबंधी अनुसंधान का बाद के डीप लर्निंग (गहन अधिगम) वाले AI से क्या संबंध था, यह देखे गए स्रोतों में नहीं लिखा है।
बोलने पर अनुवाद करने वाला फोन (1986〜1993)
अप्रैल 1986 में अंतरराष्ट्रीय उन्नत दूरसंचार अनुसंधान संस्थान (ATR) के भीतर ATR अनुवादक टेलीफोन अनुसंधान प्रयोगशाला बनी। 28 जनवरी 1993 को जापान, अमेरिका और जर्मनी को जोड़कर एक प्रयोग किया गया। शब्दावली लगभग 1,500 शब्दों की थी और शर्त यह थी कि हर वाक्यांश के बाद थोड़ा रुककर बोलना होगा।
मूल स्रोत और भरोसे का स्तर (5)प्रतीकों से सीखने की ओर
जुलाई 1992–2002मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
पाँचवीं पीढ़ी के बाद की राष्ट्रीय योजना (1992〜2002) ── प्रतीक और तर्क से चित्रों और आवाज़ के “पैटर्न” और “सीखना” की ओर
अंतरराष्ट्रीय व्यापार और उद्योग मंत्रालय ने पाँचवीं पीढ़ी के कंप्यूटरों के बाद की राष्ट्रीय परियोजना के रूप में 1992 में 10 वर्षीय शुरू की। नेतृत्वकर्ता नोबुयुकि ओत्सु (Nobuyuki Otsu) के अनुसार पाँचवीं पीढ़ी ने मानव सोच के की खोज की थी, जबकि RWC ने (अनुवाद) को लक्ष्य बनाया। यानी चित्र, आवाज़ और रोज़मर्रा की भाषा जैसी अस्पष्ट जानकारी को सीखने (उदाहरणों से अपना तंत्र समायोजित करना) और स्वयं संगठन से लचीले ढंग से संभालना। 1994 की व्याख्या ने योजना को (अनुवाद) बताया और घरेलू काम के रोबोट तथा इलेक्ट्रॉनिक पुस्तकालयाध्यक्ष की मिसालें दीं। जुलाई 1992 में अनुसंधान संघ RWCP बना, जिसमें जापान की बड़ी कंपनियों के साथ जर्मनी, नीदरलैंड, स्वीडन और सिंगापुर के शोध संस्थान शामिल हुए। पहले 5 वर्ष (1992〜1996) व्यापक खोज हुई; बाद के 5 वर्ष (1997〜2001) 2 क्षेत्रों, “वास्तविक दुनिया की बुद्धि” और “समानांतर और वितरित कंप्यूटिंग”, पर केंद्रित हुए। 2002 के सार में 10 वर्ष का बजट लगभग 60 अरब येन लिखा है। उपलब्धियों में संकेत भाषा पहचान प्रणाली, बिना सूचकांक आवाज़, वीडियो और पाठ की आपस में खोज करने वाला सॉफ़्टवेयर तथा शोध में स्वतंत्र उपयोग का संगीत डेटाबेस हैं। यह भी लिखा है कि परियोजना के दौरान ही लगभग 20% (14) उपलब्धियाँ उत्पादों या वास्तविक काम में अपनाई गईं।
जो अभी पता नहीं है:खोले स्रोत नहीं बताते कि RWC के पैटर्न प्रसंस्करण और मशीन लर्निंग का शोध बाद के तीसरे उछाल, यानी डीप लर्निंग AI, से कैसे जुड़ा या नहीं जुड़ा (2002 का सार बहुपरत न्यूरल नेटवर्क, बेज़ियन अनुमान और जेनेटिक एल्गोरिद्म जैसी सीखने की प्रणालियाँ देता है)।
5 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:बजट: 1994 की व्याख्या में योजना (अनुवाद); 2002 के सार में “10 वर्ष में लगभग 60 अरब येन के बजट से आगे बढ़ी” (संभवतः योजनाबद्ध और वास्तविक राशि का अंतर है, लेकिन स्रोत में स्पष्टीकरण नहीं है)। कंपनियों की संख्या: 1994 में “देश की 16 बड़ी निजी कंपनियाँ”; 2002 में “लगभग 15 कंपनियाँ”। सिंगापुर का भागीदार: 1994 में ISS, 2002 में KRDL (खोले स्रोत नहीं बताते कि दोनों एक संस्था हैं या नहीं)। समाप्ति: स्रोत “वित्तीय वर्ष 2001 के अंत” और “वित्तीय वर्ष 2001 के साथ समाप्त” कहते हैं, जो साल के रूप में मार्च 2002 है (इस साइट की गणना)।
अप्रैल 1993–1995मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
पाँचवीं पीढ़ी के बाद के 2 वर्ष: 100 सॉफ़्टवेयर मुफ़्त जारी किए, UNIX पर चलने योग्य बनाए (1993〜1995)
पाँचवीं पीढ़ी की मुख्य परियोजना मार्च 1993 में समाप्त हुई और अप्रैल में उसके बाद की (अनुवाद) शुरू हुई। जो सॉफ़्टवेयर केवल समानांतर तर्क मशीनों पर चलते थे, उन्हें KL1 को C भाषा में बदलने वाली प्रणाली (KLIC) आदि से उस समय बाज़ार में आए UNIX के समानांतर कंप्यूटरों पर भी चलने योग्य बनाया गया। विकसित सॉफ़्टवेयर “ICOT मुक्त सॉफ़्टवेयर” (अनुवाद) के रूप में मुफ़्त जारी किए गए। उनकी संख्या जून 1992 में 71 थी और मार्च 1995 के अंत तक कुल 100 हो गई। विवरण में कहा गया है कि जिन सॉफ़्टवेयर का कॉपीराइट सरकार के बजाय ICOT के पास था, उन्हें अनुसंधान में बाधा डालने वाले प्रतिबंध हटाकर जारी किया गया। इस अगली परियोजना पर लगभग 2.8 अरब येन खर्च हुए और सरकारी बजट से होने वाला सारा अनुसंधान और विकास मार्च 1995 में पूरा हो गया।
आम तौर पर कही जाने वाली बात:अक्सर केवल “पाँचवीं पीढ़ी 1982〜1992 की परियोजना थी” लिखा जाता है (इस वेबसाइट का काम शुरू करते समय नोट की तालिका में भी 1982〜1992 था) मूल स्रोत के अनुसार:मुख्य परियोजना निर्धारित 10 वर्षों से 1 वर्ष अधिक चली और मार्च 1993 (वित्त वर्ष 1992 के अंत) में समाप्त हुई। उसके बाद 2 वर्ष तक विकसित चीज़ों को UNIX कंप्यूटरों पर भी चलने योग्य बनाकर मुफ़्त जारी करने की परियोजना चली। सरकारी धन से चलने वाला पूरा अनुसंधान मार्च 1995 में समाप्त हुआ।
जो अभी पता नहीं है:इस रिकॉर्ड में यह जाँचा नहीं गया कि जारी किए गए 100 सॉफ़्टवेयर बाद में कितने इस्तेमाल हुए (डाउनलोड की संख्या आदि)। MITI Research Review के p.126 की आकृति 5 में फरवरी 1995 तक की पहुँच की संख्या का ग्राफ़ है।
4 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:अगली परियोजना की अवधि: ICOT अभिलेख के सम्मेलन पृष्ठ और समिति की सामग्री की विषयसूची में “हेइसेइ वित्त वर्ष 5〜6 (2 वर्ष)” है, और MITI Research Review में भी “वित्त वर्ष 1993〜1994 (2 वर्ष)” है। उसी अभिलेख के केवल IFS पृष्ठ पर “हेइसेइ वित्त वर्ष 5 से हेइसेइ वित्त वर्ष 7 तक” लिखा है (यह नहीं बताया गया कि इसका मतलब मार्च 1995 के अंत तक जारी करने का काम पूरा होना है या नहीं)।
अप्रैल 1986–1995मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
जापान इलेक्ट्रॉनिक शब्दकोश अनुसंधान संस्थान (EDR): जापानी और अंग्रेज़ी के अर्थ कंप्यूटर को समझाने वाला विशाल शब्दकोश हाथ से बनाने के 9 वर्ष (1986〜1995)
कंप्यूटर को प्राकृतिक भाषा समझाने के आधार के रूप में बड़ा और उच्च गुणवत्ता वाला “इलेक्ट्रॉनिक शब्दकोश” विकसित करने के लिए “जापान इलेक्ट्रॉनिक शब्दकोश अनुसंधान संस्थान (EDR)” नाम की कंपनी बनी। योजना अप्रैल 1986 में शुरू हुई। मूल प्रौद्योगिकी अनुसंधान संवर्धन केंद्र ने निवेश किया (AI श्वेतपत्र 1991) और 8 कंप्यूटर कंपनियों ने भी धन दिया (EDR का 1996 का शोधपत्र)। शब्दों का व्याकरण और अर्थ बताने वाला “शब्दों का शब्दकोश”, अवधारणाओं के संबंध व्यवस्थित करने वाला “अवधारणाओं का शब्दकोश”, शब्दों के साथ आने के संबंध दर्ज करने वाला “साथ आने वाले शब्दों का शब्दकोश”, तथा जापानी-अंग्रेज़ी का मेल दिखाने वाला “द्विभाषी शब्दकोश” आदि बनाए गए। आज राष्ट्रीय सूचना और संचार प्रौद्योगिकी संस्थान (NICT) के पृष्ठ पर बताए शब्दकोश का आकार लगभग 270,000 जापानी शब्द, 190,000 अंग्रेज़ी शब्द, 410,000 अवधारणाएँ और 200,000 जापानी उदाहरण वाक्य आदि है। पाँचवीं पीढ़ी की अंतिम मूल्यांकन रिपोर्ट ने लिखा था कि भाषा के बाहर के विशाल ज्ञान को जुटाने में केवल ICOT की सीमाएँ हैं और EDR के शब्दकोश से उम्मीदें हैं।
जो अभी पता नहीं है:देखे गए स्रोत परियोजना के कुल खर्च का उल्लेख नहीं करते।
4 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:अवधि: AI श्वेतपत्र 1991 में “शोवा 61 के अप्रैल में शुरू, हेइसेइ 7 के मार्च तक की योजना”; EDR के 1996 के शोधपत्र में “वित्तीय वर्ष 1986〜1994 के 9 वर्ष” (समान अवधि को महीनों और वित्तीय वर्षों में बताया गया)। आकार: 1991 के श्वेतपत्र में जापानी और अंग्रेज़ी में प्रत्येक के 200,000 से कुछ अधिक शब्द और 500,000 से कुछ कम अवधारणा शीर्षक; आज NICT के पृष्ठ पर 270,000 जापानी शब्द, 190,000 अंग्रेज़ी शब्द और 410,000 अवधारणाएँ हैं (विकास के दौरान और कई संशोधनों के बाद की संख्याओं का अंतर)।
अप्रैल 1982–1995मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
पाँचवीं पीढ़ी पर सरकारी खर्च: मुख्य 11 वर्षों में लगभग 54.1 अरब येन; बाद के 2 वर्ष जोड़ने पर लगभग 56.9 अरब येन
व्यापार और उद्योग मंत्रालय के शोध संस्थान की 1995 की तालिका के अनुसार, पाँचवीं पीढ़ी कंप्यूटर योजना का सरकारी खर्च वित्त वर्ष 1982〜1992 के 11 वर्षों में लगभग 54.1 अरब येन था (पहला चरण 8.3 अरब, मध्य चरण 21.6 अरब, अंतिम चरण 24.2 अरब येन)। इसके बाद वित्त वर्ष 1993〜1994 के 2 वर्षों की समापन योजना के लिए लगभग 2.8 अरब येन दिए गए: बनाए गए काम को सामान्य कंप्यूटरों पर भी इस्तेमाल करने योग्य बनाना। कुल लगभग 56.9 अरब येन हुए। अक्सर दिखने वाली “लगभग 54 अरब येन” और “57 अरब येन” की राशियों का अंतर बाद के 2 वर्ष गिनने या न गिनने का है।
आम तौर पर कही जाने वाली बात:कभी कहा जाता है “पाँचवीं पीढ़ी पर 57 अरब येन लगे”, कभी “नहीं, 54 अरब येन” मूल स्रोत के अनुसार:सरकारी तालिका में मुख्य 11 वर्ष लगभग 54.1 अरब येन हैं। बाद के 2 वर्षों के लगभग 2.8 अरब जोड़ने पर लगभग 56.9 अरब येन हैं। दोनों तालिका के आँकड़े हैं; अंतर गिनती के दायरे का है।
जो अभी पता नहीं है:तालिका में केवल सरकार (व्यापार और उद्योग मंत्रालय) का दिया धन है। भाग लेने वाली कंपनियों द्वारा स्वयं दिए धन और कर्मचारियों का हिस्सा शामिल नहीं है (तालिका की व्याख्या से जितना समझ आता है)।
4 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:“लगभग 54 अरब येन”: अंतिम मूल्यांकन रिपोर्ट (1993), और व्यापार और उद्योग शोध समीक्षा (1995) का मुख्य पाठ “कुल 54.1 अरब येन”। दोनों वित्त वर्ष 1982〜1992 के 11 वर्ष हैं। / “57 अरब येन”: 2017 का संसदीय वक्तव्य आदि। यह बाद के वित्त वर्ष 1993〜1994 के 2 वर्ष (लगभग 2.8 अरब येन) जोड़कर लगभग 56.9 अरब से मेल खाता है। / निल्सन (Nilsson) 2010 ने उचिदा (Uchida) की स्लाइडों से “54.2 अरब येन” लिखा। सभी को उसी तालिका से समझाया जा सकता है; अंतर गिने गए वर्षों के दायरे का है।
1986: ATR स्वचालित दुभाषिया टेलीफ़ोन अनुसंधान प्रयोगशाला ── आवाज़ को दूसरे व्यक्ति की भाषा में स्वतः अनुवाद करने वाले फ़ोन का शोध। जनवरी 1993 में जापान, अमेरिका और जर्मनी को जोड़ने का प्रयोग (लगभग 1500 शब्दों की शब्दावली)
फ़ोन की आवाज़ को दूसरे की भाषा में स्वतः अनुवाद करने वाला “स्वचालित दुभाषिया टेलीफ़ोन”, वाणी पहचान (आवाज़ पहचानकर पाठ बनाना), मशीन अनुवाद और वाणी संश्लेषण (कंप्यूटर से आवाज़ बनाना) को जोड़ता है। अप्रैल 1986 में ATR (उन्नत दूरसंचार का आधारभूत अनुसंधान संस्थान) के भीतर “ATR स्वचालित दुभाषिया टेलीफ़ोन अनुसंधान प्रयोगशाला” बनी। मूल तकनीकों की जाँच का आधारभूत शोध शुरू हुआ और 1988 तक विदेशी अतिथि शोधकर्ताओं सहित 47 शोधकर्ता थे। बोलचाल के अनुवाद के लिए प्रयोगशाला ने बड़े लेबल वाले वाणी डेटाबेस और बड़ी संख्या में भाषा के उपयोग के उदाहरणों वाले डेटाबेस बनाए। शोध से ASURA नाम की प्रायोगिक वाणी अनुवाद प्रणाली बनी। 28 जनवरी 1993 को जापान, अमेरिका और जर्मनी, इन 3 देशों को जोड़कर स्वचालित दुभाषिया फ़ोन का अंतरराष्ट्रीय संयुक्त प्रयोग हुआ। ASURA लगभग 1500 शब्दों से ऐसे वाक्य अनुवाद करती थी जिन्हें बोलते समय प्रत्येक छोटे वाक्यांश के बाद थोड़ा विराम दिया जाता था (पिछली प्रणाली SL-TRANS में 400 से कम शब्द थे)। मार्च 1993 में शोध समाप्त हुआ और काम ATR वाणी अनुवाद संचार अनुसंधान प्रयोगशाला को सौंपा गया।
आम तौर पर कही जाने वाली बात:अक्सर माना जाता है, “बोली हुई बात का अनुवाद करने वाली मशीन स्मार्टफ़ोन के दौर, यानी 2010 के दशक में बनी” (ऐसी धारणा का अनुमान इस साइट का है) मूल स्रोत के अनुसार:जापान में 1986 से ATR की प्रयोगशाला में “स्वचालित दुभाषिया टेलीफ़ोन” पर शोध हो रहा था। जनवरी 1993 में 3 देशों को जोड़ने का प्रयोग भी हुआ (लेकिन लगभग 1500 शब्दों की सीमा थी और हर वाक्यांश के बाद विराम देकर बोलना पड़ता था)। 2010 के NICT वाणी अनुवाद ऐप के लिए → जापान की राष्ट्रीय शोध संस्था NICT ने ब… देखें।
जो अभी पता नहीं है:खोले गए स्रोतों में ATR की फ़ंडिंग का स्रोत या राशि नहीं है (इस साइट ने नहीं जाँचा)। 1993 के अंतरराष्ट्रीय प्रयोग में सही अनुवाद की दर भी इस साइट ने खोले गए पहले पृष्ठ से नहीं जाँची।
चित्र क्या दिखाता है:पाँचवीं पीढ़ी के प्रतीकों और तर्क के बाद जापान की राष्ट्रीय परियोजना का लक्ष्य “पैटर्न और सीखने” पर चला गया, जिसमें सीखकर तस्वीरों और आवाज़ों को लचीले ढंग से सँभालना था।
041982 · न्यूरल नेटवर्क
ऊर्जा की घाटी में उतरता नेटवर्क
याद करने वाला नेटवर्क आखिर किसी स्थिति पर स्थिर क्यों हो जाता है?
अप्रैल 1982 में भौतिक विज्ञानी हॉपफील्ड (Hopfield) ने ऐसा नेटवर्क प्रस्तुत किया जिसमें +1 या −1 मान लेने वाले सभी न्यूरॉन एक-दूसरे से जुड़े थे। दोनों दिशाओं में कनेक्शन की ताकत समान थी। न्यूरॉन एक-एक करके अपडेट होते हैं: आसपास से आने वाले इनपुट के कुल का चिह्न देखकर अपना मान बदलते हैं।
शोधपत्र ने चुंबकों के गुणों का अध्ययन करने वाली भौतिकी की सोच से नेटवर्क की स्थिति के लिए ऊर्जा नाम की संख्या तय की। हर बार एक न्यूरॉन अपडेट होने पर ऊर्जा घटती है या उतनी ही रहती है। इसलिए कभी न कभी वह घाटी के तल पर जरूर रुकता है। यदि याद किए पैटर्न घाटियों के तल हों, तो बिगड़े पैटर्न से शुरू करने पर भी नेटवर्क पास की घाटी में उतरकर उसे याद कर लेता है।
दाईं ओर के चित्र के नीचे के ग्राफ में जाँचें कि ऊर्जा कभी ऊपर नहीं जाती। शोधपत्र में लिखा था कि न्यूरॉन की संख्या N के लगभग 0.15 गुना पैटर्न तक याद किए जा सकते हैं।
E＝ −½ Σi≠j wij si sj si ← चिह्न（Σj wij sj）
si
न्यूरॉन i का मान (+1 या −1)
wij
i और j के कनेक्शन की ताकत (दोनों दिशाओं में समान)
E
कुल ऊर्जा
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:साहचर्य स्मृति वाला नेटवर्क पहली बार हॉपफील्ड ने 1982 में बनाया मूल स्रोत के अनुसार:उनका अपना शोधपत्र पहले के कार्यों में शुन-इचि अमारी (Shun-ichi Amari) (1977 और 1978) आदि का उल्लेख करता है। 1972 में काओरु नाकानो (Kaoru Nakano) और शुन-इचि अमारी मिलती-जुलती व्यवस्था प्रस्तुत कर चुके थे (अध्याय 5)।
क्या असली मस्तिष्क भी इसी तरह याद करता है
शोधपत्र में इसकी पुष्टि नहीं हुई है। यह तंत्रिकाओं के काम के एक हिस्से पर आधारित और भौतिकी की सोच से जाँचा गया मॉडल है।
मूल स्रोत और भरोसे का स्तर (1)ऊर्जा की घाटी में उतरता नेटवर्क
अप्रैल 1982मूल स्रोत से पुष्टि
भौतिक विज्ञानी हॉपफ़ील्ड (John Hopfield) ने ऐसा न्यूरल नेटवर्क प्रकाशित किया जो एक हिस्से से पूरा याद कर सकता था
भौतिक विज्ञानी जॉन हॉपफ़ील्ड ने अनेक सरल तंत्रिका जैसी इकाइयों को पूरी तरह आपस में जोड़ने वाला तंत्र प्रकाशित किया। इन इकाइयों का वर्णन था: । याद की गई चीज़ का केवल हिस्सा दिखाने पर पूरा रूप लौट सकता था (साहचर्य स्मृति)। उन्होंने चुंबकों के गुणों की भौतिकी के विचार से इसे समझाया: पूरी प्रणाली कम ऊर्जा पर स्थिर होती है—।
आम तौर पर कही जाने वाली बात:अक्सर कहा जाता है कि “साहचर्य स्मृति वाला न्यूरल नेटवर्क पहली बार हॉपफ़ील्ड ने 1982 में बनाया” मूल स्रोत के अनुसार:उनके अपने शोधपत्र में भी पहले के काम के रूप में शुन-इचि अमारी (Shun-ichi Amari, 1977・1978) और लिटल (Little, 1974) हैं। नोबेल समिति की व्याख्या (2024) भी काओरु नाकानो (Kaoru Nakano, 1972) और अमारी (1972) आदि का पहले के काम के रूप में उल्लेख करती है। जापानी शोधकर्ताओं ने 10 वर्ष पहले मिलते-जुलते तंत्र प्रकाशित किए थे।
जो अभी पता नहीं है:वास्तविक मस्तिष्क इसी तंत्र से स्मृतियाँ याद करता है या नहीं, इस शोधपत्र ने पुष्टि नहीं की है। मॉडल में तंत्रिकाओं के कुछ कार्यों के आधार पर भौतिकी के विचार से जाँच की गई थी।
चित्र क्या दिखाता है:हर 1 न्यूरॉन को बदलने पर ऊर्जा घटती है या वही रहती है, इसलिए नेटवर्क ज़रूर किसी घाटी के तल पर रुकता है। याद की गई आकृति को घाटी का तल बनाने पर बिगड़ी आकृति से उसे याद किया जा सकता है।
हर न्यूरॉन अपडेट के बाद ऊर्जा
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_hopfield_energy.py
051985 · न्यूरल नेटवर्क
प्रायिकता से चलते न्यूरॉन
अगर नेटवर्क उथली घाटी में रुक जाए, तो क्या करें?
हॉपफील्ड (Hopfield) नेटवर्क केवल ढलान पर नीचे जा सकता है। 1985 में ऐक्ली (Ackley), हिंटन (Hinton) और सेजनोव्स्की (Sejnowski) की बोल्ट्ज़मान मशीन में न्यूरॉन प्रायिकता के आधार पर ऑन और ऑफ चुनते हैं, इसलिए नेटवर्क कभी-कभी ऊपर भी चढ़ सकता है। कितनी अनिश्चितता होगी, यह तापमान T तय करता है। तापमान धीरे-धीरे घटाने पर कम ऊर्जा की स्थिति में ठहरने की संभावना बढ़ती है (भौतिकी में एनीलिंग, यानी धीरे-धीरे ठंडा करने, जैसी सोच)।
दाईं ओर के चित्र में “एनीलिंग (धीरे ठंडा करें)” और “जल्दी ठंडा करें” कई बार दबाएँ और तुलना करें कि सबसे गहरी घाटी तक कितनी बार पहुँचते हैं।
शोधपत्र ने छिपे न्यूरॉन वाले नेटवर्क को सिखाने का नियम भी दिया। डेटा दिखाकर उसे स्थिर रखने पर और उसे स्वतंत्र रूप से चलने देने पर, 2 न्यूरॉन के एक साथ ऑन होने की प्रायिकताओं की तुलना की जाती है। उनके अंतर से वेट बदले जाते हैं। शुरू में गणना में बहुत समय लगता था और यह अधिक उपयोगी नहीं था (नोबेल समिति का विवरण, 2024)।
P（ऑन）＝1／（1＋e−ΔE/T） Δwij ∝ p＋ij − p−ij
ΔE
ऑन होने पर ऊर्जा में कमी
T
तापमान
p＋ · p−
स्थिर रखने पर और स्वतंत्र चलने पर एक साथ ऑन होने की प्रायिकता
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:छिपी परत वाले नेटवर्क को सिखाने की शुरुआत 1986 के बैकप्रोपेगेशन से हुई मूल स्रोत के अनुसार:1985 के बोल्ट्ज़मान मशीन वाले शोधपत्र में छिपे न्यूरॉन वाले नेटवर्क को सिखाने का नियम पहले से दिया गया था।
नाम और पुरस्कार
बोल्ट्ज़मान मशीन नाम वाला शोधपत्र 1983 का है, जिसे 3 लोगों ने मिलकर लिखा था। 2024 का भौतिकी का नोबेल पुरस्कार हिंटन को दिया गया, लेकिन विवरण में भी लिखा है कि उन्होंने इसे सेजनोव्स्की और अन्य साथियों के साथ विकसित किया था।
मूल स्रोत और भरोसे का स्तर (1)प्रायिकता से चलते न्यूरॉन
1985मूल स्रोत से पुष्टि
बोल्ट्ज़मान मशीन: संभावना के अनुसार ऑन और ऑफ़ होने वाला नेटवर्क और छिपी इकाइयों के सीखने का नियम (1985)
बोल्ट्ज़मान मशीन ऐसा नेटवर्क है जिसमें ऑन या ऑफ़ की 2 अवस्थाओं वाले न्यूरॉन (इकाइयाँ) दोनों दिशाओं में समान वज़न से जुड़े होते हैं। प्रत्येक न्यूरॉन आसपास के न्यूरॉनों की अवस्था और वज़नों से तय संभावना के अनुसार ऑन या ऑफ़ होता है। तापमान (बेतरतीबी की मात्रा तय करने वाली संख्या) को ऊँचे स्तर से धीरे-धीरे घटाने पर पूरा नेटवर्क कम ऊर्जा की अवस्था में आसानी से स्थिर होने लगता है (भौतिकी में एनीलिंग जैसा विचार)। डेविड एच. ऐक्ली (David H. Ackley), जेफ़्री ई. हिंटन (Geoffrey E. Hinton) और टेरेन्स जे. सेजनॉव्स्की (Terrence J. Sejnowski) के 1985 के शोधपत्र ने ऐसे नेटवर्क को डेटा के पैटर्न की नकल सीखने का नियम दिया जिसमें बाहर से मान तय की जाने वाली दिखाई देने वाली इकाइयों के साथ, बाहर से तय न की जाने वाली छिपी इकाइयाँ भी हैं। नियम में दो स्थितियों की तुलना होती है: डेटा दिखाकर दिखाई देने वाली इकाइयों को स्थिर रखना, और बिना डेटा के स्वतंत्र रूप से चलाना। दोनों स्थितियों में जुड़े हुए 2 न्यूरॉनों के एक साथ ऑन होने की संभावनाओं के अंतर के अनुपात में वज़न सुधारे जाते हैं। सुधार केवल उन 2 न्यूरॉनों की अवस्था पर निर्भर होता है।
आम तौर पर कही जाने वाली बात:अक्सर कहा जाता है, “छिपी परत वाले नेटवर्क को प्रशिक्षित करने के तरीके की शुरुआत 1986 के बैकप्रोपेगेशन से हुई” मूल स्रोत के अनुसार:बोल्ट्ज़मान मशीन के 1985 के शोधपत्र में कहा गया था कि छिपी इकाइयों वाले नेटवर्क में गलती के लिए कौन-सा वज़न ज़िम्मेदार है, यह तय करने की समस्या बोल्ट्ज़मान मशीन के रूप में हल की जा सकती है, और उसने सीखने का नियम दिया था (शोधपत्र के अनुसार इसी समस्या से परसेप्ट्रॉन अनुसंधान में गिरावट आई थी)। लेकिन हर बार वज़न सुधारने पर नेटवर्क को 2 तरीकों से स्थिर होने तक चलाना पड़ता था, जिसमें समय लगता था। नोबेल समिति की 2024 की व्याख्या कहती है कि शुरुआत में इसका व्यावहारिक उपयोग कम था। 2024 का भौतिकी का नोबेल पुरस्कार हिंटन को मिला, लेकिन 1983 और 1985 के दोनों शोधपत्र 3 लोगों ने मिलकर लिखे थे। व्याख्या में भी विकास के बारे में लिखा है।
जो अभी पता नहीं है:1983 के दोनों सम्मेलन पत्रों—नामों वाला AAAI-83 का पत्र और 1985 के शोधपत्र में उद्धृत हिंटन और सेजनॉव्स्की 1983—में कौन पहले प्रकाशित हुआ, जाँचा नहीं गया। 1980 के दशक में बोल्ट्ज़मान मशीन का व्यावहारिक इस्तेमाल कितना हुआ, यह भी अज्ञात है।
चित्र क्या दिखाता है:केवल नीचे जाने पर उथली घाटी में रुक जाते हैं। बोल्ट्ज़मान मशीन में संभावना के आधार पर कभी ऊपर भी जा सकते हैं, इसलिए तापमान धीरे घटाने पर गहरी घाटी तक पहुँचना अधिक संभव होता है।
चलते समय ऊर्जा
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_boltzmann.py
061986 · न्यूरल नेटवर्क
केवल 2 परतों के बीच कनेक्शन
एक ही परत के भीतर कनेक्शन न हों, तो क्या आसान हो जाता है?
1986 में “समांतर वितरित प्रसंस्करण (PDP)” पुस्तक के खंड 1 के अध्याय 6 में स्मोलेंस्की (Smolensky) ने harmonium नाम का न्यूरल नेटवर्क प्रस्तावित किया। उन्होंने न्यूरॉन को दिखने वाली परत और छिपी परत में बाँटकर केवल परतों के बीच कनेक्शन रखे। फुटनोट में इसे बोल्ट्ज़मान मशीन का एक विशेष रूप भी कहा, जिसमें (अनुवाद)। आज इसे रिस्ट्रिक्टेड बोल्ट्ज़मान मशीन (RBM) कहते हैं।
एक ही परत के भीतर कनेक्शन नहीं होने से एक परत तय हो जाए, तो दूसरी की गणना एक साथ की जा सकती है। दाईं ओर के चित्र का “1 चक्कर (ऊपर, फिर नीचे)” हर परत के न्यूरॉन को एक साथ अपडेट करता है। धारियों वाले पैटर्न पर सीखा नेटवर्क कुछ चक्करों में बिगड़े चित्र को भी दोबारा बना लेता है।
2002 में हिंटन (Hinton) ने 1 चक्कर में सिखाने का तेज तरीका, कॉन्ट्रास्टिव डाइवर्जेंस, प्रस्तुत किया (अध्याय 9)।
P（hj＝1｜v）＝σ（bj ＋Σi wij vi）
v
दिखने वाली परत
h
छिपी परत
σ
मान को 0〜1 में बदलने वाला फलन
b
बायस
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:हिंटन ने 2000 के दशक के डीप लर्निंग के लिए रिस्ट्रिक्टेड बोल्ट्ज़मान मशीन बनाई मूल स्रोत के अनुसार:हिंटन ने खुद 2002 के शोधपत्र में लिखा कि सीमित कनेक्शन वाला रूप स्मोलेंस्की (1986) ने प्रस्तुत किया था। 2000 के दशक का काम इसे जल्दी सिखाने और परत-दर-परत जोड़कर गहरा नेटवर्क बनाने के तरीकों पर था।
नाम कहाँ से आया
अध्याय में लिखा है कि harmonium नाम, सेल्फ्रिज (Selfridge) और नाइसर (Neisser) की 1960 की पैटर्न पहचान व्यवस्था pandemonium से प्रेरित था। restricted Boltzmann machine नाम सबसे पहले किसने इस्तेमाल किया, इसकी अभी पुष्टि नहीं हुई है।
मूल स्रोत और भरोसे का स्तर (1)केवल 2 परतों के बीच कनेक्शन
1986मूल स्रोत से पुष्टि
रिस्ट्रिक्टेड बोल्ट्ज़मान मशीन (RBM) की शुरुआत स्मोलेन्स्की (P. Smolensky) के 1986 के harmonium से: केवल 2 परतों के बीच कनेक्शन वाली बोल्ट्ज़मान मशीन
रिस्ट्रिक्टेड बोल्ट्ज़मान मशीन (RBM) में बोल्ट्ज़मान मशीन के न्यूरॉन 2 परतों—दिखाई देने वाली और छिपी परत—में बँटे होते हैं, और कनेक्शन केवल परतों के बीच होते हैं। एक परत के भीतर कनेक्शन नहीं होते, इसलिए एक परत के मान तय होने पर दूसरी के सभी न्यूरॉनों की गणना एक साथ हो सकती है। इसकी शुरुआत 1986 की पुस्तक Parallel Distributed Processing, खंड 1 के अध्याय 6 में पी. स्मोलेन्स्की के प्रस्तावित harmonium से हुई। ऊपर की परत में ज्ञान के छोटे हिस्से (knowledge atoms) और नीचे वस्तुओं की विशेषताएँ (representational features) थीं। दोनों पूरी परतें बारी-बारी से एक साथ अद्यतन होती थीं। लिखा है कि नाम 1960 में सेल्फ़्रिज (Selfridge) और नाइसर (Neisser) की पैटर्न पहचान प्रणाली pandemonium से प्रेरित था। 2002 में जेफ़्री ई. हिंटन (Geoffrey E. Hinton) ने contrastive divergence नाम का तेज़ सीखने का तरीका बनाया। 2000 के दशक में यह गहरे नेटवर्कों को 1 परत करके प्रशिक्षित करने का महत्वपूर्ण उपकरण बना (नोबेल समिति की व्याख्या)।
आम तौर पर कही जाने वाली बात:अक्सर माना जाता है, “रिस्ट्रिक्टेड बोल्ट्ज़मान मशीन हिंटन ने 2000 के दशक की डीप लर्निंग के लिए बनाई” (नोबेल समिति की व्याख्या भी स्मोलेन्स्की का नाम नहीं देती) मूल स्रोत के अनुसार:हिंटन के अपने 2002 के शोधपत्र में लिखा है कि स्मोलेन्स्की (1986) ने रिस्ट्रिक्टेड बोल्ट्ज़मान मशीन प्रस्तावित की थी। 1986 के अध्याय में स्मोलेन्स्की ने इसे harmonium कहा और फुटनोट में लिखा कि यह बोल्ट्ज़मान मशीन का विशेष रूप भी है, जिसमें । 2000 के दशक में हिंटन का काम था उसे तेज़ प्रशिक्षित करने का तरीका (contrastive divergence) और कई को जोड़कर गहरा नेटवर्क बनाने का तरीका।
जो अभी पता नहीं है:restricted Boltzmann machine नाम पहली बार किसने इस्तेमाल किया, जाँचा नहीं गया (हिंटन 2002 में फ़्रॉइंड (Freund) और हाउसलर (Haussler) के 1992 के काम पर चर्चा में यह नाम है)। स्मोलेन्स्की का 1986 के अध्याय के समय का संस्थान PDF में नहीं है, इसलिए लिखा नहीं गया।
चित्र क्या दिखाता है:परतों के भीतर जोड़ न रखकर केवल 2 परतों के बीच जोड़ रखने से, एक परत तय होते ही दूसरी के सभी मान एक साथ निकाल सकते हैं।
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_rbm_cd.py
071967〜1986 · सीखने के तरीके
त्रुटि की ढलान पर उतरना
बहुत सारे वेट वाले मॉडल को थोड़ा-थोड़ा बेहतर कैसे बनाएँ?
सीखने वाली मशीन के वेट तय करने पर उसकी त्रुटि की एक संख्या तय हो जाती है। वेट को आड़ी और खड़ी दिशाओं में रखें, तो पहाड़ों और घाटियों जैसा धरातल बनता है। ग्रेडिएंट डिसेंट सबसे तेज नीचे जाने वाली दिशा (ग्रेडिएंट के उलट) में छोटे कदम बढ़ाकर त्रुटि घटाने का तरीका है।
दाईं ओर धरातल पर दबाकर गेंद रखें और उसे नीचे उतारें। 1 कदम (सीखने की दर η) बहुत बड़ा हो, तो गेंद घाटी लाँघ जाती है; और बड़ा हो, तो बाहर निकल जाती है। “हर 1 उदाहरण पर” गणना करने से रास्ता डगमगाता है, लेकिन हर कदम की गणना हल्की होती है (स्टोकास्टिक ग्रेडिएंट डिसेंट)।
1967 में शुन-इचि अमारी (Shun-ichi Amari) ने हर 1 उदाहरण देखने पर वेट थोड़ा-थोड़ा बदलने वाले सीखने के तरीके का सैद्धांतिक अध्ययन किया। 1968 के जापानी विवरण में उन्होंने इसे “स्टोकास्टिक डिसेंट विधि” कहा। 1986 का बैकप्रोपेगेशन भी ढलान पर उतरने की इसी सोच का उपयोग करता है।
w ← w − η ∂L／ ∂w
L
त्रुटि का आकार
∂L／ ∂w
w थोड़ा बदलने पर L में बदलाव (ग्रेडिएंट)
η
सीखने की दर
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:छिपी परतों तक सिखाने का तरीका 1986 के बैकप्रोपेगेशन से शुरू हुआ मूल स्रोत के अनुसार:अमारी की अपनी व्याख्या (2025) और क्योटो पुरस्कार के परिचय के अनुसार, 1967 का सिद्धांत छिपी परतों समेत ग्रेडिएंट से सिखाने की सोच था। इस साइट ने 1967 के शोधपत्र का मूल पाठ जाँच नहीं पाया है।
मूल स्रोत और भरोसे का स्तर (1)त्रुटि की ढलान पर उतरना
जून 1967मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
शुन-इची अमारी (Shun-ichi Amari) का (A Theory of Adaptive Pattern Classifiers) (त्रुटियों से वज़न धीरे-धीरे बदलने का सीखने का सिद्धांत)
शुन-इची अमारी ने ऐसी सीखने की विधि का गणितीय विश्लेषण किया जिसमें हर नया डेटा देखने पर त्रुटि के अनुसार वज़न (किस विशेषता को कितना महत्व देना है) थोड़ा बदलता है। अंग्रेज़ी शोधपत्र के सारांश में ऐसी परिस्थितियों में भी सर्वोत्तम वज़न के करीब पहुँचने का प्रमाण है जहाँ डेटा को पूरी तरह सही वर्गीकृत नहीं किया जा सकता। उसमें सीखने की गति और सटीकता के बीच समझौता तथा खंडों में रैखिक (टूटी रेखा जैसे) वर्गीकरण तक विस्तार भी है। 1968 के जापानी विवरण में इसे “स्टोकास्टिक डिसेंट विधि” कहा गया। श्मिटह्यूबर (Schmidhuber) (2022) ने लिखा कि संभवतः यह पहला शोधपत्र था जिसने बहुपरत न्यूरल नेटवर्क को स्टोकास्टिक ग्रेडिएंट डिसेंट से प्रशिक्षित किया (आज की डीप लर्निंग की बुनियादी सीखने की विधि)।
आम तौर पर कही जाने वाली बात:श्मिटह्यूबर (2022) ने लिखा कि अमारी ने 1967 में सुझाया मूल स्रोत के अनुसार:1967 के शोधपत्र का सारांश खुद रैखिक वर्गीकारकों और खंडों में रैखिक वर्गीकरण के सामान्य सिद्धांत के रूप में लिखा है। 5 परतों के नेटवर्क का प्रयोग 1968 की जापानी पुस्तक और एक छात्र की मास्टर थीसिस में बताया जाता है (दोनों की पुष्टि नहीं की गई है)।
जो अभी पता नहीं है:5 परतों का नेटवर्क असल में कितना सीख पाया (1968 की पुस्तक और एच. साइतो (H. Saito) की मास्टर थीसिस), यह पता नहीं है, क्योंकि मूल स्रोत नहीं खोले गए हैं।
6 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:पृष्ठ: 299-307 (IEEE की ग्रंथसूची)／श्मिटह्यूबर की संदर्भ सूची में “279-307”। जापानी संस्करण का वर्ष: श्मिटह्यूबर ने 1965 लिखा है (पुष्टि नहीं की गई)।
चित्र क्या दिखाता है:त्रुटि को वज़नों के भूभाग के रूप में देखें, तो सीखना सबसे तीखी ढलान की दिशा में थोड़ा-थोड़ा बढ़ना है। 1 कदम बहुत बड़ा हो तो घाटी पार कर जाते हैं, और उससे भी बड़ा हो तो बाहर निकल जाते हैं।
अपडेट की संख्या और त्रुटि का आकार (खड़े पैमाने पर हर कदम 10 गुना)
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_gradient_descent.py
081986 · न्यूरल नेटवर्क
त्रुटि को पीछे की ओर भेजना
छिपी परत के वेट कैसे सुधारें?
अक्टूबर 1986 में रुमेलहार्ट (Rumelhart), हिंटन (Hinton) और विलियम्स (Williams) ने Nature के एक शोधपत्र में इनपुट और आउटपुट के बीच छिपी परत वाले न्यूरल नेटवर्क को सिखाने का तरीका प्रस्तुत किया। आउटपुट की त्रुटि को आउटपुट से इनपुट की ओर क्रम से वापस भेजते हुए, छिपी परत के न्यूरॉन में त्रुटि बाँटी जाती है और वेट थोड़ा-थोड़ा सुधारे जाते हैं (बैकप्रोपेगेशन)।
अध्याय 5 में 1 परत का परसेप्ट्रॉन जिस XOR को नहीं सीख सका था, उसे दाईं ओर के नेटवर्क को सिखाएँ। छिपी परत के न्यूरॉन अलग-अलग सीमा रेखाएँ (बिंदीदार रेखाएँ) खींचते हैं और उनके बीच XOR का वर्गीकरण करते हैं। छिपी परत में न्यूरॉन की संख्या घटाकर 1 कर दें, तो नेटवर्क सीख नहीं पाता।
शोधपत्र ने खुद पार्कर (Parker) और ले कुन (Le Cun) का उल्लेख करते हुए लिखा, (अनुवाद)।
छिपी परत के न्यूरॉन j का मान और आउटपुट तक उसका वेट
δ
बाँटी गई त्रुटि
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:बैकप्रोपेगेशन का आविष्कार हिंटन ने किया मूल स्रोत के अनुसार:शोधपत्र ने खुद लिखा कि दूसरे लोग भी इसे स्वतंत्र रूप से खोज चुके थे। नोबेल समिति के विवरण (2024) में भी लिखा है, (अनुवाद)। उसके अनुसार, अहम बात यह दिखाना था कि छिपी परत वाला नेटवर्क ऐसे काम हल कर सकता है जो उस परत के बिना हल नहीं हो सकते।
पहले यह सोचने वाले लोग
अलग-अलग स्रोत अलग नाम बताते हैं। निल्सन (Nilsson) (2010) ने ब्राइसन (Bryson) और हो (Ho), तथा वर्बोस (Werbos) की डॉक्टरेट थीसिस (1974) का उल्लेख किया। नोबेल समिति ने वर्बोस (1982) और लिननाइमा (Linnainmaa) (1970 और 1976) का, जबकि श्मिटहुबर (Schmidhuber) (2014 और 2022) ने लिननाइमा (1970) और 1967 के शुन-इचि अमारी (Shun-ichi Amari) का उल्लेख किया। यह साइट इनमें से किसी एक को सही घोषित नहीं करती।
बोलकर पढ़ना सीखने वाला NETtalk (1987)
सेजनोव्स्की (Sejnowski) और रोज़ेनबर्ग (Rosenberg) ने ऐसा नेटवर्क बनाया जिसने इस तरीके से अंग्रेज़ी अक्षरों को उच्चारण में बदलना (अनुवाद)। उसे बच्चे की बोली से लिखे गए 1,024 शब्दों पर सिखाया गया। उसके बाद के 439 शब्द, जो सीखने में इस्तेमाल नहीं हुए थे, उसने 78% सही बोले। उससे पहले बाजार में उपलब्ध पढ़कर सुनाने वाली मशीनों में सामान्य शब्दों के उच्चारण तालिका में दर्ज होते थे और वे नियमों के अनुसार पढ़ती थीं।
जापान न्यूरल नेटवर्क सोसाइटी (1989)
21 जुलाई 1989 को, 1980 में 19 लोगों से शुरू हुए अध्ययन समूह से जापान न्यूरल नेटवर्क सोसाइटी बनी। पहले अध्यक्ष कुनिहिको फुकुशिमा (Kunihiko Fukushima) ने 2009 में याद किया कि 1987 में अमेरिका के अंतरराष्ट्रीय न्यूरल नेटवर्क सम्मेलन का माहौल इस आशा से भरा था: (अनुवाद)।
मूल स्रोत और भरोसे का स्तर (3)त्रुटि को पीछे की ओर भेजना
9 अक्टूबर 1986मूल स्रोत से पुष्टिस्रोतों में मतभेद है
बहुपरत न्यूरल नेटवर्क को बैकप्रोपेगेशन से प्रशिक्षित करने का शोधपत्र Nature में प्रकाशित हुआ
डेविड रुमेलहार्ट (David Rumelhart), जेफ़्री हिंटन (Geoffrey Hinton) और रोनाल्ड विलियम्स (Ronald Williams) ने इनपुट और आउटपुट के बीच वाले न्यूरल नेटवर्क के प्रशिक्षण की विधि प्रस्तुत की। आउटपुट और सही उत्तर का अंतर (त्रुटि) आउटपुट से इनपुट की तरफ़ क्रम से लौटाते हुए कनेक्शन की ताकत धीरे-धीरे अद्यतन होती है (＝बैकप्रोपेगेशन)। प्रयोगों में दिखाया गया कि छिपी परत बिना सिखाए विशेषताओं का निरूपण करने लगती है।
आम तौर पर कही जाने वाली बात:अक्सर कहा जाता है, “बैकप्रोपेगेशन हिंटन ने बनाया” मूल स्रोत के अनुसार:1986 का शोधपत्र खुद कहता है, , यानी पार्कर (Parker) और ले कुन (Le Cun) ने इन्हें अलग-अलग खोजा था। नोबेल समिति की व्याख्या भी लिखती है। उससे अधिक महत्वपूर्ण उपलब्धि के रूप में वह तीनों का यह काम बताती है: । इससे पहले फ़िनलैंड के लिन्नाइनमा (Linnainmaa, 1970), अमेरिका के वर्बोस (Werbos, 1974・1982) और जापान के शुनइचि अमारि (Shun'ichi Amari, 1967) के नाम आते हैं।
जो अभी पता नहीं है:इस शोधपत्र के छोटे उदाहरण (परिवार के संबंधों के चार्ट) में लोग छिपी परत का निरूपण समझ पाए। लेकिन बड़े नेटवर्कों में आज भी केवल कुछ हिस्से समझ आते हैं (चौथे उछाल के पाठ से जुड़ता है)।
6 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:इस प्रशिक्षण विधि को “सबसे पहले सोचने वाला व्यक्ति” अलग लेखक अलग बताते हैं (यहाँ किसी को सही तय नहीं किया गया)। ①1986 का मूल शोधपत्र: पार्कर और ले कुन ने अलग-अलग खोजा था। ②निल्सन (Nilsson, 2010): संभवतः सबसे पहले ब्राइसन (Bryson) और हो (Ho) ने नियंत्रण के क्षेत्र में किया; वर्बोस की 1974 की डॉक्टरेट थीसिस भी दी गई है। ③नोबेल समिति (2024): तीनों ने वर्बोस (1982) और लिन्नाइनमा (1970/1976) की पहले से इस्तेमाल हुई विधि फिर खोजी। ④श्मिडहुबर (Schmidhuber, 2014・2022): लिन्नाइनमा (1970) पहले थे; न्यूरल नेटवर्क में पहला इस्तेमाल वर्बोस (1981/1982) ने किया; अमारि ने 1967 में बहुपरत नेटवर्क को ग्रेडिएंट डिसेंट से प्रशिक्षित किया; केली (Kelley, 1960) में पूर्वसंकेत मिलता है। श्मिडहुबर भी इस काम से निकट जुड़े शोधकर्ता हैं और इस मुद्दे पर दृढ़ पक्ष लेते हैं।
NETtalk: अंग्रेज़ी वाक्यों को पढ़ने वाला न्यूरल नेटवर्क जिसने
टेरेन्स सेजनॉव्स्की (Terrence Sejnowski) और चार्ल्स रोज़ेनबर्ग (Charles Rosenberg) ने उदाहरणों से अंग्रेज़ी अक्षरों को उच्चारण में बदलना सीखने वाला न्यूरल नेटवर्क NETtalk बनाया। पहली कक्षा के बच्चों की बातचीत के लिखित रूप के 1024 शब्दों पर प्रशिक्षित करने से लगभग 10 बार दोहराने के बाद उच्चारण सुनकर समझ में आने लगा। प्रशिक्षण में न इस्तेमाल किए बाकी 439 शब्दों के परीक्षण में परिणाम 78% था। पहले बाज़ार में उपलब्ध पाठ पढ़ने वाली मशीनें आम शब्दों के उच्चारण तालिकाओं में रखती थीं और तय नियमों से पढ़ती थीं।
जो अभी पता नहीं है:शोधपत्र के अनुसार अलग कनेक्शन वज़नों वाले नेटवर्कों में भी छिपी परत के समान थे। यह न्यूरल नेटवर्क के भीतर जाँच करने के शुरुआती प्रयासों में से एक है।
1989 में जापान न्यूरल नेटवर्क सोसाइटी शुरू हुई ── 1980 में 19 लोगों से शुरू छोटे अध्ययन समूह से। उस समय अमेरिकी सम्मेलन का माहौल था, (अनुवाद)
मस्तिष्क के न्यूरल सर्किटों जैसे गणना मॉडल का अध्ययन करने वाली संस्था “जापान न्यूरल नेटवर्क सोसाइटी (JNNS)” की स्थापना सभा 21 जुलाई 1989 को कांदा के गाकुशीकाइकान में हुई। पहले अध्यक्ष कुनिहिको फ़ुकुशिमा (Kunihiko Fukushima) थे। शुरुआत 1980 में फ़ुकुशिमा और NHK की प्रयोगशाला के साथियों द्वारा पूरे देश को आमंत्रित किए छोटे अध्ययन समूह (न्यूरल सूचना विज्ञान अध्ययन समूह) से हुई, जो वैज्ञानिक संस्था नहीं था। पहली सभा में 19 लोग थे। 1980 के दशक के अंत में अमेरिका में “न्यूरो का उछाल” आने पर भाग लेने वालों की संख्या तेज़ बढ़ी। 1987 में 100 से अधिक होने से शिविर का रूप जारी रखना कठिन हुआ, इसलिए समूह को वैज्ञानिक संस्था बनाया गया। फ़ुकुशिमा ने याद किया कि अमेरिका में 1987 के न्यूरल नेटवर्क अंतरराष्ट्रीय सम्मेलन में (अनुवाद) का आशा भरा माहौल था।
आम तौर पर कही जाने वाली बात:अक्सर कहा जाता है, “1980 के दशक के अंत का न्यूरो, यानी न्यूरल नेटवर्क, उछाल भी AI उछाल का हिस्सा था” (यह धारणा इस साइट का अनुमान है) मूल स्रोत के अनुसार:जापान न्यूरल नेटवर्क सोसाइटी के पहले अध्यक्ष ने याद किया कि 1987 के अंतरराष्ट्रीय सम्मेलन का आशा भरा माहौल था: (अनुवाद)। यह उस दौर के व्यक्ति की गवाही है कि कम-से-कम कुछ न्यूरल नेटवर्क शोधकर्ता खुद को “AI” से अलग देखते थे (2009 की स्मृति)।
जो अभी पता नहीं है:स्थापना सभा की तारीख और स्थान स्मृतियों से हैं। इस साइट ने उस समय की सूचनाएँ और रिपोर्टें, जैसे 1989 का JNNS News Letter, नहीं खोलीं।
चित्र क्या दिखाता है:छिपी परत वाला नेटवर्क आउटपुट की त्रुटि पीछे की ओर बाँटकर वज़न सुधारता है। इससे वह XOR हल कर सकता है, जो 1 परत से हल नहीं होता।
सीखने के हर दौर में त्रुटि का आकार
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_backprop_xor.py
091985〜1987 · न्यूरल नेटवर्क
8 को 3 में समेटना
अलग से सही उत्तर तैयार किए बिना क्या नेटवर्क से कोड बनवाया जा सकता है?
बीच की परत पतली रखने वाले नेटवर्क को वही आउटपुट देना सिखाया जाता है जो इनपुट में आया था। 8 इनपुट में से केवल 1 का मान 1 वाले पैटर्न को 3 छिपे न्यूरॉन से गुजारकर उन्हीं 8 आउटपुट में उतारा जाता है। नेटवर्क के पास इन 8 पैटर्न के लिए खुद 3 मानों का समूह (कोड) तय करने के अलावा कोई रास्ता नहीं है।
यह काम 1985 के बोल्ट्ज़मान मशीन वाले शोधपत्र में कोड बनाने की समस्या (encoder problem) के रूप में आया था। 1986 की पुस्तक के बैकप्रोपेगेशन वाले अध्याय में भी इसे सिखाया गया। अध्याय के अनुसार, छिपे न्यूरॉन ने केवल 0 और 1 ही नहीं, बीच के मान भी इस्तेमाल किए। दाईं ओर के चित्र में देखें कि 8 पैटर्न घन के अलग-अलग स्थानों पर कैसे फैलते हैं।
1987 में बैलर्ड (Ballard) ने ऐसे नेटवर्क को एक के ऊपर एक जोड़ने का तरीका प्रस्तुत किया। आज इसे ऑटोएन्कोडर (स्वयं को कोड में बदलने वाला नेटवर्क) कहते हैं।
कोड z＝σ（W1x） आउटपुट y＝σ（W2z） पुनर्निर्माण की त्रुटि ＝Σ（y − x）²
x · z
इनपुट (8) · छिपी परत (3)
W1 · W2
पहले हिस्से (एन्कोडर) और दूसरे हिस्से (डीकोडर) के वेट
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:ऑटोएन्कोडर की शुरुआत हिंटन (Hinton) ने 2006 में की मूल स्रोत के अनुसार:यह 1985〜1987 में पहले से मौजूद था। Science के 2006 के शोधपत्र ने भी गहरे ऑटोएन्कोडर के अच्छे काम करने के बारे में लिखा, (अनुवाद)।
2006 में नया क्या था
Science के 2006 के शोधपत्र में नया बताया गया तरीका गहरे न्यूरल नेटवर्क के वेट के शुरुआती मान तय करने का था (अध्याय 9)।
यह नाम कब से है
हमारी खोज में autoencoder नाम वाला सबसे पुराना शोधपत्र हिंटन और ज़ेमेल (Zemel) का 1993 का शोधपत्र है। उससे पहले किसी शोधपत्र में यह नाम इस्तेमाल हुआ था या नहीं, इसकी अभी पुष्टि नहीं हुई है। उसी समय जापान में इनपुट जैसा ही आउटपुट देने वाले नेटवर्क पर शोध हो रहा था या नहीं, इसका भी निर्णायक प्रमाण नहीं मिला है।
मूल स्रोत और भरोसे का स्तर (1)8 को 3 में समेटना
1986मूल स्रोत से पुष्टि
ऑटोएन्कोडर का उद्गम: 1985〜1987 में संकरी मध्य परत से होकर इनपुट जैसा ही आउटपुट देने का कार्य
ऑटोएन्कोडर एक न्यूरल नेटवर्क है जिसे इनपुट के समान डेटा आउटपुट करने के लिए प्रशिक्षित किया जाता है। मध्य परत में न्यूरॉनों की संख्या कम रखी जाती है। इनपुट सीधे नहीं गुजर सकता, इसलिए मध्य परत खुद ऐसा कोड सीखती है जो इनपुट को कम संख्याओं में संक्षिप्त करके दिखाए। पहला हिस्सा इनपुट को कोड बनाता है (एन्कोडर); दूसरा कोड से मूल डेटा वापस बनाता है (डिकोडर)। यह संरचना 1985 के बोल्ट्ज़मान मशीन शोधपत्र की encoder problem और 1986 की बैकप्रोपेगेशन पुस्तक के अध्याय में आती है। अध्याय में 8 इनपुट को छिपी परत के 3 न्यूरॉनों से गुजारकर उन्हीं 8 आउटपुट में दोहराने का कार्य सिखाया गया। छिपी परत ने हर इनपुट को अलग कोड दिया (सिर्फ़ 0 और 1 नहीं, बीच के मान भी इस्तेमाल हुए)। 1987 में डाना एच. बैलर्ड (Dana H. Ballard) ने समान इनपुट और आउटपुट वाले autoassociative नेटवर्कों को एक के ऊपर एक जोड़ने का तरीका सुझाया। ऊपरी नेटवर्क निचले नेटवर्क की छिपी परत का निरूपण लेकर सीखता है।
आम तौर पर कही जाने वाली बात:अक्सर कहा जाता है, “ऑटोएन्कोडर की शुरुआत 2006 में हिंटन (Hinton) ने की” मूल स्रोत के अनुसार:कम छिपे न्यूरॉनों से होकर इनपुट जैसा आउटपुट देने का कार्य 1985 के बोल्ट्ज़मान मशीन शोधपत्र (encoder problem) और 1986 की बैकप्रोपेगेशन पुस्तक के अध्याय में मौजूद था। 1987 में बैलर्ड ने autoassociative नेटवर्कों को जोड़ने का तरीका सुझाया था (बैलर्ड के अनुसार संरचना का प्रस्ताव हिंटन और रुमेलहार्ट (Rumelhart) ने दिया था)। 2006 के Science शोधपत्र ने भी लिखा कि बैकप्रोपेगेशन से गहरे ऑटोएन्कोडर अच्छी तरह प्रशिक्षित हो सकते हैं, यह । नया काम वज़नों के शुरुआती मान तय करने का तरीका था।
जो अभी पता नहीं है:autoencoder शब्द पहली बार इस्तेमाल करने वाला शोधपत्र जाँचा नहीं गया (खोले गए स्रोतों में सबसे पुराना हिंटन और ज़ेमेल का 1993 का NIPS शोधपत्र है)। क्रेमर (Kramer) का 1991 का नॉनलीनियर प्रिंसिपल कंपोनेंट एनालिसिस शोधपत्र भुगतान माँगता है, इसलिए नहीं खोला गया। उसी समय जापान में समान इनपुट और आउटपुट वाले नेटवर्कों पर शोध था या नहीं—जिन्हें घंटे के शीशे जैसी संरचना या identity mapping सीखना कहा जाता है—खोजा गया, लेकिन निर्णायक प्रमाण नहीं मिला।
चित्र क्या दिखाता है:8 इनपुट को 3 में समेटकर फिर मूल रूप लौटाना सिखाने पर नेटवर्क सही जवाब बताए बिना खुद अपना कोड बनाता है।
सीखने के हर दौर में पुनर्निर्माण की त्रुटि
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_autoencoder_838.py
101986〜1990 · न्यूरल नेटवर्क
पिछली स्थिति को इनपुट में देना
क्रम से आने वाले अक्षरों को नेटवर्क कैसे याद रखता है?
1990 में एल्मन (Elman) ने 3 परतों वाले न्यूरल नेटवर्क में संदर्भ यूनिट जोड़ीं। छिपी परत के मान ज्यों के त्यों संदर्भ यूनिट में उतारे जाते हैं और अगले समय पर इनपुट के साथ दिए जाते हैं (रिकरेंट न्यूरल नेटवर्क, RNN)। कॉपी करने वाले कनेक्शन के वेट 1 पर स्थिर रखे गए।
जब बिना शब्दों के बीच विराम दिए अक्षरों के क्रम में अगला अक्षर अनुमान करना सिखाया गया, तो अनुमान की त्रुटि शब्द की शुरुआत में बड़ी और शब्द आगे बढ़ने पर छोटी हो गई। बताए बिना ही शब्दों की सीमाएँ उभर आईं। दाईं ओर का चित्र इस साइट के बनाए 5 शब्दों को क्रम में रखने का उदाहरण है। केवल बैंगनी बार (पहला अक्षर) ऊँचे रह जाते हैं।
एल्मन ने खुद लिखा है कि यह विचार जॉर्डन (Jordan) की 1986 की रिपोर्ट से शुरू होता है।
ht ＝tanh（W xt ＋U ht−1）
xt
समय t का अक्षर
ht−1
पिछले समय की छिपी परत
U
संदर्भ यूनिट से आने वाले कनेक्शन
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:RNN का आविष्कार एल्मन ने 1990 में किया मूल स्रोत के अनुसार:एल्मन के शोधपत्र ने खुद इस विचार को पहली बार जॉर्डन (1986) द्वारा लिखा गया बताया और पुराने उदाहरण दिए। नोबेल समिति के विवरण के अनुसार, हॉपफील्ड (Hopfield) नेटवर्क भी रिकरेंट है।
शब्दों के समूह
शब्दों के क्रम पर सिखाने वाले प्रयोग में, छिपी परत के निरूपणों को समानता के आधार पर समूहों में रखा गया। तब संज्ञा और क्रिया, जीवित और निर्जीव जैसी श्रेणियाँ अलग दिखाई दीं।
जापानी प्रयोगशाला का नाम
एल्मन ने 1987 के टाइम-डिले नेटवर्क को पहले के उदाहरण के रूप में बताया। उन्हीं लेखकों के 1989 के शोधपत्र में 5 में से 2 लेखक ATR अनुवादक टेलीफोन अनुसंधान प्रयोगशाला से जुड़े थे।
मूल स्रोत और भरोसे का स्तर (1)पिछली स्थिति को इनपुट में देना
1990मूल स्रोत से पुष्टि
एलमन (Jeffrey L. Elman) का सरल रिकरेंट नेटवर्क (1990) और जॉर्डन (Michael I. Jordan) का नेटवर्क (1986): पिछली अवस्था इनपुट में लौटाकर समय का क्रम याद रखना
रिकरेंट न्यूरल नेटवर्क (RNN) आउटपुट को अगले समय के इनपुट में लौटाकर अतीत की याद रखता है। 1990 में जेफ़्री एलमन के प्रस्तावित रूप में सामान्य 3 परतों वाले नेटवर्क में संदर्भ इकाइयाँ (context units) जोड़ी गईं। हर समय छिपी परत के मान सीधे संदर्भ इकाइयों में कॉपी होते हैं (कनेक्शन वज़न 1 पर स्थिर हैं और सीखे नहीं जाते), फिर अगले समय इनपुट के साथ छिपी परत में भेजे जाते हैं। बैकप्रोपेगेशन से अगले अक्षर या शब्द का अनुमान सिखाने पर अक्षर क्रम में शब्द की शुरुआत पर त्रुटि बड़ी और आगे बढ़ने पर छोटी हुई; बिना लिखे विभाजनों वाले पाठ में शब्द सीमाएँ उभर आईं। शब्द क्रम में भी छिपी परत के मिलते-जुलते निरूपणों को साथ रखने पर संज्ञा-क्रिया और जीवित-निर्जीव जैसे समूह बने। एलमन ने लिखा कि यह विचार माइकल जॉर्डन की 1986 की रिपोर्ट से शुरू हुआ। जॉर्डन का नेटवर्क आउटपुट को अवस्था इकाइयों में लौटाकर तय योजना (plan) से क्रियाओं का क्रम बनाता था और बोलते समय ध्वनियों के आपसी प्रभाव (coarticulation) में लागू हुआ।
आम तौर पर कही जाने वाली बात:अक्सर कहा जाता है, “रिकरेंट न्यूरल नेटवर्क (RNN) 1990 में एलमन ने बनाया” मूल स्रोत के अनुसार:एलमन का शोधपत्र खुद कहता है कि विचार पहले जॉर्डन (1986) ने लिखा था और स्मृति वाले नेटवर्कों के कई पूर्व उदाहरण देता है। इनमें 1987 का time-delay neural network भी है; उन्हीं लेखकों के 1989 के शोधपत्र में 5 में से 2 लेखक जापान की ATR स्वचालित दुभाषिया टेलीफ़ोन अनुसंधान प्रयोगशाला में थे। नोबेल समिति की व्याख्या कहती है कि हॉपफ़ील्ड (Hopfield) का 1982 का नेटवर्क और बोल्ट्ज़मान मशीन भी रिकरेंट हैं। एलमन की नई बात छिपी परत के मान स्वयं लौटाना और दिखाना था कि बिना सिखाए शब्द सीमाएँ और शब्द प्रकार जैसे समूह आंतरिक निरूपण में उभरते हैं। उनके नेटवर्क के लौटने वाले कनेक्शन प्रशिक्षित नहीं होते थे; वज़न 1 पर स्थिर था।
जो अभी पता नहीं है:उसी समय के अन्य रिकरेंट नेटवर्कों, जैसे पिनेडा (Pineda, 1987〜1988), विलियम्स (Williams) और ज़िप्सर (Zipser) आदि, में किसने पहले क्या दिया, मूल शोधपत्र न खोलने के कारण अज्ञात है।
चित्र क्या दिखाता है:अपनी 1 चरण पहले की स्थिति को अगले इनपुट के साथ देने पर, बिना अलगाव चिह्नों वाली अक्षरों की कतार से शब्दों की सीमाएँ बिना सिखाए उभरने लगती हैं।
शब्द में अक्षर का क्रम और अनुमान की औसत त्रुटि
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_elman_srn.py
111989 · कन्वोल्यूशन
एक ही खिड़की को बार-बार लगाना
थोड़ा खिसके हुए हस्तलिखित अंक भी पढ़ने वाला न्यूरल नेटवर्क कैसे बनाएँ?
1989 में बेल प्रयोगशाला के लेकुन (LeCun) और उनके साथियों, कुल 7 लोगों, ने अमेरिकी लिफाफों पर लिखे डाक कोड के 9,298 हस्तलिखित अंकों से अंकों की पहचान करने वाला न्यूरल नेटवर्क सिखाया। मुख्य बात थी 5×5 की उसी छोटी खिड़की (विशेषताएँ खोजने वाला फिल्टर) को चित्र के अलग-अलग स्थानों पर बार-बार इस्तेमाल करना। आज इसे कन्वोल्यूशन कहते हैं।
दाईं ओर के चित्र में खिड़की चुनें और अंक को खिसकाएँ। जहाँ खिड़की और आकृति मेल खाते हैं, वहाँ प्रतिक्रिया मिलती है, और अंक के साथ प्रतिक्रिया का स्थान भी खिसकता है। एक ही खिड़की बार-बार लगाने से सीखने वाले वेट की संख्या बहुत घट जाती है (ऊपर दाईं ओर की संख्या)।
टेस्ट डेटा के 2,007 अंकों पर त्रुटि दर 5.0% थी। शोधपत्र ने कुनिहिको फुकुशिमा (Kunihiko Fukushima) के 1980 के शोधपत्र (नियोकॉग्निट्रॉन) को केवल 1 जगह उद्धृत किया।
मानचित्र（x, y）＝Σi,j k（i, j）× चित्र（x＋i, y＋j）
k
खिड़की (5×5 वेट; हर स्थान पर समान)
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:चित्र पहचानने वाला डीप लर्निंग (कन्वोल्यूशन) अमेरिका में जन्मा मूल स्रोत के अनुसार:लेकुन और उनके साथियों ने खुद 1998 में लिखा, (अनुवाद)। अंतर यह था कि नियोकॉग्निट्रॉन में पूरे नेटवर्क को सिखाने का तरीका (बैकप्रोपेगेशन) नहीं था।
वेट की संख्या की तुलना (इस साइट का उदाहरण)
16×16 के चित्र से 12×12 का मानचित्र बनाने के लिए, मानचित्र के हर बिंदु को चित्र के सभी बिंदुओं से जोड़ें, तो 256×144＝36,864 वेट चाहिए। 5×5 की एक ही खिड़की बार-बार इस्तेमाल करें, तो 25 वेट (और बायस) काफी हैं।
डाक कोड के अंक कहाँ से आए
ये अंक न्यूयॉर्क राज्य के बफेलो डाकघर से गुजरे लिफाफों के थे। 7,291 अंक सीखने के लिए और 2,007 टेस्ट के लिए इस्तेमाल किए गए।
मूल स्रोत और भरोसे का स्तर (2)एक ही खिड़की को बार-बार लगाना
1989मूल स्रोत से पुष्टि
बेल प्रयोगशाला के लेकुन (Yann LeCun) और साथियों ने हस्तलिखित ZIP कोड पढ़ने वाला न्यूरल नेटवर्क प्रस्तुत किया
यान लेकुन और साथियों ने अमेरिका के डाक लिफ़ाफ़ों पर हाथ से लिखे ZIP कोड के 9298 अंकों से अंक पहचानने वाला न्यूरल नेटवर्क प्रशिक्षित किया (ये न्यूयॉर्क राज्य के बफ़ेलो डाकघर से गुज़रे थे)। एक ही छोटी खिड़की (5×5 के आकार में छोटी विशेषताएँ खोजने का चौखटा) पूरी तस्वीर में दोहराकर इस्तेमाल करने से सीखने वाले पैरामीटरों की संख्या बहुत घट गई (आज इस विधि को कहते हैं)। प्रशिक्षण में न इस्तेमाल 2007 परीक्षण उदाहरणों पर त्रुटि दर 5.0% थी।
आम तौर पर कही जाने वाली बात:अक्सर माना जाता है, “चित्र पहचानने वाली डीप लर्निंग 2012 में अचानक आई” मूल स्रोत के अनुसार:1989 में असली हस्तलिखित ZIP कोड आज जैसे नेटवर्क से सीख लिए गए थे (नोबेल समिति के अनुसार 1990 के दशक के मध्य से बैंक के चेक पढ़ने में इस्तेमाल हुआ)। शोधपत्र में जापान के कुनिहिको फ़ुकुशिमा (Kunihiko Fukushima, 1980) का संदर्भ है।
मार्च 1984–2022मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
“आज के चित्र AI (कन्वोल्यूशन) का मूल नियोकॉग्निट्रॉन है” ── आविष्कारक और बाद के शोधपत्रों ने क्या लिखा?
कुनिहिको फ़ुकुशिमा (Kunihiko Fukushima) का नियोकॉग्निट्रॉन (1979) आज के चित्र पहचान AI में इस्तेमाल का मूल कहा जाता है। बाद के स्रोतों को देखने पर, फ़ुकुशिमा ने अपने 1984 के व्याख्यात्मक लेख में लिखा कि अधिकतर गणना 2-आयामी फ़िल्टर बार-बार लगाने की थी और मिनी कंप्यूटर पर प्रयोग हो सका। लेकन (Yann LeCun) और साथियों के 1989 के पोस्टल कोड शोधपत्र में फ़ुकुशिमा (1980) केवल 1 जगह उद्धृत हैं। 1998 के LeNet शोधपत्र ने साफ़ लिखा कि कन्वोल्यूशन और सबसैंपलिंग का मेल फ़ुकुशिमा के नियोकॉग्निट्रॉन में बनाया गया था, लेकिन तब पूरे नेटवर्क को सिखाने का तरीका, बैकप्रोपेगेशन, नहीं था। फ़ुकुशिमा ने 2022 में लिखा: (अनुवाद)। 2024 की नोबेल समिति की व्याख्या ने भी इसे CNN के मूल के रूप में नाम दिया।
आम तौर पर कही जाने वाली बात:अक्सर कहा जाता है कि “चित्रों की डीप लर्निंग (कन्वोल्यूशन) अमेरिका में शुरू हुई” मूल स्रोत के अनुसार:लेकन और साथियों ने स्वयं 1998 में लिखा: । लेकिन 1989 के शोधपत्र में केवल 1 छोटा उल्लेख था; संबंध बाद के शोधपत्रों और समीक्षा लेखों में स्पष्ट हुआ। अंतर यह था कि नियोकॉग्निट्रॉन में पूरे नेटवर्क को सिखाने का तरीका, बैकप्रोपेगेशन, नहीं था।
6 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:वर्ष: अंग्रेज़ी स्रोत, नोबेल समिति की व्याख्या और लेकन के शोधपत्र, 1980 का अंग्रेज़ी शोधपत्र उद्धृत करते हैं। फ़ुकुशिमा (2022) पहले 1979 का जापानी शोधपत्र बताते हैं। अधिक जानकारी के लिए 1979 के नियोकॉग्निट्रॉन का रिकॉर्ड देखें।
चित्र क्या दिखाता है:एक ही छोटी खिड़की तस्वीर की अलग जगहों पर इस्तेमाल करने से अंक थोड़ा खिसके तब भी उसका आकार मिल सकता है। सीखने वाले वज़नों की संख्या भी बहुत घट जाती है।
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_convolution_shift.py
121989〜1998 · कन्वोल्यूशन
अनिश्चित अक्षर इंसान को सौंपना
क्या 5% गलतियाँ करने वाली मशीन बैंक में काम नहीं आ सकती?
1989 के डाक कोड पढ़ने वाले नेटवर्क ने टेस्ट डेटा में 5.0% गलतियाँ कीं। शोधपत्र ने यह भी बताया कि त्रुटि दर 1% तक रखने के लिए 12.1% को “पढ़ नहीं सकता” कहकर छोड़ना होगा। जिन उत्तरों पर भरोसा कम हो, उन्हें इंसान को सौंपने से मशीन के दिए उत्तरों में त्रुटि कम होती है। दाईं ओर के चित्र में उत्तर छोड़ने की सीमा θ बदलकर देखें।
1998 में लेकुन (LeCun) और उनके साथियों ने 7 परतों के कन्वोल्यूशनल न्यूरल नेटवर्क LeNet-5 और चेक पढ़ने वाली प्रणाली का विवरण प्रस्तुत किया। यह प्रणाली NCR की चेक पढ़ने वाली मशीनों में लगाई गई और अमेरिका के कुछ बैंकों में इस्तेमाल हुई। इस शोधपत्र के हस्तलिखित अंकों वाले डेटासेट MNIST (सीखने के लिए 60,000 और टेस्ट के लिए 10,000) पर त्रुटि दर 0.95% थी।
छोड़े गए उत्तरों का अनुपात ＝ भरोसा ＜θ वाले उत्तरों की संख्या ÷ कुल संख्या
θ
उत्तर छोड़ने की सीमा
भरोसा
आउटपुट के मानों में सबसे बड़ा मान
चित्र में भरोसे के मानों का बँटवारा इस साइट का बनाया उदाहरण है, जिसे 1989 के शोधपत्र के 2 बिंदुओं के करीब रखा गया है।
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:डीप लर्निंग 2012 से उपयोगी होने लगा मूल स्रोत के अनुसार:1990 के दशक के अंत तक कन्वोल्यूशनल न्यूरल नेटवर्क बैंकों में चेक पढ़ने का वास्तविक काम कर रहे थे।
MNIST के अक्षर
MNIST अमेरिकी NIST के डेटा को फिर से व्यवस्थित करके बनाया गया है। इसमें हाई स्कूल के छात्रों और जनगणना ब्यूरो के कर्मचारियों के लिखे अक्षर शामिल हैं।
कितने चेक पढ़े गए
उसी शोधपत्र के सार में प्रतिदिन कई मिलियन चेक और मुख्य पाठ में प्रति महीने कई मिलियन चेक लिखा है। दोनों में अंतर है। शोधपत्र से यह तय नहीं किया जा सकता कि कौन सा सही है।
मूल स्रोत और भरोसे का स्तर (1)अनिश्चित अक्षर इंसान को सौंपना
नवंबर 1998मूल स्रोत से पुष्टिस्रोतों में मतभेद है
कन्वोल्यूशनल न्यूरल नेटवर्क LeNet-5 अमेरिकी बैंकों में चेक की हस्तलिखित लिखावट पढ़ने के काम आया
यान लेकुन (Yann LeCun) और साथियों ने हस्तलिखित अंकों को पहचानने वाला 7 परतों का कन्वोल्यूशनल न्यूरल नेटवर्क प्रस्तुत किया: । उन्होंने चेक पहचानने की प्रणाली भी प्रस्तुत की। इसे NCR कंपनी की चेक पढ़ने वाली मशीन में लगाया गया और अमेरिका के कई बैंकों में वास्तव में इस्तेमाल किया गया। इसी शोधपत्र में 60,000 प्रशिक्षण चित्रों और 10,000 परीक्षण चित्रों वाला हस्तलिखित अंकों का डेटासेट भी बनाया गया: । परीक्षण डेटा पर त्रुटि दर 0.95% थी (रूप बदले गए प्रशिक्षण चित्र जोड़ने पर 0.8%)।
आम तौर पर कही जाने वाली बात:अक्सर माना जाता है कि “डीप लर्निंग 2012 से उपयोगी होना शुरू हुई” मूल स्रोत के अनुसार:1990 के दशक के अंत में ही कन्वोल्यूशनल न्यूरल नेटवर्क बैंकों में चेक पढ़ने के वास्तविक काम में इस्तेमाल हो रहे थे (शोधपत्र के मुख्य पाठ के अनुसार प्रति 1 महीने लाखों चेक)। शोधपत्र साफ़ कहता है: । इसके बाद वह बताता है कि उस समय बैकप्रोपेगेशन जैसा पूरे नेटवर्क को प्रशिक्षित करने का तरीका अभी नहीं था।
1 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:उसी शोधपत्र में संसाधित चेकों की संख्या के विवरण अलग हैं। सार (पृष्ठ 1) में “प्रति 1 दिन लाखों चेक” और मुख्य पाठ (पृष्ठ 2) में “प्रति 1 महीने लाखों चेक” है। शोधपत्र के विवरण से यह तय नहीं किया जा सकता कि कौन सही है।
चित्र क्या दिखाता है:5% गलतियाँ करने वाली मशीन भी, कम भरोसे वाले जवाब इंसान को सौंप दे तो मशीन के दिए जवाबों में गलतियाँ बहुत घट जाती हैं।
छोड़े गए उत्तरों का अनुपात और दिए गए उत्तरों में त्रुटि दर
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_reject_curve.py
131990 · मशीनी अनुवाद
समानांतर पाठ से प्रायिकता
शब्दकोश और व्याकरण लिखे बिना अनुवाद के सुराग जुटाए जा सकते हैं?
जून 1990 में IBM के ब्राउन (Brown), येलिनेक (Jelinek) और उनके साथियों, कुल 8 लोगों, ने अनुवाद को प्रायिकता की गणना मानने का तरीका प्रस्तुत किया। सामग्री थी कनाडा की संसद का रिकॉर्ड, जो अंग्रेज़ी और फ्रेंच दोनों में था (अंग्रेज़ी के लगभग 100 मिलियन शब्द)।
अनुवाद वाले वाक्यों के जोड़े तो थे, लेकिन यह नहीं लिखा था कि कौन सा शब्द किसका अनुवाद है। इसलिए शोधपत्र ने आवाज़ पहचानने में इस्तेमाल होने वाला EM एल्गोरिद्म अपनाया। शुरू में हर शब्द का हर दूसरे शब्द में अनुवाद होने की प्रायिकता समान मानी जाती है। फिर उन्हीं प्रायिकताओं के आधार पर दोबारा गिनती की गणना दोहराई जाती है। दाईं ओर के चित्र में “1 बार दोहराएँ” दबाएँ (वाक्यों के जोड़े इस साइट के बनाए उदाहरण हैं)।
शोधपत्र ने 40,000 वाक्य-जोड़े से लगभग 81 मिलियन मानों का अनुमान लगाया और लिखा कि the अपने आप le और la से, तथा not, pas से जुड़ गया। 73 नए वाक्यों के अनुवादों में 5% शब्दशः समान थे और 48% अर्थपूर्ण अनुवाद थे।
हिस्सा ＝t（f｜e）÷ Σe′ t（f｜e′）
t（f | e）
अंग्रेज़ी के e का फ्रेंच के f में अनुवाद होने की प्रायिकता
e′
उसी वाक्य-जोड़े में अंग्रेज़ी के सभी शब्द
चित्र से अंतर
चित्र सबसे सरल रूप दिखाता है। 1990 के शोधपत्र ने यह भी गणना की कि 1 शब्द कितने शब्दों में अनूदित होगा और शब्द किन स्थानों पर होंगे। शोधपत्र ने यह भी लिखा कि वीवर (Weaver) ने 1949 में सांख्यिकीय तरीकों से अनुवाद का प्रस्ताव दिया था, लेकिन तब कंप्यूटर की क्षमता कम थी और उपलब्ध पाठ का डेटा भी पर्याप्त नहीं था।
2005 में प्रायिकता से चलने वाली कार
DARPA की बिना ड्राइवर वाली कारों की प्रतियोगिता में 2004 में कोई कार अंत तक नहीं पहुँची। लेकिन 2005 में स्टैनफोर्ड विश्वविद्यालय की Stanley लगभग 132 मील 6 घंटे 53 मिनट में चलकर जीती। शोधपत्र ने मशीन लर्निंग और प्रायिकता पर आधारित अनुमान को मुख्य तकनीक बताया। उसी वर्ष New York Times के लेख ने बताया कि तर्क और नियमों पर केंद्रित तरीकों से प्रायिकता और सांख्यिकी वाले सॉफ्टवेयर की ओर बदलाव ने सफलता दिलाई।
मूल स्रोत और भरोसे का स्तर (3)समानांतर पाठ से प्रायिकता
जून 1990मूल स्रोत से पुष्टि
IBM ने व्याकरण नियमों के बजाय अनुवादित डेटा से निकली संभावनाओं के आधार पर अनुवाद का तरीका दिया
IBM के पीटर ब्राउन (Peter Brown), फ़्रेडरिक येलिनेक (Frederick Jelinek) और साथियों ने अनुवाद को की गणना माना (इस शोधपत्र में S अंग्रेज़ी और T फ़्रेंच वाक्य है)। कनाडा की संसदीय कार्यवाही का इस्तेमाल हुआ, जिसमें अंग्रेज़ी और फ़्रेंच दोनों में कंप्यूटर से पढ़े जा सकने वाले लगभग 100 मिलियन शब्द थे। 40,000 वाक्य जोड़ों से लगभग 81 मिलियन संख्यात्मक मानों का अनुमान लगाया गया। 73 नए फ़्रेंच वाक्यों को अंग्रेज़ी में अनुवाद करने पर 5% पूरी तरह मेल खाते थे, लेकिन 48% संगत अनुवाद थे। शोधपत्र कहता है कि वीवर (Weaver) ने 1949 में संख्यात्मक विधि से अनुवाद सुझाया था, लेकिन तब कंप्यूटर कमज़ोर थे और कंप्यूटर से पढ़ा जा सकने वाला पाठ भी कम था।
13 मार्च 2004–2007मूल स्रोत से पुष्टिस्रोतों में मतभेद है
अमेरिकी रक्षा विभाग की DARPA की स्वचालित वाहन दौड़: 2004 में कोई पूरा रास्ता नहीं चला, 2005 में स्टैनफ़ोर्ड यूनिवर्सिटी का Stanley जीता
DARPA ने रेगिस्तान के रास्ते पर अपने आप चलने वाले वाहनों की पुरस्कार राशि वाली दौड़ आयोजित की। 13 मार्च 2004 की पहली प्रतियोगिता (लगभग 142 मील, पुरस्कार 10 लाख डॉलर) में 15 वाहन चले, लेकिन किसी ने पूरा रास्ता तय नहीं किया। सबसे लंबी दूरी भी केवल 7.5 मील थी। 8 अक्टूबर 2005 की दूसरी प्रतियोगिता (लगभग 132 मील) के लिए 195 टीमों ने आवेदन किया और 5 वाहनों ने पूरा रास्ता तय किया। स्टैनफ़ोर्ड यूनिवर्सिटी का Stanley 6 घंटे 53 मिनट में जीता और उसे 20 लाख डॉलर मिले। Stanley के शोधपत्र के अनुसार, मुख्य तकनीक मशीन लर्निंग और संभाव्यता के आधार पर तर्क निकालना थी। इंसानों के ड्राइविंग डेटा से सीखने की प्रक्रिया में: । 2007 की तीसरी प्रतियोगिता शहर के रास्ते पर हुई। 11 में से 6 टीमों ने पूरा रास्ता तय किया और कार्नेगी मेलन यूनिवर्सिटी की टीम जीती।
2 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:2004 में सबसे लंबी दूरी: DARPA के लेख के अनुसार 7.5 मील, जबकि Stanley के शोधपत्र में केवल यह है कि “किसी वाहन ने रास्ते का 5% से अधिक तय नहीं किया” (142 मील का 5% लगभग 7.1 मील है, इसलिए थोड़ा अंतर है)।
14 अक्टूबर 2005मूल स्रोत से पुष्टिस्रोतों में मतभेद है
“1990 के दशक में शोधकर्ता ‘AI’ शब्द से बचते थे” का स्रोत ढूँढ़ना ── 2005 के New York Times के वाक्य में केवल लिखा था
14 अक्टूबर 2005 के New York Times के लेख (पत्रकार जॉन मार्कॉफ़ (John Markoff)) ने अमेरिकी रक्षा विभाग की अनुसंधान संस्था DARPA की स्वचालित वाहन दौड़ में स्टैनफ़ोर्ड यूनिवर्सिटी के Stanley की जीत को के रूप में बताया। उसमें एक वाक्य है कि (AI के) सबसे बुरे दौर में कुछ कंप्यूटर वैज्ञानिक और सॉफ़्टवेयर इंजीनियर इस डर से (अनुवाद) शब्द से बचते थे कि उन्हें केवल अवास्तविक सपने बताने वाला व्यक्ति माना जाएगा। “शोधकर्ता AI शब्द से बचते थे” वाले दावे के लिए अक्सर यही वाक्य उद्धृत किया जाता है। उसी लेख में यह भी लिखा था कि अनुसंधान के तरीके तर्क और नियमों पर केंद्रित होने से बदलकर संभाव्यता और सांख्यिकी वाले सॉफ़्टवेयर की ओर आए, जिससे यह सफलता मिली।
आम तौर पर कही जाने वाली बात:अक्सर कहा जाता है कि “1990 के दशक (से 2000 के दशक की शुरुआत तक) में शोधकर्ता ‘AI’ शब्द से बचते थे”। अंग्रेज़ी विकिपीडिया भी New York Times के इस वाक्य को अनुभाग में रखता है मूल स्रोत के अनुसार:मूल लेख का वाक्य केवल (At its low point) कहता है; कौन-सा वर्ष था या कौन इस शब्द से बचता था, यह नहीं लिखा। उसी लेख में (अनुवाद) का समय बताया है। उसने जॉन मैकार्थी (John McCarthy) का यह कथन भी दिया कि शोधकर्ताओं की रुचि और सरकारी संस्थाओं, ख़ासकर DARPA, की सहायता बनी रहने से ।
जो अभी पता नहीं है:जो कंप्यूटर वैज्ञानिक या सॉफ़्टवेयर इंजीनियर , उनकी वास्तविक संख्या या समय इस लेख से पता नहीं चलता (इस वेबसाइट में उन्हें गिनने वाला स्रोत नहीं मिला)। शोधपत्रों के शीर्षकों आदि में artificial intelligence () शब्द का इस्तेमाल हर वर्ष कैसे बढ़ा या घटा, इसे u01 के शब्द-संख्या ग्राफ़ के साथ जाँचा जा सकता है।
2 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद: (अनुवाद) का समय: मूल लेख में है। दूसरी ओर, अंग्रेज़ी विकिपीडिया इस लेख का वाक्य अनुभाग में रखता है।
चित्र क्या दिखाता है:दो भाषाओं के वाक्यों में कौन-सा शब्द किसका अनुवाद है, यह न लिखा हो, तब भी “लगभग बराबर संभावना” से शुरू करके बार-बार फिर गिनने पर सही जोड़े अपने आप उभरते हैं।
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_em_alignment.py
141991 · न्यूरल नेटवर्क
विशेषज्ञों में काम बाँटना
एक न्यूरल नेटवर्क को कई तरह के काम सिखाएँ, तो क्या होता है?
एक नेटवर्क को कई तरह के काम सिखाने पर वे एक-दूसरे में बाधा डालते हैं और सीखना धीमा हो जाता है। 1991 में जेकब्स (Jacobs), जॉर्डन (Jordan), नाउलन (Nowlan) और हिंटन (Hinton) ने इस समस्या के लिए कई विशेषज्ञ नेटवर्क और यह प्रायिकता देने वाला गेटिंग नेटवर्क जोड़ा कि काम किस विशेषज्ञ को सौंपना है।
त्रुटि मापने का तरीका सहयोग के बजाय प्रतिस्पर्धा वाला रखा गया। इससे हर विशेषज्ञ इनपुट डेटा के केवल एक हिस्से की जिम्मेदारी लेने लगता है। दाईं ओर का चित्र ऐसा उदाहरण है जिसमें बाएँ और दाएँ अलग आकृति वाले बिंदुओं को केवल सीधी रेखा खींच सकने वाले 2 विशेषज्ञ सीखते हैं। नीचे की पट्टी गेट को दिखाती है।
2017 में ऐसा बड़ा तंत्र भी बनाया गया जो हजारों विशेषज्ञों में से केवल कुछ शीर्ष विशेषज्ञ चुनता है (अध्याय 11)।
y＝Σk gk yk gk ＝esk ／Σm esm
yk
विशेषज्ञ k का आउटपुट
gk
गेट द्वारा k को काम सौंपने की प्रायिकता (कुल 1)
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:मिक्सचर ऑफ एक्सपर्ट्स (MoE) हाल के कुछ वर्षों में बड़े भाषा मॉडलों के लिए बनाई गई नई तकनीक है मूल स्रोत के अनुसार:मूल सोच 1991 के शोधपत्र में थी। 2017 के शोधपत्र ने खुद लिखा कि इस तरीके पर (अनुवाद) बहुत शोध हो चुका है।
कब और किसने
शोधपत्र की टिप्पणी के अनुसार, यह विचार पहली बार 1988 की समर स्कूल में प्रस्तुत किया गया था। हिंटन 1991 और 2017, दोनों शोधपत्रों के लेखक हैं।
मूल स्रोत और भरोसे का स्तर (1)विशेषज्ञों में काम बाँटना
1991–2017मूल स्रोत से पुष्टि
मिक्सचर ऑफ़ एक्सपर्ट्स (MoE): कई विशेषज्ञ नेटवर्क और काम किसे देना है तय करने वाला गेट (जेकब्स (Robert Jacobs) और साथी, 1991; शज़ीर (Noam Shazeer) और साथी, 2017)
1991 में MIT के रॉबर्ट जेकब्स और माइकल जॉर्डन (Michael Jordan), तथा टोरंटो विश्वविद्यालय के स्टीवन नाउलन (Steven Nowlan) और जेफ़्री हिंटन (Geoffrey Hinton) ने (Adaptive Mixtures of Local Experts) शोधपत्र दिया। एक बड़े नेटवर्क को अनेक काम एक साथ सिखाने पर वे एक-दूसरे में बाधा डालते हैं और सीखना धीमा होता है। इसके लिए कई विशेषज्ञ नेटवर्कों और एक गेट नेटवर्क को जोड़ने का तरीका दिया गया। गेट प्रत्येक इनपुट पर काम किस विशेषज्ञ को देना है, इसकी संभावनाएँ निकालता है (आउटपुट softmax है: संभावनाएँ जिनका योग 1 है)। त्रुटि मापने का तरीका विशेषज्ञों के सहयोग के बजाय प्रतिस्पर्धा के लिए बनाया गया। इसलिए सीखने के साथ हर विशेषज्ञ केवल इनपुट के एक हिस्से का ज़िम्मा लेने लगता है। स्वर पहचान के कार्य में शोधपत्र ने दिखाया कि काम कई भागों में बँट गया और प्रत्येक सरल विशेषज्ञ ने अपना भाग संभाला। जनवरी 2017 में Google के शोध समूह Google Brain के नोआम शज़ीर और साथी (हिंटन सहित 7 लोग) ने इस विचार को बड़ा करके अधिकतम हज़ारों विशेषज्ञों वाली Sparsely-Gated Mixture-of-Experts layer बनाई। गेट शोर जोड़ने के बाद सबसे ऊँचे अंक वाले k विशेषज्ञ चुनता है; बाकी की गणना नहीं होती। इसलिए पैरामीटर बहुत बढ़ने पर भी गणना बहुत नहीं बढ़ती। भाषा मॉडल और अनुवाद में अधिकतम 137 अरब पैरामीटर वाला MoE, LSTM परतों के बीच रखकर, उस समय के सर्वोत्तम प्रदर्शन से बेहतर नतीजा कम गणना में मिला।
आम तौर पर कही जाने वाली बात:अक्सर माना जाता है कि MoE हाल के बड़े भाषा मॉडलों की नई तकनीक है (यह दृष्टिकोण इस साइट का अनुमान है) मूल स्रोत के अनुसार:विचार 1991 के शोधपत्र में है (उसके नोट के अनुसार पहली प्रस्तुति 1988 की ग्रीष्मकालीन पाठशाला में थी)। 2017 के शोधपत्र में भी बहुत शोध होने की बात है। हिंटन 1991 और 2017 दोनों शोधपत्रों के लेखक हैं। 2017 की नई बात थी कि गेट केवल कुछ सर्वोच्च विशेषज्ञ चुने, जिससे हज़ारों विशेषज्ञ रखकर पैरामीटरों के स्तर पर हो और रहे।
चित्र क्या दिखाता है:कई तरह के काम 1 नेटवर्क से कराने पर वे एक-दूसरे में बाधा डालते हैं। प्रतिस्पर्धा कराने पर हर विशेषज्ञ केवल किसी हिस्से का काम सँभालने लगता है।
हर दौर की औसत त्रुटि
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_mixture_experts.py
151992〜1997 · रीइन्फोर्समेंट लर्निंग
केवल जीत और हार से सीखना
हर चाल का सही उत्तर बताए बिना क्या मजबूत चालें सीखी जा सकती हैं?
1992 में IBM के टेसॉरो (Tesauro) के बनाए TD-Gammon में 3 परतों का न्यूरल नेटवर्क अपने ही खिलाफ बैकगैमोन के कई लाख खेल खेलकर केवल जीत और हार से सीखा (रीइन्फोर्समेंट लर्निंग)। 1.5 मिलियन खेल खेलने वाला संस्करण पूर्व विश्व चैंपियन रॉबर्टी (Robertie) के खिलाफ 40 खेलों के मुकाबले में केवल 1 अंक पीछे रहा।
मुख्य बात है टेम्पोरल डिफरेंस (TD), यानी समय के साथ अनुमान का अंतर। हर चाल पर वर्तमान स्थिति से जीतने की संभावना के अनुमान को अगली स्थिति के अनुमान के थोड़ा करीब लाया जाता है। आखिरी जीत या हार की जानकारी धीरे-धीरे पहले की स्थितियों तक पहुँचती है। दाईं ओर का चित्र टिक-टैक-टो में यही सीख करता है। खाली खाने दबाकर × की ओर से मुकाबला भी कर सकते हैं।
अगस्त 1997 में ओथेलो के विश्व चैंपियन ताकेशी मुराकामी (Takeshi Murakami), खुद के खिलाफ खेलकर और अन्य तरीकों से सीखने वाले प्रोग्राम Logistello से 0 जीत और 6 हार के साथ हारे। Logistello सामान्य पर्सनल कंप्यूटर पर चलता था।
V（st）← V（st）＋α［V（st＋1）− V（st）］
V（s）
स्थिति s से जीतने की संभावना का अनुमान
α
अनुमान को करीब लाने का अनुपात
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:AI ने इंसानों की चालें गो के AlphaGo (2016) से बदलनी शुरू कीं मूल स्रोत के अनुसार:निल्सन (Nilsson) की पुस्तक में एक विवरण उद्धृत है कि 1990 के दशक में बैकगैमोन के शीर्ष खिलाड़ियों ने TD-Gammon की नकल करके शुरुआती चालें बदलीं।
सिद्धांत की गारंटी नहीं थी
शोधपत्र ने लिखा कि TD-Gammon ने (अनुवाद)। यह इतना अच्छी तरह क्यों सीख पाया, इसकी सैद्धांतिक व्याख्या अभी नहीं हुई थी।
Logistello का सीखने का तरीका
इसके निर्माता बूरो (Buro) के अनुसार, Logistello ने लाखों बोर्ड स्थितियों के उदाहरणों से ज्ञान निकाला और खुद के खिलाफ खेलकर शुरुआती चालें तैयार कीं। मुराकामी की बाद की बात (2017) के अनुसार, शुरुआत 1993 में हुई, जब उन्होंने यूरोप और अमेरिका की एक कंप्यूटर पत्रिका का लेख देखकर पत्र भेजा कि वे कभी भी चुनौती स्वीकार करेंगे।
मूल स्रोत और भरोसे का स्तर (2)केवल जीत और हार से सीखना
1992मूल स्रोत से पुष्टि
IBM का TD-Gammon खुद से खेलकर सीखने से बैकगैमोन में दुनिया के शीर्ष स्तर के करीब पहुँचा
IBM के जेराल्ड टेसाउरो (Gerald Tesauro) का TD-Gammon, 3 परतों वाला न्यूरल नेटवर्क था जिसने खुद से सैकड़ों हज़ार बार खेलकर केवल जीत-हार के परिणामों से सीखा (＝पुरस्कार से सीखने की विधि)। बेतरतीब शुरुआती अवस्था से भी वह बेहतर हुआ। 1.5 मिलियन बार खेलने वाला संस्करण पूर्व विश्व चैंपियन रॉबर्टी (Robertie) के साथ 40 खेलों में केवल 1 अंक पीछे रहा।
आम तौर पर कही जाने वाली बात:अक्सर माना जाता है, “AI ने मानव खिलाड़ियों के खेलने का तरीका AlphaGo (2016) के गो से बदला” मूल स्रोत के अनुसार:निल्सन (Nilsson) की पुस्तक सटन (Sutton) और बार्टो (Barto) की बात उद्धृत करती है कि 1990 के दशक में बैकगैमोन के शीर्ष खिलाड़ियों ने TD-GAMMON की नकल करके शुरुआती चालें बदलीं (सटन और बार्टो की मूल पुस्तक नहीं खोली गई)।
जो अभी पता नहीं है:शोधपत्र यह भी कहता है कि TD-Gammon ने (TD(λ) इस प्रशिक्षण विधि का नाम है; यह बिना सैद्धांतिक आधार के काम कर जाने का उदाहरण है)।
ओथेलो चैंपियन ताकेशि मुराकामी (Takeshi Murakami) को मशीन लर्निंग प्रोग्राम Logistello के विरुद्ध 0 जीत और 6 हार
Deep Blue की जीत के 3 महीने बाद अमेरिका के NEC अनुसंधान संस्थान (प्रिंस्टन) में 6 बाज़ियों का मुक़ाबला हुआ। ओथेलो के विश्व चैंपियन मुराकामी (टोक्यो में अंग्रेज़ी के शिक्षक) माइकल बुरो (Michael Buro) के बनाए प्रोग्राम Logistello से 0 बनाम 6 से हार गए। निर्माता के अनुसार, Logistello ने लाखों बोर्ड स्थितियों के डेटा से ज्ञान निकाला और अपने ही विरुद्ध खेलकर शुरुआती चालों के मानक क्रम सीखे। वह सामान्य पर्सनल कंप्यूटर पर चलता था।
आम तौर पर कही जाने वाली बात:अक्सर केवल इतना बताया जाता है कि “1997 में इंसानों के चैंपियन को हराने वाली मशीन शतरंज का Deep Blue थी” मूल स्रोत के अनुसार:उसी वर्ष अगस्त में ओथेलो का जापानी विश्व चैंपियन 0 जीत और 6 हार से हारा था। निर्माता के अनुसार, Deep Blue विशेषज्ञों के समायोजन और विशेष हार्डवेयर पर निर्भर था, जबकि Logistello बहुत सारा डेटा और अपने ही विरुद्ध खेलकर सीखता था तथा सामान्य पर्सनल कंप्यूटर पर चलता था (आज की मशीन लर्निंग जैसा तरीका)। मुराकामी के बाद के बयान के अनुसार, शुरुआत मई 1993 में हुई। उन्होंने यूरोप और अमेरिका की एक कंप्यूटर पत्रिका में AI शोधकर्ता का यह लेख पढ़ा: (अनुवाद)। जवाब में पत्र लिखकर उन्होंने बताया कि वे कभी भी चुनौती स्वीकार करने को तैयार हैं (2017 का साक्षात्कार)।
चित्र क्या दिखाता है:हर चाल का सही जवाब बताए बिना भी, वर्तमान अनुमान को अगली स्थिति के अनुमान के थोड़ा पास लाना दोहराने से जीत-हार की जानकारी पिछली स्थितियों तक पहुँचती है और खेल बेहतर होता है।
बेतरतीब चालें चलने वाले प्रतिद्वंद्वी से 200 खेल (बैंगनी＝हार, धूसर＝ड्रॉ)
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_selfplay_td.py
161992〜1995 · मशीन लर्निंग
सबसे चौड़ी सड़क के बीच की रेखा
डेटा बाँटने की कई सीमा रेखाएँ खींच सकते हों, तो कौन सी अच्छी है?
वैपनिक (Vapnik) और उनके साथियों ने सोचा कि दोनों तरह के डेटा से जितना संभव हो उतना दूर रहने वाली सबसे चौड़ी सड़क के बीच रेखा खींचें, तो पहली बार देखे गए डेटा का भी अच्छा वर्गीकरण होगा। सड़क की आधी चौड़ाई को मार्जिन कहते हैं।
सीमा रेखा केवल उन थोड़े से बिंदुओं से तय होती है जो सड़क के किनारों को छूते हैं (सपोर्ट वेक्टर＝सड़क को सहारा देने वाले बिंदु)। दाईं ओर के चित्र में बिंदु खींचकर देखें। घेरे वाले बिंदु बदलने से सड़क बदलती है, लेकिन दूसरे बिंदु सड़क के भीतर न आएँ, तो उन्हें खिसकाने से सीमा रेखा नहीं बदलती।
हस्तलिखित अंकों के MNIST पर कॉर्टेस (Cortes) और वैपनिक के तरीके की त्रुटि दर 1.1% थी, जो LeNet के करीब थी। लेकिन 1 अक्षर पहचानने के लिए लगभग 14 मिलियन गुणा और जोड़ करने पड़ते थे।
मार्जिन ＝1／ ‖w‖ को अधिकतम करना शर्त：yi（w · xi ＋b）≥ 1
w · b
सीमा रेखा तय करने वाले पैरामीटर
yi
बिंदु i का समूह (＋1 या −1)
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:1980 के दशक के बाद न्यूरल नेटवर्क लगातार मुख्य भूमिका में रहे मूल स्रोत के अनुसार:लगभग 2000 के आसपास के 10 वर्षों में, व्यावहारिक पहचान के बहुत से कामों में सपोर्ट वेक्टर मशीन जैसे न्यूरल नेटवर्क के अलावा अन्य तरीके प्रमुख थे (श्मिटहुबर (Schmidhuber), 2014)।
स्रोतों के बारे में
1998 के LeNet शोधपत्र के अनुसार, बोसर (Boser), गियों (Guyon) और वैपनिक की 1992 की प्रस्तुति में यह समझ आया कि गणना केवल सपोर्ट वेक्टर से हो सकती है। वही शोधपत्र यह भी स्वीकार करता है कि इनपुट एक चित्र है, यह पहले से ज्ञान में शामिल किए बिना भी इस तरीके का प्रदर्शन अच्छा है। इस साइट ने 1995 का मूल शोधपत्र सीधे जाँच नहीं पाया है (पुष्टि का स्तर “सारांश में पुष्टि”)। मशीन लर्निंग के दूसरे तरीके अध्याय 9 में हैं।
मूल स्रोत और भरोसे का स्तर (1)सबसे चौड़ी सड़क के बीच की रेखा
1992–1995सारांशों से पुष्टि
वाप्निक (Vladimir Vapnik) और साथियों ने डेटा के बीच सबसे चौड़ा रास्ता बनाकर अलग करने वाला सपोर्ट वेक्टर मशीन बनाया
2 प्रकार के बिंदुओं को अलग करने के लिए ऐसी रेखा खींचते हैं जो दोनों प्रकार से यथासंभव दूर, सबसे चौड़े रास्ते के बीच हो। इससे पहली बार दिखने वाले बिंदु भी ठीक वर्गीकृत हो सकते हैं। वाप्निक और साथियों ने इसे रास्ते के किनारे के कुछ बिंदुओं (सपोर्ट वेक्टर, यानी रास्ते को सहारा देने वाले बिंदु) से ही गणना योग्य बनाया। हस्तलिखित अंकों के MNIST में 1.1% त्रुटि दर (कोर्टेस (Corinna Cortes) और वाप्निक) मिली, जो LeNet न्यूरल नेटवर्क के करीब थी। लगभग 2000 में व्यावहारिक काम में ऐसी विधियाँ प्रमुख हो गईं।
आम तौर पर कही जाने वाली बात:अक्सर माना जाता है, “1980 के दशक के बाद न्यूरल नेटवर्क हमेशा सबसे अच्छे रहे” मूल स्रोत के अनुसार:लगभग 2000 के आसपास के 10 वर्षों में कई व्यावहारिक क्षेत्रों में न्यूरल नेटवर्क से अलग विधियाँ, जैसे सपोर्ट वेक्टर मशीन, प्रमुख थीं (श्मिडहुबर (Schmidhuber), 2014)। LeNet का 1998 का शोधपत्र भी मानता है कि यह विधि चित्रों का विशेष ज्ञान जोड़े बिना अच्छा प्रदर्शन करती है।
चित्र क्या दिखाता है:2 समूहों को अलग करने की कई रेखाएँ हो सकती हैं, लेकिन दोनों तरफ़ से सबसे दूर “सबसे चौड़े रास्ते” का बीच बेहतर है। वह रेखा रास्ते के किनारों को छूने वाले कुछ बिंदुओं से ही तय होती है।
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_svm_margin.py
171997 · न्यूरल नेटवर्क
याद रखने का डिब्बा और उसके गेट
बहुत पहले के सुराग नेटवर्क कैसे याद रख सकता है?
रिकरेंट नेटवर्क को बैकप्रोपेगेशन से सिखाते समय त्रुटि के संकेत को, समय में हर 1 कदम पीछे लौटने पर, मिलती-जुलती संख्या से गुणा किया जाता है। 1 से छोटी संख्या हो तो संकेत मिटता जाता है, बड़ी हो तो बढ़ता जाता है। होखराइटर (Hochreiter) ने 1991 में इस समस्या का विश्लेषण किया।
1997 में होखराइटर और श्मिटहुबर (Schmidhuber) के LSTM में था। डिब्बे के अंदर का मान वेट 1 से खुद से जुड़ा रहता है और मिटे बिना आगे बढ़ता है। चीजें डालने और निकालने के लिए इनपुट गेट और आउटपुट गेट खुलते-बंद होते हैं (1997 में केवल यही 2 गेट थे)। दाईं ओर के चित्र में “बहाएँ” दबाएँ। शोधपत्र ने लिखा कि 1,000 कदम से भी अधिक दूर के सुराग इस्तेमाल किए जा सके।
ct ＝ct−1 ＋it × gt ht ＝ot × h（ct）
c
डिब्बे का मान
i · o
अंदर डालने और बाहर निकालने के गेट (इनपुट गेट · आउटपुट गेट; 0〜1)
g
अंदर डालने वाला मान
चित्र के LSTM के वेट इस साइट ने हाथ से तय किए हैं (नेटवर्क को सिखाया नहीं गया है)। “विस्तार से” खोलने पर नीचे का ग्राफ दिखाता है कि हर 1 कदम पर “गुणा करने वाली संख्या” से गुणा करने के बाद त्रुटि का कितना संकेत बचता है।
मूल स्रोत और भरोसे का स्तर (1)याद रखने का डिब्बा और उसके गेट
1997मूल स्रोत से पुष्टि
LSTM: लंबे वाक्य या ध्वनि-क्रम के शुरुआती हिस्से को याद रख सकने वाला न्यूरल नेटवर्क प्रस्तुत हुआ
ज़ेप होखराइटर (Sepp Hochreiter) और युर्गेन श्मिडहुबर (Jürgen Schmidhuber) ने LSTM प्रस्तुत किया। इसमें समय के क्रम वाला डेटा (आवाज़ों या अक्षरों की श्रृंखला) सँभालने वाले न्यूरल नेटवर्क के अंदर और उस सेल में जानकारी के आने-जाने को खोलने-बंद करने के लिए जोड़े गए। पहले की विधियों में बैकप्रोपेगेशन से सुधार करने वाला संकेत समय में पीछे जाते-जाते गायब (शून्य के करीब) या बहुत बड़ा हो जाता था, इसलिए बहुत पहले की बात याद नहीं रहती थी। LSTM 1000 से अधिक कदम पहले के संकेतों को भी सुरक्षित रखकर इस्तेमाल कर सकता था।
2 मूल स्रोत और उनकी जाँच का विवरण
Long Short-Term Memory (Sepp Hochreiter, Jürgen Schmidhuber · 1997 · p.1735 Abstract / 1 Introduction · मूल स्रोत)
चित्र क्या दिखाता है:सामान्य रिकरेंट नेटवर्क में पीछे की ओर हर चरण पर संकेत गुणा होकर मिटता जाता है। LSTM याद के डिब्बे को वज़न 1 के साथ जस का तस आगे ले जाता है और गेट से डेटा अंदर-बाहर करता है, इसलिए दूर के संकेत याद रख सकता है।
समय में पीछे लौटे कदम और बचा संकेत (खड़े पैमाने पर हर कदम 10 गुना)
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_lstm_memory.py
181994〜1997 · खोज
आगे न पढ़ने वाली शाखाएँ काटना
हर 1 सेकंड में लगभग 200 मिलियन स्थितियाँ जाँचने वाले कंप्यूटर ने क्या सब कुछ पढ़ा था?
मई 1997 में IBM के शतरंज के लिए विशेष कंप्यूटर डीप ब्लू ने न्यूयॉर्क में विश्व चैंपियन कास्पारोव (Kasparov) को 2 जीत, 1 हार और 3 ड्रॉ (3.5 बनाम 2.5) से हराया। उसकी ताकत हर 1 सेकंड लगभग 200 मिलियन बोर्ड स्थितियाँ जाँचने वाली भारी गणना और महारथियों के खेलों का रिकॉर्ड था।
फिर भी सब कुछ पढ़ना संभव नहीं है (अध्याय 5 में संयोजनों का विस्फोट)। अल्फा-बीटा प्रूनिंग उस शाखा को आगे पढ़े बिना काट देती है, जहाँ पता चल जाए कि प्रतिद्वंद्वी के पास उससे बेहतर चाल है। दाईं ओर के चित्र में पढ़ी गई पत्तियों की संख्या की तुलना करें। उत्तर वही रहता है, लेकिन पढ़ने की संख्या घट जाती है।
साइमन (Simon) और उनके साथियों की भविष्यवाणी (1957), (अनुवाद), लगभग 40 साल बाद अलग रूप में पूरी हुई (अध्याय 3)।
α ≥ β होने पर उस शाखा का बाकी हिस्सा न पढ़ें
α
अपने लिए पहले से सुनिश्चित न्यूनतम स्कोर
β
अधिकतम स्कोर जिससे आगे प्रतिद्वंद्वी नहीं जाने देगा
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:डीप ब्लू की जीत AI की जीत थी मूल स्रोत के अनुसार:IBM ने खुद उस समय के पेज पर लिखा, “क्या डीप ब्लू कृत्रिम बुद्धिमत्ता का उपयोग करता है? छोटा जवाब है “नहीं।”” (अनुवाद)। उसने समझाया कि भारी गणना और महारथियों के खेलों के रिकॉर्ड से वह मजबूत हुआ।
चेकर्स का विश्व चैंपियन (1994)
अल्बर्टा विश्वविद्यालय का Chinook अगस्त 1994 में, सभी 6 खेल ड्रॉ होने के बाद प्रतिद्वंद्वी टिन्सली (Tinsley) के खराब स्वास्थ्य के कारण हट जाने से, बना। टीम ने खुद इस तरह खिताब जीतने के बारे में लिखा, (अनुवाद)।
पिछले साल और प्रोसेसर की संख्या
फरवरी 1996 का मुकाबला कास्पारोव ने 4 बनाम 2 से जीता था। प्रोसेसर की संख्या IBM के वर्तमान इतिहास पेज पर 32 है, जबकि निल्सन (Nilsson) ने IBM के उस समय के पेज के आधार पर शतरंज के 256 प्रोसेसर लिखे हैं। संभावना अधिक है कि यह गिनने के तरीके का अंतर है, लेकिन बात तय नहीं हुई है।
मूल स्रोत और भरोसे का स्तर (3)आगे न पढ़ने वाली शाखाएँ काटना
11 मई 1997मूल स्रोत से पुष्टिस्रोतों में मतभेद है
IBM के शतरंज के विशेष कंप्यूटर Deep Blue ने विश्व चैंपियन गैरी कास्पारोव (Garry Kasparov) को 6 बाज़ियों के मुक़ाबले में हराया
IBM के शतरंज के विशेष कंप्यूटर ने न्यूयॉर्क में विश्व चैंपियन गैरी कास्पारोव के साथ 6 बाज़ियों का मुक़ाबला खेला और 2 जीत, 1 हार, 3 ड्रॉ (3.5 बनाम 2.5) से जीता। यह सामान्य प्रतियोगिता जितनी समय सीमा में मौजूदा विश्व चैंपियन से पूरा मुक़ाबला जीतने वाला पहला कंप्यूटर बना। उसकी ताक़त का आधार बहुत बड़ी मात्रा में गणना थी: प्रति 1 सेकंड लगभग 20 करोड़ बोर्ड स्थितियों की जाँच। पिछले वर्ष (फरवरी 1996, फ़िलाडेल्फ़िया) कास्पारोव 4 बनाम 2 से जीते थे।
आम तौर पर कही जाने वाली बात:अक्सर कहा जाता है कि “Deep Blue की जीत AI की जीत है” मूल स्रोत के अनुसार:उसे बनाने वाली IBM ने ही उस समय के पृष्ठ पर लिखा था: “क्या Deep Blue कृत्रिम बुद्धिमत्ता का इस्तेमाल करता है? छोटा जवाब है ‘नहीं’।” उसने समझाया कि कंप्यूटर सोचने के बजाय बहुत बड़ी मात्रा में गणना और उस्तादों की बाज़ियों के रिकॉर्ड से मज़बूत हुआ। वह खेलते समय प्रतिद्वंद्वी से सीखता भी नहीं था।
3 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:प्रोसेसर की संख्या स्रोतों में अलग है। IBM का वर्तमान इतिहास पृष्ठ “32 प्रसंस्करण इकाइयाँ” बताता है, जबकि निल्सन (Nilsson) (IBM के उस समय के पृष्ठ के आधार पर) “शतरंज की 256 प्रसंस्करण इकाइयाँ” बताते हैं। यह गिनने के तरीके (सामान्य कंप्यूटरों की संख्या या शतरंज के विशेष पुर्ज़ों की संख्या) का अंतर होने की संभावना अधिक है। लेकिन 2002 का शोधपत्र (कैंपबेल और साथी, Elsevier) नहीं खोला गया है, इसलिए बात तय नहीं हुई है।
कनाडा की अल्बर्टा यूनिवर्सिटी के जोनाथन शेफ़र (Jonathan Schaeffer) और साथियों ने चेकर्स (शोधपत्र की भाषा में 8×8 ड्राफ़्ट्स) का प्रोग्राम Chinook बनाया। 1992 में उसने विश्व चैंपियन मैरियन टिन्सली (Marion Tinsley) को चुनौती दी और 2 जीत, 4 हार और 33 ड्रॉ के साथ हार गया। अगस्त 1994 में बोस्टन के कंप्यूटर संग्रहालय में फिर मुक़ाबला हुआ। सभी 6 बाज़ियाँ ड्रॉ रहने के बाद टिन्सली बीमारी के कारण बीच में हट गए, इसलिए Chinook बन गया। टीम के शोधपत्र के अनुसार, यह पहली बार था जब किसी कंप्यूटर ने इंसानों की विश्व चैंपियनशिप का ख़िताब जीता।
आम तौर पर कही जाने वाली बात:कहा जाता रहा है कि “1950〜60 के दशकों में सैमुअल (Samuel) के चेकर्स प्रोग्राम ने एक उस्ताद को हराया और चेकर्स को हल कर दिया” मूल स्रोत के अनुसार:Chinook टीम का शोधपत्र (1996) बताता है कि दोनों बातें समाचारों की ग़लतियाँ थीं; सैमुअल ने खुद ऐसे दावे नहीं किए। 2007 का शोधपत्र भी कहता है कि 1963 में केवल 1 बाज़ी जीतने का नतीजा बढ़ा-चढ़ाकर फैलाया गया। अक्सर यह भी कहा जाता है कि “मशीन ने इंसानों के विश्व चैंपियन को हराया”, लेकिन 1994 में लगातार ड्रॉ के बाद प्रतिद्वंद्वी बीमारी के कारण हट गया था। टीम ने खुद लिखा: ।
हर्बर्ट साइमन (Herbert Simon) और एलेन न्यूवेल (Allen Newell) ने भविष्यवाणी की कि 10 साल के भीतर कंप्यूटर शतरंज का विश्व चैंपियन होगा (अगर प्रतियोगिता के नियम उसे भाग लेने से न रोकें)।
इसके बाद:अप्रैल 1967 में सबसे मज़बूत शतरंज प्रोग्रामों में से एक (MIT का MAC HACK VI) मध्यम स्तर के शौकिया खिलाड़ी जितना मज़बूत था (अमेरिकी रेटिंग 1450)। 1968 में अंतरराष्ट्रीय शतरंज मास्टर लेवी (Levy) और शोधकर्ताओं ने शर्त लगाई कि क्या कंप्यूटर 10 साल के भीतर लेवी को हरा सकता है। 1978 में लेवी ने कंप्यूटर को हराया और शर्त जीत ली। कंप्यूटर ने मौजूदा विश्व चैंपियन (कास्पारोव (Kasparov)) को 6 बाज़ियों के मैच में मई 1997 में हराया, भविष्यवाणी के लगभग 40 साल बाद (IBM का Deep Blue, 3.5 बनाम 2.5)। कंप्यूटर ने मनुष्यों के विश्व चैंपियन का खिताब कभी नहीं पाया है (भविष्यवाणी में भी लिखा है)।
चित्र क्या दिखाता है:अल्फ़ा-बीटा तरीका ऐसी शाखा पर आगे की जाँच रोक देता है जहाँ पता चल चुका हो कि विरोधी के पास बेहतर चाल है। जवाब वही रहता है, लेकिन जाँच की संख्या घटती है।
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_alphabeta.py
191985〜2005 · रोबोट
पहले सोचना, फिर चलना छोड़ा
बिना नक्शे का रोबोट क्या पूरे कमरे में चल सकता है?
सितंबर 1985 में MIT के ब्रूक्स (Brooks) ने रोबोट के व्यवहार को परतों में बाँटकर बनाने का तरीका प्रस्तुत किया। नीचे की परतों (जैसे चीजों से न टकराना) के ऊपर अधिक उन्नत व्यवहार की परतें रखी जाती हैं, और ऊपरी परत केवल जरूरत पर निचली परत को दबाती है। 1991 के शोधपत्र में उन्होंने लिखा, (अनुवाद)।
2002 में 199.95 डॉलर में आए रोबोट वैक्यूम क्लीनर Roomba की घोषणा की सामग्री में भी नक्शे की बात नहीं है। वह घुमावदार, दीवार के साथ और सीधी चाल बार-बार चलता है, तथा कमरे के हर हिस्से से 2〜5 बार गुजरता है। दाईं ओर के चित्र में परतें जोड़ें और हटाएँ (कमरा इस साइट का बनाया उदाहरण है)।
जापान में Sony के AIBO की घोषणा 1999 में और Honda के ASIMO की 2000 में हुई।
निकलने वाली चाल ＝ इस समय सक्रिय सबसे ऊपरी परत की चाल
परत
सीधे चलने, दीवार के साथ चलने या घुमावदार घूमने जैसे व्यवहारों का समूह
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:1980 के दशक के अंत से 1990 के दशक की AI की सर्दी में शोध ही रुक गया था मूल स्रोत के अनुसार:उसी समय ब्रूक्स ने सर्दी की स्थिति पर लिखते हुए, शरीर और गति से बुद्धिमत्ता बनाने का दूसरा रास्ता दिखाया और इधर-उधर चलने वाले रोबोट बनाए।
AIBO
4 पैरों वाला घरेलू रोबोट। इसे बनाने वाले एक व्यक्ति के अनुसार, कीमत 250,000 येन होने के बावजूद, बिक्री के लिए रखे गए 3,000 रोबोट के सारे ऑर्डर 20 मिनट में भर गए।
ASIMO कैसे चलता है
ऊँचाई 120 cm और वजन 43 kg (पहले के P3 की ऊँचाई 160 cm और वजन 130 kg था)। अगली चाल का अनुमान लगाकर पहले से गुरुत्व केंद्र खिसकाने वाले चलने के तरीके से वह आसानी से दिशा बदल सकता था। Honda ने 1986 में शोध शुरू किया, 1996 में P2 और 1997 में P3 दिखाए (अध्याय 5 के WABOT-1 की धीमी चाल से तुलना करें, जिसमें केवल गुरुत्व केंद्र को ध्यान में रखा जाता था)।
राष्ट्रीय योजना के
राष्ट्रीय परियोजना में 2002 में विकसित HRP-2 की घोषणा की सामग्री में लिखा था कि इसमें (अनुवाद) छिपी है। आइची में 2005 के विश्व एक्सपो में सफाई, सुरक्षा और मार्गदर्शन करने वाले रोबोट काम कर रहे थे। (अनुवाद) का लक्ष्य रखने वाले 65 तरह के रोबोट प्रदर्शित किए गए।
मूल स्रोत और भरोसे का स्तर (6)पहले सोचना, फिर चलना छोड़ा
सितंबर 1985–1991मूल स्रोत से पुष्टि
1985〜1991: रॉडनी ब्रुक्स (Rodney Brooks) के रोबोट जिन्होंने पहले सोचकर फिर चलना छोड़ा ── सरल बुद्धि के लिए ; और 1990 में
MIT की AI प्रयोगशाला के ब्रुक्स ने सितंबर 1985 की रिपोर्ट में रोबोट के व्यवहार को में बाँटकर डिज़ाइन करने का तरीका दिखाया। बाधाओं से बचने जैसी निचली परतों के ऊपर अधिक उन्नत व्यवहार की परतें होती हैं। ऊपरी परतें केवल ज़रूरत पड़ने पर निचली परतों के आउटपुट को दबाती हैं (समावेशन, यानी subsumption)। 1987 में प्राप्त और 1991 में प्रकाशित शोधपत्र (Intelligence without Representation) में उन्होंने कहा कि बहुत सरल बुद्धि की जाँच करते समय स्पष्ट आंतरिक निरूपण और दुनिया के मॉडल । उन्होंने बताया कि इस विचार पर आधारित कई रोबोट बनाए गए जो दफ़्तर में अपने आप घूमते थे। 1990 के शोधपत्र (Elephants Don't Play Chess) में उन्होंने 30 से अधिक वर्षों से मन में प्रतीकों का संचालन करने वाले AI से अलग रास्ता सुझाया—शरीर के साथ वास्तविक दुनिया से परस्पर क्रिया करना। साथ में उन्होंने उस समय छोटी AI कंपनियों के दिवालिया होने और देश-विदेश के AI सम्मेलनों में भाग लेने वालों की संख्या बहुत घटने का भी उल्लेख किया।
आम तौर पर कही जाने वाली बात:अक्सर पूरे दौर को ऐसे बताया जाता है, “1980 के दशक के अंत〜1990 के दशक की सर्दी में AI का शोध ही रुक गया” (ऐसा कहा जाने का अनुमान इस साइट का है) मूल स्रोत के अनुसार:उसी समय ब्रुक्स ने लिखते हुए भी प्रतीकों और तर्क के बजाय शरीर और व्यवहार से बुद्धि बनाने का नया रास्ता दिखाया और वास्तव में दफ़्तर में घूमने वाले रोबोट बनाए। यह सर्दी के दौर में भी दूसरी पद्धति का शोध बढ़ने का उदाहरण है।
जो अभी पता नहीं है:बिना निरूपण, यानी दुनिया के मॉडल, के कितनी बुद्धि संभव है, शोधपत्र में भी इसे परिकल्पना (H) के रूप में रखा गया है; निष्कर्ष नहीं निकला।
2002 का रोबोट सफ़ाई यंत्र Roomba ── 199.95 डॉलर। घोषणा के अनुसार सर्पिल रास्ते, दीवार के साथ और सीधा चलने को दोहराकर कमरे के हर हिस्से से 2〜5 बार गुज़रता है; सरल हरकतों का मेल (नक्शे का उल्लेख नहीं)
रोबोट तकनीक के उत्पाद बनाने वाली iRobot कंपनी (घोषणा के अनुसार मुख्यालय मैसाचुसेट्स के सोमरविल में) ने 18 सितंबर 2002 को घरेलू स्वचालित सफ़ाई यंत्र 199.95 डॉलर में बेचना शुरू किया। घोषणा में इसे बताया और समझाया कि घरेलू उपकरण में कंपनी की और लागत घटाने की तकनीक लगाई गई। वह पहले सर्पिल रास्ते पर चलता है, किसी बाधा से टकराने पर दीवार के साथ चलता है, फिर सर्पिल और सीधे रास्ते को दोहराता है। ऊँचाई के अंतर वाले सेंसर से सीढ़ियाँ पहचानकर दिशा बदलता है और समय लेकर कमरे के हर हिस्से से 2〜5 बार गुज़रता है। बैटरी पर 1〜1.5 घंटे चलता है और आभासी दीवार (Virtual Wall) से ऐसे हिस्से अलग किए जा सकते हैं जहाँ उसे नहीं जाना चाहिए।
आम तौर पर कही जाने वाली बात:अक्सर माना जा सकता है कि “रोबोट सफ़ाई यंत्र कमरे का नक्शा बनाकर समझदारी से रास्ता चुनता है और सफ़ाई करता है” (आज के मॉडलों की छवि से; ऐसी धारणा का होना इस वेबसाइट का अनुमान है) मूल स्रोत के अनुसार:2002 के पहले Roomba की घोषणा के अनुसार, वह सर्पिल रास्ते, टक्कर के बाद दीवार के साथ चलने और सीधा चलने को दोहराता था। वह सरल हरकतों का मेल था, जो समय लेकर कमरे के हर हिस्से से 2〜5 बार गुज़रता था (नक्शा बनाने की बात नहीं लिखी गई)।
11 मई 1999मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
सोनी ने घर के लिए 4 पैरों वाला कुत्ते जैसा रोबोट प्रस्तुत किया। 250,000 येन की कीमत पर भी 3000 रोबोट 20 मिनट में बिक गए
मई 1999 में सोनी ने घर के लिए (अनुवाद) AIBO (ERS-110) की बिक्री की घोषणा की। लगभग 30cm लंबाई का यह 4 पैरों वाला जानवर जैसा रोबोट भावना, सहज प्रवृत्ति, सीखने और बढ़ने के प्रोग्राम से अपने आप सोचकर चलता है। उसे सहलाने जैसे व्यवहार से उसका व्यक्तित्व बदलता है। निर्माता मासाहिरो फ़ुजिता (Masahiro Fujita) के अनुसार, 250,000 येन की कीमत के बावजूद 3000 रोबोटों के लिए उपलब्ध सभी जगहों के ऑर्डर 20 मिनट में भर गए। नाम Artificial Intelligence roBOt का संक्षेप है और AI, आँख (EYE) तथा साथी के जापानी शब्द से जुड़ा है।
2 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:ऑर्डर लेने का महीना: निर्माता की व्याख्या में “जुलाई में 3000 रोबोटों के लिए ऑर्डर लेने” का उल्लेख है। सोनी की मूल घोषणा (तारीख़ और बिक्री का तरीका) नहीं खोली गई है, इसलिए दूसरे स्रोतों से तुलना नहीं की गई।
20 नवंबर 2000मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
होंडा ने 2 पैरों पर चलने वाला मानव जैसा रोबोट (अनुवाद) प्रस्तुत किया (अनुसंधान 1986 से)
होंडा ने छोटा और हल्का मानव जैसा रोबोट ASIMO प्रस्तुत किया, जिसकी चाल इंसानों जैसी थी। कमरों के स्विच और दरवाज़ों के हैंडल तक पहुँचने के लिए इसकी ऊँचाई 120 cm और वज़न 43 kg रखा गया (पिछली पीढ़ी का P3 160 cm और 130 kg था)। अगले आंदोलन का अनुमान करके पहले से गुरुत्व केंद्र बदलने वाली चलने की तकनीक (i-WALK) ने सहजता से दिशा बदलना संभव बनाया। होंडा ने 1986 में अनुसंधान शुरू किया और 1996 में प्रोटोटाइप P2 तथा 1997 में P3 सार्वजनिक किए थे।
2 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:होंडा के मानव जैसे रोबोट की घोषणा का वर्ष: होंडा के स्रोत में P2 की घोषणा 20 दिसंबर 1996 को हुई थी। दूसरी ओर, सोनी के मासाहिरो फ़ुजिता (Masahiro Fujita) की 2000 की व्याख्या में होंडा के ह्यूमनॉइड की घोषणा को “1997 में हुई घटनाओं” में गिना गया है। यह पता नहीं कि वे 1997 में P3 सार्वजनिक होने की बात कर रहे थे या यह लिखने की ग़लती थी।
2002 में सरकारी परियोजना से बना HRP-2, (अनुवाद) ── ऊँचाई 154 cm, 58 kg, गति की 30 स्वतंत्रताएँ। घोषणा में (अनुवाद)
अर्थव्यवस्था, व्यापार और उद्योग मंत्रालय ने 1998 से 5 वर्ष की (अनुवाद) (HRP: Humanoid Robotics Project) चलाई। पहले 2 वर्षों में अनुसंधान का आधार (मानव जैसा रोबोट HRP-1, दूर से संचालन का कॉकपिट और सिम्युलेटर) तैयार किया गया और अगले 3 वर्षों में उपयोग के 5 क्षेत्रों का अनुसंधान हुआ। 19 मार्च 2002 को कावादा इंडस्ट्रीज़ और राष्ट्रीय उन्नत औद्योगिक विज्ञान और प्रौद्योगिकी संस्थान (AIST) ने यास्कावा इलेक्ट्रिक और शिमिज़ु कॉर्पोरेशन के साथ बाहर लोगों के साथ काम करने वाला “HRP-2 प्रोटोटाइप” (अनुवाद) प्रस्तुत किया। इसकी ऊँचाई 154 cm, बैटरी सहित वज़न 58 kg और कमर की 2 धुरियों सहित गति की 30 स्वतंत्रताएँ (जोड़ों की संख्या) थीं। लक्ष्य था ऊबड़-खाबड़ रास्ते पर चलना और गिरने के बाद उठना। घोषणा में लिखा था कि जापान का औद्योगिक रोबोट बाज़ार 1980 के दशक से प्रति वर्ष 500〜600 अरब येन पर ठहरा हुआ है क्योंकि उपयोग नहीं बढ़े। उसने उम्मीद जताई कि 20वीं सदी के सबसे बड़े उत्पादों में से एक कार थी, जबकि (अनुवाद)।
इसके बाद:समय सीमा (अनुवाद) है, इसलिए जाँच अभी जारी है (सितंबर 2026 तक)। इस वेबसाइट में मानव जैसे रोबोटों के वर्तमान बाज़ार का आकार नहीं जाँचा गया है। कावादा रोबोटिक्स के अनुसार, HRP-2 को 2017 में राष्ट्रीय प्रकृति और विज्ञान संग्रहालय की भावी तकनीकी विरासत में चुना गया और उससे उत्पादन लाइन पर इंसानों के साथ काम करने वाला रोबोट NEXTAGE विकसित हुआ।
9 जून 2005मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
2005 की आइची एक्सपो की (अनुवाद) ── स्थल पर सफ़ाई, सुरक्षा और मार्गदर्शन करने वाले रोबोट काम कर रहे थे। (अनुवाद) के लक्ष्य वाले 65 प्रकार 11 दिनों तक प्रदर्शित हुए और लगभग 123,000 लोग आए
2005 की आइची एक्सपो (जापान 2005 विश्व प्रदर्शनी) में प्रदर्शनी संघ और NEDO (नई ऊर्जा और औद्योगिक तकनीक विकास संगठन) ने (अनुवाद) चलाई। 2004 की प्रेस विज्ञप्ति के अनुसार, अर्थव्यवस्था, व्यापार और उद्योग मंत्रालय और NEDO (अनुवाद) में लगभग 100 रोबोटों का अनुसंधान और विकास कर रहे थे। प्रदर्शनी के दौरान स्थल पर 5 प्रकार के “काम करने वाले रोबोट” (अनुवाद) काम करते थे: बाहर सफ़ाई और कूड़ेदान बदलना, सुरक्षा, 4 भाषाओं में मार्गदर्शन, बच्चों के साथ खेलना और बाधाओं से बचने वाली व्हीलचेयर। 9 से 19 जून के 11 दिनों में (अनुवाद) हुई। (अनुवाद) के लक्ष्य से विकसित हो रहे 65 प्रकार के रोबोट (अनुवाद) के रूप में रखे गए और लगभग 123,000 लोग आए। प्रेस विज्ञप्ति में 2010 के रोबोट बाज़ार का अनुमान 1.8 ट्रिलियन येन भी था।
जो अभी पता नहीं है:इस वेबसाइट में प्रेस विज्ञप्ति के (अनुवाद) वाले अनुमान का स्रोत (किसका पूर्वानुमान था), 2010 का वास्तविक बाज़ार आकार, और (अनुवाद) के लक्ष्य वाले 65 प्रकारों में से वास्तव में इस्तेमाल होने लगे रोबोटों की जाँच नहीं की गई है। यह भविष्यवाणी के नतीजे जाँचने के लिए एक संभावित विषय है। बाज़ार के आँकड़े गिनती में शामिल दायरे से बहुत बदलते हैं, इसलिए सावधानी चाहिए। जापान रोबोट संघ के 2001 के पूर्वानुमान (2010 में 3 ट्रिलियन येन) और 2008 में नतीजे की जाँच के लिए रिकॉर्ड → भविष्यवाणी: 2010 में जापान का रोबोट बाज… देखें।
3 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:प्रोटोटाइप रोबोटों की संख्या: 2004 की प्रेस विज्ञप्ति में “63 प्रकार”, जबकि जून 2005 में आधिकारिक वेबसाइट के विशेष लेख में “65 प्रकार” है।
चित्र क्या दिखाता है:बिना नक्शे का रोबोट भी, टकराने पर मुड़ना, दीवार के साथ चलना और सर्पिल चलना जैसी परतें जोड़कर पूरे कमरे में बार-बार घूम सकता है।
फर्श का वह अनुपात जहाँ रोबोट चला (बैंगनी＝दीवार के पास, हरा＝बीच का हिस्सा)
यह “आज़माएँ” वाली प्रक्रिया का Python कोड है। ▶ चलाएँ दबाने पर नीचे नतीजा दिखेगा। संख्याएँ बदलकर फिर से चलाकर देखें।
u08_roomba_cover.py
201993〜2005 · भविष्यवाणियाँ
“दोगुना” वाली रेखा आगे बढ़ाना
कंप्यूटर की बढ़ती क्षमता से क्या उस वर्ष का अनुमान लगा सकते हैं जब वह मस्तिष्क के बराबर हो जाए?
1998 में कार्नेगी मेलन विश्वविद्यालय के मोरावेक (Moravec) ने अनुमान लगाया कि मानव मस्तिष्क का काम करने के लिए लगभग 100 मिलियन MIPS चाहिए (हर 1 सेकंड में 1 मिलियन निर्देश यानी 1 MIPS)। फिर उन्होंने भविष्यवाणी की कि जरूरी हार्डवेयर (अनुवाद) होगा। उन्होंने यह भी लिखा कि 1960〜1990 (अनुवाद) का दौर था।
भविष्यवाणी का वर्ष दोगुना होने की अवधि तय करने से बहुत बदलता है। शोधपत्र के अनुसार, 1990 में सस्ते पर्सनल कंप्यूटर पर 1 MIPS की कीमत 1,000 डॉलर थी। दोगुना होने की अवधि 1980 के दशक में 18 महीने और 1990 के दशक के अंत में 12 महीने थी। दाईं ओर के चित्र में अवधि बदलकर आजमाएँ।
1993 में विंज (Vinge) ने लिखा, (अनुवाद)।
पहुँचने का वर्ष ＝1990＋ दोगुना होने की अवधि (वर्ष) × log2（100 मिलियन）
log2（100 मिलियन）
लगभग 26.6 (100 मिलियन गुना तक पहुँचने के लिए कितनी बार दोगुना करना होगा)
जो आपको लगता है कि आप जानते हैंआम तौर पर कही जाने वाली बात:सिंगुलैरिटी कर्ज़वाइल (Kurzweil) का विचार है (2045) मूल स्रोत के अनुसार:विंज ने 1993 में इसे the Singularity कहा और मनुष्य से अधिक बुद्धिमत्ता के लिए 2005〜2030 लिखा था। विंज ने खुद बताया कि यह शब्द फॉन नॉयमन (von Neumann) और यह विचार आई. जे. गुड (I. J. Good) तक जाता है।
चित्र की रेखा के बारे में
चित्र की रेखा शोधपत्र के आँकड़ों से इस साइट की गणना का उदाहरण है, मोरावेक के अपने चित्र की रेखा नहीं। भविष्यवाणी की समय सीमा (2020 का दशक) अभी पूरी नहीं हुई है। विंज ने लिखा था कि 2005 से पहले या 2030 के बाद ऐसा होने पर उन्हें आश्चर्य होगा।
RoboCup का लक्ष्य
जापानी शोधकर्ताओं (हिरोआकि कितानो (Hiroaki Kitano), मिनोरु असादा (Minoru Asada) आदि) की शुरू की गई रोबोट फुटबॉल प्रतियोगिता RoboCup, 1993 की योजना से जन्मी। पहली प्रतियोगिता 1997 में नागोया के अंतरराष्ट्रीय संयुक्त कृत्रिम बुद्धिमत्ता सम्मेलन (IJCAI-97; 48 देशों के 1,400 लोग) के साथ हुई। वर्तमान आधिकारिक साइट का लक्ष्य है कि 21वीं सदी के मध्य तक स्वायत्त मानवाकार रोबोटों की टीम सबसे हाल के विश्व कप की विजेता टीम को हराए।
लेकिन संस्थापकों के 1997 के शोधपत्र ने लक्ष्य (अनुवाद) लिखा और समय सीमा का वर्ष नहीं दिया। जिस स्रोत में 2050 पहली बार लिखित रूप में आया, वह अभी नहीं मिला है। जुलाई 2026 में पहली बार मानवाकार रोबोटों के बीच 11 बनाम 11 का मैच हुआ (यह मानव चैंपियन के खिलाफ मैच नहीं था)।
रोबोट बाजार की भविष्यवाणी
2001 में जापान रोबोट एसोसिएशन आदि की रिपोर्ट ने अनुमान लगाया कि रोबोट बाजार 2010 में लगभग 3 ट्रिलियन येन और 2025 में लगभग 8 ट्रिलियन येन होगा। लेकिन 2008〜2009 में राष्ट्रीय उन्नत औद्योगिक विज्ञान और प्रौद्योगिकी संस्थान के हिरोहिको अराइ (Hirohiko Arai) के विश्लेषण में, विनिर्माण के अलावा अन्य क्षेत्रों के रोबोटों का बाजार प्रति वर्ष 1.4〜6.8 अरब येन था, यानी 10 अरब येन तक नहीं पहुँचा था। अनुमान संकलित करने वाले काज़ुओ तानिए (Kazuo Tanie) ने खुद भी लिखा था कि यह (अनुवाद) का अनुमान है।
मूल स्रोत और भरोसे का स्तर (5)“दोगुना” वाली रेखा आगे बढ़ाना
1998मूल स्रोत से पुष्टि
1998 में हान्स मोरावेक (Hans Moravec): ── जवाब था । और 1960〜1990 का AI अनुसंधान में था
कार्नेगी मेलन यूनिवर्सिटी के रोबोटिक्स संस्थान के मोरावेक ने 1998 के शोधपत्र में मस्तिष्क जैसा काम करने के लिए ज़रूरी गणना की गति और मेमोरी का अनुमान लगाया। रेटिना का काम रोबोट के चित्र संसाधन से करने पर 1,000 MIPS चाहिए (MIPS = प्रति 1 सेकंड 10 लाख निर्देश)। मस्तिष्क रेटिना से लगभग 1 लाख गुना बड़ा है, इसलिए पूरे मस्तिष्क के लिए लगभग 10 करोड़ MIPS और लगभग 10 करोड़ मेगाबाइट मेमोरी का अनुमान था। कंप्यूटरों के सस्ते होते जाने के रुझान से उन्होंने भविष्यवाणी की कि मस्तिष्क की बराबरी करने के लिए और यह 10 करोड़ MIPS क्षमता । उसी शोधपत्र में उन्होंने बताया कि AI अनुसंधान के लिए उपलब्ध कंप्यूटरों की क्षमता 1960 से 1990 तक लगभग 1 MIPS पर ही रही; शोधकर्ताओं के जीवन भर का समय में निकल गया। उन्होंने यह भी कहा कि 1990 से क्षमता हर वर्ष दोगुनी हो रही है और अब (1998) वसंत है।
आम तौर पर कही जाने वाली बात:अक्सर कहा जाता है कि “1990 का दशक AI का दूसरा शीतकाल था” (उदाहरण: जापानी AI सोसायटी की पत्रिका के 2023 के आवरण चित्रों की श्रृंखला में लगभग 1992〜2010 को “दूसरा शीतकाल” (अनुवाद) दिखाया गया; रिकॉर्ड → जापानी कृत्रिम बुद्धिमत्ता सोसाइटी की क…) मूल स्रोत के अनुसार:मोरावेक ने 1998 के शोधपत्र में 1960〜1990 के 30 वर्षों को कहा, जब AI अनुसंधान के लिए उपलब्ध कंप्यूटरों की क्षमता लगभग 1 MIPS पर ही रही। वहीं 1990 के दशक में क्षमता हर वर्ष दोगुनी होने लगी तो उन्होंने लिखा: । इस दृष्टिकोण में शीतकाल को बजट या उम्मीदों से नहीं, उपलब्ध कंप्यूटरों की क्षमता से समझा गया।
इसके बाद:सितंबर 2026 तक भविष्यवाणी की समय सीमा (2020 का दशक, 2030 से पहले) अभी नहीं आई है। साथ ही मोरावेक के पैमाने (MIPS = प्रति 1 सेकंड निर्देशों की संख्या, 10 लाख की इकाइयों में; लगभग 1,000 डॉलर की घरेलू मशीन) और आज के AI की गणना के पैमाने (प्रति 1 सेकंड फ़्लोटिंग-पॉइंट गणनाओं की संख्या, FLOP/s आदि) एक जैसे नहीं हैं। उन्हें एक-दूसरे में बदलने के तरीके से नतीजा बदलता है, इसलिए इस वेबसाइट में भविष्यवाणी को सही या ग़लत नहीं ठहराया गया।
जो अभी पता नहीं है:मस्तिष्क का काम = 10 करोड़ MIPS का अनुमान रेटिना के काम को रोबोट के चित्र संसाधन से बदलने पर आधारित एक दृष्टिकोण है। मस्तिष्क कितनी गणना करता है, यह आज भी पता नहीं है। शोधपत्र खुद कहता है: । रुझानों को आगे बढ़ाकर आकलन करने का मतलब है पिछले रुझान की रेखा को भविष्य तक बढ़ाकर अनुमान लगाना।
1993 में विंजी (Vernor Vinge): ── 2005 से पहले या 2030 के बाद हो तो आश्चर्य होगा। कर्ज़वाइल (Kurzweil) की 2005 की पुस्तक से 12 वर्ष पहले
वर्नर विंजी, सैन डिएगो स्टेट विश्वविद्यालय के गणितीय विज्ञान विभाग (शोधपत्र की संबद्धता), ने NASA के 1993 के आयोजन की कार्यवाही में (The Coming Technological Singularity) शोधपत्र दिया। उन्होंने लिखा कि 30 वर्ष के भीतर मानव से अधिक बुद्धि बनाने के तकनीकी साधन होंगे और उसके थोड़े बाद मानव युग समाप्त होगा। उन्होंने 4 रास्ते दिए: “ऐसे कंप्यूटर जो “जागे हुए” हैं और जिनकी बुद्धि मानव से बढ़कर है”; बड़े नेटवर्कों का जागना; मानव और कंप्यूटर का गहरा जुड़ाव; जीवविज्ञान से बुद्धि बढ़ाना। समय के लिए भी वर्ष बताए: 2005 से पहले या 2030 के बाद हो तो आश्चर्य होगा। उन्होंने इसे कहा। लेकिन शोधपत्र ने पूर्व उदाहरण भी दिए: वॉन न्यूमन (von Neumann) का 1950 के दशक में शब्द इस्तेमाल करना (उलम (Ulam) के विवरण में), और आई. जे. गुड (I. J. Good) का 1960 के दशक का का विचार। विंजी ने खुद यह आलोचना भी लिखी कि AI के उत्साही लोग ऐसी बातें 30 वर्ष से कहते आए थे।
आम तौर पर कही जाने वाली बात:अक्सर माना जाता है, “सिंगुलैरिटी, यानी तकनीकी विशिष्टता, कर्ज़वाइल का 2045 वाला विचार है” (जापान में प्रसार: → जापान में 2045 की समस्या का प्रसार ── 2…) मूल स्रोत के अनुसार:विंजी ने 1993 में, कर्ज़वाइल की 2005 की पुस्तक से 12 वर्ष पहले, कहा था। मानव से अधिक बुद्धि आने का अनुमान 2005〜2030 था, जो कर्ज़वाइल के 2045 से पहले है। विंजी ने खुद शब्द की जड़ वॉन न्यूमन (1950 का दशक) और विचार की जड़ आई. जे. गुड (1960 का दशक) को बताया था।
जापानी शोधकर्ताओं का शुरू किया : लक्ष्य है 21वीं सदी के मध्य तक मानव जैसे रोबोटों की टीम से विश्व कप विजेता टीम को हराना
में रोबोट फ़ुटबॉल को AI और रोबोट अनुसंधान की साझा चुनौती बनाया गया। इसे जापानी शोधकर्ताओं (हिरोआकि कितानो (Hiroaki Kitano), मिनोरु असादा (Minoru Asada), यासुओ कुनियोशि (Yasuo Kuniyoshi) आदि) ने शुरू किया। जून 1993 में केवल जापान की की कल्पना की गई, लेकिन एक महीने में विदेशों से भी भाग लेने की इच्छाएँ आने लगीं और यह अंतरराष्ट्रीय परियोजना बन गई। 1997 में नागोया में पहली प्रतियोगिता हुई, जिसमें 40 से अधिक टीमें और 5000 से अधिक दर्शक आए। आधिकारिक वेबसाइट का अंतिम लक्ष्य है कि 21वीं सदी के मध्य तक, FIFA के आधिकारिक नियमों के अनुसार सबसे हाल के विश्व कप की विजेता टीम के विरुद्ध, ।
आम तौर पर कही जाने वाली बात:यह कहा जा सकता है कि “रोबोट फ़ुटबॉल जापान का आविष्कार है” मूल स्रोत के अनुसार:आधिकारिक वेबसाइट के इतिहास के अनुसार, रोबोट फ़ुटबॉल को सबसे पहले कनाडा के मैकवर्थ (Mackworth) ने शोधपत्र (1992) में प्रस्तुत किया था। वेबसाइट बताती है कि जापानी शोधकर्ता भी लगभग उसी समय स्वतंत्र रूप से इसकी योजना बना रहे थे। इसे अंतरराष्ट्रीय प्रतियोगिता का रूप देने वाले जापानी शोधकर्ता थे, जिन्होंने 1993 की की योजना से शुरुआत की।
इसके बाद:समय सीमा अभी नहीं आई है और नतीजा अभी नहीं निकला है। 5 जुलाई 2026 को दक्षिण कोरिया के इंचॉन में RoboCup 2026 में पहली बार मानव जैसे रोबोटों के बीच 11 बनाम 11 का मैच हुआ (जर्मनी की B-Human ने जर्मनी की ही HTWK को 4 बनाम 0 से हराया)। यह रोबोटों के बीच मैच था, इंसानों के चैंपियन के विरुद्ध नहीं।
3 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:लक्ष्य वर्ष का उल्लेख: आधिकारिक वेबसाइट कहती है कि “1997 में स्थापना के समय मिशन 2050 तक के लिए था”। लेकिन संस्थापकों के 1997 के शोधपत्र (AI Magazine) में “2050” या “21वीं सदी का मध्य” नहीं मिलता। शोधपत्र का अंतिम लक्ष्य है (PDF का 2वाँ पृष्ठ, मुद्रित p.74: ultimate goal ... beat the Brazil world-cup team); कोई अंतिम वर्ष नहीं दिया गया। सार में यह भी है कि “अंतिम लक्ष्य वास्तविक रोबोटों का विश्व कप है” (PDF का 1वाँ पृष्ठ)। इस वेबसाइट में यह जाँचा नहीं गया कि “वर्ष 2050” पहली बार कब लिखित रूप में आया।
1997 में अंतरराष्ट्रीय AI सम्मेलन (IJCAI-97) नागोया में हुआ ── 1979 के टोक्यो के बाद जापान में दूसरी बार। 48 देशों से 1,400 लोग; पहला RoboCup भी साथ हुआ
AI शोधकर्ताओं का हर 2 वर्ष में होने वाला अंतरराष्ट्रीय सम्मेलन IJCAI अपने 15वें आयोजन (IJCAI-97) के रूप में 23 से 29 अगस्त 1997 तक नागोया अंतरराष्ट्रीय सम्मेलन केंद्र में हुआ। IJCAI की आधिकारिक वेबसाइट की पुराने आयोजन स्थलों की सूची के अनुसार, 1979 के टोक्यो के बाद यह जापान में दूसरी बार हुआ। जापानी AI सोसायटी की रिपोर्ट के अनुसार, 48 देशों से 1,400 लोग (विदेशों से 550) शामिल हुए। 12 आमंत्रित व्याख्यान, 216 सामान्य शोधपत्र प्रस्तुतियाँ, 30 कार्यशालाएँ और 17 ट्यूटोरियल के अलावा साथ के कार्यक्रमों में रोबोट फ़ुटबॉल प्रतियोगिता RoboCup-97 आदि हुईं। वित्त वर्ष 1991 में जापान में आयोजन का निर्णय हुआ था और जापानी AI सोसायटी तैयारी कर रही थी (सोसायटी की वित्त वर्ष 1991 की गतिविधि रिपोर्ट)। यह बड़ा अंतरराष्ट्रीय सम्मेलन उस समय हुआ जब जापान की AI सोसायटी के नियमित सदस्यों की संख्या कम होने लगी थी।
मई 2001–2015मूल स्रोत से पुष्टिस्रोतों में मतभेद हैजापान
भविष्यवाणी: 2010 में जापान का रोबोट बाज़ार लगभग 3 ट्रिलियन येन होगा (2001 में उद्योग संगठनों का पूर्वानुमान) ── घर और अस्पताल के रोबोटों का बाज़ार वास्तव में 10 अरब येन तक भी नहीं पहुँचा
2001 में जापान मशीनरी फ़ेडरेशन और जापान रोबोट संघ की रिपोर्ट ने रोबोट बाज़ार के 5 क्षेत्रों का पूर्वानुमान दिया। 2010 के लिए रोज़मर्रा के जीवन का क्षेत्र 1.5 ट्रिलियन येन, विनिर्माण 850 अरब येन, सार्वजनिक क्षेत्र 290 अरब येन, चिकित्सा और कल्याण 260 अरब येन, जैव क्षेत्र 90 अरब येन (कुल लगभग 3 ट्रिलियन येन), और 2025 के लिए कुल लगभग 8 ट्रिलियन येन बताया गया। राष्ट्रीय उन्नत औद्योगिक विज्ञान और प्रौद्योगिकी संस्थान के हिरोहिको अराइ (Hirohiko Arai) के 2009 के विश्लेषण के अनुसार, अर्थव्यवस्था, व्यापार और उद्योग मंत्रालय आदि ने अनुसंधान और विकास के बजट को समझाने के आधार के रूप में इस पूर्वानुमान का इस्तेमाल किया; समाचारों में भी यह फैला। 2005 की आइची एक्सपो की घोषणा में भी लिखा था: (अनुवाद)।
आम तौर पर कही जाने वाली बात: (अनुवाद) (अराइ के विश्लेषण में रोबोट शोधकर्ताओं के बीच व्यापक रूप से मानी जाने वाली धारणा। विनिर्माण से बाहर के क्षेत्र हैं घर, देखभाल, सार्वजनिक क्षेत्र आदि) मूल स्रोत के अनुसार:उद्योग संघ के अपने वास्तविक स्थिति सर्वेक्षण में विनिर्माण से बाहर के अगली पीढ़ी के रोबोटों का बाज़ार जाँची गई अवधि में प्रति वर्ष 1.4〜6.8 अरब येन था। वह 10 अरब येन तक भी नहीं पहुँचा और उलटे घट रहा था (वार्षिक औसत −10.2%, अराइ का विश्लेषण)। 2015 की सरकारी रणनीति ने भी पूरे रोबोट बाज़ार का आकार (अनुवाद) बताया।
इसके बाद:हिरोहिको अराइ के 2009 के विश्लेषण के अनुसार, विनिर्माण से बाहर के अगली पीढ़ी के रोबोटों का बाज़ार उद्योग संघ आदि के वास्तविक स्थिति सर्वेक्षणों में प्रति वर्ष 1.4〜6.8 अरब येन (10 अरब येन से कम) पर रहा। यह 2010 के पूर्वानुमान (विनिर्माण से बाहर लगभग 2 ट्रिलियन येन) से बहुत दूर था। 2006〜2008 में सरकारी संस्थान और उद्योग संघ ने खुद 2010 के पूर्वानुमान को घटाकर 50〜75 अरब येन किया। 2015 में सरकार की (अनुवाद) ने रोबोट बाज़ार का आकार (अनुवाद) बताया और 2020 में इसे 2.4 ट्रिलियन येन करने का नया लक्ष्य रखा (आंतरिक मामलों और संचार मंत्रालय का 2015 का श्वेतपत्र)। इस वेबसाइट में 2025 के पूर्वानुमान के नतीजे नहीं जाँचे गए हैं।
4 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:उसी उद्योग संघ की पिछले वर्ष (2000) की रिपोर्ट ने विनिर्माण से बाहर के 2010 के बाज़ार का आकार 623.5 अरब येन बताया था (अराइ का विश्लेषण; मूल रिपोर्ट नहीं खोली गई)। 1 वर्ष में अनुमान 3.3 गुना बढ़ गया।
चित्र क्या दिखाता है:क्षमता दुगुनी होते जाने की रेखा आगे बढ़ाकर मस्तिष्क के बराबर पहुँचने का वर्ष बताया जा सकता है। लेकिन “कितने महीनों में दुगुनी होगी” की मान्यता बदलने भर से वह वर्ष कई दशक बदल जाता है।
अंत में
इस अध्याय में अभी अनसुलझी बातें
संघ के सदस्यों और कंपनियों की बिक्री से देखें, तो अमेरिका की 1980 के दशक के अंत से कई वर्षों में धीरे-धीरे आई। जापान के 1991 के राष्ट्रीय श्वेतपत्र ने लिखा कि वहाँ नहीं आया था (अनुवाद)। लेकिन 1991 के बाद जापान में AI का उपयोग कैसे बदला, जापान में सर्दी कब आई (या आई भी थी या नहीं), यह अभी स्पष्ट नहीं है। 1984 के खाके की बात, (अनुवाद), सचमुच हुई थी या नहीं, इसे गिनने वाला स्रोत भी नहीं मिला है।
उसी दौर में आज के AI की नींव रखने वाली लगभग सभी तकनीकें सामने आ चुकी थीं। हॉपफील्ड नेटवर्क, बोल्ट्ज़मान मशीन और रिस्ट्रिक्टेड बोल्ट्ज़मान मशीन, बैकप्रोपेगेशन, इनपुट को पतली परत में समेटने वाले नेटवर्क (ऑटोएन्कोडर का शुरुआती रूप), रिकरेंट नेटवर्क और LSTM, कन्वोल्यूशन, मिक्सचर ऑफ एक्सपर्ट्स, सपोर्ट वेक्टर मशीन, और अपने ही खिलाफ खेलकर सीखने वाला TD लर्निंग। लेकिन TD-Gammon इतनी अच्छी तरह क्यों सीखा, उस समय का सिद्धांत यह नहीं समझा पाया था। असली मस्तिष्क हॉपफील्ड नेटवर्क की तरह काम करता है या नहीं, इसकी भी पुष्टि नहीं हुई है।
कमी की एक वजह शायद कंप्यूटर की गणना क्षमता थी। मोरावेक (Moravec) ने 1998 में लिखा कि जिन बीजों को लंबे समय से निष्फल कहा जा रहा था, वे अचानक अंकुरित हो रहे थे। अगले अध्याय में, 2006 से तीसरा उछाल शुरू होता है, जिसमें गहरे न्यूरल नेटवर्क “डेटा से खुद सीखते हैं”।
इस अध्याय की अन्य घटनाएँ (1; सभी के साथ मूल स्रोत और भरोसे का स्तर)
1983–1984मूल स्रोत से पुष्टिस्रोतों में मतभेद है
“मैककार्थी (John McCarthy) ने MYCIN में ‘पुरुष मरीज का एम्नियोटिक द्रव’ डाला और उसने स्वीकार कर लिया” ── विकासकर्ताओं ने स्वयं पुस्तक के नोट में दर्ज किया
विशेषज्ञ ज्ञान वाला AI उसमें न लिखी गई नहीं जानता: इस कमी के उदाहरण के रूप में एक कहानी अक्सर बताई जाती है। MYCIN की पुस्तक (1984) के नोट में लिखा है कि जॉन मैककार्थी ने पुरुष मरीज की जाँच सामग्री (कल्चर का स्रोत) को एम्नियोटिक द्रव बताया। MYCIN ने गलती पहचाने बिना उसे स्वीकार कर लिया। मैककार्थी के वेब शोधपत्र (いくつかのエキスパートシステムには常識が要る) (1984) में यह कहानी नहीं है। लेकिन उसमें सामान्य समझ की कमी बताई है: MYCIN उपचार के बाद क्या होगा इसका अनुमान नहीं रखता और का उत्तर भी नहीं दे सकता।
आम तौर पर कही जाने वाली बात:अक्सर इसे ऐसे बताया जाता है: “कहते हैं कि मैककार्थी ने MYCIN को छेड़ा था” (अफ़वाह; निल्सन (Nilsson) भी लिखते हैं) मूल स्रोत के अनुसार:MYCIN बनाने वालों ने स्वयं 1984 की पुस्तक के नोट में इस घटना को के स्रोत के साथ लिखा। लेकिन मैककार्थी के वेब शोधपत्र में यह कहानी नहीं है; उसमें दूसरी कमी, जैसे उपचार के बाद का अनुमान न होना, लिखी है।
जो अभी पता नहीं है: किस खास पाठ या व्याख्यान को बताता है, इसकी पुष्टि नहीं हुई है।
3 मूल स्रोत और उनकी जाँच का विवरण
स्रोतों के बीच मतभेद:कहानी का छोटा अंतर: निल्सन के अनुसार, जानकारी डाली गई थी कि “मरीज पुरुष है और उसकी एम्नियोसेंटेसिस जाँच हुई है”। MYCIN की पुस्तक कहती है “पुरुष मरीज के कल्चर का स्रोत एम्नियोटिक द्रव है”।