जब मैं एक छोटी लड़की थी, मैंने सोचा था कि धाराप्रवाह और फ़ाटा मॉर्गाना मेरी वयस्क ज़िंदगी का एक बड़ा हिस्सा बनेंगे। हालांकि मैं रेत-संकरी के बारे में गलत थी, फिर भी भ्रम का हिस्सा मेरे काम के माध्यम से अप्रत्याशित दरवाजे से वापस आ गया। मैं एआई सिस्टम बनाती हूं, और यह पता चलता है कि जिन मशीनों को मैं बनाने में मदद करती हूं, वे अपने काम के लिए भ्रमित होती हैं।
एक भ्रांति, मानक मनोवैज्ञानिक पाठ्यपुस्तक अर्थ में, वह धारण है जो किसी बाहरी उत्तेजना के बिना होती है। दूसरे शब्दों में, आप कुछ देखते हैं, और वहाँ कुछ नहीं है। फ़ाटा मॉर्गाना जैसी मृगतृष्णा की गणना नहीं होती: यह भ्रामक दृश्य हैं, वास्तविक धारणाएँ वातावरण द्वारा विकृत हैं (जिस कारण से मेरे बचपन की कार्टून तकनीकी रूप से मुझे रेगिस्तान में गलत सूचना दी)। खुद शब्द अंग्रेजी में बहुत पहले, 1646 में, लैटिन एलूसिनारी से आया, "मन में भटकने के लिए"। सोमवार के दिन मेरे मस्तिष्क को समझाने के अलावा, यह शब्द कंप्यूटर दृष्टि में दो दशकों से अधिक समय से रहा है, जो मूल रूप से उन मॉडलों का वर्णन करता है जो वहाँ मौजूद वस्तुओं का पता लगाते थे।
जब तक बड़े भाषा मॉडल इसे जोर से और सार्वजनिक रूप से करने लगे, तब तक शब्द विशिष्ट रहा। अचानक, हर कोई शब्द को और उसके परिणामों को जानने लगा। एक चैटबॉट आपको बताता है कि मोनालिसा 1754 में बनाई गई थी; यह एक वित्तीय आंकड़ा, एक अदालती प्रकरण, डॉक्टरों की सूची जो समीचीन लगती है और कहीं पर भी मौजूद नहीं है। और यह शब्द स्वयं भी एक भयानक गलत नाम है क्योंकि भ्रांति अभी भी एक प्रकार की धारण है, और बड़े भाषा मॉडलों में कोई धारण तत्व नहीं है, जो असफल हो सकते हैं: हम केवल सांख्यिकीय प्रक्रियाओं को मनोवैज्ञानिक वस्त्र पहनाते हैं। जब मैंने इस पर न्यूरोसाइंसिस्ट अनिल सेठ से चर्चा की, उन्होंने कहा कि वे "कनफेबुलेशन" पसंद करते थे, लेकिन मेरा मानना है कि यह शब्द भी वही मानवीय अवयव बिठा कर ले जाता है, क्योंकि कनफेबुलेशन वे चीजें होती हैं जो इंसान अनजाने में करती हैं जब वे यादों के साथ संभावनाओं का निर्माण करते हैं, यह फिर से एक मनोविज्ञान को दर्शाता है जो इन प्रणालियों के पास नहीं है। मैंने उन्हें बताया कि मेरा पसंदीदा शब्द बॉटशिट है, जो मुझे बताया गया है कि हर अवसर के लिए उपयुक्त नहीं है। यह शायद उन मौकों में से एक हो सकता है।
तो, भ्रांतियां कहां से आती हैं? लिंक्डइन के विदेशी विशेषज्ञों की विशाल संख्या के बावजूद, हम पूरी तरह जानते नहीं हैं। अब भी कोई अनुभवसम्बद्ध सिद्धांत नहीं है जो यह स्पष्ट रूप से बताता हो कि वे क्यों होती हैं। लेकिन हम योगदान कारकों को जानते हैं: प्रशिक्षित डेटा जो ख़ुद से विरोधाभासी है, स्रोत और लक्ष्य के बीच विचलन, स्प्यूरियस सह-संबंधों की ओवरफिटिंग, उन जगहों पर त्रुटियाँ जहां ज्ञान को अरबों पैरामीटर में संकुचित और अनकम्प्रैस किया जाता है, और कई अन्य। यह आश्चर्यजनक नहीं है कि एक मॉडल दूसरी क्रम अनुमोदन तर्क तर्कशास्त्र के बारे में भ्रमित होता है, जिस पर इसे हॉलीवुड के नवीनतम ब्लॉकबस्टर के मुकाबले कम डेटा मिला है।
व्याख्यानों और कक्षाओं में, मेरा पसंदीदा प्रारंभिक स्लाइड केवल यह पूछना है "एक बड़े भाषा मॉडल का एकमात्र उद्देश्य क्या है", एक गुप्त सर्वेक्षण में। मुझे अक्सर "मनुष्यों को समझना", "ज्ञान उत्पन्न करना", "मनुष्य के तर्क को अनुकरण करना" जैसी गहरी प्रतिक्रियाएँ प्राप्त होती हैं, लेकिन सत्य यह है कि हमने इन्हे एक ही उद्देश्य के लिए बनाया, और वह है "प्रस्तावना को पूरा करना"। तकनीकी शब्दों में, अगले सबसे संभावित टोकन की भविष्यवाणी करना। यह प्रक्रिया प्रवाह को अनुकूलित करती है, न कि डेटा की सत्यता या वास्तविक आधारिकता को। जब सबसे संभावित अगली कड़ी सत्य होती है, अद्भुत! जब यह असत्य होती है, तो आपको आत्मविश्वासपूर्ण बकवास मिलती है जो बिल्कुल उसी चित्तकला में प्रस्तुत होती है। यहां तक कि इसमें एक अंतर्निहित इंजीनियरिंग समझौता भी होता है: यादृच्छिकता को कम करें, और मॉडल सटीक लेकिन नीरस हो जाता है, और इसे बढ़ा दो, तो यह रचनात्मक, मानव-प्रभावी बन जाती है, और चीजों का आविष्कार करने की अधिक संभावना रहती है (जैसे हम करते हैं)। बस आधार पर आधारित होकर, आप में से कोई भी चुनिंदा रूप से हटा नहीं सकते और दूसरा बचा नहीं सकते - आप या तो डॉ. जेकिल होंगे या श्री. हाइड।
यह मुझे उस प्रश्न पर लाता है जिसे हमें अक्सर इंजीनियरों के रूप में पूछा जाता है, आमतौर पर क्लाइंट या कोई खरीद बजट पर कब्जा किए हुए व्यक्ति द्वारा: "क्या आप 100% सटीकता की गारंटी दे सकते हैं?" नहीं, और जो कोई इसकी गारंटी देता है वह कुछ बेच रहा है। (दिलचस्प बात है कि मैं भी आपको कुछ बेच रही हूं। इसे कहा जाता है सुवाली, और हम जल्द ही इसके बारे में बात करेंगे)
क्या इसका मतलब है कि आपको एक चैटबॉट लागू नहीं करना चाहिए? बिल्कुल नहीं। हम मनुष्यों के साथ काम करने से मना नहीं करते क्योंकि वे गलत याद करते हैं, अतिशयोक्ति करते हैं, चीजों को मिलाते हैं, और कभी-कभी यह जोर देते हैं कि उनके मशीन पर यह काम करता है (आरोप स्वीकार)। इसके बजाय, हम उनके चारों ओर समीक्षा प्रक्रियाएं और ऑडिट ट्रेल बनाते हैं, इसलिए यहां वही तर्क लागू होता है। हम एक आदर्श प्रणाली बनाने की कोशिश नहीं कर रहे हैं क्योंकि ऐसा कुछ भी नहीं है, लेकिन वास्तविक प्रश्न यह है कि क्या हमने प्रणाली को इस तरह से इंजीनियरिंग किया है कि इसकी असफलताएं दुर्लभ, अनुसंधान योग्य, प्रतीक्षा करने योग्य, और अंत में सस्ती हैं।
बॉट अक्सर किनारों पर असफल होते हैं - सटीक संख्याएं, सही तिथियाँ, उद्धरण, अस्पष्ट संस्थाओं के नाम, अक्सर कुछ भी जो हाल ही में हुआ है, किसी भी कम संसाधन की भाषा (लगभग सब कुछ लेकिन अंग्रेजी), और कोई भी प्रश्न इस तरह से पूछा जाता है कि एक उचित श्रवण उत्तर होना चाहिए चाहे वह सत्य हो या नहीं। यानी, मॉडल आपको एक गलत साल देना पसंद करेगा बजाय इसके कि यह स्वीकार करे कि इसे कोई विचार नहीं है (और हम सभी जानते हैं ऐसे लोग)। हालांकि, बॉट वास्तव में अच्छी वार्तालाप करते हैं जहां सत्य का स्रोत मॉडल के ठीक पास होता है: एक दस्तावेज़ का सारांश करना जो आप प्रदान करते हैं, आपकी दस्तावेजों के संग्रह में जानकारी प्राप्त करना, टेक्स्ट का अनुवाद करना, और एक क्युरेटेड ज्ञान आधारित प्रश्नों का उत्तर देना, स्रोतों के साथ।
सुवाली के पीछे की दृष्टिकोण जिसे हम मीदान में बना रहे हैं, वह एक लाइब्रेरी की है। एक साधारण चैटबॉट वह व्यक्ति है जिसने सब कुछ एक बार पढ़ा, सालों पहले, और अब याद से धाराप्रवाह और आत्मविश्वासपूर्ण जवाब देता है, लेकिन कभी-कभी आपको बताता है कि रयान गोसलिंग शिकागो के मेयर हैं। सुवाली को यह अनुमति नहीं है कि वह याद से जवाब दे – हम केवल उसके तर्क करने की शक्ति का उपयोग करते हैं। एक सवाल पूछा गया, इसे शेल्फ़ तक जाना है – एक ज्ञान ग्राफ जिसमें हमारे प्रदाताओं द्वारा कृपया तैयार सामग्री होती है – और वास्तविक किताबें उठाना है। जब मैं बच्चा था, हमारे पास हमेशा एक पुराना पुस्तकाध्यक्ष होता था जिसे यह पता होता था कि सबकुछ कहां है। मेरा चश्मा पढ़ने वाला और फूलों वाली पोशाक पहनता था, और अच्छे दिनों में, उसकी कार्डिगन पर एक असली फूल पिन होता था। और वह एक बड़ी महिला थी जो शेल्फ़ों के बीच बिना जल्दबाजी के गति से चलती थी, जब तक कि कोई सवाल उसका उत्साह नहीं बढ़ाता था, तब तक हर बच्चे को मात दे सकती थी। ऐसा लगता था कि उसने पूरे पुस्तकालय को अपने सिर में ले लिया था, लेकिन वह सिर से जवाब नहीं देती थी – वह अपने पैरों से जवाब देती थी। वह मुझे शेल्फ़ तक ले जाती, किताब खींचती, उसे पेज पर खोलकर दिखाती और बताती कि कैसे मेरी जीव विज्ञान निबंध को जल्दी से समाप्त करें। अगर पुस्तकालय के पास मेरी ज़रूरत की चीज़ नहीं थी, तो वह बस यह कह देती, बिना कोई बात बनाए कि शेर जेलीफिश की तरह मिलते हैं, और कोई भी प्रार्थना उसे एक दूसरी मंजिल का आविष्कार करने के लिए नहीं उकसा सकती थी जो वहां नहीं थी।
सुवाली मेरी बचपन की पुस्तकाध्यक्ष है जो पुस्तकों को वैसे ही ढूंढती है जैसे वह करती थी, कैटेलॉग से और यह जानकर कि किताब किस बारे में है – पूर्ण-पाठ और अर्थ विवरण मिलाकर – जैसा कि इसे केवल सामने पढे जा रहे पन्नों से ही उत्तर देना होता है। हर स्रोत जिसे सुवाली उद्धृत करती है उसे उन दस्तावेज़ों से मिलाया जाता है जिन्हें उसने वास्तव में खींचा, इसलिए ऐसी किताब का उद्धरण देना जो आपके पुस्तकालय में नहीं है, संरचनात्मक रूप से असंभव है। लेकिन हमें अभी भी बॉट के प्रबल आत्मविश्वास से लड़ना है, इसलिए जब तक जवाब आपके पास नहीं पहुंचे, हमारे पास अतिरिक्त पुस्तकाध्यक्षों की टीम है – या न्यायाधीशों के रूप में एलएलएम – जिनका पूरा काम पिछले एक की जाँच करना है। सिस्टम फिर से शेल्फ तक जाता है एक फिर से कथित सवाल के साथ, शायद यहां तक कि एक काल्पनिक उत्तर के साथ जिसे प्रमाणित किया जाना है, या बस यह देखने के लिए कि आखिरकार यह जैविकी के बारे में है या नहीं। कुछ सवाल ऐसे होते हैं जिनका शेल्फ़ में कोई स्थान नहीं होता, और उन लोगों के लिए, यह आपको सामने के डेस्क तक लेकर जाता है, जहां एक इंसान कार्यरत होता है। और क्योंकि गलत जानकारी कभी भी अंग्रेजी अनुवाद के लिए शिष्टता से प्रतीक्षा नहीं करती, हमारी शेल्फ़ें शुरू से ही बहुभाषीय हैं, अरबी से हिंदी तक।
इन सभी उपायों से, निश्चित रूप से, भ्रांतियां असंभव नहीं होतीं, लेकिन वे अनुपातिक और जिम्मेदार होती हैं। लेकिन मेरे बचपन ने मुझे दो छवियों दीं, और केवल एक झूठी थी। दूसरी ने फूलों को पहन रखा था और अपने पैरों से जवाब दिया। वयस्कता के चारों ओर निर्माण करने के लिए क्या चुनना पड़ता है, मैंने पुस्तकाध्यक्ष को चुना।
