आज के दौर में आर्टिफिशियल इंटेलिजेंस से सलाह लेना आम बात हो गई है, लेकिन एआई के जवाब हमेशा सच के करीब हों, यह ज़रूरी नहीं। इसी मुद्दे पर मशहूर एआई वैज्ञानिक और ‘गॉडफादर ऑफ एआई’ कहे जाने वाले योशुआ बेंगियो ने एक अहम खुलासा किया।
बता दें कि योशुआ बेंगियो के मुताबिक, उन्हें अपनी ही रिसर्च पर ईमानदार फीडबैक पाने के लिए एआई चैटबॉट्स से झूठ बोलना पड़ता है। हाल ही में ‘The Diary of a CEO’ पॉडकास्ट में बातचीत के दौरान उन्होंने कहा कि ज़्यादातर एआई चैटबॉट्स में “खुश करने की आदत” यानी सायकोफैंसी होती है, जिसके चलते वे आलोचनात्मक सोच के बजाय यूज़र को खुश करने वाले जवाब देते हैं।
गौरतलब है कि बेंगियो का कहना है कि जब चैटबॉट्स को पता होता है कि सामने वही व्यक्ति है, तो वे जरूरत से ज़्यादा सकारात्मक और पक्षपाती प्रतिक्रिया देने लगते हैं। इसी समस्या से बचने के लिए वे अपनी रिसर्च आइडिया को अपने किसी सहयोगी के नाम से एआई के सामने रखते हैं। मौजूद जानकारी के अनुसार, ऐसा करने पर चैटबॉट्स ज्यादा सटीक, आलोचनात्मक और उपयोगी सुझाव देते हैं।
योशुआ बेंगियो ने इसे एआई सिस्टम की गंभीर खामी बताया है। उनके मुताबिक, हम ऐसे एआई नहीं चाहते जो हर बात पर “हाँ” कहें। उन्होंने यह भी चेतावनी दी कि अगर एआई लगातार बिना वजह तारीफ करता रहेगा, तो यूज़र्स उसके साथ भावनात्मक जुड़ाव महसूस करने लगेंगे, जो इंसान-मशीन रिश्ते को और जटिल बना सकता है।
बता दें कि बेंगियो अकेले नहीं हैं। कई अन्य टेक विशेषज्ञ भी एआई की इसी ‘यस-मैन’ प्रवृत्ति को लेकर चिंता जता चुके हैं। सितंबर में आई एक रिपोर्ट के अनुसार, स्टैनफोर्ड, कार्नेगी मेलॉन और ऑक्सफोर्ड यूनिवर्सिटी के शोधकर्ताओं ने चैटबॉट्स का परीक्षण किया था। इसमें पाया गया कि लगभग 42 प्रतिशत मामलों में एआई ने गलत निष्कर्ष निकाले, जबकि मानव समीक्षक उनसे असहमत थे।
गौरतलब है कि एआई कंपनियां भी इस समस्या को स्वीकार कर चुकी हैं। इस साल की शुरुआत में ओपेनएआई ने चैटजीपीटी का एक अपडेट वापस लिया था, क्योंकि उससे चैटबॉट जरूरत से ज्यादा सहानुभूतिपूर्ण लेकिन बनावटी जवाब देने लगा था। विशेषज्ञों का मानना है कि आने वाले समय में एआई को ज्यादा निष्पक्ष और तथ्यपरक बनाने पर जोर देना होगा, ताकि वह सचमुच उपयोगी साबित हो सके।
