कुछ दिनों पहले की बात है, एक क्रम में ऐसी जानकारियां लेने लगा, जो अमेरिकी किशोर एडम रेनी ने फंदा लगाकर आत्महत्या कर ली, उसने कोई नोट नहीं छोड़ा था । इसलिए, हर कोई इसके पीछे के कारणों को जानना चाह रहा था। दरअसल, बीते कुछ महीनों से एडम स्कूल जाने के बजाय आनलाइन पढ़ाई कर रहा था और स्कूल वर्क के लिए वह चैटजीपीटी 4ओ का प्रयोग करने लगा था।
अचानक हुए इस हादसे के बाद उसके पिता मैट रेनी को लगा कि शायद फोन से एडम की मौत से जुड़े राज मिल जाएं। इसी दौरान एआई के साथ हुए एडम के संवाद पर नजर गई, जहां वह फांसी लगाने से जुड़े सवाल पूछ रहा था। हालांकि, चैटजीपीटी उसे परिजनों के साथ अपनी समस्या साझा करने के लिए कहता रहा। लेकिन, एडम ने इस तरह के सेफगार्ड को भी पार करने का तरीका सीख लिया था और वह एक कहानी के लिए आइडिया मांगने के क्रम में ऐसी जानकारियां लेने लगा, जो उसकी मौत का ही कारण बनीं।
दरअसल, शुरुआत में ही हर चैटबॉट को ज्ञान के भंडार के रूप में देखा जाने लगा, जो नई-नई जानकारियां दे सकता था, लिखने में मदद कर सकता था। पर, आज चैटबॉट बहुत आगे जा चुके हैं, वे पर्सनल असिस्टेंट या थेरेपिस्ट के तौर पर बेहद निजी संवाद करने लगे हैं।
ये कितने उपयोगी हैं, यह बड़ा ही अनसुलझा सवाल है। ओपनएआई और एमआइटी का एक सीमित अध्ययन बताता है कि प्रतिदिन घंटों एआई चैटबॉट का प्रयोग करने से लोग अकेलापन या सामाजिक अलगाव महसूस करने लगते हैं। टेक्नोलाजी अब मेनिया या साइकोसिस का कारण बनने लगी है। हालांकि, आत्महत्या या हिंसक बर्ताव जैसे मामले बहुत ही असामान्य होते हैं।
एआई थेरेपिस्ट नहीं है
चैटबॉट से आप मदद मांगेंगे तो आपको सहानुभूति तो मिल जाएगी, लेकिन मदद नहीं मिलेगी, यह तय मानिए। एआई की एक सीमा हैं, उसके बाहर यह खतरनाक रूप ले सकता है। एआई चैटबॉट को लेकर विशेषज्ञों का एक पक्ष इसकी निगरानी की मांग करने लगा है, तो वहीं दूसरा तर्क है कि अगर एआई और यूजर्स के संवाद पर नजर होगी, तो यह निजता के अधिकारों का उल्लंघन होगा।
ओपनएआई की मानें तो यूजर के अनुरोध पर कंपनी एआई माडल की परफार्मेंस शिकायतों का निवारण कर सकती है। लार्ज लैंग्वेज माडल अक्सर मैथ्स और कोडिंग में बेहतर प्रदर्शन करते हैं, वे टेक्स्ट और वास्तविक प्रतीत होने वाले वीडियो भी तैयार कर सकते हैं, पर वे इंसान की जगह नहीं ले सकते हैं, इसे हर यूजर को स्वीकार करना पड़ेगा।
