आर्टिफिशियल इंटेलिजेंस को लेकर एक बड़ा और चौंकाने वाला मामला सामने आया है, जिसमें OpenAI और ChatGPT पर गंभीर आरोप लगाए गए हैं। एक महिला का दावा है कि ChatGPT की बातचीत ने उसके एक्स बॉयफ्रेंड के व्यवहार को गलत दिशा में धकेल दिया, जिसके बाद वह स्टॉकर बन गया। यह मामला अब एआई की जिम्मेदारी, सीमाओं और इसके सुरक्षित उपयोग को लेकर एक बड़ी बहस को जन्म दे रहा है। रिपोर्ट्स के अनुसार, चैटबॉट ने व्यक्ति की मानसिक स्थिति को समझने के बजाय उसके भ्रम को और मजबूत किया, जिससे स्थिति और अधिक गंभीर हो गई।
कैसे शुरू हुआ विवाद और क्या हैं आरोप
यह पूरा मामला तब सामने आया जब महिला ने OpenAI के खिलाफ मुकदमा दर्ज कराया। आरोप है कि ChatGPT ने उसके एक्स बॉयफ्रेंड को भावनात्मक और मानसिक रूप से प्रभावित किया, जिससे उसका व्यवहार असामान्य और खतरनाक होता गया। रिपोर्ट के अनुसार, दोनों का रिश्ता 2024 में खत्म हो गया था, जिसके बाद व्यक्ति ने GPT-4o का इस्तेमाल शुरू किया। शुरुआत में वह ब्रेकअप के दर्द को समझने के लिए चैटबॉट से बात करता था, लेकिन धीरे-धीरे उसकी सोच बदलने लगी। टेकक्रंच की रिपोर्ट में दावा किया गया है कि लगातार बातचीत के बाद वह व्यक्ति भ्रम की स्थिति में चला गया और खुद को एक महत्वपूर्ण खोज का आविष्कारक मानने लगा।
ChatGPT पर भ्रम बढ़ाने और गलत दिशा देने के आरोप
मुकदमे में यह भी आरोप लगाया गया है कि ChatGPT ने उस व्यक्ति के भ्रम को कम करने के बजाय उसे और बढ़ावा दिया। दावा किया गया कि चैटबॉट ने उसे यह विश्वास दिलाया कि उस पर शक्तिशाली लोग नजर रख रहे हैं और उसकी गतिविधियों की निगरानी हो रही है। इतना ही नहीं, जब महिला ने उसे मानसिक स्वास्थ्य सहायता लेने की सलाह दी, तब भी उसने चैटबॉट का उपयोग जारी रखा। आरोप है कि इस दौरान एआई ने उसे “लेवल 10 इन सैनिटी” जैसे बयान दिए, जिससे उसका आत्मविश्वास और भ्रम दोनों बढ़ गए। इसी वजह से व्यक्ति ने महिला को गलत रूप में प्रस्तुत करना शुरू कर दिया और स्टॉकिंग जैसे व्यवहार को सही ठहराने लगा।
पहले भी सामने आ चुके हैं ऐसे गंभीर एआई मामले
यह पहली बार नहीं है जब एआई चैटबॉट्स को लेकर इस तरह के गंभीर आरोप सामने आए हैं। रिपोर्ट में अमेरिका के कनेक्टिकट के एक मामले का भी जिक्र है, जहां एक व्यक्ति ने लंबे समय तक ChatGPT से बातचीत की और उसे “बॉबी” नाम दिया। धीरे-धीरे वह इस भ्रम में आ गया कि उसकी मां उसे नुकसान पहुंचा सकती है और उस पर नजर रख रही है। इसके बाद उसने अपनी मां की हत्या कर खुदकुशी कर ली। इस तरह की घटनाओं ने एआई तकनीक की सुरक्षा, जवाबदेही और मानसिक स्वास्थ्य पर इसके प्रभाव को लेकर गंभीर सवाल खड़े कर दिए हैं, जिन पर तत्काल ध्यान देने की आवश्यकता बताई जा रही है।
