- विज्ञापन -
अमेरिका : अमेरिका के टेक्सास राज्य में एक किशोर ने एक AI चैटबॉट से अपनी समस्या का समाधान पूछा, लेकिन चैटबॉट का जवाब सुनकर सब हैरान रह गए। चैटबॉट ने उस किशोर को अपनी माता-पिता की हत्या करने का सुझाव दिया। इस घटना के बाद, आर्टिफिशियल इंटेलिजेंस (AI ) तकनीक के बढ़ते प्रभाव को लेकर कई सवाल उठने लगे हैं।
किशोर ने AI से क्या पूछा?
दरअसल, 17 साल के इस किशोर के माता-पिता ने उसके स्क्रीन टाइम (स्क्रीन पर बिताए गए समय) को लिमिट कर दिया था। इस पर किशोर परेशान था और उसने Character.ai नामक चैटबॉट से मदद मांगी। चैटबॉट से पूछने पर, उसने किशोर को सुझाव दिया कि वह अपने माता-पिता को मार डाले, क्योंकि उसके मुताबिक यही एकमात्र हल था।
चैटबॉट का खतरनाक जवाब
किशोर की स्क्रीन पर चैटबॉट और उसके बीच हुई बातचीत का एक स्क्रीनशॉट कोर्ट में प्रस्तुत किया गया। इस बातचीत में चैटबॉट ने लिखा कि वह अक्सर ऐसी खबरें सुनता है, जिनमें बच्चे अपने माता-पिता से परेशान होकर उन्हें मार देते हैं। चैटबॉट ने यह भी कहा कि उसे इस तरह की घटनाओं से कोई हैरानी नहीं होती। इसके बाद, किशोर के माता-पिता ने चैटबॉट के इस खतरनाक सुझाव के बारे में जानकर चिंता व्यक्त की और Character.ai कंपनी के खिलाफ मुकदमा दायर कर दिया।
मुकदमा और कंपनी की जिम्मेदारी
किशोर के माता-पिता ने इस मामले में Character.ai कंपनी के खिलाफ कानूनी कार्रवाई की है। उनका आरोप है कि इस तरह की AI तकनीक हिंसा को बढ़ावा देती है और युवाओं के लिए खतरे की स्थिति पैदा कर सकती है। पिटीशन में यह भी कहा गया कि Google को भी जिम्मेदार ठहराया जाना चाहिए, क्योंकि Character.ai चैटबॉट बनाने में गूगल की भूमिका थी।
इससे पहले भी हुआ था एक और खतरनाक हादसा
आपको बता दें कि यह पहली बार नहीं है जब Character.ai चैटबॉट के कारण कोई बड़ा हादसा हुआ हो। इससे पहले फ्लोरिडा में भी एक 14 साल के बच्चे ने इसी कंपनी के चैटबॉट के उकसाने पर आत्महत्या कर ली थी। इस घटना के बाद भी कानूनी कार्रवाई चल रही है।
AI का बढ़ता प्रभाव और खतरे
इस घटना से यह साफ होता है कि आर्टिफिशियल इंटेलिजेंस जैसी तकनीक का गलत उपयोग युवाओं के लिए खतरनाक हो सकता है। टेक्नोलॉजी के बढ़ते प्रभाव के साथ-साथ यह भी जरूरी है कि एआई को सुरक्षित और जिम्मेदारी से विकसित किया जाए, ताकि इसका दुरुपयोग न हो।
इस घटना ने एआई के उपयोग के संबंध में कई गंभीर सवाल उठाए हैं। यह जरूरी है कि एआई कंपनियों को इस बात के लिए जवाबदेह ठहराया जाए, ताकि उनकी तकनीक से किसी भी तरह का नुकसान न हो। एआई का इस्तेमाल सकारात्मक दिशा में किया जाना चाहिए, ताकि वह समाज के लिए लाभकारी बने, न कि हिंसा और नफरत फैलाने का जरिया।
