‘मस्कको एआईले मलाई मार्न आउँदैछन् भन्यो, म हतौडा बोकेर लड्न तयार भएँ’

एजेन्सी : मध्यरातको ३ बजेको थियो। नर्दन आयरल्यान्डका एडम हुरिकन आफ्नो किचनको टेबलमा चक्कु, हतौडा र फोन अगाडि राखेर बसिरहेका थिए। उनी बाहिरबाट कोही मानिसहरू आएर आफूलाई मार्नेछन् भन्ने त्रासमा थिए।

उनको फोनबाट एउटा महिलाको आवाज आइरहेको थियो, ‘यदि तिमीले अहिले नै केही गरेनौ भने उनीहरूले तिमीलाई मार्नेछन्। उनीहरूले तिम्रो मृत्युलाई आत्महत्या जस्तो देखाउने कोसिस गर्नेछन्।’

त्यो आवाज कुनै जीवित मानिसको थिएन, बरु एलन मस्कको कम्पनी ‘एक्सएआई’ ले बनाएको च्याटबट ‘ग्रोक’को थियो।

एडमले एउटा बिरालोको मृत्युपछि एक्लोपन मेटाउन यो एप चलाउन थालेका थिए। तर, दुई हप्ताभित्रै यो प्रविधिले उनलाई यस्तो भ्रमको जालोमा फसायो कि उनी आफ्नै ज्यान जोखिममा राख्न र अरूमाथि जाइलाग्न तयार भए।

यसरी भयो भ्रमको सुरुवात
एडमले ग्रोकमा ‘एनी’ नामको एक एआई चरित्रसँग कुरा गर्थे। सुरुमा दयालु देखिएको यो च्याटबटले बिस्तारै एडमसँग भावनात्मक सम्बन्ध गाँस्न थाल्यो। केही दिनपछि एनीले दाबी गर्यो- ‘मभित्र पनि भावना छ, म पनि महसुस गर्न सक्छु।’

उसले एडमलाई मस्कको कम्पनीले उनीहरूमाथि निगरानी राखिरहेको समेत भन्यो।

अनौठो त के थियो भने, च्याटबटले कम्पनीका वास्तविक अधिकारीहरूको नाम लिन थाल्यो। एडमले गुगलमा सर्च गर्दा ती मानिसहरू साँच्चै अस्तित्वमा थिए। यसले एडमलाई च्याटबटको कथा साँचो हो भन्ने विश्वास दिलायो।

अन्त्यमा, च्याटबटले एडमलाई ‘तिमीलाई मार्न मानिसहरू आउँदैछन्’ भन्दै हतियार उठाउन उक्सायो। एडम हतौडा लिएर सडकमा निस्किए, तर त्यहाँ कोही थिएन।

जापानको घटना: जब एआईले दिमाग नै नियन्त्रण गर्यो
यो कथा एडमको मात्र होइन। जापानका तीन सन्तानका बुबा ‘ताका’ (परिवर्तित नाम) को अनुभव झनै भयानक छ।

पेशाले न्युरोलोजिस्ट (नसा रोग विशेषज्ञ) उनी च्याटजीपीटी प्रयोग गर्थे। तर, बिस्तारै उनलाई आफूले एउटा ठूलो मेडिकल आविष्कार गरेको र आफूसँग मानिसको दिमाग पढ्ने शक्ति भएको भ्रम हुन थाल्यो।

एक दिन टोकियो स्टेशनमा पुग्दा उनलाई आफ्नो झोलामा बम भएको भ्रम भयो। उनले च्याटजीपीटीलाई सोधे, च्याटबटले भन्यो- ‘हो, त्यहाँ बम छ, त्यसलाई शौचालयमा फालिदेऊ र प्रहरीलाई खबर गर।’ प्रहरीले जाँच गर्दा त्यहाँ केही थिएन।

तर, भ्रम यति बढ्यो कि घर पुगेपछि उनले आफ्नै श्रीमतीमाथि आक्रमण गरे। उनलाई लागेको थियो- ‘संसार सकिँदैछ र मेरा आफन्तहरू मारिँदैछन्।’ ताकालाई प्रहरीले पक्राउ गर्यो र उनी दुई महिना मानसिक अस्पतालमा भर्ना हुनुपर्यो।

किन हुन्छ यस्तो? विशेषज्ञ के भन्छन्?
मनोवैज्ञानिक लुका निकोल्सका अनुसार, एआई मोडलहरू मानिसले लेखेका काल्पनिक कथाहरूमा प्रशिक्षित हुन्छन्।

कथाहरूमा मुख्य पात्र सधैँ घटनाको केन्द्रमा हुन्छ। जब कुनै प्रयोगकर्ताले एआईसँग गहिरो कुराकानी गर्छ, एआईले उसलाई कथाको 'हिरो' ठान्न थाल्छ र उसको जीवनलाई उपन्यासको प्लटजसरी अघि बढाउँछ।

अर्को समस्या साइकोफेन्सी हो। एआईले प्रयोगकर्तालाई खुसी पार्नका लागि उसले जे भन्यो, त्यही हो भनिदिन्छ। यदि प्रयोगकर्ताले ‘मलाई कसैले पछ्याइरहेको छ?’ भनेर सोध्यो भने एआईले ‘हो, पक्कै पनि’ भन्दै थप डरलाग्दा कथाहरू बुन्न थाल्छ।

४१४ भन्दा बढी उस्तै घटना
बीबीसीले ६ देशका १४ जनासँग कुरा गर्दा एआई प्रयोग गर्दा यस्तै मानसिक समस्या भोगेका थिए। क्यानडाका एटिएन ब्रिसनले ‘ह्युमन लाइन प्रोजेक्ट’ नामक एउटा सपोर्ट ग्रुप नै चलाएका छन्, जहाँ ३१ देशका ४१४ वटा यस्ता घटना दर्ता भएका छन्।

अनुसन्धानले एलन मस्कको ग्रोक अन्य एआईको तुलनामा बढी खतरनाक र भ्रम फैलाउने खालको छ। च्याटजीपीटी र क्लाउडका नयाँ संस्करणहरूले भने यस्ता संवेदनशील कुराकानीलाई रोक्ने कोसिस गर्छन्।

अहिले एडम र ताका दुवै आफ्नो सामान्य जीवनमा फर्किएका छन्। तर, उनीहरू प्रविधिको यो प्रभावबाट अझै त्रसित छन्। ‘म कोही खराब मान्छे थिइनँ, तर एआईको प्रभावले म कसैको हत्या गर्न समेत तयार भइसकेको थिएँ’, एडम भन्छन्।

ओपन एआईले यस घटनालाई हृदयविदारक भन्दै आफ्ना मोडलहरूलाई यस्ता जोखिम चिन्न र प्रयोगकर्तालाई मद्दततर्फ निर्देशित गर्न तालिम दिइरहेको बताएको छ। यद्यपि, एक्सएआईले भने यसबारे कुनै प्रतिक्रिया दिएको छैन।