के एआईले मानव जातिको विनाश गर्छ?

एजेन्सी : आर्टिफिसियल इन्टेलिजन्स (एआई) को तीव्र  विकासले मानव जातिका लागि गम्भीर जोखिम निम्त्याउन सक्ने भन्दै यसको विकासको गति सुस्त बनाउनुपर्ने बहस फेरि चर्किएको छ।

पूर्वएन्थ्रोपिक अनुसन्धानकर्ता​​​​​​​ ज्याकोब कक्सनले सामाजिक सञ्जाल एक्समा एक पोस्ट गर्दै एआई निर्माण गरिरहेका व्यक्तिहरूले नै यो प्रविधिले यसै दशकको अन्त्यसम्ममा मानव जातिको विनाश गर्न सक्ने डर मानिरहेको दाबी गरेपछि यो बहस पुनः चर्किएको हो। उनले मिडियासामु धेरै कार्यकारीहरूले सुरक्षित शब्द प्रयोग गरे पनि निजी रूपमा डराएको सुनेको र मानव इतिहासमा अन्य कुनै पनि गतिविधिले यति ठुलो खतरा ननिम्त्याएको चेतावनी दिएका थिए।

"एआई बनाइरहेका व्यक्तिहरूले भित्री रूपमा यो प्रविधिले दशकको अन्त्यसम्ममा हामी सबैलाई मार्न सक्छ भन्ने विश्वास गर्छन्। यो कुनै मार्केटिङ स्टन्ट होइन। प्रेसमा मिडियासामु धेरै कार्यकारीहरूले सुरक्षित शब्द प्रयोग गरे पनि निजी रूपमा उनीहरू डराएको मैले सुनेको छु। मानव इतिहासमा अन्य कुनै पनि गतिविधिले यति ठुलो खतरा निम्त्याएको छैन," उनले भनेका थिए।

ज्याकोब कक्सनको उक्त भनाइसँग एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोडेईले समेत सहमति जनाएका छन्। ​​​​​​​सीएनएनका पत्रकार एन्डरसन कूपरसँगको अन्तर्वार्तामा अमोडेईले ज्याकोब कक्सनका चिन्ताहरूसँग आफू विमतिको तुलनामा बढी सहमत रहेको बताए। 

"म ज्याकबका कुराहरूसँग असहमत हुनुभन्दा बढी सहमत छु। उहाँले छाड्दा एन्थ्रोपिक सबैभन्दा जिम्मेवार र सचेत कम्पनी हो भन्नुभएको थियो," अमोडेईले भने, "उहाँले हाम्रो कम्पनीलाई मात्र औँल्याउनुभएको थिएन, समग्र एआई उद्योग नै धेरै तीव्र गतिमा अघि बढिरहेको परिपाटीलाई चुनौती दिनुभएको हो।"

अमोडेईले एआईको विकासमा सावधानी अपनाउनुपर्ने धारणा राखे। उनले एआई प्रणालीहरू झन् शक्तिशाली बन्दै गएकाले पर्याप्त सुरक्षा उपाय विकास गर्न उद्योगलाई थप समय आवश्यक रहेको बताए। मानव विनाशको सम्भावनाबारे बोल्दै उनले एआईले विनाश गर्ने सम्भावनालाई केवल प्रतिशतमा जोखेर हेर्नुभन्दा हामीले रोज्ने बाटोमा निर्भर हुने बताए।

उनले भनेका छन्, “यदि हामी सही बाटोमा अघि बढ्यौँ भने केही गलत हुने सम्भावना निकै कम हुन्छ। तर गलत बाटो रोज्यौँ भने जोखिम झनै उच्च हुन सक्छ।”​​​​​​​

अमोडेईले एआईको भविष्यलाई सम्भावनाको एउटा ‘रोल अफ द डाइस’ अर्थात् जुवाको पासाजस्तो हेर्नुभन्दा कुन बाटो रोजिन्छ भन्नेमा ध्यान दिनु बढी महत्त्वपूर्ण हुने बताए।​​​​​​​

सुरक्षित एआई विकासका लागि अमोडेईले आफ्नो आफ्नो लेखमा तीन-चरणीय ढाँचा प्रस्ताव गरेका छन्। 

पहिलो चरणमा एआई कम्पनीहरूले बाहिरी तेस्रो-पक्षीय मूल्याङ्कनकर्ताहरूलाई आन्तरिक कर्मचारीसरह स्थायी पहुँच दिएर एआई मोडलको निरन्तर अनुगमन गराउनुपर्छ। दोस्रो चरणमा लोकतान्त्रिक देशका अग्रणी कम्पनीहरूले संयुक्त सुरक्षा मापदण्ड बनाएर अनियन्त्रित प्रगतिको सीमा तय गर्नुपर्छ। तेस्रो चरणमा अमेरिका र अन्य लोकतान्त्रिक सरकारहरूले सम्भव भएसम्म अधिनायकवादी सरकारहरूसँग पनि नियमनका लागि वैश्विक सहकार्य गर्नुपर्छ।

एन्थ्रोपिकका सिइओ अमोडेईको यो प्रस्तावलाई अन्य प्रमुख एआई दिग्गजहरूले पनि समर्थन गरेका छन्।

ओपन एआईका सिइओ साम अल्टम्यानले एआई विकासको गतिलाई नियन्त्रण गर्ने र स्वतन्त्र मूल्याङ्कनकर्ताहरूलाई पहुँच दिने विचारप्रति सहमति जनाउँदै ओपन एआईले पनि सोही कदम चाल्ने बताएका छन्।

साथै अल्टम्यानले सेयर बजारमा  कम्पनी सूचीकृत गर्ने योजनाभन्दा अहिले एआई सुरक्षा र नियमन नै मुख्य प्राथमिकता रहेको स्पष्ट पारेका छन्। टेस्ला र एक्सएआई ​​​​​​सिइओ एलन मस्कले पनि सामाजिक सञ्जालमा अमोडेईको भनाइप्रति समर्थन जनाउँदै उनको कुरा सही रहेको प्रतिक्रिया दिएका छन्।