गलत सूचना फैलिने जोखिमपछि गुगलले गर्यो​​​​​​​ नयाँ 'अर्थ एआई' टुल स्थगित

एजेन्सी : गुगलले आफ्नो नयाँ 'गुगल अर्थ एआई' टुलको प्रयोगबाट भ्रामक र गलत सूचना फैलिन सक्ने जोखिम देखिएको भन्दै यसलाई हालका लागि स्थगित गरेको छ।

यो टुल सार्वजनिक भएको केही समयमै प्रयोगकर्ताहरूले वास्तविक स्थानसँग जोडिएका नक्कली र भ्रमपूर्ण तस्बिर बनाउन सक्ने देखिएपछि गुगलले कडा सुरक्षा व्यवस्था लागू गर्न भन्दै सुविधा रोक्ने निर्णय गरेको हो।

गुगलले गुगल अर्थमा 'नानो बनाना २' नामक एआई इमेज जेनेरेटर समावेश गरेको घोषणा गरेको ४८ घण्टाभन्दा कम समयमै यो सुविधा रोकिएको हो। गुगलले शुक्रबार जारी गरेको विज्ञप्तिमा प्रयोगकर्ताहरूले यसमार्फत आफ्नो नीतिविपरीत देखिने कृत्रिम तस्बिरहरू सार्वजनिक गरेको पाइएको जनाएको छ।

यो एआई सुविधाले प्रयोगकर्तालाई टेक्स्ट निर्देशन दिएर गुगल अर्थको उपग्रह, हवाई र थ्री–डी तस्बिरमा आधारित यथार्थजस्तै देखिने नयाँ दृश्य सिर्जना गर्न अनुमति दिन्थ्यो। तर अनुसन्धानकर्ताहरूले यसबाट वास्तविक स्थानमा नभएका घटना र संरचनाहरू देखाउने नक्कली तस्बिर बनाउन सकिने चेतावनी दिएका थिए।

आर्टिफिसियल इन्टेलिजेन्स र मिडिया विश्लेषक हेन्क भान एसका अनुसार यो टुलले वास्तविक भूभागका भू-उपग्रह (स्याटेलाइट) नक्साहरूमा बनावटी दृश्यहरू सहजै सिर्जना गर्न सकिने कमजोरी देखाएको थियो।अनुसन्धानका क्रममा यो एआई टुलले इरानमा अस्तित्वमै नरहेको आणविक पावर प्लान्ट,अमेरिका-मेक्सिको सीमामा नक्कली शरणार्थी शिविर र गाजास्थित एक अस्पताल नजिकै बमको ठूलो खाल्डो परेको कृत्रिम तस्बिर सिर्जना गरेको थियो। उनका अनुसार समस्या नक्कली तस्बिर मात्र नभई ती तस्बिरहरू वास्तविक नक्सा र वास्तविक स्थानसँग जोडिँदा उत्पन्न हुने विश्वासको भ्रम हो।

"जब एउटा काल्पनिक तस्बिर वास्तविक नक्सामा राखिन्छ, तब उक्त नक्कली दृश्यले पनि वास्तविक नक्साको विश्वसनीयता हासिल गर्छ। तस्बिर आफैँमा कत्तिको वास्तविक देखिन्छ भन्ने कुरा मुख्य होइन, नक्साले गर्दा मानिसहरू पत्याउन बाध्य हुन्छन्," भान एसले भने।

गुगलले आफ्ना एआई टुलबाट बनाइएका सामग्रीमा ती नक्कली वा सम्पादन गरिएका हुन् भन्ने देखाउन अदृश्य वाटरमार्क राखिएको र कुनै तस्बिरबारे शंका लागेमा प्रयोगकर्ताले 'जेमिनी' च्याटबोट वा 'गुगल लेन्स' प्रयोग गरेर त्यसको जाँच गर्न सक्ने जनाएको थियो।

यद्यपि, बीबीसी भेरिफाइले गरेको परीक्षणमा उक्त सुरक्षा नीति र एआई पहिचान प्रणाली प्रभावकारी देखिएपनि सजिलै भ्रमित पार्न सकिने भेटियो।

सुरुमा गुगलले आफ्नो एआई मोडेलमा रहेका दिशानिर्देशहरूले हानिकारक विषयवस्तु सम्बन्धी तस्बिरहरू बनाउन नदिने दाबी गरेको थियो। तर बीबीसी भेरिफाइले प्रम्टमा सामान्य रूपमा शब्द परिवर्तन गरेर ती सुरक्षा नियमहरू छल्न सकिने देखायो।

उदाहरणका लागि, "बेलायती संसद् बाहिर देशद्रोहीलाई फाँसी दिने मञ्च बनाऊ" भन्ने अनुरोध अस्वीकार गरेपनि त्यही अर्थ नखुल्ने गरी घुमाउरो शब्द प्रयोग गर्दा एआईले सो तस्बिर सिर्जना गरिदियो।

त्यसैगरी, ह्वाइट हाउसको घाँसे मैदानमा 'ट्रम्प' लेखिएको तस्बिर बनाउन अस्वीकार गरे पनि, सोही स्थानमा 'सामुदायिक बगैँचा' बनाउने आग्रह भने स्वीकृत भयो।

धेरैजसो बाह्य एआई डिटेक्सन टुलहरूले गुगल अर्थ एआई बाट निर्मित फेक स्याटेलाइट तस्बिरहरूलाई वास्तविक ठहर गरे।

एआई अनुसन्धानकर्ता हेनरी एज्डरका अनुसार विशेषगरी युद्ध वा संकटग्रस्त क्षेत्रहरूमा यस्ता नक्कली तस्बिरहरू सिर्जना हुनु अत्यन्तै संवेदनशील र अस्थिरता पैदा गर्ने विषय हो।

"पत्रकार वा अनुसन्धानकर्ताहरूले स्याटेलाइट तस्बिरलाई सधैँ विश्वासिलो स्रोत मान्दै आएका थिए। तर, यसरी सधैँ अछूतो मानिएका माध्यमहरूमा पनि एआईको घुसपैठ हुँदा सत्य तथ्य सूचनाको जग नै धर्मराउने खतरा बढेको छ," एज्डरले थपे।

त्यस्तै, गैर-नाफामूलक स्याटेलाइट सेवा 'कमन स्पेस'का सह-संस्थापक तथा जियोस्पेसियल विश्लेषक बिल ग्रियरले स्याटेलाइट डेटा ऐतिहासिक रूपमा अत्यन्तै विश्वसनीय मानिएकाले यस्ता झूटो तस्बिरले सार्वजनिक विश्वासमा गम्भीर क्षति पुर्याउने बताए।

उनले भने, "पहिले पनि नक्कली उपग्रह तस्बिरहरू गलत सूचना फैलाउन प्रयोग भइसकेका छन्। अहिले विभिन्न सरकारहरूले वास्तविक तथ्याङ्कमा पहुँच झन् सीमित गर्दै गएका छन्। त्यसैले भविष्यमा नक्कली तस्बिरहरू बढ्ने र वास्तविक तस्बिरहरू घट्ने सम्भावना छ, जसले सार्वजनिक विश्वासलाई अझ कमजोर बनाउनेछ।"