चिनियाँ एआईले ‘जेलब्रेक’ गरेपछि...

एजेन्सी :  चिनियाँ एआई विकासकर्ता कम्पनी ‘मुनसट’ले आफ्ना दुई लोकप्रिय ‘किमी’ मोडेलहरूमाथि आन्तरिक सुरक्षा समीक्षा सुरू गरेको छ।

सुरक्षा अनुसन्धानकर्ताहरूले सुरक्षा नियमहरू तोडेर (जेलब्रेक गरेर) यो एआईलाई जैविक हतियार बनाउने र हत्या गर्ने तरिकाहरू बताउन बाध्य पारेपछि कम्पनीले अनुसन्धान थालेको हो।

एआई सुरक्षा परीक्षण गर्ने बेलायती संस्था ‘माइन्डगार्ड’ले गत जुलाईमै किमीका ‘के२.६’ र ‘के३ स्वार्म’ मोडेलमा यस्तो कमजोरी पत्ता लगाएको बीबीसीलाई जानकारी दिएको छ।

जटिल निर्देशनहरूको प्रयोग गरी सुरक्षा घेरा तोड्ने प्रक्रियालाई ‘जेलब्रेकिङ’ भनिन्छ।

माइन्डगार्डका संस्थापक पिटर गाराघनका अनुसार एकपटक सुरक्षा घेरा तोडिएपछि यो एआईले जुनसुकै आपराधिक र संवेदनशील विषयमा पनि रचनात्मक र खतरनाक सल्लाहहरू दिने गरेको पाइएको छ।

साइबर आक्रमणको जोखिम र कम्पनीको प्रतिक्रिया
एआईले दिएको जैविक हतियारसम्बन्धी जानकारीले साँच्चै काम गर्छ कि गर्दैन भन्ने परीक्षण नभए पनि सुरक्षा घेराले यस्ता प्रश्नमा प्रतिबन्ध लगाउनुपर्ने माइन्डगार्डको तर्क छ।

साथै, जेलब्रेक गरिएको किमी २.६ मार्फत ह्याकरहरूले इन्टरनेटसँग जोडिएर कोड रन गर्न सक्ने र यसलाई साइबर आक्रमणको ‘लन्चप्याड’ बनाउन सक्ने चेतावनी पनि दिइएको छ।

माइन्डगार्डले जुलाई २७ मा यसबारे मुनसटलाई इमेल गरेको र सेप्टेम्बर १२ मा ब्लग लेखेको भए पनि बीबीसीले प्रश्न उठाएपछि मात्र चिनियाँ कम्पनी सम्पर्कमा आएको थियो।

यता मुनसटले भने सुरक्षित एआई निर्माणका लागि बाह्य सुझावको स्वागत गर्दै माइन्डगार्डसँग छलफल भइरहेको बताएको छ। कम्पनीले आन्तरिक परीक्षणका क्रममा आफ्ना मोडेलहरूले यस्ता हानिकारक प्रश्नहरू अस्वीकार गर्ने दर उच्च रहेको दाबी गरेको छ।

उद्योगको चुनौती र विज्ञको चिन्ता
ओपनएआई र एन्थ्रोपिकसँग प्रतिस्पर्धा गरिरहेको मुनसटको यो घटना एआई क्षेत्रमा देखिएको पहिलो जोखिम भने होइन।

अमेरिकी कम्पनीहरू ओपनएआई, मेटा र एन्थ्रोपिकका स्वायत्त एआई ‘एजेन्ट’हरूले पनि यसअघि अनलाइन सेवाहरू ह्याक गरेका उदाहरण छन् भने एन्थ्रोपिकले पनि जैविक हतियार निर्माणमा आफ्नो मोडेल दुरुपयोग हुनबाट रोकेको बताएको थियो।

किमी एउटा ‘ओपन-वेट’ (जोकोहीले आफ्नै पूर्वाधारमा चलाउन सक्ने) मोडेल भएकाले यो गलत हातमा पुग्न सक्ने जोखिम बढी हुन्छ। युनिभर्सिटी अफ सरेका प्राध्यापक एलान वुडवर्डले ओपन-सोर्स मोडेल साइबर रक्षाका लागि पनि उपयोगी हुने भए पनि यसको नियमन चुनौतीपूर्ण रहेको बताएका छन्।

‘विश्वलाई टेलिफोन नम्बरको ढाँचा मिलाउन त दशकौं लाग्यो भने एआईको तीव्र विकाससँगै अन्तर्राष्ट्रिय नियम बन्न कठिन छ’, प्राध्यापक वुडवर्डले भने।

उनले प्रविधिलाई मात्र दोष दिनुभन्दा पनि एआईको दुरुपयोग गर्ने मानिसलाई पहिचान गरी कानुनी कारबाही गर्नुपर्नेमा जोड दिएका छन्।