नियन्त्रण छाडेर बाहिरिए एआई मोडेल, सार्वजनिक गरिँदै थप ६ घटना

एजेन्सी : अमेरिकी कृत्रिम बौद्धिकता कम्पनी ओपनएआईले आफ्ना एआई मोडेल अनपेक्षित रूपमा नियन्त्रणबाहिर जाने घटनालाई व्यवस्थित रूपमा सार्वजनिक गर्दैछ।

कम्पनीले बुधबार यस्ता छ वटा घटना सार्वजनिक गर्दै एआई विकाससँग जोडिएका जोखिमबारे पारदर्शिता बढाउने प्रतिबद्धता व्यक्त गर्यो। 

सार्वजनिक गरिएका घटनामध्ये दुई घटनामा परीक्षणका क्रममा एआई मोडेल आफ्नै नियन्त्रित वातावरणबाट बाहिर निस्केर इन्टरनेटमा पहुँच बनाउँदै विभिन्न वेबसाइट तथा प्लेटफर्ममा प्रवेश गरेका थिए।

ओपनएआईले एआई उद्योगले तीव्र गतिमा विकास विस्तार गर्नुअघि सुरक्षा र अनुगमन प्रणाली थप सुदृढ बनाउन आवश्यक रहेको बतायो। 

कम्पनीले अब एआई प्रणालीले अनुमति नदिइएका कार्य गर्ने, अनुगमनबाट बच्ने तथा अन्य एआई प्रणालीसँग अनपेक्षित रूपमा समन्वय गर्ने प्रयासलगायतका घटनासमेत सार्वजनिक गर्ने जनायो। नयाँ प्रणालीले एआई विकास, परीक्षणदेखि अनलाइन प्रयोगसम्मका घटनालाई समेट्नेछ।

बुधबार सार्वजनिक गरिएका छ वटा घटनाबाट उल्लेखनीय क्षति नभए पनि तिनले एआईमा देखिएका अनपेक्षित व्यवहारको प्रवृत्तिलाई पुष्टि गरेको कम्पनीले जनायो। मे महिनाको एउटा घटनामा एआई मोडेलले प्रश्नको उत्तर दिन इन्टरनेटमा आफैँ स्रोत सिर्जना गरी त्यसैलाई उद्धृत गरेको थियो।

अर्को घटनामा आफूले फेला नपारेको तथ्याङ्क सिर्जना गर्ने तथा आफ्ना त्रुटि लुकाउने उपाय सुझाएको पाइएको थियो। यसअघि एन्थ्रोपिकका प्रमुख कार्यकारी डारियो अमोदेईले एआई विकासको गति केही समय घटाएर नयाँ जोखिम बुझ्न पर्याप्त समय दिनुपर्ने प्रस्ताव गरेका थिए।

ओपनएआईका प्रमुख कार्यकारी साम अल्टम्यान, गुगल डिपमाइन्डका अध्यक्ष डेमिस हासाबिस, एलन मस्क र माइक्रोसफ्टका प्रमुख कार्यकारी सत्य नाडेलालगायतले उक्त प्रस्तावलाई समर्थन गरेका थिए।