मेटाका प्लेटफर्ममा ‘एआई’ निर्मित बाल यौन दुर्व्यवहारका सयौँ विज्ञापन प्रसारण भएको खुलासा

एजेन्सी : सामाजिक सञ्जाल कम्पनी ‘मेटा’का प्लेटफर्महरू (फेसबुक र इन्स्टाग्राम) मा कृत्रिम बौद्धिकता (एआई) को प्रयोग गरी तयार पारिएका बाल यौन दुर्व्यवहारसम्बन्धी सयौँ विज्ञापन सशुल्क रूपमा प्रसारण भएको पाइएको छ।

अमेरिकास्थित प्रविधि अनुसन्धान संस्था ‘टेक ट्रान्सपरेन्सी प्रोजेक्ट’ (टीटीपी) ले मंगलबार सार्वजनिक गरेको एक प्रतिवेदन अनुसार, पछिल्लो १० महिनामा मेटाका प्लेटफर्ममा बाल यौन दुर्व्यवहार सामग्री (सीएसएएम) समेटिएका ३३२ वटा विज्ञापन प्रसारण भएका छन्। तीमध्ये अधिकांश (२७४ वटा) विज्ञापन गत अगस्ट महिनामा मात्रै चलेका थिए।

यसअघि बीबीसीले गरेको खोजमूलक अनुसन्धानपछि भारत सरकारले इन्स्टाग्रामलाई यस्ता सामग्री र विज्ञापन तुरुन्त हटाउन कडा निर्देशन दिएको थियो। तर, टीटीपीका अनुसार भारतमा प्रसारण भएका ८४ वटा विज्ञापनमध्ये ७८ वटा त सरकारी निर्देशन र मेटाका उच्च अधिकारीहरूसँगको वार्तापछि मात्रै पोस्ट गरिएका थिए।

वास्तविक बालबालिकाको तस्बिरलाई एआईमार्फत तोडमरोड
प्रतिवेदन अनुसार यी विज्ञापनहरूमा वास्तविक बालबालिकाका तस्बिरलाई एआई प्रविधिको दुरुपयोग गरी अश्लील र आपत्तिजनक भिडियोमा रूपान्तरण गरिएको छ। जसमा युरोपेली राजपरिवारका एक बाल सदस्यको तस्बिरसमेत प्रयोग गरिएको भेटिएको छ।

धेरैजसो विज्ञापनले प्रयोगकर्ताहरूलाई चिनियाँ कम्पनीहरूले बनाएका ‘एआई इमेज वा भिडियो जेनेरेटर एप’ तथा म्यासेजिङ एप ‘टेलिग्राम’तर्फ डोहोर्याउने गरेका छन्।

टेलिग्राममा यस्ता सामग्रीहरू १०० भारुभन्दा कम मूल्यमै बिक्री भइरहेको पाइएको छ। मेटाले आफ्नै प्रणालीमार्फत विज्ञापन स्वीकृत गर्ने गरे पनि आफ्ना चिनियाँ एजेन्सी साझेदार (रिसेलर) बाट आएका यस्ता आपत्तिजनक विज्ञापनहरूलाई रोक्न सकेको छैन।

मेटाको कमजोर रिपोर्टिङ प्रणाली
टीटीपीले मेटाकै आन्तरिक प्रणालीमार्फत भारतमा चलेका ५५ वटा विज्ञापनविरुद्ध उजुरी गरेको थियो। तर, मेटाले ४३ वटा विज्ञापनमा "यसले हाम्रो विज्ञापन नीति उल्लङ्घन गर्दैन" भन्ने जवाफ दिएको थियो। पछि टीटीपीले संस्थागत रूपमा प्रश्न उठाएपछि मात्र मेटाले ती विज्ञापनहरू हटाएको थियो।

यस विषयमा बीबीसीले सोधेको प्रश्नमा मेटाले आफ्नो बचाउ गर्दै भनेको छ, "बाल शोषण वा कुनै पनि किसिमका अश्लीलता फैलाउने एपप्रति हाम्रो शून्य सहनशीलताको नीति छ। यस्ता अपराधीहरूले प्रणालीलाई छल्न नयाँ–नयाँ तरिका अपनाइरहन्छन्। हामी आफ्नो सुरक्षा संयन्त्रलाई निरन्तर बलियो बनाउँदै छौँ।"

मेटाका अनुसार धेरैजसो विज्ञापनहरू २०० पटकभन्दा कम हेरिएका थिए र तिनमा कुल ५ हजार अमेरिकी डलरभन्दा कम खर्च भएको थियो।