नि: शुल्क वास्तविक समय ब्रेकिङ न्यूज अलर्टहरू सिधै तपाईंको इनबक्समा पठाइयो हाम्रो ब्रेकिङ न्यूज इमेलहरूमा साइन अप गर्नुहोस्

हाम्रो नि:शुल्क ब्रेकिङ न्यूज इमेलहरूमा साइन अप गर्नुहोस्

भारतीय क्रिकेट लिजेन्ड सचिन तेन्दुलकर नवीनतम भएको छ deepfake भिडियो को शिकार वृद्धिको बारेमा बढ्दो चिन्ताको बीचमा AI-उत्पन्न सामग्री देशमा आम चुनाव अघि

तेन्दुलकर ए मा देखिएका थिए deepfake video सामाजिक सञ्जालमा व्यापक रूपमा फैलिएको क्लिपमा अनलाइन गेमिङ एपलाई समर्थन गर्दै।

भिडियोमा तेन्दुलकरले एपलाई समर्थन गरेको झूटो चित्रण गरेको छ र आफ्नी छोरीलाई यसबाट आर्थिक फाइदा भएको दाबी गरेको छ।

खेलकुद स्टारले सामाजिक सञ्जालमार्फत नक्कली भिडियोको निन्दा गर्दै सतर्कता अपनाउन आग्रह गरेका छन् गलत सूचना फैलाउने विरुद्ध द्रुत कारबाही।

“यी भिडियोहरू नक्कली हुन्। प्रविधिको व्यापक दुरुपयोग देख्दा दुःख लाग्छ । भिडियोहरू, विज्ञापनहरू र एपहरू धेरै संख्यामा रिपोर्ट गर्न सबैलाई अनुरोध गर्नुहोस्, “तेन्दुलकरले X मा लेखे, डिजिटल रूपमा परिवर्तन गरिएको भिडियो साझा गर्दै।

कुनै भारतीय सेलिब्रेटीले डीपफेकको असरबारे चेतावनी दिएको यो पहिलो पटक होइन। पछिल्ला केही महिनाहरूमा कट्रिना कैफ, आलिया भट्ट, प्रियंका चोपडा र हालै रश्मिका मन्डन्ना जस्ता बलिउड फिल्म स्टारहरू पनि यस्तै अनुभवबाट गुज्रिरहेका छन्।

IT मन्त्री अश्विनी वैष्णवले भर्खरै घोषणा गरे कि सबै सोशल मिडिया कम्पनीहरूलाई सूचनाहरू पठाइएको छ, उनीहरूलाई उनीहरूको प्लेटफर्मबाट गलत सूचनाहरू, विशेष गरी डीपफेकहरू पहिचान गर्न र हटाउन आवश्यक कदम चाल्न निर्देशन दिइयो।

सरकारले डिपफेक सामग्रीको मुद्दालाई सम्बोधन गर्न सामाजिक सञ्जाल प्लेटफर्महरूलाई सक्रिय र आक्रामक हुन आग्रह गरिरहेको छ।

“डिपफेक हामी सबैको लागि ठूलो समस्या हो। हामीले भर्खरै सबै ठूला सामाजिक सञ्जाल फर्महरूलाई सूचनाहरू जारी गर्‍यौं, तिनीहरूलाई ती सामग्री हटाउनका लागि डीपफेकहरू पहिचान गर्न कदम चाल्न आग्रह गर्यौं। सामाजिक सञ्जालले प्रतिक्रिया दिएको छ । कारबाही गरिरहेका छन् । यो काममा थप आक्रामक हुन भनेका छौं,’ उनले भने ।

डीपफेकमा एआई प्रविधिको प्रयोग गरेर एक व्यक्तिको अर्को व्यक्तिसँग मिल्दोजुल्दो डिजिटल परिवर्तन समावेश हुन्छ। Deepfakes अडियो, भिडियो वा छवि आधारित हुन सक्छ।

गत वर्ष नोभेम्बरमा, श्री वैष्णवले सामाजिक सञ्जाल प्लेटफर्महरूमा डिपफेकहरू फैलाउनु “लोकतन्त्रको लागि नयाँ खतरा” भएको बताएका थिए।

यो अभिनेत्रीको डिपफेक भिडियो पछि आयो रश्मिका मण्डना सामाजिक सञ्जालमा भाइरल भयो र “गलत सूचनाको रूप” को रूपमा लेबल गरियो।

सामाजिक सञ्जालमा पोष्ट गरिएको भिडियोमा मन्डन्नाले कालो पोशाक लगाएर लिफ्टमा प्रवेश गरेको एआई-निर्मित भिडियो देखाइएको छ। तर मूल भिडियो ब्रिटिश-भारतीय प्रभावकार जारा पटेलको थियो, जसको इन्स्टाग्राममा 400,000 फलोअर्स छन्।

मन्डन्नाले X मा पोष्ट गरिएको एक विज्ञप्तिमा भने कि यो मुद्दा “तत्काल” संग सम्बोधन गरिनु पर्छ।

“आज, एक महिला र एक अभिनेताको रूपमा, म मेरो परिवार, साथीहरू र शुभचिन्तकहरू प्रति आभारी छु जो मेरो सुरक्षा र समर्थन प्रणाली हुन्। तर यदि म स्कूल वा कलेजमा हुँदा मलाई यो भयो भने, म साँच्चै कल्पना गर्न सक्दिन कि म यो कसरी सामना गर्न सक्छु,” उनले भनिन्।

भारतमा सामाजिक सञ्जालमा विज्ञापन र प्रायोजित पोस्टहरूमा शाहरुख खान, विराट कोहली, र अक्षय कुमार जस्ता व्यक्तित्वहरू देखाउने डीपफेकहरू पहिचान गरिएको छ।

एउटा उदाहरणमा, शाहरुख खानलाई “एभिएटर” नामक खेलको प्रचार गर्ने एउटा डीपफेक भिडियोमा चित्रण गरिएको छ, जबकि विराट कोहलीको डीपफेकले सट्टेबाजी खेलको समर्थन गरेको पाइन्छ। इन्फोसिसका प्रमुख नारायण मूर्तिलाई पनि निशाना बनाइएको थियो । अर्को गहिरो नक्कली भिडियोले प्रख्यात पत्रकार रविश कुमारलाई मधुमेहको औषधिको समर्थन गर्दै देखाएको छ।

डीपफेक टेक्नोलोजीको प्रयोग मार्फत व्यावसायिक उद्देश्यका लागि सामग्री हेरफेर गर्नाले धेरै नैतिक चिन्ताहरू खडा गर्दछ, किनकि यसले दर्शकहरूलाई बहकाउने सम्भावना हुन्छ। विषयको गम्भीरतालाई ध्यानमा राख्दै प्रधानमन्त्री डा नरेन्द्र मोदी डीपफेकहरू सिर्जना गर्न यसको सम्भावित प्रयोगमा चिन्ता व्यक्त गर्दै एआईले कसरी काम गर्छ भन्ने कुरा बुझ्नको महत्त्वलाई पनि जोड दियो।

गत वर्ष नोभेम्बरमा, श्री मोदीले गरबाको परम्परागत गुजराती नृत्य प्रदर्शन गरेको नक्कली भिडियोको उदाहरण दिँदै, डीपफेक प्रविधिको दुरुपयोगलाई “चिन्ताजनक” भने।

चुनाव नजिकिँदै गर्दा, डिपफेक र मतदातालाई हेरफेर गर्ने डर सबै समय उच्चमा छ। श्री मोदीले भने कि “मानिसहरूले आफूले देखेको कुरालाई विश्वास गर्ने शिकार हुन सक्छन् … र यसले हामीलाई ठूलो संकटतर्फ लैजान्छ”।

2023 मा, अनुमानित 500,000 भिडियो र भ्वाईस डीपफेकहरू विश्वव्यापी रूपमा सोशल मिडियामा साझेदारी गरिएको थियो, DeepMedia अनुसार, सिंथेटिक मिडिया पत्ता लगाउन विशेषज्ञ कम्पनी।

मेटा र गुगल जस्ता प्रमुख प्लेटफर्महरूले भ्रामक हुन सक्ने सामग्री हटाएर वा लेबल गरेर सिंथेटिक मिडियालाई सम्बोधन गर्ने वाचा गरेका छन्। फेसबुक, इन्स्टाग्राम र व्हाट्सएपको स्वामित्वमा रहेको मेटाले भने, “हेरफेर स्पष्ट छैन र विशेष गरी भिडियो सामग्रीको मामलामा भ्रामक हुन सक्छ”।

युट्युबको स्वामित्वमा रहेको गुगलले भन्यो कि प्लेटफर्मले “एआई उपकरणहरू प्रयोग गर्ने लगायत यथार्थवादी परिवर्तन गरिएका वा सिंथेटिक सामग्री प्रकट गर्न सिर्जनाकर्ताहरूलाई आवश्यक छ, र हामी लेबलहरू मार्फत दर्शकहरूलाई त्यस्ता सामग्रीको बारेमा सूचित गर्नेछौं”।

एड्भोकेसी ग्रुप एक्सेस नाउका एशिया नीति निर्देशक रमनजीत सिंह चिमाले बताए हिन्दू गत वर्ष: “समस्याहरू ह्यान्डल गर्न प्लेटफर्महरू सेटअप गरिएको छैन, र तिनीहरू पर्याप्त उत्तरदायी र सक्रिय भइरहेका छैनन्। र यो धेरै खतरनाक संकेत हो।”

“संसारको ध्यान अमेरिकी चुनावमा मात्रै हुने खतरा छ, तर त्यहाँ जुन मापदण्ड लागू हुन्छ, त्यहाँ भइरहेको प्रयास जताततै नक्कल हुनुपर्छ।”

बंगलादेशमा जनवरी ७ मा प्रधानमन्त्री शेख हसिनाले लगातार चौथो कार्यकालमा विजयी भएको निर्वाचनअघि महिला राजनीतिज्ञ रुमिन फरहाना बिकिनीमा र निपुन रोय स्विमिङ पुलमा देखाएको गहिरो भिडियो सामाजिक सञ्जालमा देखा परेको थियो ।

यसैबीच, इन्डोनेसियामा, 200 मिलियन भन्दा बढी मतदाताहरू फेब्रुअरी 14 को चुनावको लागि तयारी गर्दा, तीनै राष्ट्रपतिका उम्मेद्वारहरू र उनीहरूका दौडमा रहेका साथीहरू देखाइएका डीपफेकहरू अनलाइन घुमिरहेका छन्।

“डीपफेक पक्कै पनि एआईको यहाँ र अहिलेको ठूलो समस्या हो,” लन्डनमा आधारित टेक्नोलोजी विशेषज्ञ, लेखक र स्टार्ट-अप सल्लाहकार जसप्रीत बिन्द्राले भने। इन्डिया टुडे अघिल्लो महिना।

सेलिब्रेटीहरू बाहेक, प्रमुख विश्वव्यापी व्यक्तित्वहरू, पोप फ्रान्सिसदेखि पूर्व अमेरिकी राष्ट्रपतिहरू बराक ओबामा र डोनाल्ड ट्रम्पसम्म, गहिरो नक्कलीहरूको निशाना बनेका छन्।

Sensity.ai, नेदरल्याण्डमा आधारित भिजुअल थ्रेट इन्टेलिजेन्स कम्पनीका अनुसार, 2018 यता अनलाइन नक्कली भिडियोहरूमा उल्लेखनीय वृद्धि भएको छ, संख्या हरेक छ महिनामा लगभग दोब्बर हुन्छ। डिसेम्बर 2020 सम्म, कम्पनीले इन्टरनेटमा प्रसारित 85,047 नक्कली भिडियोहरू पहिचान गर्यो।

अमेरिकामा रहेको संस्था होम सेक्युरिटी हिरोजको २०२३ स्टेट अफ डिपफेक्सको रिपोर्ट अनुसार, अनलाइन डिपफेक भिडियोहरूको प्रसारमा ५५० प्रतिशतको उल्लेखनीय वृद्धि भएको छ, कुल ९५,८२०।

प्रतिवेदनले भारतलाई यो बढ्दो खतराको छैटौं सबैभन्दा संवेदनशील देशको रूपमा उल्लेख गरेको छ।

बुमका प्रबन्ध सम्पादक जेन्सी ज्याकब, एक प्रमुख तथ्य जाँच गर्ने वेबसाइट जसले यस मुद्दालाई नजिकबाट अध्ययन गरिरहेको छ। जर्मन लहर गत महिना डिपफेक भिडियोहरू चिन्ताको कारण बनिरहेका छन्, विशेष गरी चुनावको मौसममा।

“विश्वभरका सरकारहरू अझै पनि नीतिगत प्रतिक्रियामा काम गरिरहेका छन् तर हामीले योजना जस्तो लाग्ने कुनै पनि कुरा देख्न सकेका छैनौं। भारत सरकारले पनि आफ्ना चिन्ताहरू साझा गरेको छ र उनीहरूले पीडितहरूलाई संरक्षण गर्न विद्यमान कानून र नयाँ प्रावधानहरू कसरी प्रयोग गर्छन् भनेर हेर्न रोचक हुनेछ, “उनले भने।

गत हप्ता, इलेक्ट्रोनिक्स र सूचना प्रविधि राज्यमन्त्री राजीव चन्द्रशेखरले सामाजिक सञ्जाल कम्पनीहरूलाई जानकारी दिएका थिए कि सरकारले आगामी सात देखि १० दिन भित्र आईटी नियममा संशोधन गरी डीपफेक सम्बन्धी नियमहरू स्थापना गर्न चाहन्छ। हिन्दुस्तान टाइम्स रिपोर्ट गरियो।