डिजिटल ब्रह्माण्डमा, जहाँ वास्तविकता र काल्पनिक बीचको सीमाहरू झन्झन् धमिलो हुँदै गएका छन्, गहिरो फ्याकहरूले हाम्रा स्क्रिनहरूलाई चुनौती दिइरहेका छन्। रुस र युक्रेन बीचको युद्धको शुरुवातदेखि नै, गहिरो नक्कली हतियार बनाइएको छ, सोशल मिडियाको हरेक कुनामा घुसपैठ गर्दै।

लगभग तत्काल प्रतिक्रियाहरू र पछि debunking को बावजुद, तिनीहरूको सर्कुलेशन गैर-अंग्रेजी भाषी देशहरूमा अधिक स्पष्ट भएको छ। यी क्षेत्रहरू अङ्ग्रेजी भाषाका लागि थप उन्नत भएका डिबङ्किङ उपकरणहरूको अभावको कारणले गर्दा गलत सूचनाको चपेटामा परेका छन्।

“हामी धेरै दृश्य प्राणीहरू हौं; हामीले जे देख्छौं त्यसले हामीले सोच्ने, बुझ्छौं र विश्वास गर्ने कुरालाई प्रभाव पार्छ,” विक्टर मडेइरा, पत्रकार र रूसी प्रति-बुद्धि तथा विकृतिसम्बन्धी विशेषज्ञ तर्क गर्छन्। “Deepfakes ले भर्खरको हतियारलाई भ्रमित गर्न, अभिभूत गर्न र अन्ततः पश्चिमी निर्णय प्रक्रियालाई अपाङ्ग पार्ने र प्रतिक्रिया दिने हाम्रो इच्छालाई प्रतिनिधित्व गर्दछ।”

सूचना, सञ्चारमाध्यम र लोकतन्त्रमाथिको विश्वासलाई कमजोर बनाउने लक्ष्य भए पनि प्रयोगकर्ताको सुरक्षालाई प्राथमिकता दिन सक्रिय नीतिहरूको अभाव छ। यद्यपि, यस हेरफेरबाट व्युत्पन्न शक्तिले अनलाइन प्लेटफर्महरूलाई आकर्षित गर्दछ, जुन कानुनी रूपमा दुर्भावनापूर्ण डीपफेकहरू निगरानी, ​​पत्ता लगाउन र हटाउन बाध्य छैन।

गैरसरकारी संस्थाका अभियान निर्देशक लुका निकोट्रा भन्छन्, “कम्पनीहरूको रूपमा, तिनीहरू प्रयोगकर्ताहरूलाई सुरक्षित राख्न आवश्यक पूर्वाधार नभए पनि नयाँ बजारहरूमा विस्तार गर्न ठूलो प्रतिस्पर्धामा संलग्न हुन्छन्।” आवाजजसले अनलाइन विकृतिको अनुसन्धान गर्न माहिर छ।

“त्यहाँ धेरै गुणस्तर आश्वासन नेटवर्कहरू छन् जसले वार्षिक रूपमा यी तथ्य-जाँचकर्ताहरूको समीक्षा गर्छन्, उनीहरू व्यावसायिक मापदण्डहरूको पालना गर्ने स्वतन्त्र तेस्रो पक्षहरू छन् भनेर सुनिश्चित गर्दै। अर्को विकल्प भनेको NewsGuard र ग्लोबल डिसइन्फर्मेसन इन्डेक्स जस्ता डाटाबेसहरू भएका विभिन्न देशहरूमा मुख्य सूचना र विकृति स्रोतहरूको निगरानी गर्नु हो। यो महँगो हुन सक्छ, “निकोट्रा भन्छन्। प्लेटफर्महरूले आफ्नो लागत कम गर्न रुचाउँछन् यदि यी उपकरणहरू आधारभूत छैनन् भने।

Deepfake सिर्जना

जेनेरेटिभ आर्टिफिसियल इन्टेलिजेन्समा भएको विकासले प्रविधिको अभूतपूर्व मात्रामा विकृत जानकारी सिर्जना गर्ने र फैलाउने क्षमताको बारेमा चिन्ता बढाएको छ।

“यो यस्तो बिन्दुमा पुग्दैछ जहाँ मानिसहरूलाई उनीहरूले आफ्नो फोनमा प्राप्त गरेको छवि प्रामाणिक छ वा होइन भनेर बताउन गाह्रो हुन्छ,” लफबरो विश्वविद्यालयका राजनीतिक सञ्चारका प्राध्यापक र डिसइन्फर्मेसनका विशेषज्ञ क्रिस्टियन भाकारी तर्क गर्छन्।

सुरुमा केही सरल माध्यमबाट उत्पादित सामग्री कम गुणस्तरको देखिन सक्छ तर आवश्यक परिमार्जन गरेर विश्वसनीय बन्न सक्छ। भर्खरैको उदाहरण समावेश छ अमेरिकी राष्ट्रपति जो बिडेनको गहिरो नकली आवाजले नागरिकहरूलाई मतदान नगर्न आग्रह गर्दछ।

त्यसैगरी, विश्वको सबैभन्दा लामो समय सेवा गर्ने केन्द्रीय बैंकका गभर्नर, मुगुर इसारेस्कु, नीति निर्मातालाई धोखाधडीको लगानीलाई बढावा दिएको रूपमा चित्रण गर्ने गहिरो नक्कली भिडियोको निशाना बने।

“टेक्स्ट प्रम्प्टमा पनि डिपफेकहरू उत्पादन गर्नका लागि उपकरणहरू पहिले नै अवस्थित छन्,” कार्लस्रुहे इन्स्टिच्युट अफ टेक्नोलोजीका अनुसन्धानकर्ता र आर्टिफिसियल इन्टेलिजेन्सका विशेषज्ञ जुट्टा जाहनेलले चेतावनी दिन्छन्। “जो कोहीले तिनीहरूलाई सिर्जना गर्न सक्छ; यो हालैको घटना हो। यो समग्र समाजको लागि एक जटिल प्रणालीगत जोखिम हो।” एक प्रणालीगत जोखिम जसको सीमाहरू पहिले नै वर्णन गर्न गाह्रो भएको छ।

पछिल्लो रिपोर्ट अनुसार एनजीओ फ्रीडम हाउस, फ्रान्स, ब्राजिल, अंगोला, म्यानमार र किर्गिस्तान लगायत विश्वभरका कम्तीमा ४७ वटा सरकारहरूले आफ्नो पक्षमा अनलाइन छलफललाई हेरफेर गर्न सरकार समर्थक टिप्पणीकारहरू प्रयोग गरेका छन्, यो संख्या एक दशक अघिको भन्दा दोब्बर हो। AI प्रयोगको लागि, “गत वर्षमा, यो कम्तिमा 16 देशहरूमा शङ्का रोप्न, विरोधीहरूलाई बदनाम गर्न वा सार्वजनिक बहसलाई प्रभाव पार्न प्रयोग गरिएको छ।”

विज्ञहरूका अनुसार स्थिति बिग्रँदै गएको छ, र युद्धका कारण हुने विकृतिले भरिएको वातावरणमा जिम्मेवार व्यक्तिहरू पहिचान गर्न सजिलो छैन।

“रूस र युक्रेन बीचको द्वन्द्वले बढ्दो ध्रुवीकरण र सूचना वातावरणलाई प्रदूषित गर्न प्रेरणा दिइरहेको छ,” EU साइबरसुरक्षा एजेन्सी (ENISA) विशेषज्ञ एरिका मागोनारा भन्छिन्।

विभिन्न टेलिग्राम च्यानलहरूको विश्लेषण मार्फत, यस्तो सामग्री प्रसारमा संलग्न प्रोफाइलहरू विशिष्ट विशेषताहरू छन् भन्ने कुरा देखा पर्‍यो। “त्यहाँ एक प्रकारको दुष्ट सर्कल छ,” भ्याकरी भन्छन्, “समाचार, सूचना संगठन र राजनीतिक संस्थाहरूमा कम विश्वास गर्ने व्यक्तिहरू भ्रममा पर्छन् र सामाजिक सञ्जाल वा निश्चित सर्कलहरूमा भर पर्छन्, सूचनाको विरुद्धमा ‘आफ्नो अनुसन्धान गर्नुहोस्’ दृष्टिकोण पछ्याउँदै। ।” समस्या सिर्जनाकर्ता मात्र होइन, प्रसारकहरू पनि सामेल छन्।

प्रो-क्रेमलिन प्रचार

“अनलाइन विकृति, विशेष गरी चुनावको अवधिमा र क्रेमलिन समर्थक कथाहरूसँग जोडिएको, निरन्तर चिन्ताको विषय बनेको छ,” फ्रिडम हाउसले यसको खण्डमा रिपोर्ट गर्छ। इटालीमा समर्पित। एउटै प्रवृत्ति पछिल्लो लागि जान्छ स्पेनसँग सम्बन्धित।

युद्ध सुरु भएदेखि नै रुसले यस उद्देश्यका लागि सिर्जना गरिएका समूह र खाताहरू मार्फत आफ्नो प्रचार प्रसार गर्न फेसबुकमा काम गरेको छ। इटाली र स्पेनमा सञ्चालित विभिन्न टेलिग्राम च्यानलहरूको विश्लेषणले चरम दक्षिणपन्थी विचारधाराहरू र स्थापना विरोधी भावनाहरूप्रति झुकाव प्रकट गर्दै यो प्रवृत्तिलाई पुष्टि गर्‍यो। यी तत्वहरूले क्रेमलिन समर्थक प्रचारका लागि उर्वर भूमि प्रदान गरेका छन्। सबैभन्दा व्यापक कथाहरू मध्ये बुचा नरसंहारलाई अस्वीकार गर्ने सिद्धान्तहरू छन्, युक्रेनमा अमेरिकी बायो-प्रयोगशालाहरूको अस्तित्वको दाबी गर्ने, र युक्रेनको विनासीकरणलाई बढावा दिने।

युद्धका राजनीतिक नायकहरूलाई प्यारोडी गर्नको लागि गहिरो फेकहरू सिर्जना गर्ने व्यापक प्रवृत्ति रहेको छ, जसले मुख्य परिणामको रूपमा व्यक्तिगत अपमानजनक हानि निम्त्याउँछ। ट्विटरमा युनिभर्सिटी कलेज कर्कको लिरो रिसर्च सेन्टरले हालै गरेको एक अध्ययनले यो प्रभाव पुष्टि गरेको छ। यसले भन्यो कि “व्यक्तिहरूले बेवास्ता गर्ने वा राजनैतिक प्रतिद्वन्द्वीहरू विरुद्ध निर्देशित गर्दा अपमानजनक डीपफेकहरूबाट हुने क्षतिलाई प्रोत्साहित गर्ने झुकाव राखेका थिए।”

वास्तविकतालाई एक गहिरो फेक जस्तै लक्षित गर्दा सत्यको धारणामा नकारात्मक परिणामहरू छन्। यसले पहिले नै हेरफेर गर्ने जानकारी वातावरणमा अर्को deepfakes परिणाम प्रतिबिम्बित गर्दछ – जसलाई शिक्षाविद्हरूले बोलाउँछन् ‘झूटोको लाभांश’।

पहिचान गरिएको अर्को प्रवृत्ति टेलिग्राममा डिबङ्किङको अनुपस्थिति हो। १६ मार्च २०२२ को बिहान, पहिलो राजनीतिक डीपफेकले द्वन्द्वको सन्दर्भमा डिपफेकको सम्भावित प्रभावलाई रेखांकित गर्दै विकृति फैलाएको थियो। त्यस्ता सामग्रीले षड्यन्त्रवादी विश्वासलाई बढावा दियो र हानिकारक संदिग्धता उत्पन्न गर्‍यो। यो घटना निश्चित देशहरूमा अधिक बारम्बार हुन्छ।

इटाली र स्पेनमा गलत सूचना

पर्याप्त प्रतिरोधी उपायहरूको अभावले डिपफेकहरूद्वारा घेरिएको डिजिटल वातावरणलाई थप खतरामा पार्छ। यो स्पेन र इटालीको मामला हो, जहाँ “त्यहाँ दुई गुणा धेरै गलत जानकारी अवस्थाहरू छन्, तर यस घटनालाई निगरानी गर्न सीमित स्रोतहरू छन्,” निकोत्रा ​​तर्क गर्छन्।

2020 को रिपोर्टले यो प्रवृत्तिलाई हाइलाइट गर्‍यो, इटालियन र स्पेनी भाषा बोल्ने प्रयोगकर्ताहरू गलत जानकारीको लागि बढी उजागर हुनसक्छन् भनी संकेत गर्दछ। “सामाजिक सञ्जालहरूले आधा नक्कली पोष्टहरू मात्र पत्ता लगाउँछन् किनभने तिनीहरूसँग अन्य भाषाहरूमा लगानी गर्न थोरै प्रोत्साहन छ।” अधिकांश डिबङ्किङ अंग्रेजी भाषाको लागि हो।

“अहिले, यो कुनै पनि कम्पनीको लागि गलत जानकारी र ध्रुवीकृत सामग्रीको साथ प्रयोगकर्ताहरूलाई प्रदान गर्न बन्द गर्नु प्रतिस्पर्धात्मक हानि हो,” निकोट्रा तर्क गर्छन्।

यस सन्दर्भमा टेलिग्राम एक प्लेटफर्म हो। यसबाहेक, सबै 27 EU देशहरू मध्ये, इटाली र स्पेनले जानकारी प्राप्त गर्न यसलाई सबैभन्दा बढी प्रयोग गर्छन्: क्रमशः 27 प्रतिशत र 23 प्रतिशत।

रूसी डिसइन्फर्मेसन डाटाले चिन्ताजनक वास्तविकता देखाउँदछ जसले यी जानकारी बुलबुलेहरू भित्र निश्चित कथाहरू फैलाउन प्रोत्साहित गर्दछ। मेडिराले बताउनुभएझैं भूमध्यसागरीय राज्यहरू रुसप्रति ‘नरम’ भइरहेका छन् र सुरक्षाका मुद्दाहरूमा अझ उदार छन्। यो पारदर्शिताको अभाव र गलत जानकारीमाथि नियन्त्रणको सामना गर्दै, युरोपेली संघले सामग्री नियमनमा विभिन्न कानूनहरू बढाएर हस्तक्षेप गर्ने प्रयास गरेको छ।

EU ले अझै के गर्नु पर्छ

एआई ऐन, जुन हालै सह-विधायकहरूद्वारा अन्तिम रूप दिइएको थियो, कृत्रिम बुद्धिमत्तामा केन्द्रित पहिलो EU कानून हो।

प्रभावकारीताको प्रतिरोध गर्न र अवैध सामग्रीको उत्पादनमा बाधा पुर्‍याउनको लागि यो समावेश गरिएका उपायहरू मध्ये एक हो। “यसले स्वास्थ्य, सुरक्षा र मौलिक अधिकारहरूमा नकारात्मक प्रभावहरू सीमित गर्न जोखिमको स्तर अनुसार स्नातक गरिएका दायित्वहरू र आवश्यकताहरू प्रस्तुत गर्दछ,” फाइलमा संसदको कामको नेतृत्व गर्दै आएका समाजवादी MEP ब्रान्डो बेनिफेई बताउँछन्।

सामाजिक सञ्जाल र अन्य प्लेटफर्महरूलाई आर्टिफिसियल इन्टेलिजेन्सबाट उत्पन्न हुने विशेष सामग्रीलाई पछि लेबल लगाउनुको सट्टा सिर्जना गर्नु अघि निषेध गर्न मनाउन आवश्यक हुन सक्छ, बेनिफेई विश्वास गर्छन्।

“के परिवर्तन भइरहेको छ त्यो जिम्मेवारीको स्तर हो जुन EU संस्थाहरूले बढ्दो र सही रूपमा – यस सामग्रीलाई विस्तार गर्ने प्लेटफर्महरूमा राख्दै छन्, विशेष गरी जब सामग्री राजनीतिक छ,” बेनिफेईले भने।

“यदि तपाइँ आफ्नो प्लेटफर्ममा डीपफेकहरू स्वीकार गर्नुहुन्छ भने, तपाइँ त्यो सामग्रीको लागि जिम्मेवार हुनुहुन्छ। तपाइँ संरचनात्मक जोखिमहरूको लागि पनि जिम्मेवार हुनुहुन्छ किनभने तपाइँ यस विकृतिको एम्पलीफायरको रूपमा कार्य गर्नुहुन्छ,” फाइलमा उदार MEP र सह-रिपोर्टर ड्र्यागोस टुडोराचे तर्क गर्छन्।

युरोपेली डिजिटल सेवा ऐन, जसले सामाजिक सञ्जालमा गलत सूचनालाई नियन्त्रण गर्ने आधार स्थापित गर्दछ, र एआई ऐनको स्वीकृतिको बावजुद, “एआईले गलत सामग्रीको सिर्जनालाई सहजीकरण गर्दै गलत सूचनालाई प्रवृत्ति बनाएको छ,” ENISA का म्यागोनारा भन्छिन्।

डीपफेकले प्रवचनका प्रकार र साझा स्टेरियोटाइपहरू खुवाउन डिजाइन गरिएको युद्ध प्रविधिलाई प्रतिनिधित्व गर्दछ। म्यागोनाराले तर्क गरेझैं अन्त्य हुने कुनै संकेत नदेखाउने द्वन्द्वमा, “वास्तविक लक्ष्य नागरिक समाज हो।”

यस अनुसन्धानको उत्पादन IJ4EU कोषबाट अनुदानद्वारा समर्थित छ