यी फाइदाहरू नियन्त्रित कार्यक्रमहरूमा बारम्बार परीक्षण भइरहेका बेला, गोपनीयता अभियानकर्ताहरूले प्रजातन्त्रमा तिनीहरूको चिसो प्रभाव – साथै तिनीहरूको अन्तर्निहित भेदभावपूर्ण जोखिमहरूको बारेमा चिन्ता व्यक्त गरेका छन्।

आयरल्यान्डमा बहस ब्रसेल्समा एआई ऐनको बारेमा गहन वार्ताको पृष्ठभूमिमा पुन: सुरु भयो – अनुहार पहिचान जस्ता एआई-संचालित प्रविधिहरू नियमन गर्ने नियम पुस्तिका।

MEPs ले सुरुमा सार्वजनिक स्थानहरूमा व्यक्तिहरूको स्वचालित मान्यतामा प्रतिबन्ध लगाउने प्रयास गरे, तर अन्तिम पाठमा यस प्रविधिको प्रयोगलाई कानुनी रूपमा स्वीकार्य बनाउने धेरै अपवादहरू समावेश छन्।

यसमा, उदाहरणका लागि, केही पीडितहरू र अपराध संदिग्धहरूको खोजी र आतंककारी आक्रमणहरूको रोकथाम समावेश छ।

र युरोप विश्वमा एआई नियन्त्रण गर्ने नियमहरू स्थापना गर्ने पहिलो बनेपछि, धेरैले डिसेम्बरको सुरुमा भएको सम्झौतालाई खुशी व्यक्त गरे।

तर सार्वजनिक स्थानहरूमा यो हस्तक्षेपकारी प्रविधिको प्रयोगमा प्रतिबन्ध लगाउन EU को असफलतालाई एम्नेस्टी इन्टरनेशनल जस्ता अभियानकर्ताहरूले “विनाशकारी उदाहरण” को रूपमा हेर्छन् किनभने EU कानूनले विश्वव्यापी मापदण्डहरू सेट गर्ने लक्ष्य राखेको छ।

विगत केही वर्षहरूमा कानून-प्रवर्तन अधिकारीहरूले यी प्रविधिहरूको व्यापक रूपमा अपनाएर गोपनीयता र सामूहिक निगरानीको बारेमा चिन्ताहरू जन्माएको छ, आलोचकहरूले ‘बिग ब्रदर’ वा ‘ओर्वेलियन नाइटमेयर’ को रूपमा डाटाबेसद्वारा ब्याकअप गरिएका सबै-देखी क्यामेराहरूलाई लेबल लगाएका छन्।

मानव अधिकारको युरोपेली अदालतले भर्खरै पहिलो पटक कानून प्रवर्तनद्वारा अनुहार पहिचानको प्रयोगमा फैसला सुनाएको छ।

स्ट्रासबर्ग अदालतले रुसले शान्तिपूर्ण प्रदर्शनकारीलाई फेला पार्न र गिरफ्तार गर्न बायोमेट्रिक प्रविधि प्रयोग गर्दा मानवअधिकारसम्बन्धी युरोपेली महासन्धिको उल्लङ्घन गरेको पाएको छ।

तर अदालतले अन्य धेरै प्रश्नहरू खुला राखेकाले यसको प्रभाव अनिश्चित छ।

“निश्चित रूपमा, यसले निजी जीवनको अधिकारको उल्लङ्घन गरेको फेला पारेको छ। अझै पनि, यसले युरोपमा अनुहार पहिचानको प्रयोगको फाइदा उठाएको हुन सक्छ, यसको “निष्पक्ष” अनुप्रयोगहरूलाई स्पष्ट रूपमा रोक्न नदिई,” बोलोग्ना विश्वविद्यालयका अनुसन्धानकर्ता इसाडोरा नेरोनी रेजेन्डे तर्क गर्छन्। ।

बलिदान

युके सडक क्यामेराको साथ वास्तविक-समयमा मानिसहरूलाई पहिचान गर्न फेसियल-रिकोग्निसन टेक्नोलोजीहरू प्रयोग गर्न अग्रगामी भएको छ। केही वर्षहरूमा, देशले अनुमानित 7.2 मिलियन क्यामेराहरू तैनात गरेको छ – प्रत्येक नौ व्यक्तिको लागि लगभग एक क्यामेरा।

2017 देखि 2019 सम्म, संघीय बेल्जियम पुलिसले ब्रसेल्स एयरपोर्टमा चारवटा फेसियल रिकग्निसन क्यामेराहरू प्रयोग गर्‍यो — 2016 मा भएको घातक आतंकवादी बम आक्रमणको दृश्य जसमा 16 व्यक्तिको मृत्यु भएको थियो — तर यो परियोजनाले डेटा सुरक्षा कानूनको पालना नगरेकोले रोकिनुपरेको थियो।

र भर्खरै, फ्रान्सेली सरकारले २०२४ पेरिस ओलम्पिक खेलहरूमा शंकास्पद व्यवहार पत्ता लगाउन वास्तविक-समय क्यामेराहरूको प्रयोगको लागि द्रुत-ट्र्याक कानून बनाएको छ।

यो प्रविधिले कसरी सुरक्षाको अवधारणालाई पुन: आकार दिइरहेको छ भन्ने केही उदाहरणहरू मात्र हुन्।

यस प्रविधिको प्रयोगलाई कतिपय अवस्थामा स्वीकार गरिएको छ, तर वास्तविक चुनौती तब उत्पन्न हुन्छ जब यसको प्रयोग फराकिलो सार्वजनिक स्थानहरूमा विस्तार हुन्छ जहाँ मानिसहरूलाई पहिचान गर्न अपेक्षा गरिएको हुँदैन, EU का डाटा सुरक्षा पर्यवेक्षक (EDPS) Wojciech Wiewiórowski ले EUobserver लाई एक अन्तर्वार्तामा भने।

यसले वास्तवमा “सडकबाट गुमनाम हटाउनेछ,” उनले भने। “मलाई लाग्दैन कि हाम्रो संस्कृति त्यसका लागि तयार छ। मलाई लाग्दैन कि युरोप त्यस्तो ठाउँ हो जहाँ हामी यस प्रकारको त्याग गर्न सहमत छौं।”

२०२१ मा, Wiewiórowski ले सार्वजनिक रूपमा पहुँचयोग्य ठाउँहरूमा अनुहार पहिचान सहित रिमोट बायोमेट्रिक पहिचान प्रणालीहरूको प्रयोगमा रोक लगाउन आह्वान गर्नुभयो।

आयोगले एआई ऐन प्रस्तावलाई पहिलो पटक अनावरण गर्दा यसका सिफारिसहरूलाई विचार नगरेकोमा आयोगको आलोचना पनि गर्‍यो।

“म त्यस्तो समाजमा बस्न चाहन्न जहाँ गोपनीयता हटाइनेछ,” उनले EUobserver लाई भने।

“केही देशहरूमा हेर्दा जहाँ यस प्रकारको टेक्नोलोजीको लागि धेरै खुलापन छ, हामी देख्न सक्छौं कि यो अन्ततः व्यक्ति जहाँ भए पनि व्यक्तिलाई पहिचान गर्न र उसलाई लक्षित गर्न र ट्र्याक गर्न प्रयोग गरिन्छ,” Wiewiórowski चेतावनी दिए। चीनको लागि सबैभन्दा राम्रो उदाहरण हो।

“प्रविधिको प्रयोग खराब मानिसहरू (…) विरुद्ध मात्र हुन्छ भन्ने स्पष्टीकरण मलाई सन् १९८२ मा सर्वसत्तावादी पोल्याण्डमा प्रहरीहरूले भनेका थिए, जहाँ टेलिफोन सञ्चार पनि निगरानीमा थियो,” उनले पनि भने।

स्टेरियोटाइपहरूलाई बलियो बनाउनुहोस्

यी प्रविधिहरूलाई कानून प्रवर्तनको लागि प्रभावकारी आधुनिक उपकरणको रूपमा देख्न सकिन्छ, शिक्षाविद् र विशेषज्ञहरूले कसरी एआई-संचालित बायोमेट्रिक प्रविधिहरूले केही जातीय समूहहरू विरुद्ध स्टिरियोटाइपहरू र भेदभावलाई प्रतिबिम्बित गर्न सक्छन् भनेर दस्तावेज गरेका छन्।

यो प्रविधिले कत्तिको राम्रोसँग काम गर्छ भन्ने कुरा सफ्टवेयरलाई तालिम दिन प्रयोग गरिने डाटा गुणस्तर र प्रयोग गर्दा प्रयोग हुने डाटाको गुणस्तरमा निर्भर गर्दछ।

ईडीआरआईका अभियानकर्ता एला जाकुबोस्काका लागि यो प्रविधि कत्तिको प्रभावकारी हुन सक्छ भन्ने गलत धारणा छ। “सरकारहरूबाट आधारभूत तथ्याङ्कीय गलतफहमी छ।”

“हामीले संसारभरि पहिले नै देखेका छौं कि बायोमेट्रिक प्रणालीहरू कालो र खैरो समुदायहरू, हिँडिरहेका मानिसहरू र अन्य अल्पसंख्यक व्यक्तिहरू विरुद्ध असंगत रूपमा प्रयोग गरिन्छ,” उनले भनिन्, निर्माताहरूले “सुरक्षाको आकर्षक झूटा वाचा” बेचिरहेका छन् भनी तर्क गर्दै।

एक स्वतन्त्र अध्ययन लन्डन पुलिसले प्रत्यक्ष अनुहार पहिचानको प्रयोगमा यी प्रणालीहरूको वास्तविक सफलता दर 40 प्रतिशत भन्दा कम रहेको खुलासा गर्‍यो।

र 2018 को एक रिपोर्टले खुलासा गर्‍यो कि साउथ वेल्स पुलिस प्रणालीले 2,451 गलत पहिचान सहित 91 प्रतिशत खेलहरू गलत सकारात्मक रूपमा लेबल गरिएको देख्यो।

मानव अधिकारमा एल्गोरिदमिक त्रुटिहरूको प्रभावहरू प्राय: यस प्रविधिको विकास र प्रयोगको लागि मुख्य चिन्ताको रूपमा हाइलाइट गरिन्छ।

र एआई भेदभावका सम्भावित पीडितहरूका लागि एउटा मुख्य मुद्दा भनेको उनीहरूले यस्तो भेदभाव प्रमाणित गर्न (प्राथमिक रूपमा) सामना गर्ने महत्त्वपूर्ण कानूनी अवरोधहरू हुन् – यी प्रविधिहरूको ‘ब्ल्याक बक्स’ समस्यालाई ध्यानमा राखी।

त्रुटिको जोखिमले धेरै कम्पनीहरूले आफूलाई बजारबाट हटाउन प्रेरित गरेको छ। यसमा पुलिस बडी क्यामेराहरू प्रदान गर्ने प्रख्यात अमेरिकी कम्पनी एक्सन, साथै माइक्रोसफ्ट र अमेजन समावेश छन्।

तर धेरैले अझै पनि यसलाई हाम्रो समयमा कानून प्रवर्तनको लागि महत्त्वपूर्ण उपकरणको रूपमा रक्षा गर्छन् – कुनै पनि सम्भावित प्रतिबन्धको बिरूद्ध लबिङ गर्दै र एआई ऐन अन्तर्गत कानून प्रवर्तनका लागि अपवादहरूको पक्षमा।

लबिङ प्रयासहरू

गुगलले यो प्रविधिलाई प्रतिबन्ध लगाउन वा प्रतिबन्ध लगाउने विरुद्ध सावधानी अपनाउन आग्रह गर्‍यो, यसले “बाल सुरक्षा” सहित “लाभकारी, वांछित र कानुनी रूपमा आवश्यक प्रयोगका केसहरूको भीड” लाई जोखिममा पार्ने तर्क गर्दछ।

“कुनै निश्चित बुझाइको कमीको कारण, त्यस्ता नवीन प्रविधिहरू [such as facial recognition and biometric data] मौलिक अधिकारहरूको लागि जोखिमको रूपमा बढ्दो रूपमा गलत चित्रण गरिएको छ, “अमेरिकामा कालोसूचीमा परेको चिनियाँ क्यामेरा कम्पनी Hikvision ले भन्यो।

त्यस्तै, प्राविधिक उद्योग लबी डिजिटल युरोपले पनि फाइदाहरूको प्रशंसा गरेको छ। “महत्वपूर्ण सार्वजनिक सुरक्षा र राष्ट्रिय सुरक्षा लाभहरू पहिचान गर्न महत्त्वपूर्ण छ”।

थप रूपमा, सुरक्षा र रक्षा कम्पनीहरूले पनि अपवादहरूको पक्षमा लबिङ गरिरहेका छन्।

तर यो पक्षमा सबैभन्दा ठूलो दबाब आन्तरिक मन्त्रालयहरू र कानून प्रवर्तन एजेन्सीहरूबाट आएको देखिन्छ, कर्पोरेट युरोप अब्जर्भेटरीका अनुसार।

यसैबीच, युरोपमा फेसियल रिकग्निसन बजार $१.२ बिलियनबाट बढ्ने अनुमान गरिएको छ [€1.09bn] 2021 मा 2.4 बिलियन डलर 2028 सम्म।