Clearview AI लाई विवादास्पद र गैरकानूनी अनुहार पहिचान प्रविधिको प्रयोगको लागि गोपनीयता वाचडगले पुलिसलाई निन्दा गरेको बावजुद अस्ट्रेलियाली पुलिसका मुद्दाहरू समाधान गर्न प्रयोग भइरहेको छ।

सार्वजनिक रूपमा कम्पनीसँग सम्बन्ध तोडे र कुनै तेस्रो पक्षले उनीहरूको तर्फबाट प्रविधि प्रयोग गरिरहेको कुरा अस्वीकार गरेपछि, अष्ट्रेलियाको संघीय पुलिस (एएफपी) ले अब पुष्टि गरेको छ। क्रिकी कि यसले अन्तर्राष्ट्रिय कानून प्रवर्तन एजेन्सीलाई केस सामग्री उपलब्ध गराएको छ जुन पछि क्लियरभ्यू एआईको प्रविधि प्रयोग गरेर विश्लेषण गरिएको थियो।

द्वारा प्राप्त आन्तरिक पत्राचार क्रिकी पुलिसले मुद्दाको अनुगमन गरेको देखाउँछ, क्लियरभ्यू एआईको प्रविधिको प्रयोगले अस्ट्रेलियाली मिडियाको ध्यानाकर्षण भएको खण्डमा आफ्नो एजेन्सीलाई हुने जोखिमबारे छलफल गर्यो, र कसरी सकारात्मक प्रकाशमा यसको प्रयोगलाई स्पिन गर्ने योजना बनाएको थियो।

विश्वको सबैभन्दा विवादास्पद कम्पनीसँग अस्ट्रेलियाली प्रहरीको सम्बन्ध

Clearview AI अष्ट्रेलियाली Hoan Ton-That द्वारा सह-स्थापना गरिएको अमेरिकी प्राविधिक कम्पनी हो। यसलाई डब गरिएको थियो “संसारको सबैभन्दा विवादास्पद कम्पनी“एक 2020 पछि न्यूयोर्क टाइम्स लेखले पत्ता लगायो कि यसले इन्टरनेटबाट स्क्र्याप गरिएका अरबौं अवैध रूपमा प्राप्त छविहरूको डाटाबेसमा आधारित अनुहार पहिचान एप बनाएको थियो।

कम्पनी दावी गरे कि स्मार्टफोन भएको जो कोहीले पनि कसैको पहिचानका साथै उनीहरूको बारेमा अन्य जानकारीहरू तुरुन्तै पत्ता लगाउन फोटो प्रयोग गर्न सक्छ। सयौं कानून प्रवर्तन एजेन्सीहरूलाई सफ्टवेयरमा पहुँच दिइयो – सहित एएफपी र क्वीन्सल्याण्ड पुलिस बल (QPS) — साथै अन्य निजी ग्राहकहरू।

Clearview AI र यसका प्रयोगकर्ताहरूले चाँडै विश्वभरका नियामकहरूको ध्यान कमाए। अष्ट्रेलियाका सूचना तथा गोपनीयता आयुक्त एन्जेलीन फाल्कले २०२१ मा दण्डित वा सिभिल मुद्दाको सामना गर्नु पर्ने धेरै क्षेत्राधिकारहरू मध्ये। Clearview AI ले कानून तोडेको थियो अष्ट्रेलियालीहरूको डाटाको अनधिकृत भेला सहितका कार्यहरू मार्फत। उनले एएफपीको प्रविधिको प्रयोगको बारेमा छुट्टै निष्कर्ष निकालिन्, यसको प्रयोगबाट अष्ट्रेलियालीहरूको गोपनीयता उल्लङ्घन गरेकोमा आलोचना गर्दै।

जबकि AFP ले अब सीधा Clearview AI प्रयोग गर्दैन, क्रिकी अब एएफपीका अन्तर्राष्ट्रिय कानून प्रवर्तन समकक्षहरूले अष्ट्रेलियाको एजेन्सीले गत वर्ष कम्तिमा एक अवसरमा इन्टरपोललाई उपलब्ध गराएको केस सामग्रीमा कम्पनीको अनुहार पहिचान प्रविधि प्रयोग गरेको खुलासा गर्न सक्छ।

अपरेशनले नयाँ आशा दियो

गत वर्ष जुलाई 17 र अगस्ट 4 को बीचमा, संयुक्त राज्य अमेरिकाको होमल्याण्ड सेक्युरिटी इन्भेस्टिगेशन (HSI) ले बाल यौन शोषणका अनसुलझे मामिलाहरूको समीक्षा गर्ने जिम्मेवारी दिइएको अपरेशन रिन्यूड होप भनिने विश्वव्यापी पीडित पहिचान कार्य बल चलायो। कार्यदलले HSI कर्मचारी र अन्य अमेरिकी एजेन्सीहरूका कर्मचारीहरू, इन्टरपोल जस्ता अन्तरसरकारी प्रहरी निकायहरूका साथै AFP र QPS लगायत अन्य दर्जनभन्दा बढी देशका कानून प्रवर्तन एजेन्सीहरूका प्रतिनिधिहरूलाई एकै ठाउँमा ल्यायो।

QPS सहायक आयुक्त क्याथरिन इनेसले जुनमा राज्यका प्रहरी मन्त्रीलाई क्वीन्सल्याण्डको सूचनाको अधिकारको अनुरोध मार्फत प्राप्त गरेको ब्रीफिंगले पुराना केसहरूमा “नयाँ र उदीयमान प्रविधिहरू” प्रयोग गर्ने एजेन्सीहरूलाई समय अगावै सूचित गरिएको देखाउँछ। सूचनाको संघीय स्वतन्त्रता (FOI) अनुरोध मार्फत प्राप्त एएफपीको पीडित पहिचान टोलीमा जासूस सहायक सर्जेन्टद्वारा तयार गरिएको जूनको कार्यकारी ब्रीफिंगले यस्तै बताउँछ कि अपरेशनमा सहभागिताले एएफपीलाई बाल यौन विरुद्ध लड्नको लागि “सूचना साझेदारीको लागि अमूल्य अवसर” प्रदान गर्नेछ। शोषण।

कार्यदल गठन भएको तीन दिनपछि फोर्ब्स पहिलो रिपोर्ट गरियो सञ्चालनको अस्तित्वको बारेमा — र क्लियरभ्यू एआईको फेसियल टेक्नोलोजी उत्पादन क्लियरभ्यू आईडीको प्रयोग: “स्रोतहरूले भने। फोर्ब्स कि क्लियरभ्यू र अन्य एआई उपकरणहरू HSI द्वारा कब्जा गरिएको बाल शोषण सामग्रीको ठूलो क्यास स्क्यान गर्न प्रयोग गरिएको थियो साथै इन्टरपोलको बाल यौन शोषण (ICSE) डाटाबेस, जसमा दुर्व्यवहारका 4.3 मिलियन भन्दा बढी छविहरू र भिडियोहरू छन्,” रिपोर्टर थोमस ब्रुस्टरले लेखे।

अपरेशन रिन्यूड होपले ICSE छविहरूबाट पहिचान गरिएका पीडितहरूका लागि 311 रेफरलहरू प्राप्त गर्यो। यसमा एक जना अष्ट्रेलियाली पीडितको पहिचान पनि समावेश छ, जो एक अनुसार एबीसी अन्तर्वार्ता QPS पीडित आईडी विश्लेषक र अपरेशन रिन्यूड होप सहभागी स्कट एन्डरसनसँग, अघिल्लो खुलासाको लागि पुलिसमा गएको थियो।

एएफपीले विगतमा ICSE डाटाबेसमा केस सामग्री योगदान गरेको छ। २०२२ को अन्तमा, एएफपी र इन्टरपोल संयुक्त घोषणा ICSE को लागि $815,000 कोष उपलब्ध गराएको अष्ट्रेलियाली एजेन्सीले बताएको छ कि सहयोगको परिणामस्वरूप अष्ट्रेलियामा 860 पीडितहरू पहिचान गरिएको छ र 349 अपराधीहरूलाई पक्राउ गरिएको छ। प्रेस विज्ञप्तिमा भनिएको छ कि कोष डाटाबेस सुधार गर्न “अत्याधुनिक प्रविधिहरूको एकीकरण मार्फत … [including] अनुहार पहिचान”।

एएफपीका प्रवक्ताले भने क्रिकी बलले “क्लियरभ्यू एआई प्रयोग गर्दैन वा हाम्रो तर्फबाट त्यसो गर्न कुनै अन्य एजेन्सी प्रयोग गर्दैन” र टास्क फोर्समा उपस्थित हुने एएफपी कर्मचारीहरूले अनुमोदित उपकरणहरू मात्र प्रयोग गर्छन्। यो प्रतिध्वनि a कथन गत वर्ष मेमा सिनेटको अनुमानका क्रममा उपायुक्त अन्तर्राष्ट्रिय र विशेषज्ञ क्षमता कमाण्ड लेसा गेलले बनाएको थियो।

तर प्रवक्ताले यो पनि पुष्टि गरे कि यसले इन्टरपोलको आईसीएसईलाई सामग्री प्रदान गर्दछ जसले अपरेशन रिन्यूएड होपमा विश्लेषण गरिएको सामग्रीको आधार बनाएको थियो। यसले त्यसपछि कम्तीमा एक अष्ट्रेलियाली बाल यौन शोषणको घटनामा थप घटनाक्रमहरू निम्त्यायो। छोटकरीमा, एएफपीले तेस्रो पक्षलाई अष्ट्रेलियाली केस सामग्री साझा गर्‍यो जुन एजेन्सीलाई प्रयोग गर्न अनुमति नभएको क्लियरभ्यू एआई प्रविधि प्रयोग गरेर विश्लेषण गरिएको थियो।

जब एएफपीलाई अपरेशन रिन्यूड होप – जुन यो एक हिस्सा थियो – क्लियरभ्यू एआई प्रयोग गरिरहेको छ भनेर थाहा भयो भनेर सोध्दा, प्रवक्ताले सीधा जवाफ दिएनन् तर दिए। क्रिकी एउटा सामान्य कथन जसले Clearview AI को टेक्नोलोजीमा पहुँच हुनुपर्छ भन्ने एजेन्सीलाई विश्वास छ कि छैन भन्ने बारे हाम्रो प्रश्नको जवाफ दिने जस्तो लागेन।

“एएफपी कुनै पनि अनलाइन उपकरणहरू उचित रूपमा प्रयोग गर्न प्रतिबद्ध छ, र यो जानकारीले खेल्न सक्ने महत्त्वपूर्ण भूमिकाको साथ अनलाइन वातावरणमा डेटाको गोपनीयता र सम्भावित संवेदनशीलतालाई ध्यानपूर्वक सन्तुलनमा राख्न प्रतिबद्ध छ। [the] आतंकवाद र बाल शोषण लगायतका गम्भीर अपराधहरूको अनुसन्धान, “उनीहरूले भने।

‘क्लियरभ्यू आईडीको प्रयोगलाई ध्यानमा राख्दै … त्यहाँ जोखिमहरू छन्’

पर्दा पछाडि, इमेलहरू देखाउँछन्, अष्ट्रेलियाली पुलिसले अपरेशन रिन्यूड होपमा क्लियरभ्यू एआईको प्रयोगको प्रतिक्रियालाई ध्यानपूर्वक हेरे। अगस्ट ९ मा, अष्ट्रेलियन सेन्टर टु काउन्टर चाइल्ड एक्सप्लोइटेसन (ACCCCE) जासूस सर्जेन्टले केन्द्रको नेतृत्व टोली मध्ये एक, एक जासूस सुपरिटेन्डेन्टलाई इमेल गर्यो। फोर्ब्स “लेख पुन HSI टास्कफोर्स र ICSE डाटामा अनुहार पहिचान उपकरणहरूको प्रयोग” विषय रेखाको साथ लेख। “यस लेखले कुनै पनि अन्तर्राष्ट्रिय संलग्नतालाई सन्दर्भ गर्दैन, तर अनुहार पहिचान उपकरणहरूको प्रयोगलाई सन्दर्भ गर्दछ, र सामग्री इन्टरपोल ICSE डाटाबेसबाट प्रदान गरिएको थियो,” उनीहरूले लेखे। “[Redacted] आज बिहान मलाई यो ल्याइयो, टिप्पणीको लागि सोधिएको खण्डमा हामी प्रतिक्रियाहरू तयार गर्न सकौं भनेर यो संक्षिप्त गर्न सान्दर्भिक हुनेछ भनेर नोट गर्दै।

डिटेक्टिभ सुपरिटेन्डेन्टले उनीहरूलाई धन्यवाद दिन्छन् र भन्छन् कि उनीहरूले यसलाई आफ्नो वरिष्ठसँग ल्याउछन्: “हामी उसलाई हुन सक्ने कुनै पनि प्रश्नहरू समाधान गर्न सक्छौं”, उनीहरूले जवाफ दिए।

उही समयमा, QPS ले आफ्नो रणनीति पनि विचार गरिरहेको थियो। अगस्त 10 मा “प्रमुख” लाई सम्बोधन गरिएको इमेलमा, एक कर्मचारी सदस्यले अपरेशनको बारेमा अन्तर्वार्ता लिन 7 समाचारको अनुरोधको जवाफमा एक ब्रीफिंग नोट पठाउँछन्। “HSI द्वारा Clearview ID को प्रयोगलाई ध्यानमा राख्दै, हामीसँग अन्तर्वार्ता गर्दा जोखिमहरू छन्।” ब्रिफिङ नोटमा गोपनीयता आयुक्तको क्लियरभ्यू एआई निर्णय उल्लेख छ। “मिडिया मुद्दाहरू” शीर्षकको खण्डमा, यसले QPS कर्मचारीहरूले Clearview AI को प्रविधिको प्रयोगको उल्लेख गर्दैन र भन्छ कि एजेन्सीको मिडिया टोलीले “यस प्रविधिको वरिपरि उपयुक्त सन्देशहरूको साथ सहयोग गरिरहेको छ कि कुनै पनि टिप्पणीहरू ब्रान्ड अज्ञेयवादी छन् र उल्लेख गरिएको छ। टेक्नोलोजीले ल्याउन सक्ने सम्भावित गोपनीयता र मानव अधिकार प्रभावहरूबाट बनेको छ।”

अपरेसन रिन्यूड होपदेखि, अष्ट्रेलियाली पुलिसले क्लियरभ्यू एआईको प्रयोगको लागि आफ्नो वकालत बढाएको छ। सेप्टेम्बर मा एक लेख द अस्ट्रेलियाली रिपोर्ट गरियो टिप्पणीहरू एएफपीका सहायक आयुक्त हिल्डा सिरेक र उपायुक्त लेसा गेलले – जसले पहिले AFP ले सिनेट अनुमानमा तेस्रो पक्ष मार्फत क्लियरभ्यू एआई प्रयोग गरेको अस्वीकार गरेका थिए – अपरेशन रिन्यूड होपको सफलतामा आधारित क्लियरभ्यू एआई जस्ता उपकरणहरूमा पहुँच प्रदान गर्ने पक्षमा।

यसले पूर्व एएफपी एसीसीई अपरेशन्स म्यानेजर जोन राउजबाट उत्साहजनक समर्थन पनि देखाएको थियो, जसले यस कार्यक्रममा उपस्थिति जनाएका थिए। हेराल्ड सन, ७ समाचार र एबीसीले अपरेशन रिन्यूएड होपको कभरेज, क्लियरभ्यू एआईमा प्रभावकारी प्रतिबन्धको अर्थ पुलिसले “आफ्नो पीठ पछाडि एक हात बाँधेर काम गरिरहेको” भन्ने तर्क गर्दै।

“गोपनीयताको सुरक्षाको बारेमा बहस र हामीलाई डेटा स्क्र्याप गर्न अनुमति दिनुपर्छ कि भनेर मेरो लागि अप्रासंगिक छ,” राउजले भने। हेराल्ड सन।

(गत सेप्टेम्बर, क्रिकी रिपोर्ट गरियो त्यो Rouse, अझै AFP को लागि काम गर्दा, Hon-that लाई भेटेको थियो, पछि-पछि इमेल गर्यो र “क्लियरभ्यू मुद्दा मा केहि शिक्षा” प्राप्त गर्न को लागी अष्ट्रेलिया र न्यूजील्याण्ड बाल संरक्षण इकाई नेताहरु को एक बैठक को संक्षिप्त गर्न को लागी व्यवस्था गर्यो। Clearview AI र AFP विरुद्ध गोपनीयता आयुक्तको प्रतिकूल निष्कर्ष पछि।)

अस्ट्रेलियाली ग्रीन्स डिजिटल अधिकारका प्रवक्ता सिनेटर डेभिड शूब्रिजले भने कि उनी केही समयको लागि अष्ट्रेलियाली पुलिस “अनिवार्य रूपमा उनीहरूको क्लियरभ्यू एआईको प्रयोगलाई सम्झौता गर्ने” बारे चिन्तित छन्।

“विशेष गरी समस्याको कुरा के छ भने पीडितहरूको छविहरू सहमति बिना र कुनै प्रभावकारी गोपनीयता जाँच बिना क्लियरभ्यू डाटाबेसमा अपलोड गरिएको सुझाव हो,” उनले इमेल गरिएको बयानमा भने। “क्लियरभ्यूको विश्लेषणले देखाएको छ कि यसमा धेरै वास्तविक जातीय पूर्वाग्रह छ, यदि कुनै अन्य कारणले गर्दा, यसले एएफपीलाई यसमा भाग लिनबाट रोक्नु पर्छ।”

शुब्रिजले भने कि यसले अष्ट्रेलियाको गोपनीयता कानून अपर्याप्त छ भनेर देखाउँछ।

“यदि संघीय पुलिसले नियमित रूपमा गोपनीयता संरक्षणलाई बेवास्ता गर्न सक्छ, प्राइभेसी वाचडगले बोलाएको बेला पनि, त्यो पक्कै पनि तत्काल सुधार र अझ स्पष्ट सुरक्षाहरूको आवश्यकताको प्रमाण हो,” उनले भने।

महान्यायाधिवक्ताको कार्यालयले तेस्रो पक्ष मार्फत अष्ट्रेलियाको गोपनीयता कानून उल्लङ्घन गर्ने टेक्नोलोजी प्रयोग गरी एएफपीले आफ्नो कानूनी दायित्व र समुदायका अपेक्षाहरू पूरा गरिरहेको छ कि छैन भन्ने प्रश्नहरूको जवाफ दिएन।

मेलबर्न विश्वविद्यालयका वरिष्ठ व्याख्याता डाक्टर जेक गोल्डेनफेन, जसले अनुहार पहिचान प्रविधि र निगरानीको अनुसन्धान गरेका छन्, तेस्रो पक्षद्वारा एएफपी सामग्रीमा क्लियरभ्यू एआईको प्रयोगलाई कानून प्रवर्तन “आर्बिट्रेजिंग न्यायक्षेत्र” को उदाहरणको रूपमा वर्णन गरे।

उनले भने कि यो उल्लेखनीय छ कि क्लियरभ्यू एआई सबैभन्दा विवादास्पद र आपत्तिजनक अनुहार पहिचान टेक्नोलोजी कम्पनीको रूपमा उभिएको छ तर, यसको बावजूद, संसारभरका कानून प्रवर्तन एजेन्सीहरू अझै पनि यसको उत्पादन प्रयोग गर्न चाहन्छन्।

“क्लियरभ्यू एआई विरुद्ध यो ठूलो नियामक प्रयास छ,” उनले फोनमा भने। “प्रशासनिक राज्य स्पष्ट रूपमा यस कम्पनीको विरुद्धमा छ, तर यो हराउने छैन किनभने राज्यको अर्को भागले यसलाई प्रयोग गरिरहेको छ।”

UNSW अपराधविज्ञानका प्राध्यापक र बाल यौन शोषण विशेषज्ञ डा माइकल साल्टरले भने कि यो बुझ्न सकिन्छ कि पुलिसले क्लियरभ्यू एआई जस्ता प्रविधिमा पहुँच चाहने सबैभन्दा गम्भीर अपराधहरूको अनुसन्धान गर्न चाहन्छ जुन प्रायः नयाँ प्रविधिहरूसँग सहयोग गरिन्छ।

“प्राविधिक उद्योगले बालबालिकालाई दुर्व्यवहार गर्न प्रयोग गर्न सकिने शक्तिशाली उपकरणहरू प्रदान गरिरहेको छ तर उनीहरूलाई जोगाउन सक्ने उपकरणहरू सिर्जना गर्न समान व्यावसायिक अनिवार्यता छैन,” उनले कलमा भने।

“पहिले जस्तै, हामी उही गतिशीलता देखिरहेका छौं जहाँ हामी अपराधीहरूलाई पक्रन वा पीडितहरूलाई राहत दिन उपकरणहरू पाउँदैनौं, जबकि अपराधीहरूले यसलाई आफ्नै साधनको लागि प्रयोग गर्न सक्छन्।”