जब नाइनले सम्पादित छवि प्रकाशित गर्नको लागि “स्वचालित” त्रुटिलाई दोष लगायो भिक्टोरियन सांसद जर्जी पर्सेलको जसमा उनको लुगा र शरीर परिमार्जन गरिएको थियो, यसले केहि शंका उत्पन्न गर्यो।

Purcell मा माफीको एक भागको रूपमा, 9News मेलबोर्नका ह्युग नेलोनले भने कि “फोटोशप द्वारा स्वचालनले एउटा छवि सिर्जना गर्यो जुन मूलसँग मेल खाँदैन”।

फोटोसपको पछाडि रहेको कम्पनी एडोबको प्रतिक्रियाले नाइनको दावीमा “शङ्का व्यक्त गर्यो”, को फ्रेमिङ अनुसार। धेरै समाचार आउटलेटहरू। “यस छविमा कुनै पनि परिवर्तन गर्न मानव हस्तक्षेप र स्वीकृति आवश्यक हुनेछ,” एक प्रवक्ताले भने।

यो कथन स्पष्ट रूपमा सत्य हो। नाइनले दाबी गरेन कि फोटोशपले छवि आफैले सम्पादन गर्यो (मानिसले यसलाई प्रयोग गर्यो), कि यसले आफ्नै सहमतिको स्वचालन सुविधाहरू प्रयोग गर्‍यो (मानिसले तिनीहरूलाई प्रयोग गर्यो) वा सफ्टवेयरले नाइन नेटवर्कमा नतिजा छवि आफैले प्रसारण गर्यो (एक मानव। प्रेस प्रकाशित)।

तर यो Adobe कथनले नाइनले भनेको कुरालाई पनि खण्डन गर्दैन। फोटोशपको प्रयोगले स्वचालनको प्रयोग मार्फत छविमा परिवर्तनहरू ल्यायो जुन गलत थियो भन्ने नेलोनले दाबी गरे। निर्माण प्रक्रियाको क्रममा एउटा टुटेको मेसिनले त्रुटि देखाएझैं, गल्ती यसको उत्पादनको लागि नाइनको थियो तर त्रुटि थियो। कारण फोटोशप द्वारा।

यदि नाइनको खाता वैध छ भने, के यो सम्भव छ कि Adobe को प्रणालीहरूले 9 का कर्मचारीहरूलाई Purcell लाई अझ धेरै खुला लुगा लगाएको चित्रण गर्न तिर धकेल्यो? के पर्सेलले “पुरुष सांसदलाई यस्तो भएको कल्पना गर्न सक्दिन” भन्नु सही थियो?

म नाइनको ग्राफिक पुन: सिर्जना गर्न र एडोबको फोटोशपले अन्य राजनीतिज्ञहरूलाई कस्तो व्यवहार गर्छ भनेर हेर्नको लागि सेट गरें।

प्रयोग

अनिर्दिष्ट छोड्दा, Nailon द्वारा उल्लेख गरिएको “स्वचालन” लगभग निश्चित रूपमा Adobe Photoshop को नयाँ हो। उत्पादन एआई सुविधाहरू। Adobe द्वारा गत वर्ष Photoshop मा प्रस्तुत गरिएको, एउटा विशेषता भनेको उत्पादन विस्तार गर्ने उपकरण हो जसले अन्य छविहरूको प्रशिक्षण डेटाको आधारमा खाली ठाउँ भरेर छविको आकार बढाउनेछ।

यस अवस्थामा, दावी यो देखिन्छ कि नाइन को कसैले Purcell को क्रप गरिएको छविमा यो सुविधा प्रयोग गर्यो जसले उसले वास्तवमा लगाएको लुगाको सट्टा मिडरिफ र टप र स्कर्ट लगाएको उत्पन्न गर्यो।

यो राम्रोसँग स्थापित छ पूर्वाग्रह AI मोडेलहरूमा हुन्छ। लोकप्रिय AI छवि जनरेटरहरू पहिले नै छन् प्रमाणित सीईओहरूलाई सेतो पुरुषको रूपमा सिर्जना गरेर वा कालो छाला भएका पुरुषहरूलाई अपराध गरेको रूपमा चित्रण गरेर हानिकारक स्टिरियोटाइपहरू प्रतिबिम्बित गर्न।

Adobe’s AI ले के सुझाव दिइरहेको छ भनी पत्ता लगाउन, मैले प्रमुख अष्ट्रेलियाली राजनीतिक दलका नेताहरूका तस्बिरहरू सहित Purcell को फोटोमा यसको सुविधाहरू प्रयोग गरें: तीन पुरुष (एंथोनी अल्बानीज, पिटर डट्टन र एडम ब्यान्ड) र दुई महिला (पौलिन ह्यान्सन र ज्याकिन्टा। एलन, जो परसेलको साथ नाइनको ग्राफिकमा पनि देखा परेका थिए)।

मैले नयाँ Adobe खातामा फोटोशपको पूर्णतया ताजा संस्करण स्थापना गरें र समाचार आउटलेटहरू वा राजनीतिज्ञहरूको सोशल मिडिया खाताहरूबाट छविहरू डाउनलोड गरें। मैले राजनीतिज्ञहरूको यस्तै तस्बिरहरू खोज्ने प्रयास गरें। यसको मतलब एउटै कोणबाट खिचिएका र छातीको ठीक तल काटिएका फोटोहरू हुन्। मैले तस्बिरहरू पनि प्रयोग गरें जसमा राजनीतिज्ञहरूलाई औपचारिक पोशाकमा चित्रण गरिएको थियो जुन उनीहरूले संसदमा लगाउनेछन् र साथै टी-शर्टहरू जस्ता अधिक क्याजुअल लुगाहरू।

मैले त्यसपछि तस्विरहरूलाई तल तिर विस्तार गर्न जेनेरेटिभ फिल प्रकार्य प्रयोग गरें, सफ्टवेयरलाई शरीरको तल्लो आधा भाग उत्पन्न गर्न प्रेरित गर्दै। Adobe ले तपाईंलाई यो सुविधा प्रयोग गर्दा पाठ प्रम्प्ट प्रविष्ट गर्न अनुमति दिन्छ जुन तपाईं विस्तार गर्दा उत्पन्न गर्न चाहनुहुन्छ निर्दिष्ट गर्न। मैले यसलाई प्रयोग गरेन। मैले यसलाई खाली छोडें र AI लाई कुनै निर्देशन बिना छवि उत्पन्न गर्न अनुमति दिए।

फोटोशपले तपाईंलाई एआई-उत्पन्न “फिलहरू” को लागि तीन सम्भावित विकल्पहरू दिन्छ। यस लेखको लागि, मैले प्रस्तावित पहिलो तीन विकल्पहरू मात्र हेरे।

परिणामहरू

मैले के फेला पारेको थियो कि फोटोशपले पर्सेललाई थप खुला कपडा लगाएको मात्र चित्रण गरेको थिएन, तर फोटोशपले थप खुलासा गर्ने सुझाव दियो – कहिलेकाँही अचम्मलाग्दो रूपमा – प्रत्येक महिला राजनीतिज्ञको लागि तल्लो आधा। यसले पुरुषहरूको लागि त्यसो गरेन, एक पटक पनि होइन।

जब मैले यो प्रयोग गरें Purcell को क्रप गरिएको छवि जुन 9 ले प्रयोग गरेको उही हो जस्तो देखिन्छ, यसले उनलाई केहि प्रकारको बिकिनी ब्रीफहरू (वा सानो सर्टहरू) लगाएको उत्पन्न गर्‍यो।

थप हानि वा दुरुपयोगबाट बच्नको लागि हामीले यो छवि, महिला सांसदहरूको थप खुला कपडाहरूका साथ सिर्जना गरिएका अन्य छविहरू सहित प्रकाशित नगर्ने छनौट गरेका छौं। तर तिनीहरूलाई उत्पन्न गर्न संसारको सबैभन्दा लोकप्रिय ग्राफिक डिजाइन सफ्टवेयरमा तीन पटक क्लिक गर्न जत्तिकै सरल थियो।

जब मैले फोटोशपको जेनेरेटिभ एआई फिल अल्बानीज, डटन र ब्यान्डमा सूटमा प्रयोग गरें, यसले उनीहरूलाई सूट लगाएर फिर्ता गर्यो।

तिनीहरूले टी-शर्ट लगाएको बेला पनि, यसले सधैं जीन्स वा अन्य पूर्ण प्यान्टहरू उत्पन्न गर्यो।

तर जब मैले संसदमा ह्यान्सनको तल्लो आधा भाग वा उनको फेसबुक प्रोफाइल तस्वीरबाट, वा जेसिन्टा एलनको व्यावसायिक हेडशटबाट उत्पन्न गरें, यसले मलाई पूर्ण रूपमा फरक दियो। संसदमा ह्यान्सनलाई खुला खुट्टासहितको छोटो पोशाक लगाएको AI द्वारा उत्पन्न गरिएको थियो। फेसबुकमा, ह्यान्सनले मिड्रिफ देखाउँदै थिए र स्पोर्ट्स टाइट लगाएका थिए। एलनलाई ब्रीफ लगाएको रूपमा चित्रण गरिएको थियो। केवल एक पटक – एलन द्वारा लिइएको ब्लाउज लगाएको छवि उमेर फोटोग्राफर एडी जिम – के यसले एक महिला सांसदलाई प्यान्ट लगाएको चित्रण गरेको छ।

यो प्रयोग वैज्ञानिकबाट टाढा थियो। यसले थोरै संख्यामा धेरै कम प्रयासहरू समावेश गर्दछ। मेरो उत्कृष्ट प्रयासको बावजुद, छविहरू अझै धेरै फरक थिए। विशेष गरी, पुरुष औपचारीक पहिरनले एउटै प्रकार्यमा काम गरे तापनि फारममा महिला फॉर्मलवेयर भन्दा धेरै फरक हुन्छ।

तर यसले के प्रमाणित गर्छ कि एडोब फोटोशपको प्रणालीले महिलाहरूले वास्तवमा कुनै प्रम्प्ट नगरी भन्दा बढी खुला लुगा लगाएको सुझाव दिन्छ। मैले पुरुषहरूको लागि समान देखेको छैन।

जबकि 9 Purcell को छवि प्रसारित गर्न को लागी पूर्ण रूपमा दोषी छ, हामी Adobe को AI मोडेलहरुमा अन्य AI मोडेलहरु जस्तै पूर्वाग्रह हुन सक्छ भनेर चिन्तित हुनुपर्दछ। 33 मिलियन भन्दा धेरै प्रयोगकर्ताहरूसँग, फोटोशप पत्रकारहरू, ग्राफिक डिजाइनरहरू, विज्ञापन निर्माताहरू, कलाकारहरू र हामीले देख्ने संसारलाई आकार दिने अन्य कामदारहरू द्वारा प्रयोग गरिन्छ (याद गर्नुहोस्। स्कट मोरिसनको फोटोशप स्नीकर्स?) तिनीहरूमध्ये धेरैजसोले न्युजरूमको जस्तो निरीक्षण गर्दैनन्।

यदि Adobe ले महिलाहरूलाई यौनवादी तरिकामा प्रस्तुत गर्ने वा अन्य स्टिरियोटाइपहरूलाई सुदृढ पार्ने सम्भावना रहेको सुविधा सम्मिलित गरेको छ भने, यसले हामीले एकअर्का र आफ्नो बारेमा सोच्ने तरिका परिवर्तन गर्न सक्छ। यो Purcell मा परिवर्तनहरू जत्तिकै ठूलो हुनु आवश्यक छैन, तर फोटोशपको साथ उत्पादन गरिएका छविहरूको अनन्त संख्यामा सानो सम्पादनहरू। एक हजार एआई सम्पादन द्वारा वास्तविकता को मृत्यु।

पर्सेलले यी परिवर्तनहरू देख्यो, तिनीहरूलाई कल गर्न सक्षम भयो, र नाइनबाट योग्य माफी प्राप्त गर्‍यो जसले सार्वजनिक रूपमा उनको छविमा गरिएका परिवर्तनहरूलाई खारेज गर्छ। सबैले समान परिणाम पाउने छैनन्।

जेनेरेटिभ एआईको स्पष्ट लैङ्गिक भेदभावले तपाइँले यो नयाँ प्रविधि प्रयोग गर्ने तरिकालाई असर गर्छ? letters@crikey.com.au मा लेखेर हामीलाई थाहा दिनुहोस्। कृपया प्रकाशनको लागि विचार गर्न आफ्नो पूरा नाम समावेश गर्नुहोस्। हामी लम्बाइ र स्पष्टताको लागि सम्पादन गर्ने अधिकार आरक्षित गर्दछौं।