प्रभावकारी परोपकारीहरूले अब आफ्नो धेरै ध्यान AI मा केन्द्रित गरिरहेका छन् र वाशिंगटनलाई टेक्नोलोजीको सर्वनाश सम्भाव्यतालाई सम्बोधन गर्न दबाब दिइरहेका छन्, जसमा उन्नत AIs एक दिन जैविक हतियारहरू विकास गर्न प्रयोग हुन सक्छ। आलोचकहरूले दाबी गर्छन् कि सट्टा भविष्यका जोखिमहरूमा आन्दोलनको फोकसले जातीय पूर्वाग्रहलाई बढावा दिने वा प्रतिलिपि अधिकार संरक्षणलाई कमजोर पार्ने प्रवृत्ति सहित अवस्थित AI हानिहरूबाट नीति निर्माताहरूलाई विचलित गरेर शीर्ष टेक कम्पनीहरूको हितमा काम गर्दछ।

प्रभावकारी परोपकारी विचारहरू र एआई उद्योग बीचको लिंक पहिले नै नजिक छ – शीर्ष एआई कम्पनीहरूमा धेरै प्रमुख कर्मचारीहरू प्रभावकारी परोपकारका वकालत गर्छन्। अब RAND, एक प्रभावशाली, दशकौं पुरानो थिंक ट्याङ्क, एक शक्तिशाली वाहनको रूपमा सेवा गरिरहेको छ जसको माध्यमबाट ती विचारहरू अमेरिकी नीतिमा प्रवेश गरिरहेका छन्।

RAND मा, दुबै सीईओ जेसन म्याथेनी र वरिष्ठ सूचना वैज्ञानिक जेफ अल्स्टोट प्रख्यात प्रभावकारी परोपकारी हुन्, र दुबै पुरुषहरूसँग बाइडेन प्रशासन सम्बन्ध छ: उनीहरूले RAND मा सामेल हुनु अघि व्हाइट हाउस अफिस अफ साइन्स एन्ड टेक्नोलोजी नीति र राष्ट्रिय सुरक्षा परिषद दुबैमा सँगै काम गरे। गत वर्ष।

RAND प्रवक्ता जेफ्री हिडेले पुष्टि गरे कि Alstott सहित RAND कर्मचारीहरू रिपोर्टिङ आवश्यकताहरू र AI कार्यकारी आदेशको अन्य भागहरूको मस्यौदामा संलग्न थिए। हिडेले भने कि RAND अवस्थित छ “[conduct] आजको महत्वपूर्ण विषयहरूमा अनुसन्धान र विश्लेषण, [and] त्यसपछि [share] त्यो अनुसन्धान, विश्लेषण र नीति निर्माताहरूसँग विशेषज्ञता।

RAND ले $15 मिलियन भन्दा बढी स्वेच्छिक अनुदान प्राप्त गर्यो AI मा र जैविक सुरक्षा यस वर्षको सुरुमा खुला परोपकारबाट। प्रभावकारी-परोपकारी समूहको एआई फर्म एन्थ्रोपिक र ओपनएआईसँग व्यक्तिगत र वित्तीय सम्बन्ध छ, र शीर्ष RAND कर्मचारीहरू ती कम्पनीहरूमा प्रमुख कर्पोरेट संरचनाहरूसँग नजिकबाट जोडिएका छन्।

म्याथेनी पाँच सदस्य मध्ये एक को रूपमा सेवा गर्दछ एन्थ्रोपिकको “दीर्घकालीन लाभ ट्रस्ट” मा। र Tasha McCauley – RAND मा एक सहायक वरिष्ठ व्यवस्थापन वैज्ञानिक कथित गहिरो डर संग AI apocalypse – ओपनएआईको बोर्ड गत महिना पछि छोड्यो OpenAI का सीईओ साम अल्टम्यान हटाउन प्रयास गर्दै उनको पोस्टबाट।

दुई एआई साथीहरू सार्वजनिक सेवाका लागि होराइजन संस्थान द्वारा वित्त पोषित — ओपन फिलान्थ्रोपी द्वारा वित्त पोषित संस्था जसले वाशिंगटनभरका कर्मचारीहरूलाई एआई र बायोटेक्नोलजीसँग सम्बन्धित अस्तित्वसम्बन्धी जोखिमहरू र अन्य नीति प्रश्नहरूमा काम गर्न दिन्छ — RAND मा काम गर्दछ। ती साथीहरू ए को भाग हुन् फराकिलो नेटवर्कOpen Philanthropy र अन्य प्राविधिक-सम्बन्धित समूहहरू द्वारा वित्त पोषित, त्यो हो कांग्रेसमा एआई कर्मचारीहरूलाई कोषसंघीय एजेन्सीहरूमा र वाशिंगटनका प्रमुख थिंक ट्याङ्कहरूमा।

ह्वाइट हाउसमा एआई नीतिमा रान्डको बढ्दो प्रभाव यसका कर्मचारीहरूले प्रभावकारी परोपकारको साथ थिंक ट्याङ्कको नयाँ सम्बन्धमा चिन्ता व्यक्त गर्न थालेका छन्।

अक्टोबर 25 मा RAND कर्मचारीहरूको सबै-हातको बैठकमा, जसको अडियो रेकर्डिङ POLITICO ले प्राप्त गरेको थियो, एक कर्मचारीले RAND को ओपन फिलान्थ्रोपीसँगको सम्बन्धले “प्रभावी परोपकार एजेन्डा” लाई अगाडि बढाउनको पक्षमा यसको “कठोर र उद्देश्य” प्रतिष्ठालाई कमजोर पार्न सक्ने चिन्ता व्यक्त गर्नुभयो। ।”

एउटै रेकर्डिङमा, म्याथेनीले भने कि RAND ले एआई कार्यकारी आदेशको मस्यौदामा व्हाइट हाउसलाई सहयोग गरेको थियो। अक्टोबर 30 मा हस्ताक्षर गरियो, आदेशले एआई र बायोटेक्नोलोजीको अत्याधुनिक किनारमा कम्पनीहरूको लागि व्यापक नयाँ रिपोर्टिङ आवश्यकताहरू लागू गर्दछ। ती आवश्यकताहरूले एआईमा बिडेन प्रशासनको दृष्टिकोणलाई दाँत दिन्छ – र तिनीहरू अल्स्टोट र RAND मा अन्य कर्मचारीहरूबाट धेरै प्रभावित थिए।

कार्यकारी आदेशको मस्यौदाको ज्ञान भएको एक AI अनुसन्धानकर्ता, जसले विषयको संवेदनशीलताको कारणले नाम न छाप्ने अनुरोध गरे, POLITICO लाई भने कि Alstott र अन्य RAND कर्मचारीहरूले आदेशको मस्यौदा तयार गर्दा व्हाइट हाउसलाई पर्याप्त सहयोग प्रदान गरेको थियो। अन्वेषकले भने कि Alstott र RAND मा अन्यहरू विशेष गरी खण्ड 4 मा पाइने रिपोर्टिङ आवश्यकताहरू शिल्प गर्न संलग्न थिए।

अन्य चीजहरू मध्ये, अर्डरको खण्ड 4 ले कम्पनीहरूलाई उन्नत AI मोडेलहरू र तिनीहरूलाई तालिम दिन प्रयोग गरिने माइक्रोचिपहरूको ठूला क्लस्टरहरूको विकासको बारेमा विस्तृत जानकारी प्रदान गर्न आवश्यक छ। यसले ती AI मोडेलहरूको लागि कडा सुरक्षा आवश्यकताहरू पनि अनिवार्य गर्दछ, जीन संश्लेषणमा संलग्न बायोटेक कम्पनीहरूका लागि नयाँ स्क्रीनिंग संयन्त्रहरू लागू गर्दछ र AI र बायोटेक फर्महरूका लागि तपाईंको ग्राहकलाई जान्ने नियमहरूलाई बढावा दिन्छ।

कार्यकारी आदेशका धेरै विशिष्ट पक्षहरू पहिले Alstott द्वारा प्रचारित विचारहरू थिए। सबै छवटा समग्र नीतिगत सिफारिसहरू सेप्टेम्बर सिनेट सुनुवाईको क्रममा अलस्टोटले बनाएको थियो AI-सक्षम धम्कीहरूमा केही फेसनमा खण्ड 4 मा आफ्नो बाटो भेट्टायो। यसमा कम्पनीहरूले उन्नत AI मोडेलहरूमा जानकारी रिपोर्ट गर्न आवश्यक पर्ने सटीक थ्रेसहोल्ड समावेश गर्दछ – दुबै Alstott र व्हाइट हाउसले 10^26 अपरेशनहरू भन्दा बढीमा त्यो थ्रेसहोल्ड फिक्स गर्दछ।

अक्टोबर 25 मा RAND कर्मचारीहरूको सर्व-हातको बैठकमा – बाइडेनले आदेशमा हस्ताक्षर गर्नुभन्दा पाँच दिन अघि – म्याथेनीले रान्डको प्रभावलाई संकेत गर्दै यसो भने कि “राष्ट्रिय सुरक्षा परिषद्, [the Department of Defense] र [the Department of Homeland Security] भविष्यका AI प्रणालीहरूबाट हुने विनाशकारी जोखिमको बारेमा गहिरो चिन्तित छन् र RAND लाई धेरै विश्लेषणहरू उत्पादन गर्न आग्रह गरेका छन्।” RAND सीईओले भने कि ती विश्लेषणहरूले “नयाँ निर्यात नियन्त्रणहरू र अर्को हप्ता ह्वाइट हाउसबाट अपेक्षित प्रमुख कार्यकारी कार्यको बारेमा जानकारी गराए।”

ह्वाइट हाउसले कार्यकारी आदेश जारी गर्नुभन्दा केही घन्टा अघि Alstott द्वारा धेरै RAND खाताहरूमा पठाइएको अक्टोबर 30 को इमेल – जसको एक प्रतिलिपि POLITICO ले प्राप्त गरेको थियो – जसलाई Alstott “संस्करण” भनिन्छ। [of the order] एक हप्ता अघि देखि।” हस्ताक्षर हुनुभन्दा एक हप्ता अघि अर्डरको अप-टु-डेट प्रतिलिपिको अल्स्टोटको कब्जाले यसको विकासमा उनको नजिकको संलग्नतालाई संकेत गर्दछ।

Hiday अक्टोबर 25 को सबै हात बैठक को अडियो रेकर्डिङ को शुद्धता पुष्टि गर्यो, साथै Alstott द्वारा पठाइएको इमेल।

हिडेले भने कि RAND ले कम्तिमा खण्ड 4 मा रहेका केही प्रावधानहरूको लागि प्रारम्भिक सिफारिसहरू उपलब्ध गराएको थियो। आदेशको मस्यौदाको ज्ञान भएका AI अनुसन्धानकर्ताले भने कि कार्यहरूको क्रमले सुझाव दियो कि थिंक ट्याङ्कले व्हाइट हाउसमा अनुचित स्तरको प्रभाव राखेको छ। । एआई कार्यकारी आदेशमा मुख्य प्रावधानहरूको लागि प्रारम्भिक सिफारिसकर्ताको रूपमा सेवा गरेर – बाइडेन प्रशासनको मस्यौदा र आफ्नै प्राथमिकताहरू लागू गर्न मद्दत गर्नुको सट्टा – अनुसन्धानकर्ताले चिन्ता व्यक्त गरे कि RAND “प्राविधिक सहायता सञ्चालन” र “प्रभाव सञ्चालन” भन्दा बाहिर गएको छ। ।”

हिडेले यस वर्षको सुरुमा प्रभावकारी-परोपकारी कोषबाट AI र जैवसुरक्षामा $15 मिलियन भन्दा बढी स्वेच्छिक अनुदान प्राप्त गरेपछि RAND ले ओपन फिलान्थ्रोपीको एआई र बायोसेक्युरिटी प्राथमिकताहरूलाई कार्यकारी आदेशमा अनुचित रूपमा सम्मिलित गरेको धारणालाई अस्वीकार गर्नुभयो।

“RAND अनुसन्धान कोष गर्ने व्यक्ति र संस्थाहरूले हाम्रो नीति सिफारिसहरू सहित हाम्रो कामको नतिजामा कुनै प्रभाव पार्दैन,” हिडेले भने। RAND प्रवक्ताले थपे कि “निश्चितता सुनिश्चित गर्न कडा नीतिहरू छन्।”

म्याथेनी वा अल्स्टोट – दुबै भर्खरका ह्वाइट हाउसका कर्मचारीहरूले – एआई नीतिलाई प्रभाव पार्न प्रशासन भित्रको उनीहरूको अघिल्लो सम्बन्धको लाभ उठाए कि भनेर सोध्दा, हिडेले भने कि “सबैजना जो रान्डमा सामेल हुन्छन्, लगायत। [Matheny] र [Alstott]व्यावसायिक सम्बन्धहरूको विस्तारित नेटवर्कको साथ आइपुग्छ जुन हाम्रो सम्पूर्ण संगठनमा प्रयोग गरिन्छ र सार्वजनिक भलाइको लागि हाम्रो अनुसन्धानको व्यापक पहुँच र प्रभाव सुनिश्चित गर्न।

ह्वाइट हाउसका प्रवक्ता रोबिन प्याटरसनले एआई कार्यकारी आदेशको मस्यौदामा RAND को सहभागिताको पुष्टि वा अस्वीकार गर्ने वा ओपन फिलान्थ्रोपीसँग RAND को सम्बन्धको बारेमा प्रश्नहरूको जवाफ दिनेछैन।

प्याटरसनले भने कि AI मा बिडेनका कार्यहरूले “नागरिक अधिकार, गोपनीयता, उपभोक्ताहरू, कामदारहरू, बजार असफलताहरू, र राष्ट्रिय सुरक्षामा जोखिमहरू सहित जोखिमहरूको विस्तृत दायरालाई सम्बोधन गर्दछ – र उनीहरूले यो पनि सुनिश्चित गर्छन् कि हामीले AI लाई उचित रूपमा सम्बोधन गर्न प्रयोग गरिरहेका छौं। हाम्रो समयका महत्त्वपूर्ण चुनौतीहरू जस्तै रोग निको पार्ने र जलवायु परिवर्तनलाई सम्बोधन गर्ने।

खुला परोपकारका प्रवक्ता माइक लेभिनले भने कि उनको संस्था “स्वतन्त्र विज्ञहरूलाई समर्थन गर्न पाउँदा गर्व छ जसलाई राष्ट्रपति बिडेनको गतिलाई अगाडि बढाउनको लागि योगदान दिन आग्रह गरिएको थियो। व्हाइट हाउसको स्वैच्छिक प्रतिबद्धताहरू [on AI safety]।” लेभिनले नोट गरे कि एआई नीतिमा प्रभावकारी परोपकारको प्रभावको आलोचना गर्ने केही अनुसन्धानकर्ताहरूले बिडेनको कार्यकारी आदेशका पक्षहरूको प्रशंसा गरेका छन्। नयाँ रिपोर्टिङ आवश्यकताहरु को अतिरिक्त, आदेश विद्यमान एआई हानिहरूलाई सम्बोधन गर्नका लागि धेरै खण्डहरू समावेश गरियो।

केही RAND कर्मचारीहरूले ओपन फिलान्थ्रोपी र प्रभावकारी परोपकारसँग कसरी संगठनको सम्बन्धले 75 वर्ष पुरानो थिंक ट्याङ्कको वस्तुनिष्ठतालाई असर गर्न सक्छ भन्ने बारे आन्तरिक चिन्ताहरू उठाइरहेका छन्।

त्यही अक्टोबर २५ को सबै हातको बैठकमा, एक अज्ञात प्रश्नकर्ताले भने कि RAND र Open Philanthropy बीचको सम्बन्धलाई हाइलाइट गरिएको थियो। अघिल्लो POLITICO लेख “कठोर र वस्तुनिष्ठ विश्लेषण” को लागि आदरणीय थिंक ट्याङ्कको प्रतिष्ठाको साथ “असफल देखिन्छ”। प्रश्नकर्ताले म्याथेनीलाई सोधे कि “RAND को ब्रान्ड अन्तर्गत गवाही र नीति मेमोहरू सहित प्रभावकारी परोपकार एजेन्डाको लागि धक्का उचित छ।”

म्याथेनीले अंशमा जवाफ दिए कि यो “का लागि गैर जिम्मेवार हुनेछ [RAND] AI द्वारा उत्पन्न सम्भावित विनाशकारी जोखिमहरूलाई सम्बोधन नगर्ने, “विशेष गरी जब नीति निर्माताहरूले हामीलाई तिनीहरूको लागि सोधिरहेका छन्।”

उनले यो पनि दावी गरे कि POLITICO ले “एआई सुरक्षाको बारेमा चिन्तालाई एक फ्रिङ्ग मुद्दाको रूपमा गलत रूपमा प्रस्तुत गर्‍यो जब वास्तवमा, यो आज धेरै जसो प्रमुख एआई अनुसन्धानकर्ताहरू बीचको प्रमुख मुद्दा हो।”

सोही बैठकमा अर्का अज्ञात प्रश्नकर्ताले म्याथेनीलाई “पुश टु हायर” मा टिप्पणी गर्न भने [effective altruist] RAND भित्रका मानिसहरू र सामान्य RAND इकोसिस्टम बाहिरका साथीहरूको एकसमान समूह सिर्जना गर्नुहोस्।” प्रश्नकर्ताले POLITICO लेखमा हाइलाइट गरिएको RAND र Open Philanthropy बीचको सम्बन्धले “हाम्रो संगठनमा विश्वासलाई खतरामा पार्छ।”

म्याथेनीले भागमा जवाफ दिनुभयो कि RAND ले “हाम्रो काममा हाम्रो प्रकाशनहरूमा जस्तै लगनशीलताको अभ्यास गरेको छ।” RAND CEO ले थपे कि “यदि केहि, [he’s] हामीले काम गरेको तरिकामा ओपन फिलान्थ्रोपीलाई थप ह्यान्डअफ भएको देखियो।”

हिडेले पोलिटिकोलाई भने कि त्यहाँ “भाडामा राख्नको लागि धक्का” छैन [effective altruist] RAND भित्रका मानिसहरू,” तर थिंक ट्याङ्कले “विभिन्न प्रकारका फेलोशिप कार्यक्रमहरू होस्ट गर्दछ।”