सोमबार, एन्थ्रोपिक आफ्नो मुद्दा दायर गरे आपूर्ति श्रृंखला जोखिमको रूपमा तोकिएकोमा रक्षा विभाग विरुद्ध। घण्टा पछि, OpenAI र Google का लगभग 40 कर्मचारीहरू – जेफ डीन, गुगलका प्रमुख वैज्ञानिक र जेमिनी नेतृत्व सहित – एन्थ्रोपिकको मुद्दाको समर्थनमा एमिकस ब्रीफ दायर गर्योट्रम्प प्रशासनको निर्णय र टेक्नोलोजीको जोखिम र प्रभावहरूमा उनीहरूको चिन्ताको विवरण दिँदै।
समाचारले एन्थ्रोपिकको लागि केही हप्ताको नाटकीय पछ्याउँछ, जसमा ट्रम्प प्रशासनले कम्पनीलाई आपूर्ति श्रृंखला जोखिमको रूपमा लेबल गर्यो – एक पदनाम सामान्यतया विदेशी कम्पनीहरूको लागि आरक्षित हुन्छ जुन सरकारले कुनै न कुनै रूपमा राष्ट्रिय सुरक्षाको लागि सम्भावित जोखिम मान्दछ – एन्थ्रोपिक पछि। दृढ उभियो यसको टेक्नोलोजीको सैन्य प्रयोगको लागि स्वीकार्य प्रयोगका केसहरूको सन्दर्भमा दुई रातो रेखाहरूमा: घरेलु मास निगरानी र पूर्ण स्वायत्त हतियारहरू (वा मार्ने शक्ति भएको एआई प्रणालीहरू। कुनै मानव संलग्नता छैन)। वार्ता भङ्ग भयोसार्वजनिक अपमान र पछि अन्य एआई कम्पनीहरू तिनीहरूको टेक्नोलोजीको “कुनै पनि कानुनी प्रयोग” लाई अनुमति दिने सम्झौताहरूमा हस्ताक्षर गर्न।
आपूर्ति श्रृंखला जोखिम पदनामले एन्थ्रोपिकलाई सैन्य सम्झौताहरूमा काम गर्नबाट मात्र रोक्दैन, यसले अन्य कम्पनीहरूलाई पनि कालोसूचीमा राख्छ यदि उनीहरूले पेन्टागनको लागि कामको लाइनमा एन्थ्रोपिक उत्पादनहरू प्रयोग गरे भने, उनीहरूले आफ्नो आकर्षक सम्झौता कायम राख्न चाहेमा क्लाउडलाई उखेल्न बाध्य पार्छन्। वर्गीकृत खुफियाका लागि पहिलो मोडेलको रूपमा खाली भए तापनि, एन्थ्रोपिकका उपकरणहरू पहिले नै पेन्टागनको काममा गहिरो रूपमा एकीकृत भइसकेका छन् – यतिसम्म कि रक्षा सचिव पीट हेगसेथले पदनाम घोषणा गरेको केही घण्टा पछि, अमेरिकी सेनाले इरानका नेता अयातोल्लाह अली खामेनीलाई मार्ने अभियानमा क्लाउड प्रयोग गरेको कथित छ।
एमिकस संक्षिप्तले एन्थ्रोपिकको आपूर्ति श्रृंखला जोखिम पदनाम “जनहितलाई हानि पुर्याउने अनुचित प्रतिशोध हो” र एन्थ्रोपिकको रातो रेखाहरू पछाडिका चिन्ताहरू “वास्तविक छन् र प्रतिक्रिया चाहिन्छ” भन्ने कुराहरू बनाउन खोज्छ। यसले एन्थ्रोपिकका दुई रातो रेखाहरू पुन: अवलोकन गर्न लायक छ भनी बताउँछ, “AI द्वारा संचालित सामूहिक घरेलु निगरानीले प्रजातान्त्रिक शासनमा गहिरो जोखिम खडा गर्छ – जिम्मेवार हातहरूमा पनि” र त्यो “पूर्ण स्वायत्त घातक हतियार प्रणालीहरूले पनि सम्बोधन गर्नुपर्ने जोखिमहरू प्रस्तुत गर्दछ।”
एमिकस संक्षिप्तको पछाडिको समूहले आफूलाई “अमेरिकी सीमावर्ती कृत्रिम बुद्धिमत्ता प्रयोगशालाहरूमा कार्यरत इन्जिनियरहरू, अनुसन्धानकर्ताहरू, वैज्ञानिकहरू र अन्य पेशेवरहरू” भनेर वर्णन गरेको छ।
“हामी राष्ट्रिय सुरक्षा, कानून प्रवर्तन, र सैन्य अपरेसनहरू लगायतका परिणाममुखी डोमेनहरूमा प्रयोगकर्ताहरू र डिप्लोइमेन्टहरूको विस्तृत दायराको सेवा गर्ने ठूला-स्तरीय एआई प्रणालीहरू निर्माण, तालिम र अध्ययन गर्छौं,” समूहले लेख्यो। “हामी यो संक्षिप्त प्रस्तुत गर्दछौं कुनै एकल कम्पनीको प्रवक्ताको रूपमा होइन, तर यी प्रणालीहरूले के गर्न सक्छन् र गर्न सक्दैनन्, र तिनीहरूको परिचालनले तिनीहरूलाई शासन गर्न डिजाइन गरिएको कानुनी र नैतिक ढाँचालाई बाहिर निकाल्दा के खतरामा छ भन्ने प्रत्यक्ष ज्ञान भएका पेशेवरहरूको रूपमा हाम्रो व्यक्तिगत क्षमताहरूमा प्रस्तुत गर्दछौं।”
सामूहिक घरेलु निगरानी मोर्चामा, समूहले भन्यो कि अमेरिकी नागरिकहरूको डाटा निगरानी क्यामेरा, भौगोलिक स्थान डाटा, सामाजिक सञ्जाल पोष्टहरू, वित्तीय लेनदेनहरू, र थपको रूपमा जताततै अवस्थित भए पनि, “अहिले सम्म अवस्थित नभएको एआई तह हो जसले यस फराकिलो, टुक्रा टुक्रा डाटा परिदृश्यलाई एकीकृत, वास्तविक-समय निगरानी एपमा रूपान्तरण गर्दछ।” अहिले, तिनीहरूले लेखे, यी डाटा स्ट्रिमहरू साइलो गरिएको छ, तर यदि AI तिनीहरूलाई जडान गर्न प्रयोग गरियो भने, यसले “स्थान इतिहास, लेनदेन रेकर्डहरू, सामाजिक ग्राफहरू, र एकै साथ करोडौं मानिसहरूको व्यवहार ढाँचाहरूसँग अनुहार पहिचान डेटा संयोजन गर्न सक्छ।”
जब यो विशेष गरी घातक स्वायत्त हतियारहरूको कुरा आउँछ, समूहले भन्यो कि तिनीहरू नयाँ वा अस्पष्ट परिस्थितिहरूमा अविश्वसनीय हुन सक्छन् जुन उनीहरूलाई तालिम दिइएको वातावरणसँग मिल्दैन – जसको अर्थ तिनीहरू “लक्ष्यहरू पूर्ण सटीकताका साथ पहिचान गर्न विश्वास गर्न सकिँदैन, र तिनीहरू एक उद्देश्य प्राप्त गर्नका लागि मानव लेखा र लेखा प्रभावहरू बीचको सूक्ष्म प्रासंगिक ट्रेडअफहरू बनाउन असक्षम छन्।” थप रूपमा, समूहले लेख्यो, घातक स्वायत्त हतियार प्रणालीहरूको भ्रमको लागि सम्भाव्यताको मतलब यो हो कि मानिसहरूले निर्णय लिने प्रक्रियामा संलग्न हुन महत्त्वपूर्ण छ “मानव लक्ष्यमा घातक हतियार प्रक्षेपण गर्नु अघि” – विशेष गरी जब प्रणालीको तर्कको श्रृंखला प्रायः अपरेटरहरूको लागि उपलब्ध हुँदैन र प्रणालीका विकासकर्ताहरूलाई पनि अस्पष्ट हुन्छ।
एमिकस ब्रीफको पछाडिको समूहले लेख्यो, “हामी हाम्रो राजनीति र दर्शनमा विविध छौं, तर हामी विश्वस्त छौं कि आजको सीमान्तकृत एआई प्रणालीहरूले घरेलु मास निगरानी वा मानव निगरानी बिना स्वायत्त घातक हतियार प्रणालीहरूको सञ्चालन सक्षम गर्न तैनाथ गर्दा जोखिमहरू प्रस्तुत गर्दछन्, र ती जोखिमहरूलाई कुनै प्रकारको सुरक्षा गार्डरेलहरू वा सुरक्षा गार्डहरू मार्फत आवश्यक पर्दछ।”
