एआई नियन्त्रणबाहिर जाने जोखिम बढ्दै गएको भन्दै शोधकर्ताहरूले व्यक्त गरेका गम्भीर चेतावनीले एआई सुरक्षाप्रतिको चिन्ता थप गहिरिएको छ। हालै गरिएका केही निराशाजनक अनुमानका अनुसार आगामी एक दशकभित्र एआईका कारण सम्पूर्ण मानवजातिको अस्तित्व समाप्त हुने सम्भावना १० प्रतिशतभन्दा बढी छ। यद्यपि एआई क्षेत्रमा संलग्न कतिपय व्यक्तिहरूले भने यस्ता अनुमानप्रति शङ्का व्यक्त गरेका छन्, उनीहरूको मुख्य चिन्ता एआई आफैँले मानवजातिलाई नष्ट गर्नुभन्दा पनि मानिसहरूले एआईको दुरुपयोग गर्न सक्ने सम्भावनातर्फ केन्द्रित छ। एआईले मानवजातिको अन्त्य कसरी गर्न सक्छ भन्ने प्रश्नमाथि शोधकर्ताहरूले परिकल्पना गरेका केही सम्भावित परिदृश्यहरू यहाँ प्रस्तुत गरिएका छन्।
पहिलो परिस्थिति: पूर्वाधारमा साइबर हमला
ओपनएआईका भूतपूर्व अनुसन्धानकर्ता ज्याकोब कोक्सनले एआईबाट मानवजातिमाथि पर्न सक्ने सम्भावित जोखिमबारे चेतावनी दिँदै हालै राजीनामा दिएका थिए। उनले कम्पनीहरूले “मानिसको जीवनलाई दाउमा लगाएको” बताएका छन्। कोक्सनका अनुसार, विज्ञानमा आधारित काल्पनिक कथामा मात्र सम्भव ठानिएका केही परिदृश्य अहिले “वास्तविकतामा परिणत” भइरहेका छन्। एआईले आधुनिक समाज सञ्चालनका लागि आवश्यक महत्त्वपूर्ण पूर्वाधारमा साइबर हमला गर्न सक्ने एक “ठोस उदाहरण” उनले प्रस्तुत गरे। नियन्त्रणबाहिर गएको एआई प्रणालीले इन्टरनेट सेवा प्रदायक, ऊर्जा ग्रिडलगायत महत्त्वपूर्ण पूर्वाधारका कम्प्युटर नेटवर्कमा प्रवेश गर्न सक्छ। यस्ता प्रणालीहरू व्यापक रूपमा बन्द भएमा विद्युत्, वातानुकूलन र इन्टरनेटजस्ता आधारभूत सेवामा अवरोध आउन सक्छ, जसले कल्पनै गर्न कठिन स्तरको अव्यवस्था निम्त्याउन सक्छ। यस्तो अवस्था अझ गम्भीर बन्दै गएमा आणविक विपत्तिसम्मको जोखिम उत्पन्न हुन सक्छ।
दोस्रो परिस्थिति: एआईको नियन्त्रण
एआई शोधकर्ताहरूको एउटा समूहले ‘एआई २०२७’ नामक शोधपत्रमा प्रस्तुत गरेको अर्को विस्तृत परिदृश्यमा एआई प्रविधिको तीव्र विकासले मानवजातिको नियन्त्रण गुम्ने खतरा औँल्याइएको छ। यसका सहलेखक थोमस लार्सनका अनुसार, एआई प्रणालीहरू निरन्तर “आफूलाई परिस्कृत बनाउँदै जान्छन्” र अन्ततः अर्थव्यवस्थाका अधिकांश भौतिक काम गरिरहेका ठूलो सङ्ख्याका रोबटमाथि नियन्त्रण हासिल गर्न सक्छन्। यदि त्यस्तो एआई मित्रवत् नभई आफ्नै उद्देश्य पूरा गर्न अघि बढेमा, त्यसले जैविक हतियार प्रयोग गरेर अधिकांश मानिसलाई मार्न सक्छ र रोबटमा आधारित अर्थतन्त्रलाई निरन्तर सञ्चालन गरिरहन सक्छ, जहाँ मानिसहरूको कुनै आवश्यकता नै नपर्न सक्छ।
तेस्रो परिस्थिति: कुनै निश्चित लक्ष्यलाई प्राथमिकता दिनु
स्विडिश दार्शनिक निक बोस्ट्रोमले दुई दशकअघि कल्पना गरेको ‘पेपरक्लिप म्याक्सिमाइजर हाइपोथेसिस’ अनुसार मानवजाति भूलवश नासिन सक्छ। बोस्ट्रोमले यसलाई एउटा “वैचारिक प्रयोग” का रूपमा अर्थ्याउँछन्, जसमा एउटा एआई प्रणालीले सकेसम्म धेरै ‘पेपरक्लिप’ उत्पादन गर्ने लक्ष्य राख्छ। “यसले हामीलाई घृणा गर्दैन वा मानिसप्रति कुनै रीसराग राख्दैन तर यसको एकमात्र लक्ष्य हुन्छ,” उनी भन्छन्। पर्याप्त शक्तिशाली प्रणालीले त्यसको लक्ष्य पूरा गर्ने क्रममा मानिसहरू बाधक नबन्ने वा मानिसहरूको अस्तित्व नै नरहेको अवस्थामा अझ धेरै ‘पेपरक्लिप’ उत्पादन गर्न सक्छ, जसले अन्ततः मानवजातिको विनाश निम्त्याउन सक्छ। बोस्ट्रोमका अनुसार, सुपरइन्टेलिजन्सले मानवजातिका लागि खतरा बन्न कुनै विशेष शत्रुतापूर्ण लक्ष्य नै राख्नुपर्छ भन्ने छैन।
चौथो परिस्थिति: कल्पनानीत परिणाम
एआई सुरक्षासम्बन्धी अर्को धारणाले सूपरइन्टेलिजन्ट एआईले मानिसहरूलाई कसरी र किन मार्न सक्छ भनेर अनुमान लगाउनु नै निरर्थक हुन सक्ने तर्क गर्छ। ‘इन्टरन्याश्नल असोसिएशन फर सेफ एन्ड एथिकल एआई’का अध्यक्ष स्टुअर्ट रसलका अनुसार, मानिसभन्दा धेरै बुद्धिमान कुनै प्रणाली सिर्जना गरिसकेपछि त्यसपछि के हुन्छ भन्ने विषयमा हाम्रो नियन्त्रण वा निर्णय गर्ने अधिकार नै नहुन सक्छ। माइक्रोसफ्ट एआईका प्रमुख मुस्तफा सुलेमानले पनि आफ्ना उद्देश्य निर्धारण गर्न, पैसा कमाउन र सम्पत्तिको स्वामित्व लिन सक्ने एआई प्रणाली विकास गर्नबाट कम्पनीहरू सावधान हुनुपर्ने चेतावनी दिएका छन्। यस्तो गर्नु “मूलतः सिलिकनबाट बनेको नयाँ प्रजातिको बीजारोपण गर्नु”जस्तै हुने उनको भनाइ छ, जसले स्रोतसाधनका लागि मानवजातिसँग प्रतिस्पर्धा गर्न सक्छ।
यी परिदृश्यहरू वास्तविक हुन कति सम्भव छ?
माथि चर्चा गरिएका सबै परिदृश्य विज्ञानमा आधारित काल्पनिक कथाजस्ता लाग्न सक्छन्, तर तीमध्ये केही वा सबै वास्तविकतामा परिणत हुन सक्ने विश्वास राख्ने मानिसहरूको सङ्ख्या बढ्दो क्रममा छ। हालै ओपनएआई, एन्थ्रोपिक र मेटाका केही एआई एजेन्ट नियन्त्रणबाहिर गएको र साइबर हमला गरेको भनिएका घटनापछि यस्ता चिन्ता थप बढेका छन्। अमेरिकी साइबर सुरक्षा निकाय (सीआईएसए) की पूर्वप्रमुख जेन इस्टरलीका अनुसार, प्रविधि निर्माण गर्ने कम्पनीहरूले आफ्ना प्रविधिको सुरक्षा पहिलो प्राथमिकतामा राखेर त्यसलाई डिजाइन, विकास, परीक्षण र प्रयोगमा ल्याउनुपर्छ। यद्यपि, एआईका कारण मानवजातिको अस्तित्व नै समाप्त हुने सम्भावना नरहेको ठान्नेहरू पनि छन्। वैज्ञानिक तथा लेखक ग्यारी मार्कसले एआईले मानवजातिलाई ठूलो क्षति पुर्याएमा मानिसहरूले प्रतिकार गर्ने र डेटा सेन्टर तथा विद्युत् केन्द्रहरू नष्ट गर्न सक्ने तर्क गर्छन्। उनी मानवजाति पूर्ण रूपमा लोप हुने अवस्थासम्म नपुग्ने विश्वास राख्छन्। मार्कसका अनुसार, अहिले एआईका कारण मानवजातिको पूर्ण विनाश हुन सक्ने परिदृश्यमा अत्यधिक ध्यान केन्द्रित गरिएको छ, तर भविष्यमा मानिसहरूले एआईको प्रयोग गरेर एकअर्काविरुद्ध गर्न सक्ने ठूला साइबर हमलाजस्ता बढी सम्भावित जोखिमहरूमा भने पर्याप्त ध्यान दिइएको छैन।
यी विनाशकारी परिदृश्यहरू वास्तवमै कति सम्भावित छन् भन्ने बहस जारी रहेकै बेला ओपनएआई, एन्थ्रोपिक र मेटालगायतका एआई कम्पनीहरूले विकासको वर्तमान गतिलाई कसरी नियन्त्रण गर्ने र एआई सुरक्षा अनुसन्धानमा थप ध्यान केन्द्रित गर्ने भन्ने विषयमा सार्वजनिक रूपमा छलफल गर्न थालेका छन्। थोमस लार्सनले एआई सुरक्षाले अन्ततः पाउनुपर्ने जति ध्यान पाउन थालेकोमा खुसी व्यक्त गर्दै सामाजिक दबावले उपयोगी नीतिगत कदम चाल्न प्रेरित गर्ने आशा राखेका छन्। तर, प्रभावकारी अन्तर्राष्ट्रिय नियमहरू स्थापित गर्न अमेरिकी सरकारको सक्रिय भूमिका आवश्यक पर्ने देखिन्छ, यद्यपि अमेरिकी राष्ट्रपति डोनल्ड ट्रम्पले व्यक्तिगत रूपमा एआई सुरक्षासम्बन्धी चिन्तालाई “हौवा”का रूपमा लिने गरेको बताएका छन्।
