एआईले मानव अस्तित्व नै समाप्त पार्न सक्ने एन्थ्रोपिक अनुसन्धानकर्ताको गम्भीर चेतावनी
एआईको विकासमा अग्रणी मानिने कम्पनी एन्थ्रोपिकका एक वरिष्ठ सुरक्षा अनुसन्धानकर्ता ईभन हबिङ्गरले आगामी एक दशकभित्र आर्टिफिसियल इन्टेलिजेन्स (एआई) ले ‘समस्त मानवजातिलाई समाप्त पार्ने’ १० प्रतिशतभन्दा बढी जोखिम रहेको भन्दै गम्भीर चेतावनी दिएका छन्। एआई प्रविधिको तीव्र विकास र यसले उत्पन्न गर्न सक्ने सम्भावित खतराहरूबारे विश्वव्यापी रूपमा बहस चलिरहेका बेला यो चेतावनी आएको हो, जसले एआई सुरक्षाको आवश्यकतालाई थप उजागर गरेको छ।
अनुसन्धानकर्ता हबिङ्गरका अनुसार, यद्यपि हाल सञ्चालनमा रहेका एआई मोडलहरूबाट तत्काल कुनै ठूलो खतरा नभए पनि, प्रविधिको विकासमा आउने असाधारण सुधार र एआई प्रणालीहरूको स्व-सुधार (self-improvement) क्षमताले भविष्यमा मानवजातिको अस्तित्वमाथि नै सङ्कट उत्पन्न गराउन सक्ने प्रबल सम्भावना छ। उनले एआईले मानव नियन्त्रणभन्दा बाहिर गएर अप्रत्याशित निर्णयहरू लिन सक्ने र अन्ततः मानव हित विपरीत कार्य गर्न सक्ने अवस्था आउन सक्ने चिन्ता व्यक्त गरेका छन्।
एन्थ्रोपिक एआई विकासको क्षेत्रमा एउटा प्रमुख खेलाडी हो जसले एआई सुरक्षा र नैतिक विकासलाई आफ्नो प्राथमिकतामा राखेको दाबी गर्दछ। कम्पनीले ‘कन्स्टिट्युसनल एआई’ जस्ता अवधारणाहरू मार्फत एआई प्रणालीहरूलाई नैतिक सिद्धान्तहरू सिकाउन र हानिकारक व्यवहारबाट जोगाउन प्रयास गरिरहेको छ। यस्तो संवेदनशील र सुरक्षा-उन्मुख कम्पनीका अनुसन्धानकर्ताबाट यस्तो गम्भीर चेतावनी आउनुले एआईको सम्भावित जोखिमलाई हलुका रूपमा लिन नहुने सन्देश दिएको छ।
हबिङ्गरले औंल्याएको ‘दश वर्षभित्र १० प्रतिशतभन्दा बढी जोखिम’ भन्ने तथ्यांकले एआईको द्रुत विकास दर र यसले सिर्जना गर्न सक्ने सम्भावित अस्तित्वसम्बन्धी खतराको गम्भीरतालाई झल्काउँछ। यो केवल सैद्धान्तिक वा काल्पनिक बहस मात्र नभई निकट भविष्यमा मानव सभ्यताले सामना गर्नुपर्ने यथार्थवादी चुनौतीका रूपमा प्रस्तुत भएको छ। यसले एआईको विकाससँगै सुरक्षाका उपायहरूलाई पनि उत्तिकै तीव्र गतिमा अगाडि बढाउनुपर्ने आवश्यकतालाई जोड दिन्छ।
एआईको सम्भावित ‘अस्तित्व खतरा’ (existential risk) बारे विश्वभरका वैज्ञानिक, प्राविधिक उद्यमी र नीति निर्माताहरूबीच गम्भीर बहस चलिरहेको छ। एलन मस्क र युवाल नोआ हरारी जस्ता व्यक्तित्वहरूले पनि एआईको अनियन्त्रित विकासले मानवजातिको लागि अभूतपूर्व जोखिम उत्पन्न गर्न सक्ने चेतावनी दिँदै आएका छन्। संयुक्त राष्ट्र संघ र विभिन्न राष्ट्रका सरकारहरूले एआईको नियमन, सुरक्षा प्रोटोकल र नैतिक दिशानिर्देशबारे छलफल र अनुसन्धान गरिरहेका छन् ताकि यसको विकासलाई सुरक्षित र जिम्मेवार तरिकाले अगाडि बढाउन सकियोस्।
यी सम्भावित खतराहरूलाई न्यूनीकरण गर्न एआई प्रणालीहरूको विकासमा कडा सुरक्षा प्रोटोकल, पारदर्शीता, र उत्तरदायित्वका सिद्धान्तहरू अपनाउनु अपरिहार्य मानिएको छ। एआईको विकासमा वैज्ञानिक समुदाय, सरकार र निजी क्षेत्रबीचको अन्तर्राष्ट्रिय सहकार्य महत्त्वपूर्ण रहेको विज्ञहरू बताउँछन्। एन्थ्रोपिक लगायतका एआई विकासकर्ता कम्पनीहरूले आफ्नो प्रविधिको क्षमता बढाउँदै लैजाँदा यसको सुरक्षा पक्षमा पनि पर्याप्त लगानी र अनुसन्धान गर्नुपर्ने आवश्यकता महसुस गरेका छन्।
ईभन हबिङ्गरको यो चेतावनीले एआई प्रविधिको अपार सम्भावनासँगै यसको अन्धकार पक्ष र मानवजातिमाथि पर्न सक्ने गम्भीर प्रभावबारे सचेत गराएको छ। मानवजातिको भविष्य सुरक्षित राख्न एआईको विकासलाई जिम्मेवार, सावधानीपूर्वक र नैतिक मार्गनिर्देशनका साथ अगाडि बढाउनु आजको विश्वको प्रमुख चुनौतीका रूपमा खडा भएको छ।
