सन् २०२४ मा हङकङस्थित ‘अरप’ इन्जिनियरिङ कम्पनीका एक अधिकारी भिडिओ कलमार्फत २ करोड ५० लाख अमेरिकी डलरको ठगीको शिकार बने। एक अधिग्रहणसम्बन्धी गोप्य छलफलका क्रममा देखिएका प्रमुख वित्तीय अधिकृतसहितका सबै सहकर्मीहरू एआईद्वारा सिर्जित ‘डीपफेक’ भएको पछि मात्र खुलासा भयो। यो घटनाले एआईद्वारा निर्मित अनुहार पहिचान गर्न बढ्दो कठिनाई र यसका गम्भीर वित्तीय जोखिमहरूलाई उजागर गरेको छ। परामर्शदाता कम्पनी ‘डेलोइट’को प्रतिवेदनअनुसार, आगामी वर्षसम्म ‘जेनरटिभ एआई’को प्रयोगबाट अमेरिकामा मात्रै करिब ४० अर्ब डलरको ठगी हुने अनुमान छ।
यसै सन्दर्भमा, अस्ट्रेलियन न्याश्नल युनिभर्सिटीकी मनोवैज्ञानिक तथा सहप्राध्यापक एमी डवेलले एउटा महत्त्वपूर्ण प्रश्न उठाएकी छन्: के हामी सबैले एआईद्वारा सिर्जित अनुहारहरू अझ राम्रोसँग चिन्न सिक्न सक्छौं? “हाल हामी एआई अनुहारहरू चिन्न असाध्यै कमजोर छौं,” उनी भन्छिन्। उनको अनुसार, एआई अनुहारहरू खुट्याउने हाम्रो क्षमता आधाआधाको अनुमानभन्दा पनि कमजोर छ।
‘अति औसत’ अनुहार
एआई अनुहार चिन्न गाह्रो हुनुका वास्तविक जीवनमा गम्भीर प्रभावहरू देखिन सक्छन्, चाहे त्यो फर्जी पहिचान बनाएर गरिने ठगी होस्, डेटिङ साइटमा हुने छलछाम होस् वा ब्याङ्क खाता लक्षित ठगी। डवेल र उनका सहकर्मीहरूको अनुसन्धान गत महिना ‘पीएनएएस’ जर्नलमा प्रकाशित भएको छ। उनीहरूका अनुसार, एआई प्रविधि निरन्तर उन्नत हुँदै जाँदा पहिले देखिने गरेका जस्ता स्पष्ट त्रुटिहरू अब न्यून भइसकेका छन्। यसले गर्दा ठगहरूले कमजोरीसहितका तस्बिरहरू प्रयोग गर्ने सम्भावना कम हुन्छ।
शोधकर्ताहरूले मानिसहरूलाई नमिलेका कानका झुम्का वा ससाना विकृत सङ्केतहरू खोज्न सिकाउनुको साटो समग्र अनुहारलाई हेरेर सहज अनुभूतिका आधारमा निर्णय गर्न सिकाए। डवेल भन्छिन्, “एआईद्वारा बनाइएका अनुहारहरू अनौठा देखिन्छन् भन्ठान्नु नै एउटा समस्या हो। खासमा मानिसका अनुहार पूर्ण रूपमा दुरुस्तै हुँदैनन्, तिनमा ससाना प्राकृतिक असमानता वा विशेषताहरू हुन्छन्।”
तस्बिर स्रोत, ANU (left; generated using StyleGAN3) / Igor Alecsander via Getty Images (right)
डवेलको अघिल्लो अनुसन्धानमा एआईद्वारा सिर्जित अनुहारहरूलाई वास्तविक मानिसको अनुहारभन्दा पनि अधिक पटक मानव अनुहारका रूपमा पहिचान गरियो, जसलाई उनीहरूले “एआई हाइपररिअलिजम” नाम दिए। एआईका एल्गोरिदमहरू हजारौं अनुहारका गणितीय औसतबाट प्रशिक्षित हुने भएकाले “वास्तविक मानव अनुहारका तुलनामा एआई अनुहारहरू थप औसत वा ‘हाइपरएभरेज’ देखिन्छन्,” डवेल भन्छिन्। यसले “तिनीहरूलाई वास्तविक मानव अनुहारभन्दा अलि बढी विश्वासयोग्य, आकर्षक र परिचितजस्तो” प्रतीत गराउँछ। उक्त अध्ययनमा एआईद्वारा सिर्जित श्वेत अनुहारहरू मात्र समावेश गरिएका थिए, जुन एआईलाई असमान रूपमा अधिक श्वेत अनुहारहरूमा ‘ट्रेन’ गरिने भएकाले अन्य समूहका तुलनामा बढी यथार्थपरक देखिने सम्भावना रहन्छ।
तस्बिर स्रोत, JohnnyGreig via Getty Images (left) / seb_ra via Getty Images (right)
तस्बिरको क्याप्शन, वास्तविक मानिसका अनुहारहरू प्रायः एआईद्वारा सिर्जित अनुहारहरूको तुलनामा कम मिल्दाजुल्दा तर बढी सम्झिने किसिमका हुने डवेल बताउँछिन्
प्रशिक्षण
उक्त पछिल्लो अध्ययनमा शोधकर्ताहरूले सुरुमा ४५ जना वयस्क सहभागीमाझ एआईद्वारा सिर्जित अनुहार चिन्न सक्ने क्षमता परीक्षण गरे। औसतमा उनीहरूले ४१ प्रतिशत अवस्थामा मात्र सही उत्तर दिए। त्यसपछि उनीहरूलाई करिब एक घण्टाको प्रशिक्षण दिइयो, जसमा १०० वटा अनुहार देखाइयो (आधा वास्तविक र आधा एआईद्वारा सिर्जित)। सहभागीहरूलाई प्रत्येक अनुहारलाई विशिष्टता, स्मरणीयता, अभिव्यक्तिशीलता, दुरुस्तपन (सिमिट्री), मिलेको अवस्था (प्रपोर्शनेलटी) र आकर्षकपना गरी छ वटा प्रमुख विशेषताका आधारमा मूल्याङ्कन गर्न भनियो।
डवेलका अनुसार, वास्तविक मानव अनुहार प्रायः अधिक विशिष्ट, बढी स्मरणीय र बढी अभिव्यक्तिशील हुन्छन्। तर एआईद्वारा सिर्जित अनुहारहरू प्रायः थप उस्तै, मिलेका र आकर्षक हुन्छन्। यो प्रशिक्षणपछि अघिल्लो परीक्षणमा सहभागी भएकाको सही पहिचान गर्ने क्षमता औसतमा लगभग दोब्बर भई ८१ प्रतिशत पुग्यो। क्यानडामा पनि भिन्नै समूह बनाएर गरिएको यस्तै प्रशिक्षणमा बलियो प्रभाव देखिएको थियो।
प्राकृतिक प्रवृत्ति
ब्रिटेनस्थित बर्नमथ विश्वविद्यालयमा ‘भिजुअल पर्सेप्शन’ बारे शोधरत मनोवैज्ञानिक डाक्टर अलेहान्द्रो इस्टूडिओले यो नयाँ विधिको विशेषता मानिसको सोच्ने र बुझ्ने प्राकृतिक क्षमताको उपयोग भएको बताए। “हामी अनुहारलाई छुट्टाछुट्टै विशेषतामा केन्द्रित भएर विश्लेषण गर्दैनौँ, समग्रमा हेर्छौँ,” उनी भन्छन्। यस विधिले दैनिक जीवनमा मानिसले स्वाभाविक रूपमा अनुहार चिन्ने प्रक्रियालाई नै अपनाउँछ।
तस्बिर स्रोत, JONATHAN NACKSTRAND/AFP via Getty Images
तस्बिरको क्याप्शन, तथा अनलाइन व्यवसायहरूमा एआईद्वारा बनाइएका मोडलहरू यसभन्दा अगाडिदेखि नै प्रयोगमा छन्
‘मुसाबिरालाको खेल’
यद्यपि, यस अध्ययनका केही सीमाहरू छन्। यो प्रशिक्षण अहिलेका सबैभन्दा यथार्थपरक एआई अनुहार सिर्जना गर्ने प्रणालीहरूमध्येको ‘स्टाइलजीएएनथ्री’ का लागि प्रभावकारी देखिए पनि अन्य एआई मोडलहरूमा यसको प्रभावकारिता परीक्षण गर्न आवश्यक छ। साथै, सबै सहभागी युवा वयस्क भएकाले यो प्रशिक्षण बालबालिका वा वृद्धवृद्धामा कत्तिको प्रभावकारी हुन्छ भन्ने प्रश्न बाँकी छ, जुन समूह ठगीको उच्च जोखिममा रहन्छ।
शोधकर्ताहरूका अनुसार, मानिसहरू अहिले निरन्तर सुधार हुँदै गइरहेका एआई प्रणालीहरूसँग प्रतिस्पर्धामा रहेका छन्। एआईसिर्जित सामग्री खुट्याउने स्वचालित उपकरणहरू पनि उपलब्ध छन्, तर तिनका पनि आफ्नै सीमा छन्। ती केही निश्चित एआई प्रणालीहरूमा मात्र प्रभावकारी हुन सक्छन् र नयाँ मोडलहरू विकास हुँदा वा तस्बिरहरू सम्पादन गरिँदा तिनको प्रभावकारितामा समस्या देखिन सक्छ। त्यसैले एआईसिर्जित डीपफेक खुट्याउने प्रक्रियाको केन्द्रमा मानिसहरू नै रहन आवश्यक छ। डवेल भन्छिन्, “यो मुसाबिरालाको खेलजस्तै हो। कम्प्युटर भाइरसहरूजस्तै तिनीहरू निरन्तर परिवर्तन भइरहेका हुन्छन् र तिनलाई भेट्टाउन हामी पनि सँगसँगै अघि बढ्नुपर्छ।” तथापि, उनी यी अध्ययनका निष्कर्षहरूले “आशावादी हुने पर्याप्त आधार” प्रदान गरेको ठान्छिन् र भविष्यमा आवाज तथा भिडिओ डीपफेक पहिचानका लागि पनि यस्तै प्रशिक्षण विकास गर्न सकिने सम्भावना देख्छिन्।
