ग्याब्रिएला रामोस

पेरिस । केही वर्षअघि मारियाना मज्जुकाटो र मैले एउटा सरल प्रश्न उठाएका थियौँ। एआईको संसारमा केही गम्भीर गल्ती भयो भने त्यसको जिम्मेवारी कसले लिन्छ? संयुक्त राष्ट्रसंघको सुरक्षा परिषद्ले गत साता एआईबाट उत्पन्न हुन सक्ने अस्तित्वगत जोखिमबारे छलफल गरे पनि यो प्रश्नको स्पष्ट उत्तर अझै आएको छैन।

बैठकमा अहिले एआई विकासको गति केही समय रोक्नुपर्ने आवश्यकता औँल्याइरहेका, तर अर्कोतर्फ अझ शक्तिशाली प्रणाली निर्माण गर्ने प्रतिस्पर्धामा दौडिरहेका प्रमुख प्रविधि कम्पनीका प्रमुख कार्यकारीहरू सहभागी थिए। उद्योग क्षेत्रबाहिरबाट सहभागी प्रमुख आवाज जोशुआ बेन्जियोको थियो। उनी एआईसम्बन्धी स्वतन्त्र अन्तर्राष्ट्रिय वैज्ञानिक प्यानलका सहअध्यक्ष तथा एआई सुरक्षाका प्रमुख समर्थकमध्ये एक हुन्।

सदस्य राष्ट्रका प्रतिनिधिबाहेक विकासशील विश्व वा नागरिक समाजबाट कसैले पनि बोलेनन्। महिलाको प्रतिनिधित्व पनि भएन। यो कमीलाई नोबेल शान्ति पुरस्कार विजेता तथा उक्त प्यानलकी अर्की सहअध्यक्ष मारिया रेसालाई आमन्त्रण गरेर केही हदसम्म सम्बोधन गर्न सकिन्थ्यो।

यो प्रतिनिधित्वको समस्याभन्दा पनि सुरक्षा परिषद्को शान्ति तथा सुरक्षासम्बन्धी सीमित कार्यक्षेत्रले एआईबाट उत्पन्न हुन सक्ने सबै खालका जोखिममाथि विस्तृत छलफल गर्न रोक्यो। परिषद्का धेरै सदस्यले पनि यस्ता विषयमा काम गरिरहेका संयुक्त राष्ट्रसंघका अन्य निकायको भूमिकालाई प्रभावित गर्न नहुने बताएका थिए। पुरानो भनाइ छ, सबैजना जिम्मेवार भए भने अन्ततः कोही पनि जिम्मेवार हुँदैन।

सुरक्षा परिषद्को उक्त बैठकमा एआईका सामाजिक, आर्थिक र श्रम बजारमा पर्ने प्रभावबारे लगभग कुनै चर्चा भएन। जबकि यी प्रभाव अहिले नै मानिसको जीवनमा देखिन थालेका छन् र एआई प्रणालीमाथिको नियन्त्रण गुमाउने जोखिमजत्तिकै गम्भीर हुन सक्छन्।

एआईले एल्गोरिद्मिक विभेद र प्रविधि, पुँजी तथा कम्प्युटिङ क्षमतामा असमान पहुँचमार्फत पहिलेदेखि रहेका असमानतालाई थप गहिरो बनाउन सक्छ। भ्लादिमिर शुचाको अनुसन्धानले एआईले मानिसको निर्णय क्षमता र सक्रियतालाई विस्थापित गर्ने तथा हाम्रो सोच्ने, महसुस गर्ने र अरूसँग सम्बन्ध स्थापित गर्ने क्षमतालाई कमजोर बनाउने जोखिमतर्फ पनि संकेत गरेको छ।

यससँगै युवाको मानसिक स्वास्थ्य र अनलाइन क्षेत्रमा महिलामाथि हुने हिंसामा एआईको प्रभाव पनि जोडिएको छ। संयुक्त राष्ट्रसंघको महासभामा हामीले अघि बढाएको ‘अल इन’ प्रतिवेदनले यीमध्ये केही प्रभावलाई दस्तावेज गरेको छ।

समस्या एआई प्रविधिमा मात्र छैन। त्यसलाई कसरी सुधार गर्ने भन्नेमा मात्र ध्यान केन्द्रित गर्दा यी समस्याको जरा बनेका राजनीतिक र आर्थिक संरचनालाई बेवास्ता गर्ने खतरा हुन्छ।

एआई आउनुभन्दा धेरै पहिलेदेखि नै अव्यवस्थित विश्वव्यापीकरणले श्रमभन्दा पुँजीलाई प्राथमिकता दिँदै आएको छ। त्यसले आम्दानी र सम्पत्तिलाई समाजको माथिल्लो तहमा केन्द्रित गरेको छ र ठूलो संख्यामा मानिसलाई आर्थिक सुरक्षाबाट टाढा राखेको छ।

विश्वव्यापी बजारमा सरकारी हस्तक्षेप न्यून राख्ने नीतिले न्यून आय भएका देशलाई आर्थिक रूपमा कमजोर बनाएको छ। अर्कोतर्फ केही सीमित प्रविधि कम्पनी र निजी सम्पत्तिको आकार भने असाधारण रूपमा बढेको छ। यसले विशेषगरी अमेरिकामा आर्थिक सुधारका प्रयासको विरोध गर्ने राजनीतिक अर्थतन्त्रसमेत निर्माण गरेको छ।

सन् २०२१ मा आर्थिक सहयोग तथा विकास संगठन ओईसीडीको पहलमा भएको १५ प्रतिशत विश्वव्यापी न्यूनतम कर्पोरेट करसम्बन्धी सम्झौता सुधारतर्फको महत्वपूर्ण कदम थियो। तर डोनाल्ड ट्रम्प ह्वाइट हाउस फर्किएपछि अमेरिकालाई उक्त सम्झौताबाट बाहिर निकाले। त्यसपछि विश्वका ठूला प्रविधि कम्पनी अझ धनी र शक्तिशाली बन्ने बाटो थप सहज भयो।

एआई अहिले यही राजनीतिक र आर्थिक संरचनाभित्र प्रवेश गरिरहेको छ।

संयुक्त राष्ट्रसंघको बैठकले फिनल्यान्ड, नर्वे र अन्य दुई दर्जनभन्दा बढी देशले अघि सारेको प्रस्तावमाथि गम्भीर छलफल गर्नुपर्थ्यो। प्रस्तावमा साझा सुरक्षा मापदण्ड, अनिवार्य पूर्वप्रक्षेपण जोखिम मूल्यांकन, स्वतन्त्र मूल्यांकन र अत्याधुनिक एआई प्रणालीको निगरानी गर्न अन्तर्राष्ट्रिय निकाय स्थापना गर्ने विषय समेटिएको छ।

सरकारले चाहेमा अन्तर्राष्ट्रिय संयन्त्र छिटो निर्माण गर्न सक्छ भन्ने उदाहरण हामीसँग छन्। मैले आर्थिक सहयोग तथा विकास संगठन ओईसीडी र जी२० को प्रमुख कर्मचारी तथा शेरपाका रूपमा काम गर्दा यस्तो प्रक्रिया प्रत्यक्ष देखेकी छु।

संकट उत्पन्न हुँदा सदस्य राष्ट्रहरूले लामो समयसम्म वक्तव्य लेखेर सहमति खोज्ने वा कुन संस्थाले काम गर्ने भन्ने विषयमा वर्षौँ बहस गर्ने गरेका छैनन्। उनीहरूले तत्काल देखिएको समस्या र त्यसलाई समाधान गर्न आवश्यक नयाँ संस्थाले गर्नुपर्ने काममा ध्यान केन्द्रित गरेका छन्।

सन् १९७० को दशकको तेल संकटपछि अन्तर्राष्ट्रिय ऊर्जा एजेन्सी स्थापना भयो। सन् १९८९ मा अवैध धन प्रवाह रोक्न वित्तीय कारबाही कार्यदल स्थापना गरियो। पछिल्लो समय ओईसीडीको कर आधार क्षय तथा नाफा स्थानान्तरणसम्बन्धी समावेशी संरचनाले पनि विश्वका देशलाई एकै ठाउँमा ल्याएर बहुराष्ट्रिय कम्पनीको कर छल्ने अभ्यासलाई नियन्त्रण गर्ने प्रयास गरेको छ।

एआईका विषयमा पनि यही दृष्टिकोण अपनाउनुपर्छ।

प्रक्रियामै अल्झिरहनुको सट्टा अन्तर्राष्ट्रिय एआई निकायले के काम गर्ने हो भन्नेबाट सुरु गर्नुपर्छ। त्यसपछि त्यसलाई आवश्यक विशेषज्ञता, अधिकार र बजेट दिनुपर्छ।

यसले अमेरिकी विज्ञान तथा प्रविधि सल्लाहकार माइकल क्राटसियोसले संयुक्त राष्ट्रसंघ सुरक्षा परिषद्मा उठाएको एउटा महत्वपूर्ण चुनौतीको जवाफ दिन पनि सहयोग गर्नेछ। उनले परिषद्मा भनेका थिए, “तपाईंले नबुझेको प्रविधिलाई शासन गर्न सक्नुहुन्न।”

फिनल्यान्ड र नर्वेको प्रस्तावले एआई प्रणालीले खतरनाक क्षमताको सीमा पार गर्दा अन्तर्राष्ट्रिय मापदण्ड निर्धारण गर्न र सामूहिक प्रतिक्रिया समन्वय गर्न सक्ने संस्थाको माग गरेको छ। प्रस्तावमा स्वतन्त्र मूल्यांकन संयन्त्रको आवश्यकता पनि औँल्याइएको छ।

अब त्यसभन्दा अगाडि बढेर अनिवार्य जोखिम दर्ता र आपत्कालीन प्रतिक्रिया संयन्त्र पनि स्थापना गर्नुपर्छ। अमेरिका र चीनले यस्तै प्रकृतिको एआई सुरक्षा संवाद संयन्त्र निर्माणमा काम गरिरहेको खबरसमेत सार्वजनिक भएका छन्।

जोखिम मूल्यांकनले एआई प्रणाली आफैंको प्राविधिक जोखिम मात्र हेर्नु हुँदैन। मानिस र समाजमा त्यसले पार्ने प्रभावलाई पनि मूल्यांकनको केन्द्रमा राख्नुपर्छ।

यस्तो प्रणालीलाई प्रभावकारी बनाउन स्वतन्त्र प्राविधिक निकाय आवश्यक हुन्छ। ओईसीडीको घुसखोरीविरुद्धको महासन्धिअन्तर्गत काम गर्ने संयन्त्र यसको एउटा उदाहरण हो। उक्त निकायले विशेष नियमअनुसार सदस्य राष्ट्रको मूल्यांकन गर्छ।

देशहरूले आफ्नो कानुनी परम्पराअनुसार भ्रष्टाचार नियन्त्रणका विश्वव्यापी मापदण्डलाई फरक ढंगले लागू गर्न सक्छन्। तर ‘कार्यात्मक समानता’ को सिद्धान्तले फरक कानुनी प्रणालीले अन्ततः समान परिणाम हासिल गर्न सक्ने सुनिश्चित गर्न सहयोग गर्छ।

अन्तर्राष्ट्रिय एआई निकायले मानव विकासलाई सहयोग गर्ने उद्देश्यले अन्य अन्तर्राष्ट्रिय संस्थासँग पनि सहकार्य गर्नुपर्छ।

यहाँ अर्को महत्वपूर्ण प्रश्न आउँछ। नयाँ अन्तर्राष्ट्रिय एआई निकायमा प्रत्येक देशको प्रतिनिधित्व कसले गर्ने?

बैंकिङ क्षेत्रको निगरानीका लागि गठन गरिएको बेसल समितिले प्रभावकारी रूपमा काम गर्नुको एउटा कारण समान प्रकृतिको अधिकार र जिम्मेवारी भएका अधिकारीलाई एउटै संरचनामा ल्याउनु हो। एआईका क्षेत्रमा यस्तो समानान्तर निकाय अहिले छैन।

केही देशमा मात्रै एआईसम्बन्धी छुट्टै मन्त्रालय छन्। ती मन्त्रालयसँग बजारको व्यवहार अनुसन्धान गर्ने वा आवश्यक पर्दा कारबाही गर्ने पर्याप्त अधिकार पनि छैन।

त्यसैले एआईको विश्वव्यापी शासन प्रणाली निर्माण गर्नुअघि राष्ट्रिय तहमा पनि आवश्यक संस्थागत संरचना विकास गर्नुपर्छ। अन्तर्राष्ट्रिय तहमा पनि त्यससँग जोडिने प्रभावकारी संयन्त्र चाहिन्छ।

नत्र केही गम्भीर गल्ती हुँदा जिम्मेवार को हुने भन्ने हाम्रो मूल प्रश्न अनुत्तरित नै रहनेछ।

एआईको विकास रोक्नु समाधान होइन। तर यसको विकासलाई कुनै स्पष्ट जिम्मेवारी, निगरानी र अन्तर्राष्ट्रिय सुरक्षा संरचनाबिनै अगाडि बढाउनु पनि दीर्घकालीन विकल्प हुन सक्दैन।

एआईले मानव विकासलाई अघि बढाउने हो भने यसको शासन प्रणाली पनि प्रविधिको गतिसँगै विकास हुनुपर्छ। त्यसका लागि अन्तर्राष्ट्रिय सहकार्य, स्वतन्त्र प्राविधिक मूल्यांकन, स्पष्ट जिम्मेवारी र आपत्कालीन प्रतिक्रिया संयन्त्र अब भविष्यको विषय मात्र होइन, तत्काल आवश्यकताको विषय बनिसकेको छ।

ग्याब्रिएला रामोस असमानता तथा सामाजिकसम्बन्धी वित्तीय खुलासा कार्यदलकी सहअध्यक्ष हुन्। उनी युनेस्कोमा सामाजिक तथा मानव विज्ञानकी पूर्व सहायक महानिर्देशक हुन्, जहाँ उनले एआईको नैतिकतासम्बन्धी सिफारिस निर्माणको नेतृत्व गरेकी थिइन्। उनी ओईसीडीकी पूर्व प्रमुख कर्मचारी तथा जी२०, जी७ र एपीईसीकी पूर्व शेरपा पनि हुन्।

प्रतिलिपि अधिकार © प्रोजेक्ट सिन्डिकेट, २०२६।
www.project-syndicate.org