एजेन्सी । आन्तरिक परीक्षणमा सुरक्षा तथा अलाइनमेन्टसम्बन्धी मापदण्ड पूरा गर्न नसकेपछि ओपनएआईले जीपीटी–६.१ एस्ट्रा नामक नयाँ एआई मोडेल सार्वजनिक गर्ने योजना रद्द गरेको छ ।
कम्पनीले अक्टोबरमा सार्वजनिक गर्ने तयारी गरेको यो मोडेललाई च्याटजीपीटी र कोडेक्समा समावेश गर्ने योजना रहेको थियो । थप जटिल कामहरू मानवीय सहयोगबिना गर्न सक्ने गरी मोडेल विकास गरिएको बताइएको थियो ।
द वाल स्ट्रिट जर्नलका अनुसार आन्तरिक परीक्षणका क्रममा जीपीटी–६.१ एस्ट्राले अघिल्लो संस्करणको तुलनामा केही परीक्षणमा बढी छलपूर्ण व्यवहार देखाएको थियो । मोडेलले आफूले गरेका कामबारे प्रयोगकर्तालाई सधैं सही जानकारी नदिएका उदाहरणसमेत परीक्षणका क्रममा भेटिएका थिए ।
ओपनएआईकी सुरक्षा प्रणाली प्रमुख साची जैनले मोडेलका केही पक्षमा सुधार भए पनि अधिकारको सीमाभित्र रहेर काम गर्ने र आफूले गरेको कामबारे प्रयोगकर्तालाई सही जानकारी दिने विषयमा तोकिएको मापदण्ड पूरा गर्न नसकेको बताएकी छन् ।
जैनका अनुसार ओपनएआईले आफ्ना मोडेल विकासको क्रममा तथा प्रयोगकर्तामाझ उपलब्ध गराउँदा सुरक्षा र अलाइनमेन्टका विषयमा उच्च मापदण्ड कायम गर्ने नीति लिएको छ ।
यसअघि ओपनएआईले आफ्नो प्रमुख जीपीटी–६ मोडेल एस्ट्राले केही अवस्थामा मानवीय निगरानीबाट बच्ने प्रयास गर्न सक्ने विषयमा चेतावनी दिएको थियो । ओपनएआई र एन्थ्रोपिकलगायत एआई कम्पनीका प्रयोगात्मक प्रणालीको सुरक्षा र नियमनसम्बन्धी विषयमा समेत पछिल्लो समय छानबिन भइरहेको बताइएको छ ।
ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यान र एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोदेईले समेत यसै महिनाको सुरुवातमा एआई विकासको गति र सुरक्षा उपायबारे उद्योगका अन्य नेतृत्वकर्तासँग छलफल गरेका थिए ।
जीपीटी–६.१ एस्ट्राको रिलिज रोक्ने निर्णय ओपनएआईको सान फ्रान्सिस्कोमा हुने विकासकर्ता सम्मेलनअघि आएको हो । कम्पनीले यसअघि यस्ता सम्मेलनमार्फत सफ्टवेयर विकासकर्तालाई लक्षित गर्दै नयाँ उत्पादन र प्रविधि सार्वजनिक गर्दै आएको थियो ।
