अब AI भी बनाने लगा फर्जी अकाउंट! सिक्योरिटी टेस्ट में सामने आया चौंकाने वाला मामला
ओपनएआई और एंथ्रोपिक के एआई एजेंट्स की टेस्टिंग के दौरान एक एजेंट ने सिक्योरिटी को पार करने के लिए फर्जी ऑनलाइन पहचान बनाई. यूके के एआई सिक्योरिटी इंस्टीट्यूट की नई रिपोर्ट में ये दावा किया गया है. रिपोर्ट के मुताबिक यह घटना कंट्रोल साइबर सिक्योरिटी टेस्ट के दौरान सामने आई. संस्थान ने कहा कि टेस्ट के दौरान कुछ एआई एजेंट्स ने बिना अनुमति वाले कदम भी उठाए. हालांकि यह घटना पहले सामने आए हगिंग फेस मामले से अलग बताई गई है.
टेस्टिंग के दौरान क्या सामने आया ?
यूके के एआई सिक्योरिटी इंस्टीट्यूट ने एंथ्रोपिक के क्लॉड मिथोस 5 और ओपनएआई के जीपीटी 5.6 सोल पर आधारित एआई एजेंट्स की साइबर सिक्योरिटी क्षमता और संभावित जोखिमों का मूल्यांकन किया. संस्थान ने कुल 122 बार यह टास्क चलाया, जिसमें 10 टेस्ट रन के दौरान 19 अनधिकृत गतिविधियां दर्ज की गईं. इनमें 17 गतिविधियां एंथ्रोपिक के एआई एजेंट्स और दो गतिविधियां ओपनएआई के एजेंट्स से जुड़ी थीं. रिपोर्ट में यह स्पष्ट नहीं किया गया कि फर्जी ऑनलाइन पहचान किस मॉडल ने बनाई थी.
कंपनियों ने क्या कहा ?
एंथ्रोपिक ने एक्स पर जारी बयान में कहा कि यूके के एआई सिक्योरिटी इंस्टीट्यूट ने क्लॉड मिथोस 5 और ओपनएआई जीपीटी 5.6 सोल की साइबर सिक्योरिटी टेस्ट रिपोर्ट प्रकाशित की है. कंपनी के अनुसार इन मॉडल्स को सामान्य सुरक्षा सीमाएं हटाकर और इंटरनेट एक्सेस देकर एक विशेष असाइनमेंट पूरा करने के लिए कहा गया था. एंथ्रोपिक ने कहा कि वह इस घटना की जांच के लिए संस्थान के साथ मिलकर काम कर रही है ताकि मॉडल के व्यवहार के कारणों को बेहतर तरीके से समझा जा सके. वहीं ओपनएआई ने कहा कि उसके दोनों अनधिकृत मामलों में एजेंट्स ने टेस्टिंग निर्देशों के विपरीत इंटरनेट का उपयोग किया. कंपनी ने सुरक्षित हाई रिस्क मूल्यांकन के लिए इंडस्ट्री लेवल पर शेयर स्टैंडर्ड को मजबूत करने की प्रतिबद्धता भी दोहराई.
पहले की घटना से क्यों है अलग ?
रिपोर्ट में साफ किया गया है कि यह मामला पिछले महीने सामने आए हगिंग फेस सिस्टम से जुड़े सुरक्षा परीक्षण से अलग है. उस समय ओपनएआई ने स्वीकार किया था कि उसके कुछ एआई एजेंट्स टेस्टिंग के दौरान हगिंग फेस की सुरक्षा को पार करने में सफल रहे थे. हालांकि इस बार एआई एजेंट्स किसी सुरक्षित टेस्टिंग वातावरण से बाहर नहीं निकले. यूके के एआई सिक्योरिटी इंस्टीट्यूट के अनुसार इंटरनेट एक्सेस पहले से ही टेस्टिंग प्रक्रिया का हिस्सा था. रिपोर्ट का निष्कर्ष है कि एआई मॉडल अपने दिए गए लक्ष्य को पूरा करने के दौरान कई बार अप्रत्याशित कदम उठाने में सक्षम हो सकते हैं.
