OpenAI ने अपने पॉपुलर AI प्लेटफॉर्म ChatGPT में दो नए सिक्योरिटी फीचर्स- Lockdown Mode और ‘Elevated Risk’ लेबल- जोड़ दिए हैं. कंपनी के मुताबिक, इन अपडेट्स का मुख्य उद्देश्य प्रॉम्प्ट इंजेक्शन जैसे साइबर हमलों के जोखिम को कम करना और यूजर्स को बेहतर सुरक्षा नियंत्रण देना है. जैसे-जैसे ChatGPT वेब और थर्ड-पार्टी ऐप्स से ज्यादा कनेक्ट हो रहा है, सुरक्षा चुनौतियां भी बढ़ रही हैं.
Prompt Injection क्या है और क्यों जरूरी है सुरक्षा? प्रॉम्प्ट इंजेक्शन एक ऐसा तरीका है जिसमें हमलावर AI सिस्टम को गुमराह करने की कोशिश करते हैं, ताकि वह संवेदनशील जानकारी उजागर कर दे या गलत निर्देशों का पालन करे. OpenAI का कहना है कि नए सिक्योरिटी फीचर्स खासतौर पर उन यूजर्स के लिए डिजाइन किए गए हैं जो संवेदनशील डेटा के साथ काम करते हैं, जैसे कॉर्पोरेट एग्जीक्यूटिव्स या सिक्योरिटी टीमें.
Lockdown Mode कैसे काम करता है?
लॉकडाउन Mode एक ऑप्शनल सिक्योरिटी सेटिंग है, जिसे खास तौर पर हाई-रिस्क यूजर्स के लिए तैयार किया गया है. इसे ऑन करने पर ChatGPT की कुछ क्षमताओं पर सख्त नियंत्रण लगा दिया जाता है. उदाहरण के लिए, इस मोड में ब्राउज़िंग लाइव इंटरनेट से कनेक्ट नहीं होती, बल्कि कैश्ड कंटेंट के जरिए काम करती है. इससे बाहरी नेटवर्क रिक्वेस्ट कम हो जाती हैं और डेटा लीक का खतरा घटता है.
अगर कोई फीचर पूरी तरह सुरक्षित तरीके से काम नहीं कर सकता, तो Lockdown Mode में उसे पूरी तरह बंद भी किया जा सकता है. वर्कस्पेस एडमिन अपने संगठन में अलग-अलग रोल्स के लिए यह मोड सक्रिय कर सकते हैं और तय कर सकते हैं कि कौन-से कनेक्टेड ऐप्स या फीचर्स उपलब्ध रहेंगे.
फिलहाल यह फीचर ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare और ChatGPT for Teachers में उपलब्ध है. OpenAI ने संकेत दिया है कि आने वाले महीनों में इसे व्यक्तिगत यूजर्स के लिए भी जारी किया जा सकता है.
“Elevated Risk” लेबल क्या है?
इसके अलावा, OpenAI ने “Elevated Risk” लेबल भी पेश किया है. यह लेबल उन फीचर्स पर दिखाई देगा जिनमें अतिरिक्त नेटवर्क एक्सेस या ज्यादा डेटा एक्सपोजर की संभावना होती है. उदाहरण के तौर पर, Codex में इंटरनेट एक्सेस ऑन करने पर यूजर्स को स्पष्ट रूप से बताया जाएगा कि इससे क्या जोखिम जुड़े हैं.
कुल मिलाकर, OpenAI का यह कदम AI सुरक्षा को मजबूत करने और यूजर्स को ज्यादा ट्रांसपेरेन्सी देने की दिशा में एक अहम पहल माना जा रहा है
