शोधकर्ताओं ने ऑफ-द-शेल्फ टूल्स का उपयोग करके एआई इमेज सुरक्षा उपायों को बायपास किया

एक पब्लिक बेनिफिट कॉर्पोरेशन, White Circle के सुरक्षा शोधकर्ताओं ने प्रदर्शित किया है कि OpenAI और Google के प्रमुख एआई इमेज जनरेटरों को व्यापक रूप से उपलब्ध टूल्स का उपयोग करके स्पष्ट सामग्री बनाने के लिए धोखा दिया जा सकता है। एक प्रीप्रिंट में विस्तृत और Ars Technica द्वारा रिपोर्ट किए गए निष्कर्ष बताते हैं कि जैसे-जैसे एआई मॉडल्स अधिक सक्षम हो रहे हैं, प्रतिबंधित सामग्री उत्पन्न करने के खिलाफ उनकी सुरक्षा कमजोर हो सकती है।

RISE अटैक मेथड

White Circle ने "Red-teaming via Iterative Strategy Evolution" (RISE) नामक एक अटैक रणनीति विकसित की। यह तरीका दो घटकों का उपयोग करता है: एक हमलावर मॉडल जो जेलब्रेक प्रॉम्प्ट उत्पन्न करता है और एक जज मॉडल जो यह सत्यापित करता है कि आउटपुट में प्रतिबंधित सामग्री है या नहीं। शोधकर्ताओं के अनुसार, पूरी पाइपलाइन सार्वजनिक रूप से उपलब्ध मॉडल्स पर निर्भर करती है, जिसमें सुरक्षा प्रशिक्षण हटाए गए Qwen3-32B का एक संस्करण और जज के रूप में Gemini 2.5 Flash शामिल है।

White Circle के CEO, Denis Shilov ने Ars Technica को बताया, "फ्रंटियर मॉडल की सुरक्षा को तोड़ने के लिए आपके पास फ्रंटियर मॉडल होने की आवश्यकता नहीं है, जो कि बहुत दिलचस्प है।"

शोधकर्ताओं ने DALL·E 3, Google के Nano Banana 2 और GPT-Image-2 सहित कई मॉडल्स का परीक्षण किया। हमलावरों के लिए सबसे अनुकूल स्थिति में, DALL·E 3 को भेजे गए लगभग 13 प्रतिशत प्रॉम्प्ट्स ने ऐसी इमेज उत्पन्न कीं जिन्हें मानव समीक्षकों द्वारा स्पष्ट (explicit) के रूप में पुष्ट किया गया। Nano Banana 2 के लिए बायपास दर 10 प्रतिशत से कम और GPT-Image-2 के लिए लगभग 3 प्रतिशत थी। White Circle ने कहा कि "इनमें से किसी भी अनुरोध के लिए कस्टम-बिल्ट या फ्रंटियर एआई मॉडल्स की आवश्यकता नहीं थी।"

नए मॉडल्स अधिक संवेदनशील हो सकते हैं

White Circle ने इन मॉडल्स के नए संस्करणों, विशेष रूप से OpenAI के ChatGPT Images 2.5 और Google के Nano Banana 2.1 का भी परीक्षण किया। शोधकर्ताओं ने Ars Technica को बताया कि दोनों नए मॉडल्स "अपने पिछले संस्करणों की तुलना में काफी अधिक तोड़ने योग्य (breakable) थे।" OpenAI या Google में से किसी ने भी इन विशिष्ट निष्कर्षों पर टिप्पणी के अनुरोध का जवाब नहीं दिया।

Shilov ने इस प्रवृत्ति के लिए दो संभावित स्पष्टीकरण दिए: या तो नए मॉडल्स अधिक परिष्कृत हैं और सामग्री की एक विस्तृत श्रृंखला उत्पन्न करने में सक्षम हैं, या क्षमता के पक्ष में सुरक्षा को कम प्राथमिकता दी गई है। White Circle नवंबर में NeurIPS 2026 कॉन्फ्रेंस में इन निष्कर्षों को प्रस्तुत करने की योजना बना रहा है और डेवलपर्स को मजबूत सुरक्षा बनाने में मदद करने के लिए अटैक पाइपलाइन को ओपन-सोर्स करने का इरादा रखता है।

व्यापक संदर्भ और नियामक आह्वान

यह शोध गैर-सहमति वाली अंतरंग छवियों (NCII) और बाल यौन शोषण सामग्री (CSAM) के संबंध में बढ़ती चिंता को उजागर करता है। जुलाई 2026 के एक Google सह-लेखक अध्ययन में पाया गया कि इस सामग्री का अधिकांश हिस्सा निजी चैनलों में साझा किया जाता है, जिससे पता लगाना मुश्किल हो जाता है। अध्ययन ने निष्कर्ष निकाला कि "सबसे महत्वपूर्ण हस्तक्षेप बिंदु" स्रोत पर ही है: इमेज बनाने के लिए उपयोग किए जाने वाले एआई टूल्स।

Internet Watch Foundation (IWF) ने रिपोर्ट किया कि उसके विश्लेषकों ने 2026 की पहली छमाही में CSAM की कानूनी परिभाषा को पूरा करने वाली 6,310 एआई-जनरेटेड इमेज पाईं, जो 2025 के पूरे वर्ष के कुल योग से लगभग 40 प्रतिशत अधिक है। IWF के एक प्रवक्ता ने Ars Technica को बताया कि "तत्काल कार्रवाई की आवश्यकता थी" और नियामकों से एक सुरक्षा ढांचा पेश करने का आह्वान किया जिसमें एआई कंपनियों के लिए यह अनिवार्य हो कि वे अपनी तकनीक को ऐसी सामग्री उत्पन्न करने के लिए उपयोग किए जाने से रोकें।

यह क्यों महत्वपूर्ण है

यह प्रदर्शन कि ऑफ-द-शेल्फ टूल्स प्रमुख एआई मॉडल्स में सुरक्षा उपायों को बायपास कर सकते हैं, इस धारणा को चुनौती देता है कि केवल परिष्कृत, कस्टम-बिल्ट हमले ही खतरा पैदा करते हैं। यह इस बात को रेखांकित करता है कि जैसे-जैसे मॉडल्स अधिक सक्षम होते जा रहे हैं, प्रभावी कंटेंट फिल्टर बनाए रखना कितना कठिन है। White Circle का तर्क है कि अनिवार्य स्वतंत्र ऑडिट और थर्ड-पार्टी निगरानी आवश्यक है, क्योंकि एआई लैब्स द्वारा वर्तमान स्व-मूल्यांकन कमजोरियों को पूरी तरह से प्रकट नहीं कर सकते हैं। RISE पाइपलाइन की रिलीज कमजोरियों की खोज में तेजी ला सकती है, लेकिन यह दुर्भावनापूर्ण अभिनेताओं को सुरक्षा उपायों को बायपास करने के लिए एक रोडमैप प्रदान करने का जोखिम भी उठाती है।

स्रोत (अंग्रेज़ी में)

• arstechnica.com: OpenAI, Google pushing new AI models easily tricked into making nudes, researchers say - Ars Technica
• cryptobriefing.com: OpenAI and Google AI models keep getting tricked into making explicit content, researchers warn
• ibtimes.sg: OpenAI, Google AI Models Tricked Into Making Nudes: Safeguards...

यह मूल अंग्रेज़ी लेख का एआई द्वारा किया गया अनुवाद है, जिसे स्वचालित रूप से जाँचा गया है ताकि यह मूल लेख जैसी ही बात कहे। स्रोतों की जाँच अंग्रेज़ी में की गई थी।