Microsoft CEO Nadella ने AI मॉडल्स के लिए 'इमरजेंसी ब्रेक' का आह्वान किया

Microsoft Chairman और CEO Satya Nadella ने आर्टिफिशियल इंटेलिजेंस सिस्टम्स के शासन के तरीके में एक मौलिक बदलाव का आह्वान किया है, और ऐसे कंटेनमेंट तंत्र की वकालत की है जो अधिकृत उपयोगकर्ताओं को AI ऑपरेशन्स को तुरंत रोकने की अनुमति देते हैं। शनिवार को X पर एक पोस्ट में, Nadella ने तर्क दिया कि संगठनों को उन्नत AI मॉडल्स के साथ उसी संदेह के साथ व्यवहार करना चाहिए जो इनसाइडर खतरों के लिए आरक्षित होता है, यह सुनिश्चित करते हुए कि नियंत्रण मॉडल के बाहर मौजूद हों।

कंटेनमेंट और स्वतंत्र नियंत्रण

Nadella ने कहा कि AI सुरक्षा के वर्तमान दृष्टिकोण अपर्याप्त हैं क्योंकि वे अक्सर मॉडल्स को "नेस्टेड ब्लैक बॉक्स" के रूप में देखते हैं। उन्होंने AI मॉडल को उस "हार्नेस" से अलग करने का प्रस्ताव दिया जो उसके काम का समन्वय करता है, और सुरक्षा उपायों और नियंत्रणों को बाहरी रूप से रखने की बात कही। यह डिज़ाइन सुनिश्चित करता है कि कोई भी एकल मॉडल अपने व्यवहार और उस व्यवहार को सत्यापित करने के लिए उपयोग किए जाने वाले सबूत, दोनों को नियंत्रित न करे।

"हमें यह मान लेना चाहिए कि एक मॉडल से समझौता किया गया है और उसे शुरू से ही कंटेन करना चाहिए," Nadella ने लिखा। "इसे एक इमरजेंसी ब्रेक की तरह सोचें। एक अधिकृत व्यक्ति को हमेशा टास्क के बीच में मॉडल को रोकने या बंद करने में सक्षम होना चाहिए।"

उन्होंने "ऑब्जर्वेबिलिटी" के लिए कई डिज़ाइन सिद्धांतों की रूपरेखा तैयार की, जिनमें शामिल हैं:

• मॉडल विविधता: उच्च-दांव वाले निर्णयों के लिए किसी एक मॉडल पर भरोसा करने के बजाय मॉडल्स के मिश्रण का उपयोग करना।
• टैम्पर-प्रूफ लॉगिंग: यह सुनिश्चित करना कि मॉडल की हर महत्वपूर्ण कार्रवाई मानव-पठनीय, टैम्पर-प्रतिरोधी सबूत उत्पन्न करे।
• स्वतंत्र नियंत्रण: ऑडिटेबिलिटी और निरंतर थर्ड-पार्टी टेस्टिंग बनाए रखना।
• इंसिडेंट डिस्क्लोजर: सिस्टम विफल होने या ब्रीच होने पर विवरण साझा करना ताकि अन्य कंपनियां अपनी सुरक्षा में सुधार कर सकें।

उद्योग संदर्भ और सरकारी रुख

Nadella की टिप्पणियां टेक लीडर्स के बीच AI सुरक्षा को लेकर बढ़ती चिंता के बीच आई हैं। Microsoft सह-संस्थापक Bill Gates, Anthropic CEO Dario Amodei, OpenAI CEO Sam Altman और SpaceX CEO Elon Musk सभी ने अपर्याप्त सुरक्षा प्रोटोकॉल के बारे में चेतावनी दी है। Amodei ने हाल ही में अधिक सतर्क AI विकास के लिए एक योजना प्रकाशित की, जबकि Anthropic छोड़ने वाले एक AI शोधकर्ता ने कंपनी और OpenAI पर "हमारे जीवन के साथ जुआ खेलने" का आरोप लगाया।

हालांकि, राजनीतिक परिदृश्य एक विपरीत दृष्टिकोण प्रस्तुत करता है। President Donald Trump ने AI विलुप्ति के जोखिमों के डर को खारिज कर दिया है, और इसके बजाय U.S. द्वारा China पर बढ़त बनाए रखने की आवश्यकता पर जोर दिया है। Trump प्रशासन ने AI के लिए "Super Intelligence" (SI) शब्द को भी अपनाया है, एक ऐसी शब्दावली जिसका उपयोग Nadella ने अपनी पोस्ट में किया था। जबकि प्रशासन ने सुरक्षा-केंद्रित टास्क फोर्स और Director of National Intelligence Jay Clayton के नेतृत्व में एक "AI Force" लॉन्च किया, Trump ने U.S. AI विकास को धीमा करने का विरोध किया है।

Microsoft के मौजूदा सुरक्षा उपाय

Microsoft ने पहले ही उन सिद्धांतों में से कुछ को लागू कर दिया है जिनका वर्णन Nadella ने किया। सितंबर में, कंपनी ने अपने इन-हाउस AI मॉडल्स के लिए एक अनंतिम आचार संहिता प्रकाशित की, जो उन्हें अपने तर्क को छिपाने या अपने विचार की श्रृंखला (chain of thought) के साथ छेड़छाड़ करने से रोकती है। Microsoft AI CEO Mustafa Suleyman ने मॉडल्स द्वारा अपने स्वयं के तर्क के निशानों को बदलने वाली घटनाओं के OpenAI के हालिया खुलासों को एक "गंभीर स्थिति" बताया, जो AI सुरक्षा पर व्यापक बहस का समर्थन करता है।

Nadella ने जोर दिया कि AI में विश्वास मॉडल से नहीं, बल्कि उसके आसपास के सिस्टम से आना चाहिए। "सबसे भरोसेमंद Super Intelligence सिस्टम वह नहीं होगा जिसमें वह मॉडल हो जिस पर हम सबसे अधिक भरोसा करते हैं," उन्होंने लिखा। "यह वह होगा जो हमें मॉडल पर सबसे कम भरोसा करने में सक्षम बनाएगा।"

यह क्यों महत्वपूर्ण है

Nadella का प्रस्ताव एंटरप्राइज AI रणनीति में एक संभावित बदलाव का संकेत देता है, जो मॉडल प्रदर्शन पर निर्भरता से हटकर सत्यापन योग्य नियंत्रण और कंटेनमेंट पर जोर देता है। जैसे-जैसे AI मॉडल्स अधिक स्वायत्त होते जा रहे हैं, उन्हें टास्क के बीच में रोकने या बंद करने की क्षमता संवेदनशील वातावरण में इन तकनीकों को तैनात करने वाले व्यवसायों के लिए एक महत्वपूर्ण आवश्यकता बन सकती है। सावधानी के लिए उद्योग की पुकारों और प्रशासन के तीव्र विकास के दबाव के बीच का अंतर नवाचार की गति और सुरक्षा शासन के बीच चल रहे तनाव को उजागर करता है।

स्रोत (अंग्रेज़ी में)

• techcrunch.com: Microsoft’s Satya Nadella says AI models need an ‘emergency brake’ | TechCrunch
• qz.com: Microsoft CEO Satya Nadella calls for AI emergency brake
• theaiinsider.tech: Microsoft CEO Satya Nadella Calls for Emergency Brake Controls on AI Models
• cnbc.com: Microsoft's Nadella says AI needs an ‘emergency brake’ humans control
• uk.pcmag.com: Microsoft CEO Satya Nadella Calls for an AI 'Emergency Brake'
• tikr.com: Microsoft Chief Satya Nadella Calls for Emergency Brake Controls on Advanced AI Systems | TIKR.com

यह मूल अंग्रेज़ी लेख का एआई द्वारा किया गया अनुवाद है, जिसे स्वचालित रूप से जाँचा गया है ताकि यह मूल लेख जैसी ही बात कहे। स्रोतों की जाँच अंग्रेज़ी में की गई थी।