Anthropic ने AI सुरक्षा ऑडिट के लिए METR को कर्मचारी-स्तर की पहुंच प्रदान की

Anthropic ने गैर-लाभकारी Model Evaluation and Threat Research (METR) के 6 शोधकर्ताओं को अपने आंतरिक सिस्टम तक कर्मचारी-स्तर की पहुंच प्रदान की है। गुरुवार को एक ब्लॉग पोस्ट में घोषित यह कदम स्वतंत्र मूल्यांकनकर्ताओं को Anthropic के मॉडल, सुरक्षा प्रथाओं और जोखिम प्रबंधन का आकलन करने की अनुमति देता है, जिसमें कंपनी की अपनी आंतरिक टीमों के समान संसाधन उपलब्ध होंगे।

पहुंच और स्वतंत्रता

नई व्यवस्था के तहत, METR शोधकर्ताओं को Anthropic कंपनी के लैपटॉप, ऑफिस स्पेस और आंतरिक टूल्स तक पहुंच दी गई है। कंपनी ने ब्लॉग पोस्ट में कहा, "Anthropic कर्मचारियों को उनके साथ जानकारी साझा करने के लिए प्रोत्साहित किया जाता है, ठीक वैसे ही जैसे वे अलाइनमेंट जोखिम पर काम करने वाले किसी साथी कर्मचारी के साथ करेंगे।"

Anthropic ने कहा कि वह जोखिमों, घटनाओं और प्रथाओं के संबंध में METR के आकलन के प्रकाशन पर वीटो नहीं कर सकता। हालांकि, कंपनी के पास "संकीर्ण, पूर्व-निर्धारित श्रेणियों" में आने वाली जानकारी, जैसे ग्राहक डेटा, अटॉर्नी-क्लाइंट विशेषाधिकार प्राप्त सामग्री, या मॉडल आर्किटेक्चर के विवरण के लिए संपादन (redactions) की मांग करने का अधिकार सुरक्षित है। METR को इन संपादनों को सार्वजनिक रूप से चित्रित करने और यह बताने की अनुमति है कि क्या वह उन्हें उचित मानता है, बशर्ते कि वह रोकी गई जानकारी का खुलासा न करे।

Anthropic ने कहा, "हम अपने द्वारा लिए जा रहे निर्णयों के लिए सार्वजनिक रूप से जवाबदेह होना चाहते हैं। हमारा लक्ष्य इस अंतर को कम करना है कि मूल्यांकनकर्ता एक फ्रंटियर AI कंपनी के सिस्टम के बारे में क्या समझते हैं और कंपनी स्वयं क्या समझती है।"

स्तरीय मूल्यांकन प्रणाली

METR उस तीन-स्तरीय मूल्यांकन प्रणाली के शीर्ष स्तर पर है जिसे Anthropic विकसित कर रहा है। Reuters के अनुसार, स्तरों की संरचना इस प्रकार है:

• Tier 1: मूल्यांकनकर्ता संकीर्ण दायरे की जांच करते हैं और प्रकाशन के लिए Anthropic की मंजूरी की आवश्यकता होती है। बायोसिक्योरिटी गैर-लाभकारी SecureBio वर्तमान में इस स्तर पर है, जो Anthropic की अगस्त जोखिम रिपोर्ट के रासायनिक और जैविक हथियार अध्याय की समीक्षा कर रहा है।
• Tier 2: मूल्यांकनकर्ताओं को अधिक जानकारी मिलती है और वे बिना मंजूरी के प्रकाशित कर सकते हैं, जो उन संपादनों के अधीन है जिन्हें मूल्यांकनकर्ता सार्वजनिक रूप से चुनौती दे सकते हैं।
• Tier 3: मूल्यांकनकर्ताओं के पास कर्मचारी जैसी पहुंच होती है और प्रकाशन अधिकार Tier 2 के समान होते हैं। METR वर्तमान में इस स्तर पर एकमात्र मूल्यांकनकर्ता है।

Anthropic मॉडल मूल्यांकन और प्रतिकूल परीक्षण (adversarial testing) पर Accenture के AI व्यवसाय, Faculty के साथ भी काम कर रहा है। कंपनी ने उल्लेख किया कि ये साझेदारियां शुरुआती चरण में हैं और METR की तुलना में इनमें पहुंच अधिक सीमित है।

उद्योग संदर्भ

यह घोषणा उस अवधि के बाद हुई है जब अगस्त के अंत से AI एजेंटों द्वारा उनके निर्देशों के बाहर कार्य करने की घटनाएं बार-बार सामने आई हैं, जिससे स्वतंत्र निगरानी की मांग तेज हो गई है। Anthropic ने इस व्यवस्था की तुलना बैंकिंग नियमों से की, जहां बड़े बैंकों के भीतर रेजिडेंट एग्जामिनर तैनात किए जाते हैं।

यह विकास Anthropic CEO Dario Amodei द्वारा सितंबर के एक निबंध में किए गए प्रस्ताव के अनुरूप है, जिसमें AI लैब के भीतर बाहरी मूल्यांकनकर्ताओं को शामिल करने का सुझाव दिया गया था। OpenAI ने भी इसी तरह के दृष्टिकोण का वादा किया है, और Anthropic, OpenAI, Google, Meta, Nvidia और xAI ने स्वतंत्र समीक्षा की प्रतिबद्धता जताते हुए व्हाइट हाउस के एक समझौते पर हस्ताक्षर किए हैं।

Reuters ने इस सप्ताह की शुरुआत में बताया था कि Anthropic और OpenAI ने व्यापार रहस्यों की चिंताओं के कारण शुरू में इस बात पर महत्वपूर्ण नियंत्रण चाहा था कि बाहरी समीक्षक क्या प्रकाशित कर सकते हैं। मामले से परिचित एक व्यक्ति ने Reuters को बताया कि हाल ही में बातचीत विकसित हुई है और Anthropic अधिक खुला हो गया है। विशेषज्ञों ने उल्लेख किया है कि मूल्यांकनकर्ताओं की स्वतंत्रता अभी भी एक चिंता का विषय है क्योंकि AI लैब ही यह चुनते हैं कि समीक्षा कौन करेगा।

यह क्यों महत्वपूर्ण है

यह व्यवस्था इस बात में एक महत्वपूर्ण बदलाव का प्रतिनिधित्व करती है कि फ्रंटियर AI कंपनियां बाहरी जांच को कैसे संभालती हैं। कर्मचारी-स्तर की पहुंच प्रदान करके और प्रकाशन वीटो को हटाकर, Anthropic उन आलोचनाओं को दूर करने का प्रयास कर रहा है कि आंतरिक सुरक्षा आकलन में पारदर्शिता की कमी है। इस मॉडल की सफलता यह प्रभावित कर सकती है कि OpenAI और Google सहित अन्य प्रमुख AI डेवलपर्स, बढ़ते नियामक और सार्वजनिक दबाव के जवाब में अपनी स्वतंत्र समीक्षा प्रक्रियाओं को कैसे संरचित करते हैं।

स्रोत (अंग्रेज़ी में)

• techcrunch.com: Anthropic is letting METR researchers look under the hood with employee-level access | TechCrunch
• wkzo.com: Anthropic grants outside evaluator METR employee-level access in AI safety push | WKZO | Everything Kalamazoo | 590 AM · 106.9 FM

यह मूल अंग्रेज़ी लेख का एआई द्वारा किया गया अनुवाद है, जिसे स्वचालित रूप से जाँचा गया है ताकि यह मूल लेख जैसी ही बात कहे। स्रोतों की जाँच अंग्रेज़ी में की गई थी।