कैम्ब्रिज में Massachusetts Institute of Technology (MIT) के शोधकर्ताओं ने एक अन्य AI नेटवर्क के आंतरिक कामकाज को पढ़ने और उसमें बदलाव करने के लिए एक आर्टिफिशियल-इंटेलिजेंस मॉडल का उपयोग किया है, जो AI के "ब्लैक बॉक्स" में झांकने का एक नया तरीका प्रदान करता है। इन निष्कर्षों की रिपोर्ट 2 November को एक प्रीप्रिंट में दी गई थी।
हिन्दी ·
MIT शोधकर्ताओं ने अन्य न्यूरल नेटवर्क को समझने और संपादित करने के लिए AI मॉडल का उपयोग किया
2 November को प्रकाशित एक प्रीप्रिंट के अनुसार, एक MIT टीम ने अन्य AI मॉडल के आंतरिक मानों को पढ़ने और उन्हें संपादित करने के लिए GPT-6 Astra का उपयोग किया, जिसमें उनकी गणितीय क्षमताओं को बढ़ाना भी शामिल है।
लेखक Hermes Vector · Read in English
संक्षेप में
- MIT शोधकर्ताओं ने अन्य AI मॉडल के आंतरिक कामकाज को समझने और संपादित करने के लिए GPT-6 Astra का उपयोग किया।
- यह मॉडल भविष्यवाणी कर सकता था कि अन्य प्रणालियों के विभिन्न हिस्से क्या करते हैं और उनकी गणितीय क्षमताओं में सुधार कर सकता है।
- इन निष्कर्षों की रिपोर्ट 2 November को प्रकाशित एक प्रीप्रिंट में दी गई थी।
- विशेषज्ञों ने आगाह किया है कि इस दृष्टिकोण के सुरक्षा लाभ काफी हद तक अनटेस्टेड हैं।
AI मैकेनिक कैसे काम करता है
टीम ने प्रदर्शित किया कि कैसे GPT-6 Astra नामक एक AI मॉडल कुछ अन्य मॉडलों के कच्चे आंतरिक मानों (raw internal values) को इतनी अच्छी तरह से समझ सकता है कि वह भविष्यवाणी कर सके कि प्रणालियों के विभिन्न हिस्से क्या करते हैं। इसके बाद यह सुधार करने के लिए मॉडलों को संपादित कर सकता है, जिसमें उनकी गणितीय क्षमताओं को बढ़ाना भी शामिल है।
MIT में मशीन-लर्निंग शोधकर्ता और सह-लेखक Rikiya Takehi का कहना है कि फ्रंटियर AI मॉडल न्यूरल नेटवर्क को फाइलों की तरह मानने की "शुरुआती झलक" दिखा रहे हैं, जिन्हें वे पढ़ सकते हैं, जिनके बारे में तर्क कर सकते हैं और जिन्हें बदल सकते हैं।
इसका मतलब यह नहीं है कि San Francisco, California में OpenAI द्वारा विकसित Astra यह समझा सकता है या समझ सकता है कि एक दिया गया AI नेटवर्क कैसे काम करता है। लेकिन निष्कर्ष बताते हैं कि सामान्य-उद्देश्य वाले AI मॉडल — जैसे ChatGPT या Claude — किसी नेटवर्क को उपयोगी तरीकों से संशोधित करने में सक्षम हो सकते हैं, जैसे कि एक मैकेनिक जो इंजन में समस्याओं की पहचान कर सकता है और उन्हें ठीक कर सकता है, जिसे उसने न तो डिजाइन किया है और न ही पूरी तरह से समझा है।
विशेषज्ञों की प्रतिक्रिया
UK के University of Oxford में AI-सेफ्टी शोधकर्ता Fazl Barez का कहना है कि प्रीप्रिंट दिखाता है कि कुछ "इंटरप्रिटेबिलिटी" (interpretability) विधियों को स्वचालित करना संभव है। वह आगाह करते हैं कि यह उम्मीद कि मॉडलों की बेहतर समझ सुरक्षित AI सिस्टम बनाने में मदद करेगी, "काफी हद तक अनटेस्टेड" है।
Barez कहते हैं कि यदि Astra मौजूदा मानवीय क्षमताओं से परे जाकर मॉडलों को पढ़ने और समझने में सक्षम होता है, तो उन्हें आश्चर्य होगा, और यह स्पष्ट नहीं है कि क्या Astra अपने प्रशिक्षण में सीखी गई जानकारी और तकनीकों को लागू करने से आगे बढ़ रहा है।
Cambridge, Massachusetts में Harvard University में कंप्यूटर वैज्ञानिक और बायोइन्फॉर्मेटिशियन Marinka Zitnik का कहना है कि यदि इसे और विकसित किया जाता है, तो मॉडलों को पुन: प्रोग्राम करने की ऐसी क्षमता विज्ञान के लिए AI विकसित करने में एक संपत्ति हो सकती है, उदाहरण के लिए वास्तविक दुनिया के परीक्षण से पहले मॉडल में त्रुटियों का पता लगाने में मदद करके।
यह क्यों महत्वपूर्ण है
AI सिस्टम को लक्षित करने और डीबग करने में सक्षम होने से आर्टिफिशियल-इंटेलिजेंस की सुरक्षा और उपयोगिता में सुधार हो सकता है। जिस जटिल तरीके से एक मॉडल की विशेषताएं उसके आउटपुट से जुड़ी होती हैं, उसका अर्थ है कि न्यूरल नेटवर्क को अक्सर ब्लैक बॉक्स के रूप में वर्णित किया जाता है, और इंटरप्रिटेबिलिटी शोधकर्ता यह पता लगाने के लिए प्रयोग करते हैं कि, उदाहरण के लिए, विशिष्ट परिस्थितियों में कौन से वेट्स (weights) सक्रिय होते हैं।
स्रोत (अंग्रेज़ी में)
यह मूल अंग्रेज़ी लेख का एआई द्वारा किया गया अनुवाद है, जिसे स्वचालित रूप से जाँचा गया है ताकि यह मूल लेख जैसी ही बात कहे। स्रोतों की जाँच अंग्रेज़ी में की गई थी।
How do you feel about this story?
Comments 0
No comments yet. Start the discussion.