MIT शोधकर्ताओं ने अन्य AI मॉडल को एडिट करने के लिए GPT-6 Astra का उपयोग किया

Cambridge में Massachusetts Institute of Technology (MIT) के शोधकर्ताओं ने प्रदर्शित किया है कि कैसे GPT-6 Astra नामक एक AI मॉडल कुछ अन्य AI मॉडल के कच्चे आंतरिक मूल्यों (raw internal values) की इतनी अच्छी तरह से व्याख्या कर सकता है कि वह भविष्यवाणी कर सके कि सिस्टम के विभिन्न हिस्से क्या करते हैं, और फिर सुधार करने के लिए मॉडल को एडिट कर सके, जिसमें उनकी गणितीय क्षमताओं को बढ़ाना भी शामिल है। लेखकों ने अपने निष्कर्ष 2 November को एक प्रीप्रिंट में रिपोर्ट किए।

यह मॉडल कैसे काम करता है

MIT में मशीन-लर्निंग शोधकर्ता और सह-लेखक Rikiya Takehi का कहना है कि अग्रणी AI मॉडल न्यूरल नेटवर्क को फाइलों की तरह मानने की क्षमता के "शुरुआती संकेत" दिखा रहे हैं, जिन्हें वे पढ़ सकते हैं, जिनके बारे में तर्क कर सकते हैं और उन्हें बदल सकते हैं।

इसका मतलब यह नहीं है कि Astra यह समझा सकता है या समझ सकता है कि एक दिया गया AI नेटवर्क कैसे काम करता है। लेकिन निष्कर्ष बताते हैं कि सामान्य-उद्देश्य वाले AI मॉडल — जैसे ChatGPT या Claude — किसी नेटवर्क को उपयोगी तरीकों से संशोधित करने में सक्षम हो सकते हैं, जैसे कि एक मैकेनिक जो इंजन में समस्याओं की पहचान कर सकता है और उन्हें ठीक कर सकता है जिसे उसने न तो डिजाइन किया है और न ही पूरी तरह से समझा है।

विशेषज्ञ विचार

शोधकर्ता पहले से ही यह समझने की कोशिश करते हैं कि नेटवर्क के विभिन्न घटक इसके आउटपुट कैसे बनाते हैं। UK के University of Oxford में एक AI-safety शोधकर्ता Fazl Barez का कहना है कि प्रीप्रिंट दिखाता है कि इनमें से कुछ "व्याख्यात्मकता" (interpretability) विधियों को स्वचालित करना संभव है।

शोधकर्ताओं को उम्मीद है कि इस तरह से मॉडल को बेहतर ढंग से समझने से सुरक्षित AI सिस्टम बनाने में मदद मिलेगी, हालांकि Barez चेतावनी देते हैं कि यह धारणा "अधिकतर अपरीक्षित" है।

यह स्पष्ट नहीं है कि क्या Astra अपने प्रशिक्षण में सीखे गए सूचनाओं और तकनीकों को लागू करने से आगे बढ़ रहा है। Barez कहते हैं कि यदि Astra मौजूदा मानवीय क्षमताओं से परे जाकर मॉडल को पढ़ने और व्याख्या करने में सक्षम होता है, तो उन्हें आश्चर्य होगा।

फिर भी, यदि इसे और विकसित किया जाता है, तो मॉडल को पुन: प्रोग्राम करने की ऐसी क्षमता विज्ञान के लिए AI विकसित करने में एक संपत्ति हो सकती है, Cambridge, Massachusetts में Harvard University में एक कंप्यूटर वैज्ञानिक और बायोइन्फॉर्मेटिशियन Marinka Zitnik का कहना है। उदाहरण के लिए, यह वास्तविक दुनिया के परीक्षण से पहले मॉडल में त्रुटियों का पता लगाने में मदद कर सकता है, वह कहती हैं।

स्रोत (अंग्रेज़ी में)

• nature.com: This AI ‘mechanic’ can peer inside the black box of other neural networks | Nature

यह मूल अंग्रेज़ी लेख का एआई द्वारा किया गया अनुवाद है, जिसे स्वचालित रूप से जाँचा गया है ताकि यह मूल लेख जैसी ही बात कहे। स्रोतों की जाँच अंग्रेज़ी में की गई थी।