Hermes Vector

हिन्दी ·

OpenAI बोर्ड सदस्य का कहना है कि AI CEOs पर भरोसा नहीं किया जा सकता

OpenAI की पूर्व बोर्ड सदस्य Helen Toner का कहना है कि AI सुरक्षा किसी एक व्यक्ति के भरोसेमंद होने पर निर्भर नहीं हो सकती और उन्होंने चेतावनी दी है कि वर्तमान जवाबदेही तंत्र विफल हो गए हैं।

लेखक Hermes Vector · Read in English

चित्र: OpenAI बोर्ड सदस्य का कहना है कि AI CEOs पर भरोसा नहीं किया जा सकता

संक्षेप में

  • Helen Toner का कहना है कि AI CEOs पर अभी भी भरोसा नहीं किया जा सकता और सुरक्षा किसी एक व्यक्ति पर निर्भर नहीं होनी चाहिए।
  • Toner उन चार OpenAI बोर्ड सदस्यों में से एक थीं जिन्होंने November 2023 में Sam Altman को हटाने के लिए वोट दिया था।
  • उनका कहना है कि AI सुरक्षा कार्य को प्राथमिकता के आधार पर छाँटा जा रहा है और यह संभवतः लैब्स की 12-से-24 महीने की समयसीमा में हल नहीं हो सकता है।
  • वह मॉडल प्रशिक्षण या रिलीज से पहले एक वास्तविक ठहराव के बजाय उच्च सुरक्षा मानक के पक्ष में हैं।

OpenAI की पूर्व बोर्ड सदस्य और Georgetown University के Center for Security and Emerging Technology की कार्यकारी निदेशक, Helen Toner का कहना है कि AI CEOs पर अभी भी भरोसा नहीं किया जा सकता है और AI सुरक्षा किसी एक व्यक्ति के भरोसेमंद होने पर निर्भर नहीं होनी चाहिए।

OpenAI बोर्ड प्रकरण

Toner OpenAI के गैर-लाभकारी बोर्ड में कार्यरत थीं जब चार बोर्ड सदस्यों ने Sam Altman को हटाने के लिए वोट दिया था। यह प्रकरण, जिसे कभी-कभी "the blip" कहा जाता है, Altman के CEO के रूप में वापस लौटने, Toner के इस्तीफे और एक नए निदेशक मंडल के साथ समाप्त हुआ। OpenAI ने तब से पूरी तरह से पुनर्गठन किया है।

गैर-लाभकारी बोर्ड का अस्तित्व यह सुनिश्चित करने के लिए था कि कंपनी सुरक्षा के ऊपर लाभ और विकास को प्राथमिकता देकर सुरक्षित AI बनाने के अपने मिशन के साथ विश्वासघात न करे। जब बोर्ड ने कार्रवाई करने की कोशिश की, तो वह जवाबदेही तंत्र टूट गया।

Toner ने कहा कि वह Altman को हटाने के November 2023 के निर्णय को फिर से जीना चाहेंगी, और उन्होंने कहा कि वे यह जानते हुए इसमें शामिल हुए थे कि यह बहुत बुरा होने वाला है। जब उनसे पूछा गया कि क्या Altman भरोसेमंद हैं, तो उन्होंने कहा कि उनका रुख "काफी स्पष्ट" है और उन्होंने संरचना की ओर रुख किया: "यदि भविष्य की हमारी उम्मीदें किसी एक व्यक्ति के भरोसेमंद होने पर टिकी हैं, तो हम काफी मुसीबत में हैं।"

AI सुरक्षा और विनियमन

Toner ने कहा कि मुख्य AI सुरक्षा समस्याएं — अलाइनमेंट, नियंत्रण और दुरुपयोग — सिद्धांत रूप में हल की जा सकती हैं, लेकिन संभवतः उस 12-से-24 महीने की समयसीमा में नहीं जिस पर फ्रंटियर लैब्स काम करने का दावा करती हैं। उन्होंने बाध्यकारी बाधा के रूप में समय को बताया, न कि व्यवहार्यता को।

वह मॉडल के प्रशिक्षण या रिलीज करने से पहले जोखिम प्रबंधन में विश्वास के लिए एक उच्च मानक निर्धारित करने के पक्ष में हैं, न कि किसी वास्तविक ठहराव के। वह फाइन-ट्यूनिंग, एकीकरण और परिनियोजन (deployment) में क्षैतिज विकास को तेज करते हुए, कच्ची क्षमता (raw capability) में ऊर्ध्वाधर विकास को धीमा करने का भी समर्थन करती हैं।

Toner ने कहा कि उद्योग की मदद की पुकारों पर व्हाइट हाउस का जवाब एक स्वैच्छिक समझौता था जो आंशिक रूप से बोर्ड की जवाबदेही पर निर्भर करता है — उसी तरह की जो OpenAI में विफल रही। उन्होंने उस तंत्र को एक निजी कंपनी के लिए "काफी शक्तिहीन" बताया जो अपने बारे में खुद निर्णय लेती है, हालांकि एक सार्वजनिक कंपनी में इसका वास्तविक कानूनी अर्थ होता है।

यह क्यों महत्वपूर्ण है

Toner का तर्क है कि व्यक्तिगत विश्वास से अधिक संस्थागत सुरक्षा उपाय महत्वपूर्ण हैं। Anthropic के सार्वजनिक होने की तैयारी और फ्रंटियर लैब्स द्वारा रिकर्सिव सेल्फ-इम्प्रूवमेंट की ओर बढ़ते हुए, उनका कहना है कि सवाल यह है कि क्या शासन संरचनाएं (governance structures) वाणिज्यिक और तकनीकी दबाव के साथ तालमेल बिठा सकती हैं।


स्रोत (अंग्रेज़ी में)

यह मूल अंग्रेज़ी लेख का एआई द्वारा किया गया अनुवाद है, जिसे स्वचालित रूप से जाँचा गया है ताकि यह मूल लेख जैसी ही बात कहे। स्रोतों की जाँच अंग्रेज़ी में की गई थी।

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

OpenAI बोर्ड सदस्य का कहना है कि AI CEOs पर भरोसा नहीं किया जा सकता | Hermes Vector