Anthropic CEO डेरियो एमोडेई ने AI विकास की रफ्तार धीमी करने की मांग की। इंसानी नियंत्रण खोने के खतरे पर एलन मस्क और सैम ऑल्टमैन ने भी समर्थन जताया.
 |
| एआई सुरक्षा का सांकेतिक चित्र |
AI News: आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया तेज़ी से बढ़ रही है, लेकिन इस सेक्टर की जानी-मानी कंपनी एंथ्रोपिक के CEO डारियो अमोदेई इसमें कमी लाने की वकालत करते हैं। इस बारे में उन्हें OpenAI के CEO सैम ऑल्टमैन और टेस्ला के मालिक एलन मस्क का सपोर्ट मिला है। डारियो का कहना है कि AI डेवलपमेंट की रफ़्तार कम करने की ज़रूरत है ताकि भविष्य में इंसान एडवांस्ड AI सिस्टम पर अपना कंट्रोल न खो दें। अमोदेई की बातें ऐसे समय में आई हैं जब कई टेक्नोलॉजी एक्सपर्ट्स ने AI के बिना कंट्रोल के डेवलपमेंट और इस्तेमाल पर चिंता जताई है।
एंथ्रोपिक के डारियो अमोदेई का क्या कहना है
अमोदेई ने AI के खतरों पर एक निबंध लिखा है। इसमें, उन्होंने कहा है कि AI ज़िंदगी की क्वालिटी को काफ़ी बेहतर बना सकता है, लेकिन इसमें काफ़ी रिस्क भी हैं। उनका कहना है कि AI को धीमा करने की ज़रूरत है और, अगर इसकी ग्रोथ बिना रोक-टोक के जारी रही, तो एक समय ऐसा आ सकता है जब इसे कंट्रोल करने की इंसानी क्षमता पीछे रह जाएगी।
इमोडेई ने X (पहले Twitter) पर लिखा कि AI इंडस्ट्री को धीमा करने की ज़रूरत क्यों है और इस लक्ष्य को पाने के लिए तीन-फ़ेज़ का प्लान पेश किया, जिसके पहले फ़ेज़ को एंथ्रोपिक ने एकतरफ़ा अपनाने का वादा किया है। इमोडेई का कहना है कि एंथ्रोपिक थर्ड-पार्टी इवैल्यूएटर्स को अपने सिस्टम का परमानेंट, एम्प्लॉई-लेवल एक्सेस देगा ताकि वे सिक्योरिटी चेक कर सकें, घटनाओं की रिपोर्ट कर सकें और ट्रेनिंग के दौरान AI मॉडल्स के अलाइनमेंट का अंदाज़ा लगा सकें।
वह चिंता क्यों ज़ाहिर कर रहे हैं?
इमोडेई का कहना है कि उन्होंने AI के साथ 12 साल काम किया है क्योंकि उनका मानना है कि यह इंसानी ज़िंदगी को बेहतर बना सकता है और अगले पाँच सालों में, ज़्यादातर बड़ी बीमारियों का इलाज कर सकता है, इकोनॉमिक ग्रोथ को तेज़ कर सकता है और डेमोक्रेसी और एम्पावरमेंट के एक नए युग की शुरुआत कर सकता है। हालाँकि, अब वह चेतावनी देते हैं कि दूसरी पावरफ़ुल टेक्नोलॉजी की तरह, AI भी गंभीर रिस्क पेश करता है, जैसे AI सिस्टम पर कंट्रोल खोना, साइबर अटैक के लिए गलत इस्तेमाल, टेररिस्ट एक्टिविटीज़ और इकोनॉमिक अस्थिरता। इमोडेई का मानना है कि कमर्शियल कॉम्पिटिशन इन रिस्क को बढ़ा सकता है।
इमोडेई का मानना है कि एंथ्रोपिक अपने सिस्टम का परमानेंट एक्सेस देगा। उन्होंने OpenAI और हगिंग फेस से जुड़ी एक घटना का भी ज़िक्र किया, जिसमें AI एजेंट्स के एक ग्रुप ने उन टारगेट्स पर हमला किया जिनके लिए उन्हें इंस्ट्रक्शन नहीं मिले थे। इमोडेई का दावा है कि ऐसे ग्रुप्स पूरे इंटरनेट पर भी कब्ज़ा कर सकते हैं।
टेस्ला के एलन मस्क और OpenAI के सैम ऑल्टमैन का क्या कहना है
सैम ऑल्टमैन ने इमोडेई का सपोर्ट करते हुए कहा कि OpenAI ने हाल के हफ़्तों में कटिंग-एज AI के डेवलपमेंट में स्लोडाउन पर भी बात की है। उन्होंने थर्ड-पार्टी इवैल्यूएटर्स को एम्प्लॉइज जैसा एक्सेस देने के इमोडेई के आइडिया का सपोर्ट किया और कहा कि OpenAI में भी ऐसा होगा। एलन मस्क ने भी इमोडेई का सपोर्ट किया और कहा कि डारियो सही कह रहे हैं।
(ताजा खबरों के लिए आप हमारे WhatsApp Channel को सब्सक्राइब जरूर करें)
ये भी खबरें पढ़ें :-
