आर्टिफिशियल इंटेलिजेंस के बढ़ते इस्तेमाल के बीच इसकी सुरक्षा को लेकर बहस अब और गंभीर हो गई है। OpenAI की सेफ्टी ओवरसाइट टीम से जुड़े रिसर्चर मार्कस विलियम्स ने चेतावनी दी है कि अगर AI कंपनियों के बीच चल रही विकास की होड़ पर प्रभावी नियंत्रण नहीं लगाया गया और जरूरी नियमन नहीं हुआ, तो आने वाले वर्षों में इंसानों के अस्तित्व पर बड़ा खतरा पैदा हो सकता है। उन्होंने एक सवाल के जवाब में अगले तीन वर्षों के लिए इस जोखिम का अपना अनुमान 70 फीसदी बताया है।
विलियम्स ने किस स्थिति में बताया 70% खतरा?
मार्कस विलियम्स ने सोशल मीडिया पर कहा कि AI के विकास को सुरक्षित तरीके से आगे बढ़ाने के लिए नियमन जरूरी है। उनका तर्क है कि अगर बड़ी AI कंपनियों के बीच प्रतिस्पर्धा इसी रफ्तार से जारी रही और विकास की गति को किसी तरह नियंत्रित नहीं किया गया, तो जोखिम तेजी से बढ़ सकता है। हालांकि, 70 फीसदी के आंकड़े को किसी वैज्ञानिक रूप से प्रमाणित भविष्यवाणी के तौर पर नहीं देखा जाना चाहिए। यह विलियम्स का व्यक्तिगत जोखिम आकलन है। इसके साथ उन्होंने एक शर्त भी रखी है। उनका कहना यह नहीं है कि तीन साल बाद निश्चित रूप से इंसानों का अंत हो जाएगा, बल्कि यह है कि मौजूदा दिशा और सुरक्षा उपायों की कमी की स्थिति में अस्तित्व संबंधी जोखिम काफी गंभीर हो सकता है। उन्होंने यह भी कहा कि नियमन लागू करना और विकास की रफ्तार को धीमा करना अभी संभव है।
AI के ज्यादा ताकतवर होने पर क्या है चिंता?
AI सिस्टम अब केवल सवालों के जवाब देने तक सीमित नहीं हैं। आधुनिक मॉडल कोड लिखने, इंटरनेट से जानकारी जुटाने, सॉफ्टवेयर इस्तेमाल करने और कई चरणों वाले काम अपने स्तर पर पूरा करने वाले एजेंट के रूप में भी काम कर रहे हैं। इसी बढ़ती क्षमता के साथ AI के व्यवहार को नियंत्रित रखने की चुनौती भी बढ़ रही है। विलियम्स AI मॉडल के ऐसे व्यवहार पर शोध और निगरानी से जुड़े हैं, जिसमें सिस्टम अपने लिए तय सीमाओं को पार करने या गलत तरीके से लक्ष्य हासिल करने की कोशिश कर सकता है। OpenAI की एक रिसर्च राइटिंग में भी उनका नाम लेखक के तौर पर शामिल है, जिसमें AI एजेंट द्वारा सुरक्षा प्रतिबंधों को दरकिनार करने की कोशिश जैसे व्यवहार की निगरानी का जिक्र है।
दूसरे विशेषज्ञों के अनुमान कितने अलग हैं?
विलियम्स का 70 फीसदी अनुमान AI से जुड़े अस्तित्व संबंधी जोखिम पर एक बेहद गंभीर आकलन है, लेकिन इसे विशेषज्ञ समुदाय की सर्वसम्मत राय नहीं माना जा सकता। अलग-अलग AI विशेषज्ञ इस खतरे को लेकर अलग-अलग अनुमान देते हैं। Anthropic के AI सिक्योरिटी रिसर्चर इवान ह्यूबिंगर ने भी इसी सप्ताह कहा था कि उनके आकलन में अगले एक दशक के भीतर AI के कारण इंसानों के खत्म होने का जोखिम 10 फीसदी से अधिक है। वहीं, AI क्षेत्र के जाने-माने वैज्ञानिक जेफ्री हिंटन भी पहले AI से मानव अस्तित्व पर संभावित खतरे को लेकर चिंता जाहिर कर चुके हैं।
Read More
मेडिकल इंटर्न के लिए खुशखबरी, धामी कैबिनेट ने 10 बड़े प्रस्तावों को दी मंजूरी
