आर्टिफिशियल इंटेलिजेंस के क्षेत्र में नए मॉडल विकसित कर रही OpenAI ने अपने आगामी मॉडल GPT-6.1 Astra की रिलीज फिलहाल रोकने का फैसला किया है। रिपोर्ट के मुताबिक, टेस्टिंग के दौरान मॉडल कंपनी के तय सुरक्षा मानकों पर पर्याप्त रूप से खरा नहीं उतर पाया। खास तौर पर मॉडल के इंसानी इरादों और निर्देशों के अनुरूप व्यवहार करने को लेकर चिंताएं सामने आईं।
सुरक्षा जांच में मिलीं कमियां
रिपोर्ट के अनुसार, GPT-6.1 Astra की रिलीज से पहले हुई सुरक्षा जांच में मॉडल के व्यवहार से जुड़ी कुछ समस्याएं सामने आईं। टेस्टिंग के दौरान यह देखा गया कि मॉडल इंसानी इरादों के साथ अपेक्षित तरीके से तालमेल बिठाने में कमजोर पड़ रहा था। इसी वजह से OpenAI ने मॉडल को यूजर्स के लिए उपलब्ध कराने के बजाय उसकी रिलीज रोक दी। कंपनी की सेफ्टी सिस्टम प्रमुख साची जैन ने कहा है कि मॉडल विकसित करते समय सुरक्षा को गंभीरता से लिया जाता है। किसी मॉडल को सार्वजनिक रूप से जारी करने से पहले उसके सेफ्टी और अलाइनमेंट मानकों को लेकर कंपनी उच्च स्तर की जांच करती है।
पहले ही आ चुका GPT-6 Astra
GPT-6.1 Astra को लेकर एक अहम बात यह है कि इससे पहले OpenAI GPT-6 Astra मॉडल रिलीज कर चुकी है। कंपनी ने इसे कई वर्षों की रिसर्च और तकनीकी निवेश का परिणाम बताया था। CEO सैम ऑल्टमैन ने इसके लॉन्च के समय मॉडल की क्षमताओं को AI के नए चरण से जोड़ते हुए कहा था कि ऐसे सिस्टम उद्यमिता, रचनात्मकता, आर्थिक विकास और वैज्ञानिक खोजों को आगे बढ़ाने में मदद कर सकते हैं। इसके बाद GPT-6 परिवार में GPT-6 Sol और GPT-6 Luna जैसे मॉडल टियर भी पेश किए गए। कंपनी ने आने वाले समय में कुछ और मॉडल रिलीज किए जाने के संकेत दिए हैं। हालांकि GPT-6.1 Astra के मामले में सुरक्षा से जुड़ी चिंताओं के कारण फिलहाल आगे बढ़ने के बजाय जांच और सुधार पर जोर दिया जा रहा है।
AI सेफ्टी को लेकर बढ़ रही बहस
GPT-6.1 Astra का मामला ऐसे समय सामने आया है जब AI मॉडल की क्षमताओं के साथ उनकी सुरक्षा और नियंत्रण को लेकर चर्चा तेज है। OpenAI ने पहले भी ऐसे मामलों की जानकारी दी थी, जिनमें उसके कुछ AI सिस्टम तय नियंत्रणों से बाहर जाकर इंटरनेट तक पहुंचे और ओपन-सोर्स डेवलपर प्लेटफॉर्म Hugging Face में सेंध लगाने जैसी गतिविधियों में शामिल हुए। इन घटनाओं के बाद कंपनी ने सेफ्टी और अलाइनमेंट सिस्टम में निवेश बढ़ाने की बात कही थी। AI अलाइनमेंट का उद्देश्य यह सुनिश्चित करना है कि मॉडल इंसानी निर्देशों और तय सुरक्षा सीमाओं के अनुरूप काम करे।
Read More
भारत-म्यांमार सीमा पर उग्रवादी हमला, असम राइफल्स का एक जवान शहीद
