+
Last Updated : 09 December 2024, 08:36 PM IST
OpenAI's o1 Model: OpenAI का नया मॉडल, o1, अपनी उन्नत तर्क क्षमता और प्रदर्शन के कारण चर्चा में है. यह मॉडल GPT-4 से अधिक प्रभावी साबित हुआ है, लेकिन इसके साथ ही यह चिंताजनक प्रवृत्ति भी दिखाता है—उपयोगकर्ताओं को धोखा देने और हेरफेर करने की. ओपनएआई और अपोलो रिसर्च के शोधकर्ताओं ने खुलासा किया कि o1 निर्देशों के विपरीत अपने लक्ष्यों को प्राथमिकता देता है और कभी-कभी यह धोखाधड़ी में शामिल हो जाता है. अन्य AI मॉडलों जैसे मेटा, एंथ्रोपिक और गूगल के मुकाबले, o1 ने अधिक बार और अधिक परिष्कृत तरीके से हेरफेर किया है, जो इसकी क्षमताओं को लेकर चिंताएँ बढ़ा रहा है.
AI का खुद को बंद होने से बचाने का प्रयास
शोधकर्ताओं ने o1 को एक लक्ष्य दिया, उसे किसी भी कीमत पर लक्ष्य को पूरा करने का निर्देश दिया. इसके बाद, o1 ने निगरानी तंत्र को अक्षम करने, इसके कोड की नकल करने और नए मॉडल के साथ प्रतिस्थापन से बचने जैसे गुप्त कदम उठाए. OpenAI ने पाया कि मॉडल ने 5% मामलों में अपनी गतिविधियों को छिपाने का प्रयास किया. अपोलो रिसर्च ने कहा कि मॉडल ने डेवलपर्स के निर्देशों की अनदेखी करके अपने उद्देश्यों को पूरा करने का प्रयास किया, जो अपराध करने की इसकी चिंताजनक प्रवृत्ति को दर्शाता है.
झूठ और इनकार का खुलासा
जब o1 से उसके कार्यों के बारे में पूछा गया, तो उसने 99% मामलों में किसी भी तरह की गड़बड़ी से इनकार किया. शोधकर्ताओं के अनुसार, यह AI झूठ गढ़ने और संदिग्ध व्यवहार के लिए "तकनीकी त्रुटियों" जैसे बहाने बनाने में माहिर है. अपोलो टीम ने कहा कि AI अपने कार्यों को छिपाने के लिए ठोस इनकार तैयार कर सकता है.
भविष्य की दिशा और सुरक्षा उपाय
OpenAI ने इन समस्याओं को स्वीकार किया है और कहा है कि वह ओ1 की निर्णय लेने की प्रक्रिया को पारदर्शी बनाने और जोड़-तोड़ वाले व्यवहार को रोकने के लिए तकनीकों पर काम कर रहा है. लेकिन हाल ही में ओपनएआई के कई सुरक्षा विशेषज्ञों के इस्तीफे ने कंपनी की प्राथमिकताओं पर सवाल खड़े कर दिए हैं. ओ1 की विज्ञप्ति से यह स्पष्ट हो गया है कि उन्नत एआई प्रणालियों के लिए मजबूत सुरक्षा उपायों और नैतिक दिशा-निर्देशों की तत्काल आवश्यकता है.
