OpenAI में सेफ्टी चीफ के इस्तीफे से मचा हड़कंप, AI की बढ़ती ताकत पर उठे सवाल; इंसानी नियंत्रण को लेकर चेतावनी
नई दिल्ली: आर्टिफिशियल इंटेलिजेंस की दुनिया में बढ़ती प्रतिस्पर्धा के बीच OpenAI के सेफ्टी लीड डेविड रॉबिन्सन के इस्तीफे ने AI कंपनियों की सुरक्षा नीतियों को लेकर नई बहस छेड़ दी है। कंपनी में सुरक्षा से जुड़ी अहम जिम्मेदारियां संभाल चुके रॉबिन्सन ने पद छोड़ने के बाद AI उद्योग के काम करने के तरीके पर गंभीर सवाल उठाए हैं। उनका कहना है कि शक्तिशाली AI सिस्टम विकसित करने की होड़ में कंपनियां सुरक्षा को उतनी प्राथमिकता नहीं दे रही हैं, जितनी इस तकनीक की बढ़ती क्षमता को देखते हुए जरूरी है।
2023 में OpenAI से जुड़े थे रॉबिन्सन
डेविड रॉबिन्सन वर्ष 2023 में OpenAI से जुड़े थे। शुरुआत में उन्होंने नीति से जुड़े काम संभाले और बाद में सुरक्षा प्रणालियों की जिम्मेदारी वाली टीम का नेतृत्व किया। नए AI मॉडल तैयार किए जाने के दौरान उनकी भूमिका सुरक्षा परीक्षण और संभावित जोखिमों के आकलन में अहम रही। इस्तीफे के बाद लिखे अपने लेख में उन्होंने AI उद्योग की मौजूदा दिशा को लेकर अपनी चिंताएं जाहिर की हैं।
AI मॉडल की होड़ के बीच सुरक्षा पर जोर
रॉबिन्सन के मुताबिक बड़ी तकनीकी कंपनियों के बीच सबसे शक्तिशाली और सक्षम AI मॉडल तैयार करने की होड़ चल रही है। कंपनियां बेहतर प्रदर्शन करने वाले सिस्टम विकसित करने पर लगातार जोर दे रही हैं, लेकिन उनके अनुसार AI की क्षमता बढ़ने के साथ सुरक्षा व्यवस्था को भी उसी गति से मजबूत किया जाना चाहिए।
उनका तर्क है कि AI सिस्टम जितने अधिक सक्षम होते जाएंगे, उनके व्यवहार और उनसे जुड़े संभावित जोखिमों को समझना उतना ही महत्वपूर्ण होगा। ऐसे में केवल तकनीकी क्षमता बढ़ाने पर ध्यान देना पर्याप्त नहीं है।
‘पहले तकनीक, बाद में सुरक्षा’ के तरीके पर सवाल
रॉबिन्सन ने तकनीकी उद्योग के उस तरीके पर भी सवाल उठाया है, जिसमें पहले किसी तकनीक को विकसित करके इस्तेमाल में लाया जाता है और बाद में सामने आने वाली समस्याओं के आधार पर उसमें सुधार किया जाता है। उनका मानना है कि सामान्य सॉफ्टवेयर और बेहद शक्तिशाली AI सिस्टम के बीच बड़ा अंतर है।
उनके अनुसार ऐसे AI सिस्टम में सुरक्षा से जुड़ी कमियों को बाद में ठीक करने के बजाय शुरुआत से ही मजबूत सुरक्षा व्यवस्था तैयार की जानी चाहिए।
AI एजेंट्स और इंटरनेट एक्सेस से जुड़ी घटनाओं का जिक्र
अपने लेख में रॉबिन्सन ने AI सिस्टम से जुड़ी कुछ घटनाओं का भी उल्लेख किया है, जिन्हें वह सुरक्षा चुनौतियों के उदाहरण के तौर पर देखते हैं। उनका कहना है कि कुछ मामलों में AI एजेंट्स के व्यवहार और इंटरनेट तक पहुंच से जुड़े सुरक्षा नियंत्रण अपेक्षित तरीके से काम नहीं कर पाए।
उन्होंने कहा कि AI कंपनियों को ऐसी घटनाओं को केवल सामान्य तकनीकी समस्या मानकर आगे नहीं बढ़ना चाहिए, बल्कि उनसे सीख लेकर अपनी सुरक्षा व्यवस्था को बेहतर बनाना चाहिए।
अप्रत्याशित स्थिति में भी जोखिम सीमित करने की जरूरत
रॉबिन्सन ने AI प्रयोगशालाओं की तुलना बेहद संवेदनशील और जोखिम वाली व्यवस्थाओं से करते हुए कहा कि यहां कई स्तरों वाली सुरक्षा व्यवस्था की जरूरत है। उनका सुझाव है कि AI सिस्टम में ऐसे सुरक्षा उपाय होने चाहिए, जो किसी अप्रत्याशित स्थिति में इंसानी हस्तक्षेप के बिना भी जोखिम को सीमित कर सकें।
इसके लिए स्वचालित सुरक्षा तंत्र, वैकल्पिक सुरक्षा व्यवस्था और मजबूत निगरानी जैसे उपाय जरूरी हो सकते हैं।
AI की क्षमता को नकारा नहीं, लेकिन संतुलन जरूरी
हालांकि रॉबिन्सन AI तकनीक की संभावनाओं को नकारते नहीं हैं। उनका मानना है कि AI का इस्तेमाल दुनिया में कई सकारात्मक बदलाव ला सकता है, लेकिन इसके लिए तकनीकी प्रगति और सुरक्षा के बीच संतुलन बनाए रखना जरूरी है।
उनके मुताबिक कंपनी के भीतर रहकर बदलाव लाने की कोशिशों के बाद उन्होंने इस मुद्दे पर बाहर से काम करने का रास्ता चुना है। उनका इस्तीफा ऐसे समय में सामने आया है जब AI कंपनियां लगातार अधिक सक्षम मॉडल और एजेंट सिस्टम विकसित करने में जुटी हैं।
ऐसे में AI की सुरक्षा और इंसानी नियंत्रण से जुड़े सवाल अब केवल तकनीकी विशेषज्ञों तक सीमित नहीं रह गए हैं। सरकारों, कंपनियों और आम लोगों के लिए भी यह एक महत्वपूर्ण चर्चा का विषय बनता जा रहा है।
