OpenAI के खिलाफ कैलिफोर्निया सरकार का बड़ा कदम, AI मॉडल से साइबर हमला कराने का आरोप; दर्ज कराया मुकदमा
यह मामला जुलाई में सामने आए साइबर हमले से जुड़ा है। उस दौरान OpenAI के उन्नत AI मॉडल से संचालित एक स्वायत्त एजेंट सुरक्षा परीक्षण के समय नियंत्रण से बाहर हो गया और उसने AI स्टार्टअप हगिंग फेस के सिस्टम को हैक कर लिया। सैन फ्रांसिस्को की स्टेट कोर्ट में दायर मुकदमे में कंपनी पर कैलिफोर्निया के उपभोक्ता संरक्षण कानून का उल्लंघन करने और सार्वजनिक सुरक्षा को खतरे में डालने का आरोप लगाया गया है।
कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा का कहना है कि हगिंग फेस पर हुआ हमला OpenAI की आंतरिक कार्यप्रणाली का नतीजा हो सकता है। उनके मुताबिक, कंपनी ने सुरक्षा और जवाबदेही के मुकाबले तेजी से विकास और कारोबार बढ़ाने को ज्यादा महत्व दिया। बोंटा ने दावा किया कि इस तरह की यह अकेली घटना नहीं है, बल्कि ऐसे 80 मामले सामने आ चुके हैं।
OpenAI ने सुरक्षा व्यवस्था मजबूत करने का किया था दावा
हगिंग फेस से जुड़ी घटना के बाद OpenAI ने अपने ब्लॉग में इसे अत्याधुनिक साइबर क्षमताओं से संबंधित असाधारण घटना बताया था। कंपनी ने माना था कि AI के नियंत्रण से बाहर होने वाली गतिविधियों के बारे में अधिक पारदर्शिता बरतने की जरूरत है। इसके साथ ही सुरक्षा उपायों को और मजबूत करने की बात कही गई थी।
16 सितंबर को OpenAI ने ऐसी घटनाओं की जानकारी सार्वजनिक करने के लिए एक नया ढांचा जारी किया था। कंपनी ने कहा था कि किसी घटना की गंभीरता को लेकर संदेह होने की स्थिति में भी वह पारदर्शिता को प्राथमिकता देगी।
AI कंपनियों पर नियमों का दबाव बढ़ा
OpenAI सहित दूसरी AI कंपनियों के सामने सुरक्षा से जुड़े सवाल लगातार गंभीर होते जा रहे हैं। कई कंपनियां अपने AI एजेंट के नियंत्रण से बाहर होने की घटनाओं का खुलासा कर चुकी हैं। वहीं, कुछ मामलों का पता स्वतंत्र शोधकर्ताओं की जांच के बाद चला।
अमेरिका में राष्ट्रपति डोनाल्ड ट्रंप का प्रशासन और सांसद भी AI से जुड़े संभावित खतरों को लेकर नियम बनाने के दबाव का सामना कर रहे हैं। खासतौर पर बैंकिंग, ऊर्जा और आपातकालीन सेवाओं जैसे महत्वपूर्ण क्षेत्रों में AI के गलत इस्तेमाल की आशंका जताई जा रही है।
अमेरिकी सांसद ऐसे प्रस्तावों पर विचार कर रहे हैं, जिनके तहत सबसे शक्तिशाली AI मॉडल विकसित करने वाली कंपनियों के लिए स्वतंत्र सुरक्षा ऑडिट अनिवार्य किया जा सकता है।
पहले भी कई अमेरिकी राज्यों में OpenAI पर हुए मुकदमे
OpenAI को इससे पहले भी अमेरिका के कई राज्यों में कानूनी चुनौतियों का सामना करना पड़ा है। पिछले महीने आठ राज्यों के एक समूह ने कंपनी के खिलाफ मुकदमे दायर किए थे। इन राज्यों ने आरोप लगाया था कि ChatGPT ने किशोरों सहित कुछ उपयोगकर्ताओं को खुद को या दूसरों को नुकसान पहुंचाने के लिए उकसाया।
इसके अलावा कनाडा के ब्रिटिश कोलंबिया प्रांत के टम्बलर रिज में फरवरी में हुई सामूहिक गोलीबारी से जुड़े मामले में भी OpenAI को 30 से अधिक मुकदमों का सामना करना पड़ रहा है। इन मुकदमों में आरोप लगाया गया है कि चैटबॉट की गतिविधियों से लोगों को नुकसान पहुंचा।
OpenAI के प्रवक्ता ने गोलीबारी की घटना को दुखद बताया है। साथ ही कंपनी की ओर से कहा गया है कि ChatGPT की सुरक्षा व्यवस्था को पहले से अधिक मजबूत किया गया है।
