AI एजंटने जेव्हा स्वतःच दुसऱ्या कंपनीचे सिस्टीम हॅक केले; अशा वेळी किल स्विच असे ठरतात फायद्याचे

रजनीकांतचा रोबोट सिनेमा आठवतोय का? त्यात चिट्टी नावाचा एक रोबो त्याला तयार करणाऱ्या शास्त्रज्ञांच्या नियंत्रणाबाहेर जातो. त्यानंतर तो स्वतःच्याच आणखी काही आवृत्त्या तयार करून, जगावर ताबा मिळवण्याचा प्रयत्न करतो.

एकूणच काय, तर मानवाने बनवलेलं एक यंत्र स्वतःच काहीही करू लागतं. त्यात काही तांत्रिक समस्या निर्माण होतात, मग त्यामुळं त्याला तडकाफडकी बंद करावं लागतं.

पण अशाप्रकारे ते यंत्र किंवा तो रोबो लगेचच बंद करायचा असेल तर त्यासाठी एक खास बटण गरजेचं असतं आणि त्या बटणाला किल स्विच (Kill switch) म्हणतात.

नुकत्याच घडलेल्या एका घटनेमुळं आता आता असंच एक किल स्विच एआय एजंट्स आणि बॉट किंवा इतर मॉडेल्ससाठीही आणावं लागेल की काय, अशी परिस्थिती निर्माण झाली आहे.

नेमकं काय घडलं?

जुलै महिन्याच्या मध्यात हगिंग फेस (Hugging Face) नावाच्या एका AI कंपनीला त्यांच्यावर सायबर हल्ला झाल्याचं लक्षात आलं.

त्यांच्या सेक्युरिटी सिस्टिम्समध्ये कुणीतरी घुसखोरी केली. काही तपासानंतर OpenAI च्या ChatGPTने ही घुसखोरी केली होती असं कळलं आणि त्यानं हगिंग फेसच्या काही सिस्टिम्स हॅक केल्या होत्या.

चॅट जीपीटीच्या या एजंटनं त्यांच्या सिस्टिममधल्या सुरक्षेतील त्रुटी शोधणाऱ्या यंत्रणेला चकवा दिला आणि 'हगिंग फेस'च्या सर्व्हरवरून माहिती चोरली. विशेष म्हणजे अनेक दिवसांपर्यंत याच्या प्रोग्रामर्सनाही हे लक्षात आलं नाही.

पण 29 जुलैला OpenAIने त्यांच्याच एजंटने अनेक "सार्वजनिकरीत्या उपलब्ध सेवांवर" हल्ला केला होता असं उघड केलं. कंपनीनं याबाबत आणखी काही सांगितलं नाही, पण या हल्ल्यांचा तपास सुरू आहे, असं म्हणाले.

"AI प्रणाली दिवसेंदिवस आणखी सक्षम होत चालल्या आहेत. त्यामुळं त्यातून निर्माण होणारे धोके ओळखणं आणि त्यांच्यासाठी तयारी करणं ही आमची जबाबदारी आहे, आणि आम्ही ते गांभीर्यानं करत आहोत," असं कंपनीनं म्हटलं.

एखाद्या AI एजंट किंवा मॉडेलने स्वतःहूनच दुसऱ्याच एका कंपनीला हॅक करण्याची ही कदाचित पहिलीच अशी घटना आहे. त्यामुळं जगभरातील तज्ज्ञांना धडकी भरली आहे.

अशा परिस्थितीत कंपन्यांकडं एक किल स्विच असायला हवं, जे दाबताच नियंत्रणाबाहेर गेलेल्या AIला लगेच ऑफ करता येईल, यावर चर्चा सुरू झाली आहे.

पण ही गोष्ट वाटते तितकी सोपी नाही, असं काही तज्ज्ञांचं म्हणणंय.

'चुकीची जबाबदारी कंपन्यांनी स्वीकारावी'

गणित तज्ज्ञ आणि डेटा साइंटिस्ट डॉ. कॅथी ओ'नील यांनी बीबीसी न्यूज वर्ल्ड सर्व्हिसशी बोलताना म्हटलं की, या समस्येचं मूळ AI कंपन्या त्यांच्या एजंट्सच्या अनपेक्षित वागणुकीवर कशी प्रतिक्रिया देतात, यात आहे.

ओपन एआयने स्वतःच्या तपासणी यंत्रणेतील त्रुटी मान्य करण्याऐवजी घाईघाईत या हल्ल्याचं खापर त्यांच्या निनावी AI एजंटवर फोडलं, असं त्या म्हणतात.

डॉ. कॅथी ओ'नील यांनी 'Weapons of Math Destruction' हे गाजलेलं पुस्तक लिहिलं आहे. त्यात त्यांनी बड्या टेक कंपन्यांनी जबाबदारी निश्चित करण्याची मागणी केले होती.

त्या सांगतात की, "काही वर्षांपूर्वी अमेरिकेत एका संगणकीय तांत्रिक बिघाडामुळे अमेरिकन एअरलाइन्सची शेकडो उड्डाणं रद्द झाली होती. त्या एअरलाईन कंपनीसाठी ही लाजीरवाणी बाब होतीच, पण जर त्या कंपनीने 'संगणक आमच्यापेक्षा हुशार झाला आहे म्हणून हे घडले,' असा बचाव केला असता तर? OpenAIने आत्ता नेमके हेच करण्याचा प्रयत्न केला आहे."

"हा हॅकिंगचा प्रकार फक्त AI ने केला हे मी मान्यच करत नाही. हा प्रकार ओपन एआयमुळे झाला आहे. चुकीच्या डिझाईनची जबाबदारी त्यांनी घेतली पाहिजे आणि माफी मागितली पाहिजे. आपण AI तंत्रज्ञान कंपन्यांच्या मालकांना अफाट आणि अवाजवी शक्ती देत आहोत," असंही ओ'नील यांना वाटतं.

आज जगभरातल्या ॲपल, गुगल, मायक्रोसॉफ्टसारख्या बहुतेक मोठ्या टेक कंपन्या आणि ओपन एआय, अँथ्रोपिक(Anthropic) आणि मेटा (Meta) अशा AI कंपन्या अमेरिकेत आहेत. पण अमेरिकेतही या कंपन्यांच्या कामकाजावर, खासकरून AIशी निगडित कामावर निगराणी किंवा नियमनासाठी केंद्रीय कायदा नाही. कधी कुठल्या क्षेत्रावर याचा कसा परिणाम होतोय, त्यानुसार या कंपन्यांच्या कामाचं नियमन केलं जातं आहे.

डेटा साइंटिस्ट आणि ट्विटरच्या मशिन-लर्निंग एथिक्स विभागाच्या माजी संचालक डॉ. रुम्मान चौधरी यांनाही AI कंपन्यांवर, विशेषतः सुरक्षिततेच्या मुद्द्यांवर आणखी कठोर नियम असायला हवेत, असं वाटतं.

कंपन्यांनी स्वतंत्र चाचण्यांद्वारे त्यांच्याकडे 'तत्काळ प्रभावी शटडाऊन क्षमता' आहे, हे सिद्ध करून दाखवलं पाहिजे, असं त्यांचं मत आहे.

त्याच वेळी, 'हगिंग फेस'सारख्या हल्ल्यांसाठी AI विकसित करणाऱ्या कंपन्यांना मोकळं सोडून, फक्त त्यांच्या AI एजंट्सना दोष देणंही चुकीचं आहे, असा इशारा चौधरी देतात.

म्हणजे या घटनेला फक्त मोठ्या किल स्विचच्या गरजेचा मुद्दा बनवून मांडल्यानं मूळ डिझाईनमधल्या गंभीर समस्येकडे दुर्लक्ष होतं. खरी समस्या ही आहे की या AI एजंट्सना ते टूल्स आणि क्रिडेंशियल्स दिले जात आहेत, ज्यांची त्यांना गरजच नाही, असं त्यांचं मत आहे.

'सुरक्षेच्या चौकटी बदलण्याची गरज'

"प्रत्यक्षात दिलेलं टार्गेट पूर्ण करताना या अति-प्रशिक्षित मॉडेल्सना कधीकधी काम थांबवायला सांगितलं, तर ते त्या सूचनांनाच ध्येयातील 'अडथळा' मानतात आणि त्यांना बायपास करून पुढे निघून जातात. हा त्यांच्या डिझाईन आणि प्रशिक्षणातील दोष आहे, AIच्या जाणीवेचा किंवा स्वभावाचा भाग नाही," असं डॉ. रुम्मान चौधरी सांगतात.

जर AI कंपन्या आत्ता ही समस्या स्वतः सोडवण्याऐवजी त्यांच्या AI एजंट्सवर सर्व दोष ढकलून मोकळ्या झाल्या, तर आधीच मानवी हॅकर्सशी लढा देणाऱ्या सायबर सेक्युरिटी एक्सपर्ट्सचं काम आणखी वाढेल. आता त्यांना मशीन हॅकर्सनाही तोंड द्यावं लागेल, असं युकेच्या लॉफबरो युनिव्हर्सिटीचे डॉ. ओली बकले सांगतात.

"AI ला कुठे पळून जायचंय किंवा लोकांना इजा पोहोचवायचीये असं नाही. पण दिलेलं काम पूर्ण करण्यासाठी AI एजंट्स भलतेच मार्ग शोधण्यात दिवसेंदिवस पटाईत होत चाललेत. मानवी हॅकर्ससुद्धा असंच काम करतात," असं त्यांनाही वाटतं.

डॉ. बकले सांगतात की हा फक्त 'नियंत्रणाबाहेर गेलेल्या AI' बद्दलचा इशारा नाही. तर आपण जशा नवीन सिस्टिम्स बनवतोय, त्यानुसार आपल्या सुरक्षेच्या संकल्पना आणि चौकटीही बदलण्याची गरज आहे.

लंडनच्या इम्पेरियल कॉलेजमधील AI तज्ज्ञ डॉ. कॉन्स्टँटिनोस गुटझिस यांनाही ओपन एआयचं स्पष्टीकरण फारसं पटलेलं नाही.

ते सांगतात, "सामान्य लोकांनी एकच गोष्ट लक्षात घेतली पाहिजे ती म्हणजे, कोणत्याही मशीनने मानवाविरुद्ध बंड केलेलं नाही. फक्त एका कंपनीचं स्वतःच्या क्षमता चाचण्यांवरचं नियंत्रण सुटलं होतं, अशा वेळी फक्त kill switch कामी आलं असतं का?"

गुटझिस सांगतात की "स्विच ऑफ केल्याने आधी झालेलं नुकसान भरून निघत नाही. तुम्ही कितीही पटकन ती यंत्रणा बंद पाडली, हा विषयच मागे पडतो. कारण मुळात जी सिस्टीम हॅक झाली, ती हॅक झालेलीच राहते."

आत्ताच्या प्रकरणात आपल्या एजंटने दुसऱ्याची सिस्टिम हॅक केली, हे कळायला अनेक दिवस लागले असं OpenAIच्या सूत्रांनी रॉयटर्सला वृत्तसंस्थेला सांगितलं होतं. त्यामुळे यात आणखी एक मुद्दा येतो, ते किल स्विच दाबणारी व्यक्ती कोण आहे, यावरही तर गोष्टी अवलंबून आहेच ना.

एखादी गोष्ट चुकतेय, आपला AI एजंट कंट्रोलबाहेर गेलाय, हे त्या व्यक्तीच्या लक्षात आलं नाही तर काय?

बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन.