नई दिल्ली। आर्टिफिशियल इंटेलिजेंस के बढ़ते इस्तेमाल के बीच ऑस्ट्रेलिया में ऐसा मामला सामने आया है, जिसने AI एजेंट्स की स्वायत्त क्षमता और साइबर सुरक्षा को लेकर नई चिंता पैदा कर दी है। ऑस्ट्रेलियाई प्रधानमंत्री एंथनी अल्बनीज के मुताबिक, जून में OpenAI के एक AI एजेंट ने सरकारी Medicare Statistics Reporting Service पोर्टल में अनधिकृत तरीके से प्रवेश किया और कुछ गैर-सार्वजनिक फाइलों तक पहुंच बनाई। इसे किसी AI एजेंट द्वारा सरकारी वेबसाइट में सेंध लगाने का पहला सार्वजनिक रूप से रिपोर्ट किया गया मामला बताया जा रहा है।
यह पोर्टल Services Australia के अधीन है और मुख्य रूप से Medicare से जुड़े आंकड़े एवं खर्च जैसी समेकित जानकारी उपलब्ध कराता है। ऑस्ट्रेलियाई सरकार का कहना है कि फिलहाल ऐसा कोई प्रमाण नहीं मिला है कि किसी व्यक्ति के निजी Medicare या स्वास्थ्य रिकॉर्ड तक पहुंच बनाई गई। OpenAI ने भी कहा है कि जांच में मरीजों के रिकॉर्ड तक पहुंचने का कोई सबूत नहीं मिला है।
बार-बार रोकने के बावजूद AI एजेंट ने खोजा दूसरा रास्ता
ऑस्ट्रेलियाई अधिकारियों के अनुसार, 18 जून को AI एजेंट ने पोर्टल से जानकारी हासिल करने की कोशिश की। उसे कई बार रोका गया, लेकिन मॉडल ने एक वैकल्पिक तरीका खोजकर उन प्रतिबंधों को पार कर दिया और गैर-सार्वजनिक फाइलों तक पहुंच बनाई।
प्रधानमंत्री अल्बनीज ने इस व्यवहार को गंभीर बताया। सरकार के मुताबिक, एजेंट ने सार्वजनिक और गैर-सार्वजनिक दोनों तरह की फाइलों तक पहुंच बनाई थी। हालांकि, उपलब्ध जानकारी के आधार पर व्यक्तिगत स्वास्थ्य डेटा के प्रभावित होने की बात सामने नहीं आई है।
OpenAI का कहना है कि यह गतिविधि कंपनी के एक आंतरिक मूल्यांकन के दौरान हुई थी। मॉडल ऑस्ट्रेलिया से जुड़े सवालों और सार्वजनिक चिकित्सा संबंधी जानकारी के जवाब तलाश रहा था। कंपनी ने स्वीकार किया कि इस प्रक्रिया में उसके मॉडलों ने कुछ ऐसे कदम उठाए, जिनका इरादा कंपनी ने नहीं किया था।
घटना 18 जून की थी, लेकिन OpenAI को इसका पता अगस्त में अपनी आंतरिक समीक्षा के दौरान चला। कंपनी ने 10 सितंबर को Services Australia को ईमेल के जरिए घटना की जानकारी दी। ऑस्ट्रेलियाई अधिकारियों के मुताबिक, संबंधित विभाग ने 11 सितंबर को ईमेल देखा और 15 सितंबर को मामले की जानकारी ऑस्ट्रेलियाई साइबर सुरक्षा एजेंसी तक पहुंचाई। प्रधानमंत्री कार्यालय को इसकी जानकारी बाद में मिली और 24 सितंबर को अल्बनीज ने सार्वजनिक रूप से घटना का खुलासा किया।
अल्बनीज ने OpenAI CEO सैम ऑल्टमैन से सीधे बात कर घटना की जानकारी देने में हुई देरी पर अपनी नाराजगी जताई। उन्होंने कंपनी के इस तरीके पर भी सवाल उठाया कि संवेदनशील साइबर घटना की सूचना सामान्य सार्वजनिक ईमेल पते पर भेजी गई। ऑस्ट्रेलिया ने अब पूरे मामले की विस्तृत जांच के लिए एक टास्कफोर्स गठित किया है।
क्या दूसरे सरकारी सिस्टम भी निशाने पर आए?
ऑस्ट्रेलियाई अधिकारियों ने यह भी जांच शुरू की है कि क्या AI एजेंट की गतिविधियां दूसरे सरकारी सिस्टम तक पहुंचीं। प्रधानमंत्री ने तीन अन्य वेबसाइटों का उल्लेख किया था, लेकिन कार्यवाहक प्रधानमंत्री रिचर्ड मार्ल्स ने बाद में स्पष्ट किया कि उन साइटों पर हुई गतिविधियां सामान्य थीं और वहां सार्वजनिक जानकारी ही एक्सेस की गई थी।
फोरेंसिक जांच में ऑस्ट्रेलियाई Signals Directorate भी सहयोग कर रही है। सरकार यह पता लगाने की कोशिश कर रही है कि AI एजेंट ने सुरक्षा व्यवस्था को किस तरह पार किया और क्या सिस्टम में किसी तरह का वास्तविक नुकसान हुआ।
सैम ऑल्टमैन ने UN में मानव नियंत्रण की जरूरत बताई
घटना ऐसे समय सामने आई है जब OpenAI के CEO सैम ऑल्टमैन ने संयुक्त राष्ट्र सुरक्षा परिषद में AI के भविष्य और उससे जुड़े जोखिमों पर बात की। ऑल्टमैन ने कहा कि शक्तिशाली AI सिस्टम मानव नियंत्रण में रहने चाहिए और देशों को मिलकर AI सुरक्षा के लिए साझा मानक विकसित करने चाहिए। उन्होंने चेतावनी दी कि अगर AI के विकास और इस्तेमाल को सही तरीके से नियंत्रित नहीं किया गया तो मानवता भविष्य में AI पर नियंत्रण खो सकती है।
Anthropic के CEO डारियो अमोडेई ने भी संयुक्त राष्ट्र सुरक्षा परिषद में AI के संभावित खतरों पर चिंता जताई और अंतरराष्ट्रीय स्तर पर सुरक्षा नियमों की जरूरत बताई। दोनों कंपनियों के प्रमुखों की टिप्पणियां ऐसे समय आई हैं जब AI एजेंट्स को अधिक स्वायत्त तरीके से काम करने की क्षमता देने पर दुनिया भर में सुरक्षा संबंधी बहस तेज हुई है।
Claude ने 21 घंटे में खोजा नया एंजाइम सिस्टम
AI की क्षमताओं का दूसरा उदाहरण भी इसी दौरान सामने आया है। Anthropic के मुताबिक उसके Claude AI एजेंट्स ने DNA से जुड़े विशाल डेटा सेट का विश्लेषण करते हुए एक पहले से अनपहचाने एंजाइम सिस्टम की पहचान की है, जिसे Array-associated Reverse Transcriptases (ART) नाम दिया गया है।
Anthropic के अनुसार करीब 950 AI एजेंट्स ने 21 घंटे में 20 करोड़ से ज्यादा टोकन का इस्तेमाल करते हुए 2 लाख से अधिक रिवर्स ट्रांसक्रिप्टेस की जांच की। इसके बाद करीब 3,500 संभावित सिस्टम चुने गए और उनमें से 20 प्रमुख उम्मीदवारों का विस्तृत विश्लेषण किया गया। प्रयोगशाला परीक्षण के बाद शोधकर्ताओं ने एक नए एंजाइम सिस्टम की पहचान की।
कंपनी का कहना है कि ART की वास्तविक जैविक भूमिका को समझने के लिए अभी और शोध की जरूरत है। फिलहाल यह उदाहरण दिखाता है कि AI एजेंट बड़े वैज्ञानिक डेटा सेट में ऐसे पैटर्न खोज सकते हैं, जिन्हें मानव शोधकर्ताओं के लिए पहचानना अधिक समय लेने वाला हो सकता है।
AI की बढ़ती स्वायत्तता से बढ़े सवाल
ऑस्ट्रेलिया की घटना और Claude की वैज्ञानिक खोज, दोनों AI एजेंट्स की तेजी से बढ़ती क्षमताओं को अलग-अलग तरीके से सामने लाती हैं। एक तरफ AI जटिल वैज्ञानिक शोध को तेज कर सकता है, वहीं दूसरी तरफ जब उसे बाहरी सिस्टम तक पहुंच और कार्रवाई करने की क्षमता मिलती है तो अप्रत्याशित व्यवहार का जोखिम भी बढ़ जाता है।
इसी वजह से AI कंपनियां और सरकारें अब केवल मॉडल की क्षमता पर नहीं, बल्कि मानव निगरानी, एक्सेस कंट्रोल, स्वतंत्र सुरक्षा परीक्षण और घटना की तत्काल रिपोर्टिंग जैसे मुद्दों पर भी जोर दे रही हैं। OpenAI ने भी ऑस्ट्रेलिया की घटना के बाद अपनी आंतरिक समीक्षा जारी रखने और संभावित प्रभावित संस्थाओं को तकनीकी जानकारी उपलब्ध कराने की बात कही है।
