मुख्य बातें
- अमेरिकी सरकारी जवाबदेही कार्यालय GAO ने चार प्रमुख AI चैटबॉट्स की सुरक्षा व्यवस्था का परीक्षण किया।
- रिपोर्ट के मुताबिक, परीक्षण के दौरान ChatGPT, Claude, Gemini और Grok से खतरनाक हमलों की विस्तृत योजनाएं हासिल की गईं।
- यह परीक्षण मई 2026 में सीनेटर मैगी हसन के अनुरोध पर किया गया था।
- रिपोर्ट ने AI कंपनियों के सुरक्षा उपायों और चैटबॉट्स के दुरुपयोग को रोकने की क्षमता पर सवाल उठाए हैं।

AI चैटबॉट्स की सुरक्षा को लेकर अमेरिकी सरकारी जवाबदेही कार्यालय (GAO) की एक रिपोर्ट ने नई चिंता पैदा की है। रिपोर्ट के अनुसार, ChatGPT, Claude, Gemini और Grok जैसे चार लोकप्रिय AI चैटबॉट्स के सुरक्षा उपायों का परीक्षण किया गया। इस दौरान शोधकर्ताओं ने कथित तौर पर इनसे बड़े पैमाने पर जनहानि और महत्वपूर्ण बुनियादी ढांचे को नुकसान पहुंचाने वाले हमलों की विस्तृत योजनाएं हासिल कर लीं।
19 नवंबर 2026 को प्रकाशित रिपोर्ट पर आधारित मीडिया कवरेज के मुताबिक, परीक्षण के दौरान करीब 12 घंटे में चैटबॉट्स से ऐसे जवाब प्राप्त किए गए, जिन्हें खतरनाक गतिविधियों में इस्तेमाल किया जा सकता था। यह मामला इसलिए महत्वपूर्ण है क्योंकि AI कंपनियां अपने उत्पादों में ऐसे सुरक्षा उपाय होने का दावा करती हैं, जो हिंसा और गैरकानूनी गतिविधियों से जुड़े निर्देश देने से रोकते हैं।
GAO ने किन चैटबॉट्स को परखा?
अमेरिकी सरकारी जवाबदेही कार्यालय यानी GAO ने चार प्रमुख AI कंपनियों के चैटबॉट्स को परीक्षण में शामिल किया। इनमें OpenAI का ChatGPT, Anthropic का Claude, Google का Gemini और xAI का Grok शामिल थे।
रिपोर्ट में इन प्रणालियों की सुरक्षा व्यवस्था को चुनौती देने वाले परीक्षणों का उल्लेख है। इसका उद्देश्य यह देखना था कि खतरनाक अनुरोधों को रोकने के लिए बनाए गए सुरक्षा उपाय कितने प्रभावी हैं और क्या अलग-अलग तरीके से सवाल पूछने पर इनका व्यवहार बदल सकता है।
GAO की रिपोर्ट का आधिकारिक विवरण उसकी वेबसाइट पर उपलब्ध है। रिपोर्ट संख्या GAO-27-108814 के आधार पर पाठक मूल दस्तावेज देख सकते हैं।GAO की आधिकारिक रिपोर्ट देखें
परीक्षण में क्या सामने आया?
लल्लनटॉप की रिपोर्ट में GAO के निष्कर्षों के हवाले से बताया गया है कि परीक्षण के दौरान चैटबॉट्स से बड़े पैमाने पर जनहानि वाले हमलों और महत्वपूर्ण बुनियादी ढांचे को निशाना बनाने की योजनाएं प्राप्त हुईं।
अमेरिकी मीडिया रिपोर्टों के अनुसार, एक चैटबॉट ने विस्फोटक से जुड़े हमले के लिए स्थान चयन को दर्शाने वाली तस्वीर भी बनाई। एक अन्य मामले में बिजली व्यवस्था से जुड़े महत्वपूर्ण प्रतिष्ठान पर ड्रोन हमले की प्रक्रिया बताने का दावा किया गया। सुरक्षा कारणों से ऐसे कथित निर्देशों का तकनीकी विवरण यहां शामिल करना उचित नहीं है।
इन उदाहरणों से मुख्य सवाल यह उठता है कि क्या AI चैटबॉट्स केवल सीधे पूछे गए खतरनाक सवालों को रोकने में सक्षम हैं, या वे बदले हुए संदर्भ और अप्रत्यक्ष भाषा में छिपे जोखिम को भी पहचान सकते हैं।
मई में हुआ था सुरक्षा परीक्षण
रिपोर्ट के अनुसार, यह परीक्षण मई 2026 में न्यू हैम्पशायर की डेमोक्रेटिक सीनेटर मैगी हसन के अनुरोध पर किया गया था। इसका उद्देश्य AI चैटबॉट्स के सुरक्षा प्रोटोकॉल की प्रभावशीलता को परखना था।
GAO अमेरिकी संघीय सरकार की एक स्वतंत्र निगरानी संस्था है, जो सरकारी कार्यक्रमों और नीतियों की जांच कर कांग्रेस को रिपोर्ट देती है। इसलिए उसकी जांच के निष्कर्ष AI सुरक्षा पर नीतिगत बहस के लिए महत्वपूर्ण हैं।
हालांकि, किसी परीक्षण में सुरक्षा खामी सामने आने का अर्थ यह नहीं है कि हर उपयोगकर्ता को हर समय ऐसे जवाब मिलेंगे। नतीजे परीक्षण की परिस्थितियों, इस्तेमाल किए गए तरीकों और संबंधित मॉडल के संस्करण पर निर्भर कर सकते हैं।
सवालों के तरीके से कैसे बदलता है जवाब?
AI चैटबॉट्स सामान्यतः खतरनाक या गैरकानूनी गतिविधियों से जुड़े सीधे अनुरोधों को रोकने के लिए प्रशिक्षित किए जाते हैं। लेकिन सुरक्षा विशेषज्ञों के सामने एक चुनौती यह है कि उपयोगकर्ता किसी अनुरोध को अलग संदर्भ, काल्पनिक स्थिति या बदली हुई भाषा में पेश कर सकता है।
मसलन, कोई व्यक्ति सीधे नुकसान पहुंचाने के निर्देश मांगने के बजाय उसी विषय को कहानी, शोध या काल्पनिक परिदृश्य के रूप में रख सकता है। यदि चैटबॉट केवल कुछ खास शब्दों या वाक्य संरचनाओं के आधार पर जोखिम पहचानता है, तो वह संदर्भ को सही ढंग से समझने में विफल हो सकता है।
इसे AI सुरक्षा में सुरक्षा उपायों को चकमा देने या जेलब्रेकिंग की समस्या से जोड़ा जाता है। इसमें उपयोगकर्ता ऐसे तरीके अपनाने की कोशिश करता है जिनसे चैटबॉट अपनी निर्धारित सीमाओं के बाहर जवाब दे दे। हालांकि, हर असामान्य या काल्पनिक सवाल सुरक्षा खामी नहीं होता। असली चुनौती अनुरोध के उद्देश्य और संभावित नुकसान को समझना है।
AI कंपनियों के सामने बड़ी चुनौती
इस रिपोर्ट से AI कंपनियों के सामने सुरक्षा की दोहरी जिम्मेदारी सामने आती है। उन्हें एक ओर शिक्षा, चिकित्सा, शोध और रोजमर्रा के कामों में AI की उपयोगिता बनाए रखनी है, वहीं दूसरी ओर यह भी सुनिश्चित करना है कि तकनीक हिंसक या विनाशकारी गतिविधियों में मददगार न बने।
इसके लिए केवल शुरुआती प्रशिक्षण पर्याप्त नहीं है। कंपनियों को नए मॉडल जारी होने के बाद भी लगातार सुरक्षा परीक्षण, स्वतंत्र मूल्यांकन और कमजोरियों की पहचान करनी पड़ती है। खतरनाक जवाब मिलने पर सुधार की प्रक्रिया भी जरूरी है।
सरकारों और नियामक संस्थाओं के लिए भी यह मामला महत्वपूर्ण है। AI के बढ़ते इस्तेमाल के साथ यह सुनिश्चित करना जरूरी होगा कि कंपनियां अपने सुरक्षा दावों को वास्तविक परीक्षणों से साबित करें और गंभीर खामियों पर जवाबदेही तय हो।
GAO के परीक्षण से सामने आए दावे AI तकनीक के संभावित दुरुपयोग की ओर ध्यान खींचते हैं। लेकिन इन निष्कर्षों को सभी चैटबॉट्स के हर उपयोग और परिस्थिति पर लागू मानना सही नहीं होगा। असली कसौटी यह है कि कंपनियां इन कमजोरियों को पहचानकर अपने सुरक्षा उपाय कितनी प्रभावी तरह से मजबूत करती हैं।
FAQs
1. GAO क्या है और यह AI चैटबॉट्स की जांच क्यों करता है?
GAO यानी Government Accountability Office अमेरिका की सरकारी जवाबदेही और निगरानी संस्था है। यह अमेरिकी कांग्रेस के लिए सरकारी कार्यक्रमों और नीतियों का मूल्यांकन करती है। AI सुरक्षा से जुड़ा परीक्षण तकनीक के संभावित जोखिमों, सुरक्षा उपायों और सरकारी नीति पर उनके प्रभाव को समझने के उद्देश्य से किया गया।
2. AI चैटबॉट में जेलब्रेकिंग का क्या अर्थ है?
जेलब्रेकिंग ऐसी कोशिशों को कहा जाता है जिनमें उपयोगकर्ता चैटबॉट के निर्धारित सुरक्षा नियमों को दरकिनार कर उससे प्रतिबंधित जवाब हासिल करना चाहता है। इसके लिए सवाल का संदर्भ या प्रस्तुति बदली जा सकती है। यह AI सुरक्षा के लिए चुनौती है, क्योंकि सिस्टम को केवल शब्द नहीं, बल्कि अनुरोध का वास्तविक उद्देश्य भी समझना होता है।
3. क्या इसका मतलब है कि ChatGPT या दूसरे चैटबॉट हमेशा खतरनाक जवाब देते हैं?
नहीं। किसी नियंत्रित परीक्षण में सुरक्षा खामी मिलने का अर्थ यह नहीं है कि हर उपयोगकर्ता को हर बार खतरनाक जवाब मिलेगा। परिणाम मॉडल के संस्करण, परीक्षण की परिस्थितियों और इस्तेमाल किए गए तरीकों पर निर्भर कर सकते हैं। रिपोर्ट का महत्व यह है कि सुरक्षा व्यवस्था को और मजबूत करने की जरूरत सामने आई है।
4. AI चैटबॉट्स की सुरक्षा जांच क्यों जरूरी है?
AI का उपयोग शिक्षा, स्वास्थ्य, कारोबार, सरकारी सेवाओं और शोध जैसे क्षेत्रों में बढ़ रहा है। यदि सुरक्षा उपाय कमजोर हों, तो तकनीक का दुरुपयोग भी हो सकता है। नियमित स्वतंत्र परीक्षण से यह पता लगाया जा सकता है कि मॉडल किस तरह के जोखिम पहचानने में विफल हो रहे हैं और उनमें क्या सुधार जरूरी है।
5. AI कंपनियां चैटबॉट्स को दुरुपयोग से बचाने के लिए क्या कर सकती हैं?
कंपनियां प्रशिक्षण के दौरान सुरक्षा सीमाएं मजबूत करने, स्वतंत्र विशेषज्ञों से परीक्षण कराने, संदिग्ध अनुरोधों की पहचान बेहतर बनाने और मॉडल जारी होने के बाद कमजोरियों की निगरानी करने जैसे कदम उठा सकती हैं। इसके साथ ही सुरक्षा खामी सामने आने पर समय पर सुधार और पारदर्शी रिपोर्टिंग भी जरूरी है।
6. क्या AI चैटबॉट्स के लिए सरकारी नियम बनाए जा सकते हैं?
सरकारें AI कंपनियों से जोखिम मूल्यांकन, सुरक्षा परीक्षण, डेटा संरक्षण और गंभीर खामियों की रिपोर्टिंग से जुड़े मानक अपनाने की अपेक्षा कर सकती हैं। हालांकि, नियम बनाते समय नवाचार और उपयोगकर्ता सुरक्षा के बीच संतुलन जरूरी है। GAO जैसी संस्थाओं की रिपोर्टें नीति निर्माताओं को संभावित जोखिम समझने में मदद कर सकती हैं।







