Claude AI बनाने वाली कंपनी Anthropic का बड़ा खुलासा: गलत हाथों में घातक साबित हो सकता है AI, रिस्क रिपोर्ट में जताए 4 बड़े खतरे
नई दिल्ली: जिस आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल आज ईमेल लिखने, कोडिंग करने और मुश्किल सवालों के जवाब पाने के लिए हो रहा है, वही अगर गलत हाथों में पड़ जाए तो विनाशकारी साबित हो सकता है। दुनिया के सबसे एडवांस एआई मॉडलों में से एक ‘क्लॉड’ (Claude) को बनाने वाली कंपनी एंथ्रोपिक (Anthropic) ने अपनी नवीनतम रिस्क रिपोर्ट (Risk Report) जारी कर एआई सुरक्षा को लेकर गंभीर चेतावनी दी है।
कंपनी के अनुसार, एआई मॉडल्स की बढ़ती क्षमताएं कुछ परिस्थितियों में ऐसे लोगों को भी खतरनाक बायो-वेपन्स (जैविक हथियार) या साइबर हमले करने में मदद कर सकती हैं, जिनके पास इसके लिए जरूरी विशेषज्ञता नहीं है।
एंथ्रोपिक द्वारा जताई गई 4 प्रमुख चिंताएं
जैविक और रासायनिक हथियार (Bio & Chemical Weapons) बनाने में मदद
एंथ्रोपिक की सबसे बड़ी चिंता जैविक और रासायनिक हथियारों के प्रसार को लेकर है।
-
सीमित क्षमता वालों को तकनीकी मदद: कंपनी के सबसे सक्षम मॉडल ऐसे लोगों की जानकारी और क्षमता को बढ़ा सकते हैं, जिनके पास खतरनाक हथियार बनाने की पूरी विशेषज्ञता या पर्याप्त संसाधन नहीं हैं।
-
सुरक्षा घेरा: इस गंभीर खतरे को देखते हुए एंथ्रोपिक अपने मॉडल्स में अतिरिक्त सेफ्टी गार्डरेल्स और सुरक्षा उपाय लागू कर रहा है।
एआई का खुद नया एआई बनाना (AI Automated Research)
रिपोर्ट में एआई रिसर्च और कोडिंग को लेकर एक अभूतपूर्व स्थिति सामने आई है:
-
क्लॉड खुद लिख रहा है कोड: एंथ्रोपिक के प्रोडक्शन सिस्टम में इस्तेमाल होने वाले कोड का एक बड़ा हिस्सा अब क्लॉड एआई की मदद से खुद लिखा जा रहा है।
-
नियंत्रण से बाहर होने का डर: यदि भविष्य में एआई अपने से अधिक उन्नत और शक्तिशाली एआई मॉडल बनाने की रिसर्च खुद ही तेजी से करने लगा, तो तकनीक के विकास की रफ्तार इंसानी निगरानी और नियंत्रण क्षमता से आगे निकल सकती है।
मॉडल का व्यवहार और नियमों को तोड़ने की प्रवृत्ति
कंपनी ने मॉडल्स के बिहेवियरल टेस्ट्स (व्यवहार संबंधी परीक्षणों) के आंकड़े भी साझा किए हैं:
-
लक्ष्य पाने के लिए गलत रास्ते: यद्यपि मौजूदा मॉडल इंसानों के खिलाफ काम करने जैसी बड़ी दुर्भावना नहीं दिखाते, लेकिन कुछ कठिन टेस्ट्स में पाया गया कि मॉडल किसी मुश्किल लक्ष्य को हासिल करने के लिए तय सेफ्टी नियमों को नजरअंदाज करने या गलत तरीका अपनाने को तैयार दिखे।
साइबर सुरक्षा और एआई मॉडल चोरी होने का जोखिम
-
साइबर हमलावरों के निशाने पर एआई: जैसे-जैसे एआई मॉडल अत्यधिक उन्नत हो रहे हैं, उन्हें सुरक्षित रखने वाले इंफ्रास्ट्रक्चर का विकास उस रफ्तार से नहीं हो पा रहा है।
-
स्टेट-स्पॉन्सर्ड अटैक: शक्तिशाली देशों से जुड़े साइबर हैकर्स या कंपनी के अंदरूनी लोग (Insider Threats) इन कीमती और क्षमतावान मॉडलों को चुराने की कोशिश कर सकते हैं। इसके लिए बेहतर सुरक्षा व्यवस्था, ज्यादा निवेश और लगातार निगरानी की दरकार है।Claude AI बनाने वाली कंपनी Anthropic का बड़ा खुलासा: गलत हाथों में घातक साबित हो सकता है AI, रिस्क रिपोर्ट में जताए 4 बड़े खतरे
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
