एक उपयोगी मुख्य बात
- एआई मॉडल हानिकारक सामग्री को रोकने के लिए इनपुट और आउटपुट क्लासिफायर पर निर्भर करते हैं, लेकिन इन फिल्टरों को दुर्भावनापूर्ण पैटर्न पहचानने के लिए कई इंटरैक्शन (संवाद) की आवश्यकता होती है।
ARTICLE PREVIEW
Gist एआई फर्म एंथ्रोपिक की एक हालिया सुरक्षा रिपोर्ट से पता चला है कि उपयोगकर्ता संभावित रूप से हानिकारक गतिविधियों के लिए इसके क्लॉड एआई मॉडल का फायदा उठा रहे थे, जिसने वर्तमान एआई सुरक्षा प्रोटोकॉल में एक गंभीर भेद्यता को उजागर किया है। यह खुलासा इस बात को रेखांकित करता है कि दुर्भावनापूर्ण तत्व एल्गोरिथम फिल्टर द्वारा दुर्भावनापूर्ण पैटर्न को पहचानने और उनकी पहुंच समाप्त करने से पहले खतरनाक डेटा को ऑफ़लाइन निकाल सकते हैं। सिविल सेवा उम्मीदवारों के लिए, यह कृत्रिम बुद्धिमत्ता में कॉर्पोरेट स्व-नियमन की गंभीर सीमाओं को उजागर करता है और दोहरे उपयोग वाली तकनीकों को विनियमित करने की शासन संबंधी चुनौती को रेखांकित करता है। Background - वर्तमान में, गूगल , ओपनएआई , और एंथ्रोपिक जैसे प्रमुख एआई विकासकर्ता काफी हद तक अनियमित वातावरण में काम करते हैं, और अपने मॉडलों के दुरुपयोग को रोकने के लिए स्व-नियमन पर निर्भर हैं। - उपयोगकर्ता की सुरक्षा सुनिश्चित करने के लिए, ये कंपनियां इनपुट और आउटपुट क्लासिफायर नामक सॉफ्टवेयर घटकों का उपयोग करती हैं, जो हानिकारक सामग्री को रोकने के लिए उपयोगकर्ता के प्रॉम्प्ट और एआई की…
आपका learner access जाँचा जा रहा है…
हम आपका session सुरक्षित रूप से restore कर रहे हैं। पूरा article अपने-आप खुल जाएगा।