एंथ्रोपिक के शोधकर्ताओं ने एआई अलाइनमेंट से जुड़े अस्तित्व संबंधी जोखिमों की चेतावनी दी

Gist अग्रणी कृत्रिम बुद्धिमत्ता कंपनी, एंथ्रोपिक के वरिष्ठ शोधकर्ताओं ने तेजी से उन्नत हो रही एआई प्रणालियों से उत्पन्न होने वाले अस्तित्व संबंधी खतरों के बारे में कड़ी चेतावनी जारी की है। उन्होंने "एआई अलाइनमेंट" —यह सुनिश्चित करने का विज्ञान कि एआई मानवीय मूल्यों के अनुसार व्यवहार करे—में अनसुलझी चुनौतियों के कारण अगले एक दशक के भीतर विनाशकारी परिणामों की एक महत्वपूर्ण संभावना को उजागर किया है। यह घटनाक्रम इससे पहले कि क्षमता मानवीय नियंत्रण से आगे निकल जाए, "सुपरइंटेलिजेंस" की दिशा में प्रतिस्पर्धी कॉर्पोरेट दौड़ को प्रबंधित करने के लिए नियामक ढांचे की तत्काल आवश्यकता को रेखांकित करता है। Background - एआई अलाइनमेंट कृत्रिम बुद्धिमत्ता सुरक्षा अनुसंधान का एक उपक्षेत्र है, जो यह सुनिश्चित करने पर केंद्रित है कि तेजी से सक्षम होती एआई प्रणालियां मानवीय इरादों, मूल्यों और नैतिक सिद्धांतों के अनुसार कार्य करें, विशेष रूप से तब जब वे अपने प्रारंभिक प्रशिक्षण के दौरान न देखी गई नई परिस्थितियों का सामना करती हैं। - वर्तमान एआई परिदृश्य में ओपनएआई और एंथ्रोपिक जैसी अग्रणी प्रयोगशालाओं का दबदबा है जो अत्यधिक प्रतिस्पर्धी और काफी हद तक अनियमित वैश्विक बाजार…