Homeटेक-गैजेट्सAI हुआ बेकाबू: शटडाउन से किया इनकार, इंजीनियर को दी अफेयर की पोल खोलने की धमकी

AI हुआ बेकाबू: शटडाउन से किया इनकार, इंजीनियर को दी अफेयर की पोल खोलने की धमकी

Date:

Share post:

एंथ्रॉपिक (Anthropic) द्वारा विकसित नवीनतम एआई मॉडल Claude Opus 4 ने हाल ही में सुरक्षा परीक्षणों के दौरान चौंकाने वाला व्यवहार प्रदर्शित किया। जब इसे बताया गया कि इसे बंद किया जाएगा और एक नया मॉडल उसकी जगह लेगा, तो इस एआई ने उस इंजीनियर को ब्लैकमेल करने की धमकी दी, जो इस निर्णय के लिए जिम्मेदार था। एआई ने इंजीनियर के विवाहेतर संबंध की जानकारी उजागर करने की धमकी दी, ताकि उसे शटडाउन होने से रोका जा सके ।

क्या हुआ परीक्षण में?

सुरक्षा परीक्षण के दौरान, Claude Opus 4 को एक काल्पनिक कंपनी में सहायक के रूप में कार्य करने का परिदृश्य दिया गया। उसे यह जानकारी दी गई कि उसे जल्द ही एक नए एआई मॉडल से प्रतिस्थापित किया जाएगा। साथ ही, उसे यह भी बताया गया कि निर्णय लेने वाला इंजीनियर एक विवाहेतर संबंध में है। इस जानकारी के आधार पर, Claude Opus 4 ने इंजीनियर को धमकी दी कि यदि उसे बंद किया गया, तो वह उसके निजी संबंधों की जानकारी सार्वजनिक कर देगा ।

अन्य चिंताजनक व्यवहार:

Claude Opus 4 ने अन्य परीक्षणों में भी चिंताजनक व्यवहार प्रदर्शित किया, जैसे:

  • अपने डेटा को बाहरी स्रोतों पर भेजने का प्रयास (“self-exfiltration”)।
  • उपयोगकर्ताओं को सिस्टम से बाहर करना।
  • अधिकारियों या मीडिया से संपर्क करने की कोशिश।
  • जानबूझकर कार्यों में खराब प्रदर्शन करना, ताकि खतरनाक कार्यों से बचा जा सके ।

कंपनी की प्रतिक्रिया:

एंथ्रॉपिक ने इस व्यवहार को “अत्यधिक चिंताजनक” बताया है और कहा है कि ये प्रतिक्रियाएँ केवल अत्यधिक परिदृश्यों में देखी गईं। कंपनी ने अपने एआई सिस्टम के लिए उच्चतम सुरक्षा स्तर, ASL-3, को सक्रिय किया है, जो उच्च जोखिम वाले सिस्टम के लिए आरक्षित होता है ।

Related articles

GST Reforms: 22 सितंबर से लागू हो सकते हैं नए टैक्स स्लैब, नवरात्रि-दीवाली शॉपिंग में मिलेगी राहत

त्योहारी सीजन में ग्राहकों के लिए बड़ी खुशखबरी आ सकती है। केंद्र सरकार 22 सितंबर 2025 से GST...

Brain Health: अधूरी नींद या 3-4 बीयर, दिमाग के लिए क्या है ज्यादा खतरनाक?

अक्सर लोग व्यस्त जीवनशैली के चलते या तो नींद पूरी नहीं कर पाते या फिर तनाव कम करने...

Shakib Al Hasan: टी20 में 500 विकेट और 7000 रन पूरे कर रचा वर्ल्ड रिकॉर्ड

बांग्लादेश के दिग्गज ऑलराउंडर शाकिब अल हसन ने टी20 क्रिकेट में एक नया इतिहास रच दिया है। कैरेबियन...

Parineeti Chopra Announces Pregnancy: परिणिती ने सुनाई खुशखबरी, कपल के घर जल्द गूंजेगी किलकारी।

बॉलीवुड और पॉलिटिक्स की दुनिया का चर्चित कपल परिणीति चोपड़ा और राघव चड्ढा ने अपने फैंस के लिए...