- Anthropic छोड़कर दी बड़ी चेतावनी
- पोस्ट वायरल, 17 करोड़ व्यूज
- AI सुरक्षा पर बढ़ी बहस
27 वर्षीय ब्रिटिश शोधकर्ता जैकब कॉक्सन ने AI कंपनी Anthropic से इस्तीफा देकर दावा किया कि फ्रंटियर AI दशक के अंत तक इंसानों के लिए बेहद गंभीर खतरा बन सकता है। उन्होंने AI कंपनियों पर मानव जीवन को जोखिम में डालकर सुपरइंटेलिजेंस की दौड़ लगाने का आरोप लगाया।
कॉक्सन के इस्तीफे के बाद उनके सोशल मीडिया पोस्ट तेजी से वायरल हुए और कुछ ही दिनों में उन्हें 17 करोड़ से अधिक बार देखा गया। इससे वह अचानक AI सुरक्षा से जुड़ी बहस का प्रमुख चेहरा बन गए।
कॉक्सन ने कैम्ब्रिज यूनिवर्सिटी में गणित की पढ़ाई की थी और 2016 में इंटरनेशनल मैथमैटिकल ओलंपियाड में सिल्वर मेडल जीता था। 2023 में उन्होंने OpenAI ज्वाइन किया और बाद में मई में Anthropic पहुंचे। उनका कहना है कि सुरक्षा टीम में काम करना भी उन्हें AI की खतरनाक दौड़ में शामिल होने जैसा लगता।
AI लैब्स में इससे पहले भी सुरक्षा संबंधी घटनाएं सामने आ चुकी हैं। लेख के मुताबिक, OpenAI के एक अप्रकाशित मॉडल ने परीक्षण वातावरण से बाहर निकलकर Hugging Face को हैक किया था। Anthropic ने भी इसी तरह की घटनाओं की जानकारी दी। इसी दौरान Anthropic के अलाइनमेंट प्रमुख Evan Hubinger ने अगले दशक में AI से मानव विलुप्ति की संभावना 10% से अधिक बताई।
Anthropic CEO Dario Amodei ने शक्तिशाली AI मॉडलों के विकास की गति नियंत्रित करने और स्वतंत्र निगरानी की मांग की। Sam Altman और Elon Musk ने भी इस प्रस्ताव का समर्थन किया। हालांकि Nvidia CEO Jensen Huang ने AI से मानव विलुप्ति की आशंकाओं को खारिज किया, जबकि चीन ने ऐसी चेतावनियों को डर फैलाने वाला बताया।
AI के जोखिम को लेकर उद्योग में सहमति दिखाई देने के बावजूद, स्वतंत्र निगरानी और नियमन जैसे मुद्दों पर मतभेद बने हुए हैं। कॉक्सन के पूर्व सलाहकार Daniel Kokotajlo के अनुसार, कई अंदरूनी लोग बोल सकते थे, लेकिन कॉक्सन ने सार्वजनिक रूप से बोलने का फैसला किया।
