छले कुछ दिनों से AI एजेंट्स को लेकर खूब चर्चा हो रही है. OpenAI ने Operator नाम से एक AI एजेंट लॉन्च भी कर दिया है. कंपनी के CEO सैम ऑल्टमैन कह चुके हैं कि पहला AI एजेंट इसी साल वर्कफोर्स में शामिल हो सकता है और यह कंपनियों के आउटपुट को भी प्रभावित करेगा. इस सबके बीच आर्टिफिशियल इंटेलीजेंस के जनक माने जाने वाले Yoshua Bengio ने चेतावनी दी है. उन्होंने इस रास्ते को विनाशकारी बताया है.
क्या होते हैं AI एजेंट?
AI एजेंट एक तरह के टूल होते हैं. ये कोड लिखने, रिसर्च और बुकिंग करने जैसे कई काम कर सकते हैं. Operator एक बार कमांड मिलने के बाद अपने आप ऑनलाइन ऑर्डर कर सकता है, सर्विस बुक कर सकता है और फॉर्म्स आदि भर सकता है. इन दिनों कई कंपनियां AI एजेंट्स बनाने पर काम कर रही हैं.
Bengio ने दी चेतावनी
Bengio ने AI एजेंट्स को लेकर चेतावनी देते हुए कहा कि अगर ये एजेंट हुए तो सुपरइंटेलीजेंस के साथ विनाशकारी चीजें हो सकती हैं. उन्होंने कहा कि वो AI एजेंट को लेकर चेतावनी देना चाहता है. यह सबसे खतरनाक रास्ता है. Bengio ने आगे कहा कि AI से साइंटिफिक डिस्कवरी हो सकती है और ऐसा बिना एजेंट बनाए किया जा सकता है. साइंस और मेडिसिन में जो AI आई है, वह एजेंटिक नहीं है और हमें ऐसे और अधिक पावरफुल सिस्टम बनाने चाहिए, जो नॉन-एजेंटिक हों.
Bengio को माना जाता है AI का जनक
कनाडा के रहने वाले Bengio की डीप लर्निंग और न्यूरल नेटवर्क पर की गई रिसर्च के चलते ही आधुनिक AI बूम की नींव पड़ी है. उन्हें Geoffrey Hinton और Yann LeCun के साथ AI के गॉडफादर का दर्जा दिया गया है. Bengio की तरह Hinton भी AI के संभावित खतरों को लेकर चेतावनी दे चुके हैं. उन्होंने इन खतरों को टालने के लिए सामूहिक एक्शन की बात कही है.
