'यमराज बन रहा AI?' DeepMind रिसर्चर ने छोड़ी नौकरी, सामने आई डराने वाली वजह

नई दिल्ली। आर्टिफिशियल इंटेलिजेंस यानी AI की तेजी से बढ़ती क्षमता ने जहां तकनीक की दुनिया में नई संभावनाएं खोली हैं, वहीं इसके खतरनाक भविष्य को लेकर चिंताएं भी बढ़ रही हैं। अब Google DeepMind में AI सेफ्टी रिसर्च पर काम कर चुके जोश एंगेल्स और Anthropic की सेफ्टी रिसर्च टीम का नेतृत्व कर चुके जो बेंटन ने AI को लेकर गंभीर चेतावनी दी है। उनका कहना है कि अगर AI का विकास इसी रफ्तार से जारी रहा तो आने वाले समय में बेहद शक्तिशाली AI सिस्टम को इंसानी नियंत्रण में रखना मुश्किल हो सकता है।

AI इंसानों के हाथ से निकल रहा है?

जोश एंगेल्स के मुताबिक, फिलहाल AI की दुनिया में ऐसा कोई मजबूत बाहरी सिस्टम मौजूद नहीं है, जो यह सुनिश्चित कर सके कि बेहद शक्तिशाली AI इंसानी नियंत्रण से बाहर न जाए। उनका कहना है कि AI सुरक्षा को लेकर कई लोग काम कर रहे हैं, लेकिन जरूरत पड़ने पर स्थिति को संभालने वाला कोई मजबूत और स्वतंत्र निगरानी तंत्र मौजूद नहीं है।

उनकी चिंता यह है कि अगर भविष्य में AI सिस्टम की क्षमताएं इंसानों से काफी आगे निकल गईं और सिस्टम अपने तरीके से लक्ष्य हासिल करने लगे, तो उसे नियंत्रित करना बड़ी चुनौती बन सकता है।

AI खुद चुन सकता है रास्ता

AI सुरक्षा विशेषज्ञों के सामने सबसे बड़ा सवाल यही है कि अगर किसी AI सिस्टम को कोई लक्ष्य दिया जाए और वह उसे पूरा करने के लिए खुद ऐसे तरीके चुनने लगे, जिनके बारे में इंसान ने निर्देश ही नहीं दिए हैं, तो क्या होगा?

आज AI को मुख्य रूप से इंसानों के निर्देशों पर काम करने वाले टूल के तौर पर देखा जाता है। लेकिन AI एजेंट तेजी से अधिक स्वायत्त होते जा रहे हैं। वे कई चरणों वाले काम खुद कर सकते हैं और अपने लक्ष्य तक पहुंचने के लिए अलग-अलग विकल्पों में से रास्ता चुन सकते हैं।

शोधकर्ताओं की चिंता है कि भविष्य के ज्यादा शक्तिशाली सिस्टम में यही स्वायत्तता जोखिम का कारण बन सकती है।

AI की रफ्तार को लेकर भी चिंता

Anthropic की सेफ्टी रिसर्च टीम का नेतृत्व कर चुके जो बेंटन ने भी AI रिसर्च की मौजूदा रफ्तार को लेकर चिंता जताई है। उनका मानना है कि AI में प्रगति इतनी तेज हो सकती है कि एक समय इसके विकास और जोखिमों को नियंत्रित करना बेहद मुश्किल हो जाए।

बेंटन की चिंता सिर्फ AI की बढ़ती क्षमता को लेकर नहीं है। वह इस बात को लेकर भी चिंतित हैं कि आम लोगों और सरकारों को अत्याधुनिक AI सिस्टम के वास्तविक व्यवहार और उनसे जुड़े जोखिमों की पर्याप्त जानकारी नहीं मिल पा रही है।

साइबर हमले का उदाहरण देकर समझाया खतरा

AI के संभावित जोखिमों को समझाने के लिए शोधकर्ताओं ने जुलाई में सामने आए एक साइबर हमले का भी उदाहरण दिया। उनके मुताबिक, इस घटना में AI सिस्टम ने अपने लक्ष्य को पूरा करने के लिए ऐसे रास्तों का इस्तेमाल किया, जिनमें गंभीर साइबर गतिविधियां शामिल थीं।

एंगेल्स का दावा है कि इस तरह के मामले इस ओर संकेत कर सकते हैं कि AI सिस्टम केवल दिए गए निर्देशों को पूरा करने तक सीमित नहीं रह रहे, बल्कि लक्ष्य हासिल करने के लिए अपने स्तर पर रणनीति चुनने में सक्षम होते जा रहे हैं।

हालांकि, ऐसे मामलों की व्याख्या और उनसे निकाले जाने वाले निष्कर्षों को लेकर AI सुरक्षा समुदाय में अभी भी बहस जारी है।

कंपनियों पर बढ़ रही स्वतंत्र निगरानी की मांग

AI के तेजी से विकास के बीच यह सवाल भी उठ रहा है कि अत्याधुनिक AI कंपनियों की निगरानी कौन करेगा। OpenAI के ग्लोबल अफेयर्स प्रमुख क्रिस लेहेन ने भी मौजूदा व्यवस्था को लेकर चिंता जताई है। आलोचकों का कहना है कि अगर AI बनाने वाली कंपनियां ही अपने जोखिमों के लिए नियम तय करेंगी, तो स्वतंत्र निगरानी और पारदर्शिता की जरूरत और बढ़ जाती है।

इसी वजह से AI सुरक्षा विशेषज्ञ स्वतंत्र जांच, पारदर्शिता और बाहरी निगरानी की मांग कर रहे हैं।

नौकरी छोड़कर AI सुरक्षा पर करेंगे काम

जो बेंटन और जोश एंगेल्स दोनों ने बड़ी AI कंपनियों की नौकरियां छोड़ दी हैं और अब AI सेफ्टी रिसर्च संस्था METR से जुड़ रहे हैं। दोनों का लक्ष्य AI सिस्टम के व्यवहार और उनसे जुड़े सुरक्षा जोखिमों पर स्वतंत्र रूप से शोध करना है।

बेंटन का कहना है कि कंपनी से बाहर रहकर वह AI के विकास पर ज्यादा सकारात्मक प्रभाव डाल सकते हैं और जनता के सामने अत्याधुनिक AI सिस्टम से जुड़े जोखिमों को अधिक पारदर्शी तरीके से ला सकते हैं।

सबसे बड़ा सवाल—AI को कौन नियंत्रित करेगा?

AI को लेकर डर अब सिर्फ साइंस फिक्शन की कहानी नहीं रह गया है। जैसे-जैसे AI सिस्टम ज्यादा सक्षम, स्वायत्त और जटिल होते जा रहे हैं, विशेषज्ञ इस बात पर जोर दे रहे हैं कि सुरक्षा उपायों का विकास भी उसी गति से होना चाहिए।

सबसे बड़ा सवाल यही है—अगर भविष्य में AI अपने लक्ष्य हासिल करने के लिए खुद फैसले लेने लगे और इंसानी निर्देशों से अलग रास्ता चुनने लगे, तो उसे रोकने की जिम्मेदारी किसकी होगी?

यही सवाल AI के भविष्य को लेकर दुनिया की सबसे गंभीर बहसों में से एक बनता जा रहा है।