(माइकल नोएटेल, क्वींसलैंड विश्वविद्यालय)
क्वींसलैंड, 12 सितंबर (द कन्वरसेशन) कुछ दिन पहले शोधकर्ता जैकब कॉक्सन ने एंथ्रोपिक कंपनी से इस्तीफा दे दिया। उन्होंने कहा कि यह कंपनी और इसकी प्रतिस्पर्धी कंपनियां हमारी जिंदगी के साथ जुआ खेल रही हैं। एंथ्रोपिक के शोधकर्ता इवान हुबिंगर ने भी ‘एक्स’ पर एक पोस्ट में कहा, “हमें गंभीरता से लगता है कि एआई सभी मनुष्यों को खत्म कर सकता है।”
कॉक्सन ऐसे पहले व्यक्ति नहीं हैं, जिन्होंने एआई से होने वाले खतरे की आशंका के कारण नौकरी छोड़ी है।
एआई के कारण मानवता खत्म होने का विचार निक बोस्ट्रॉम की 2014 की पुस्तक ‘सुपरइंटेलिजेंस’ और लेस रॉन्ग फोरम के जरिए लंबे समय से चर्चा में है। मुख्य चिंता यह है कि मनुष्यों से ज्यादा बुद्धिमान माना जाने वाला एआई हमारे नियंत्रण से बाहर निकलकर हमें नुकसान पहुंचा सकता है। साल 2024 में सुरक्षा चिंताओं के कारण जेन लीके और डेनियल कोकोटाजलो ने ओपनएआई से इस्तीफा दिया था।
इस साल एंथ्रोपिक की सुरक्षा प्रमुख मृणांक शर्मा ने भी कंपनी छोड़ते हुए चेतावनी दी कि दुनिया खतरे में है। गूगल डीपमाइंड ने जब पेंटागन के साथ घातक ड्रोन से जुड़ा समझौता किया था तो एलेक्स टर्नर ने कंपनी से इस्तीफा दे दिया था। कॉक्सन के इस्तीफे के बाद और अधिक शोधकर्ताओं ने माना है कि एआई मानवता के लिए खतरा बन सकता है।
सवाल यह है कि जब एआई बनाने वाले लोग यह खतरा जानते हैं तो वे इसे बनाना जारी क्यों रख रहे हैं? एआई कंपनियों के प्रमुख मानते हैं कि नियंत्रण खोने का खतरा है। साल 2023 में ओपनएआई, एंथ्रोपिक और गूगल डीपमाइंड शीर्ष अधिकारियों ने कहा था कि एआई से मानवता खत्म होने का खतरा महामारी और परमाणु युद्ध जैसे खतरों के बराबर है।
एंथ्रोपिक के डारियो अमोडेई ने चीजों के बहुत, बहुत खराब होने की संभावना 10 से 25 प्रतिशत बताई है। इसके बावजूद वह गरीबी और बीमारियों से मुक्त दुनिया की उम्मीद जताते हैं, जबकि एलन मस्क एआई से सार्वभौमिक उच्च आय की बात करते हैं। कुछ लोगों का कहना है कि खतरे को दूर रहकर नहीं समझा जा सकता।
दूसरा कारण यह है कि खतरनाक एआई को सुरक्षित बनाना तब तक संभव नहीं है, जब तक पहले उसे बनाया न जाए। जैसे किसी अंतरिक्ष यान की सुरक्षा का अध्ययन दूर रहकर किया जा सकता है, लेकिन वास्तव में उसकी जांच अंतरिक्ष में जाकर ही की जा सकती है। ओपनएआई की योजना क्रमिक तैनाती की है।
इसके तहत हर मॉडल को जारी किया जाता है, उसकी समस्याओं से सीखा जाता है और अगले मॉडल में उन्हें ठीक किया जाता है। यह विचार ऐसा है जैसे किसी खाई के बिल्कुल किनारे तक जाकर यह देखना कि वहां से छलांग लगाने पर क्या होगा। कुछ लोगों को लगता है कि यह ऐसी दौड़ है जिसमें जीतने वाला सब कुछ हासिल करेगा
तीसरा और शायद सबसे महत्वपूर्ण कारण प्रतिस्पर्धा है।
ओपनएआई के सैम ऑल्टमैन ने हाल में कहा था, हम ऐसी जिन्न बनाने के करीब हैं जो कोई भी इच्छा पूरी कर सकता है। समस्या यह है कि हर कोई उस चिराग को अपने हाथ में रखना चाहता है। इससे बहुत ज्यादा मुनाफा हो सकता है और हर कंपनी को संदेह है कि दूसरी कंपनियां इस शक्ति का सही इस्तेमाल करेंगी।
इसलिए कंपनियां दौड़ में आगे निकलने की कोशिश कर रही हैं। उनका तर्क है कि अगर वे धीमी हुईं तो कोई और आगे निकल जाएगा। इसलिए बेहतर है कि वे काम करती रहें और जिम्मेदार तरीके से इसका इस्तेमाल करें।
कुछ कंपनियों को डर है कि आपसी समझौता भी गुप्त रूप से तोड़ा जा सकता है। इसलिए वे आगे बढ़ते जा रहे हैं। आपको यह संदेह हो सकता है कि नियंत्रण से बाहर होने वाला एआई संभव नहीं है।
लेकिन जब खुद एआई कंपनियां इस खतरे की बात कर रही हैं तो हमें इसे गंभीरता से सुनना चाहिए। जुलाई में सैकड़ों एआई कर्मचारियों ने एक खुले पत्र पर हस्ताक्षर कर एआई विकास को धीमा करने की मांग की थी। लेकिन इस दौड़ भरी स्थिति के कारण किसी एक कंपनी या देश के लिए अकेले ऐसा करना मुश्किल है।
एआई शोध में हथियारों की दौड़ जैसी स्थिति दिखाई देती है। ओपनएआई एंथ्रोपिक से हारना नहीं चाहती और अमेरिका चीन से पीछे नहीं रहना चाहता। इतिहास बताता है कि ऐसी स्थिति से निपटने के लिए सभी पक्षों पर लागू होने वाले नियम और ऐसे निगरानी तंत्र जरूरी हैं, जिनपर सभी सहमति जता सकें।
परमाणु हथियार इसका सबसे बड़ा उदाहरण हैं। समझौतों और निगरानी व्यवस्थाओं ने परमाणु युद्ध के खतरे को पूरी तरह खत्म नहीं किया है, लेकिन उन्होंने परमाणु हथियारों के प्रसार को धीमा किया है और पिछले 80 वर्ष में किसी संघर्ष में परमाणु हथियार का इस्तेमाल नहीं हुआ है। अमेरिका में, जहां सबसे आधुनिक एआई शोध हो रहा है, ट्रंप प्रशासन एआई विकास को धीमा करने के संकेत नहीं दे रहा।
अपने कार्यकाल के पहले सप्ताह में ट्रंप प्रशासन ने पुराने एआई सुरक्षा नियमों को हटा दिया। अब वह राज्यों के स्तर पर बनाए गए नियमों को भी रोकने की कोशिश कर रहा है और उसका तर्क है कि सावधानी बरतने से चीन के साथ प्रतिस्पर्धा में हार हो सकती है। कुछ राजनेता इसका विरोध कर रहे हैं।
कैलिफोर्निया ने हाल में एआई प्रणालियों के स्वतंत्र मूल्यांकन का समर्थन करने वाले कानून पारित किए हैं। अमेरिकी सीनेटर बर्नी सैंडर्स ने सुपरइंटेलिजेंस पर रोक लगाने के लिए विधेयक पेश किया है और ब्रिटिश सांसद एलेक्स सोबेल ने भी ऐसा ही विधेयक पेश किया है। वर्ष 2025 के मध्य में शोधकर्ताओं ने आने वाले वर्षों के लिए एक संभावित मार्गदर्शक प्रकाशित किया था, जिसका नाम एआई 2027 था।
इसमें भविष्य की एक विस्तृत स्थिति बताई गई थी। इसके बाद से एआई की क्षमताएं अनुमान से ज्यादा तेजी से बढ़ी हैं। अगर स्थिति नहीं बदली तो सुरक्षा चिंताओं के कारण नौकरी छोड़ने वाले कर्मचारियों की जगह दूसरे लोग आ जाएंगे, एआई मॉडल को बेहतर एआई मॉडल बनाने में मदद करेंगे।
दुनिया की प्रमुख एआई कंपनियों में काम करने वाले लोगों का कहना है कि हमारी मौजूदा सुरक्षा योजना पर्याप्त नहीं है। अगर वे सुरक्षा चिंताओं के कारण अपनी नौकरियां छोड़ रहे हैं, तो हमें उनकी बात सुननी चाहिए।
