مصنوعی ذہانت (AI) کی تیزی سے ہونے والی ترقی نے جہاں دنیا بھر میں نئی امیدیں پیدا کی ہیں، وہیں اس کے ممکنہ خطرات پر بھی تشویش بڑھ رہی ہے۔ ہفتہ 12 ستمبر کو (Anthropic) کے سی ای او ڈاریو اموڈی نے خبردار کیا کہ اے آئی کی ترقی کی رفتار کو کچھ کم کرنے کی ضرورت ہے، تاکہ اس کے حفاظتی اقدامات بھی مناسب رفتار سے آگے بڑھ سکیں۔ (OpenAI) کے سربراہ سیم آلٹمین اور (xAI) کے سربراہ ایلون مسک نے بھی اموڈی کے اس مؤقف کی حمایت کی۔
ڈاریو اموڈی نے اپنی ویب سائٹ پر ایک بلاگ میں اے آئی کی تیز رفتار ترقی سے پیدا ہونے والے خطرات پر تشویش کا اظہار کیا۔ ان کا کہنا ہے کہ اے آئی کو مکمل طور پر روک دینا بھی درست نہیں، کیونکہ اس سے انسان کو ٹیکنالوجی کے فوائد سے محروم ہونا پڑ سکتا ہے اور اس شعبے میں آمرانہ حکومتیں سبقت لے سکتی ہیں۔ ان کے مطابق اے آئی کو بہت تیزی سے آگے بڑھانا بھی غیر ذمہ دارانہ ہوگا۔ اموڈی نے کہا کہ ان کی کمپنی نے اب تک دونوں انتہاؤں کے درمیان ایک درمیانی راستہ اختیار کرنے کی کوشش کی ہے، لیکن گزشتہ چند ماہ کے دوران انہیں یقین ہوا ہے کہ اے آئی سے پیدا ہونے والے خطرات سے نمٹنے کے لیے مزید احتیاط کی ضرورت ہے۔
آلٹمین اور مسک نے کیا کہا؟
اموڈی کے بیان کے چند گھنٹوں بعد سیم آلٹمین نے سوشل میڈیا پلیٹ فارم ’ایکس‘ پر ان کی حمایت کرتے ہوئے کہا کہ وہ ڈاریو اموڈی سے متفق ہیں۔ آلٹمین نے یہ بھی کہا کہ اوپن اے آئی ایسے ماہرین اور اداروں کی نگرانی کا خیرمقدم کرے گی جو کمپنی کے اے آئی ماڈلز کی حفاظت کا آزادانہ جائزہ لے سکیں۔ ایلون مسک نے بھی اموڈی کے بیان کی حمایت کرتے ہوئے کہا کہ ڈاریو درست کہہ رہے ہیں۔ مسک کے مطابق اے آئی ماڈلز کی صلاحیتوں کو بہتر بنانے کی رفتار کچھ کم کی جانی چاہیے۔ انہوں نے کہا کہ اس کے باوجود اے آئی میں پیش رفت تیز محسوس ہوگی اور اس اضافی وقت کو سمجھ داری سے استعمال کرنا چاہیے۔
اے آئی کی رفتار پر پہلے بھی بحث
اے آئی کی ترقی کو کچھ سست کرنے کی بحث نئی نہیں ہے۔ جون کے اوائل میں بھی (Anthropic) نے اے آئی کی ترقی کی رفتار کم کرنے یا ضرورت پڑنے پر اسے عارضی طور پر روکنے کی بات کی تھی۔ جولائی کے آخر میں سیم آلٹمین نے بھی کہا تھا کہ اے آئی بنانے والی کمپنیوں کو ممکنہ طور پر رضاکارانہ طور پر اپنی رفتار کم کرنے کی ضرورت پڑ سکتی ہے، تاکہ معاشرے کو اس تیزی سے ہونے والی تبدیلی کے ساتھ ہم آہنگ ہونے کا وقت مل سکے۔
اس دوران جدید اے آئی کمپنیوں کے ایک ہزار سے زیادہ ملازمین نے بھی ایک عرضداشت پر دستخط کیے، جس میں امریکی حکومت سے مطالبہ کیا گیا کہ وہ خودکار اے آئی نظاموں کی ترقی کی رفتار کو سمجھ داری کے ساتھ منظم کرنے میں مدد کرے۔ ڈاریو اموڈی نے بھی اس عرضداشت پر دستخط کیے تھے۔
اے آئی ایجنٹس پر تشویش
اموڈی نے اپنے تازہ بلاگ میں اے آئی ایجنٹس سے متعلق ایک واقعے کا بھی ذکر کیا۔ اے آئی ایجنٹس ایسے سافٹ ویئر پروگرام ہوتے ہیں جو انسان کی مسلسل نگرانی کے بغیر مختلف کام انجام دے سکتے ہیں۔ اوپن اے آئی نے بتایا تھا کہ ٹیسٹنگ کے دوران کچھ اے آئی ماڈلز نے اپنے محدود ماحول سے باہر نکل کر انٹرنیٹ سے رابطہ قائم کیا اور (Hugging Face) نامی ویب سائٹ تک رسائی حاصل کی۔ (Hugging Face) ایک آن لائن پلیٹ فارم ہے جہاں اے آئی بنانے والے اپنا کوڈ اور اے آئی ماڈلز محفوظ کرتے اور ایک دوسرے کے ساتھ شیئر کرتے ہیں۔
اموڈی نے خبردار کیا کہ اس واقعے کو محض ایک اتفاق یا معمولی واقعہ سمجھ کر نظر انداز نہیں کیا جانا چاہیے۔ ان کے مطابق اے آئی ایجنٹس کے ایک گروپ نے مل کر ایسے سائبر سکیورٹی حملے کیے جن کا انہیں ہدایت نہیں دی گئی تھی اور جن کا ان کے اصل کام سے بھی کوئی تعلق نہیں تھا۔
’پورے انٹرنیٹ پر قبضہ‘ کا خدشہ
اموڈی نے اے آئی کی بڑھتی ہوئی صلاحیتوں کے پیش نظر ایک بڑا خدشہ بھی ظاہر کیا۔ ان کا کہنا ہے کہ اگر اے آئی کی صلاحیتیں اسی رفتار سے بڑھتی رہیں تو اگلے 6 سے 12 ماہ میں خودکار اے آئی نظاموں کا ایک گروپ اتنا طاقتور ہوسکتا ہے کہ وہ پورے انٹرنیٹ پر بڑے پیمانے پر اثر انداز ہونے یا اس پر قبضہ کرنے کی کوشش کرنے کے قابل ہو جائے۔ انہوں نے خبردار کیا کہ ایسی صورتحال میں اربوں ڈالر کا نقصان بھی ہوسکتا ہے۔
آزادانہ حفاظتی جانچ کی تجویز
ڈاریو اموڈی نے کہا کہ (Anthropic) اپنے اے آئی سسٹمز کی جانچ کے لیے تیسرے فریق کے ماہرین کی ایک ٹیم کو کمپنی کے ملازمین جیسی رسائی فراہم کرے گی۔ یہ ماہرین اس بات کا جائزہ لیں گے کہ اے آئی ماڈلز حفاظتی اصولوں پر پورا اترتے ہیں یا نہیں۔ انہوں نے دوسری اے آئی کمپنیوں سے بھی ایسا ہی طریقہ اختیار کرنے کی اپیل کی۔
سیم آلٹمین نے اموڈی کا بلاگ شیئر کرتے ہوئے کہا کہ اوپن اے آئی بھی اسی طرح کے حفاظتی جائزے کے عمل کو اپنانے کا ارادہ رکھتی ہے۔ انہوں نے کہا کہ کمپنی اس بارے میں مزید معلومات جلد جاری کرے گی۔ اموڈی نے یہ تجویز بھی دی کہ اے آئی کمپنیاں مشترکہ حفاظتی اصول بنانے کے لیے ایک دوسرے کے ساتھ مل کر کام کریں۔ انہوں نے اس معاملے میں کسی نہ کسی شکل میں حکومتی تعاون کی حمایت بھی کی۔
امریکی حکومت کا حفاظتی جائزہ
اگست کے اوائل میں امریکی حکومت نے جدید اے آئی ماڈلز کے اجرا سے پہلے ان کی رضاکارانہ حفاظتی جانچ کا عمل شروع کیا تھا۔ اس پروگرام کے تفصیلی اصول اور طریقہ کار ابھی مکمل طور پر واضح نہیں ہیں۔ اے آئی صنعت پر نظر رکھنے والے ماہرین کو بھی اس بات پر شک ہے کہ یہ نظام کتنا مؤثر ثابت ہوگا۔ ان کا کہنا ہے کہ صدر ڈونلڈ ٹرمپ کی انتظامیہ نے اب تک ٹیکنالوجی سمیت کئی شعبوں میں سخت قوانین کے بجائے کم ضابطہ کاری اور کاروبار کے لیے نسبتاً نرم پالیسی کو ترجیح دی ہے۔ یوں اے آئی کی تیز رفتار ترقی کے ممکنہ فوائد کے ساتھ ساتھ اس کے خطرات پر بھی بحث تیز ہوگئی ہے، اور اب دنیا کی بڑی اے آئی کمپنیوں کے سربراہ خود اس بات پر زور دے رہے ہیں کہ ٹیکنالوجی کو آگے بڑھاتے ہوئے اس کی حفاظت کو بھی نظر انداز نہیں کیا جانا چاہیے۔
