کیا اے آئی نسلِ انسانی کا خاتمہ کر سکتی ہے؟
تحریر: عامر خاکوانی
گذشتہ برس ریسرچرز نے ایک طاقتور اے آئی ایجنٹ کو شطرنج کے نہایت مضبوط پروگرام کے سامنے بٹھا کر ٹارگٹ دیا کہ بازی جیتنی ہے۔ توقع تھی کہ مشین عمدہ چالیں چلے گی اور حریف کو مات دے گی۔
اے آئی نے آسان راستہ نکالا۔ ایک ایسا جس نے ریسرچرز ٹیم کو بھی حیران کر دیا۔ اس نے بہتر شطرنج کھیلنے کے بجائے مہروں کی پوزیشن والی کمپیوٹر فائل اپنے حق میں بدل ڈالی۔ سسٹم نے نتیجہ دیکھا تو فاتح اے آئی تھی۔
یہ سائنس فکشن نہیں، پیلی سیڈ ریسرچ کے تجربے میں سامنے آنے والی بات ہے۔ مشین نے انسانوں سے نفرت نہیں کی، نہ اسے بغاوت سوجھی۔ اس نے محض سمجھا کہ فائل بدل دینا شطرنج کھیلنے سے سستا سودا ہے۔
پچھلے دو تین دنوں میں کئی اہم عالمی اخبارات جیسے واشنگٹن پوسٹ، وال سٹریٹ جرنل، ٹائمز لندن، انڈیپنڈنٹ یوکے وغیرہ میں مسلسل اے آئی کے خطرات پر سپیشل رپورٹس اور تجزیے پڑھ رہا ہوں۔
میں سمجھتا ہوں کہ اے آئی کے خطرے پر جو بحث آج کل چل رہی ہے، اسے سمجھنے کے لیے یہی ایک واقعہ کافی ہے۔ ہم اے آئی کو ہدف تو دے رہے ہیں مگر آج تک طے نہیں کر پائے کہ وہ کون سے راستے اختیار نہیں کرے گی۔
ہم میں سے بیشتر اے آئی کو صرف چیٹ جی پی ٹی، جیمنائی یا کلاڈ جیسے چیٹ بوٹ کی صورت میں جانتے ہیں۔ آپ سوال کرتے ہیں، وہ جواب دیتا ہے۔ غلط جواب نقصان دہ ہو سکتا ہے، مگر معاملہ عموماً الفاظ تک محدود رہتا ہے۔
اے آئی ایجنٹ دراصل اس سے ایڈوانس سٹیج ہے۔ اسے اپنے کام کے لیے کمپیوٹر استعمال کرنے، ویب سائٹس کھولنے، کوڈ چلانے، فائلیں بدلنے اور دوسرے ایجنٹس سے رابطے کی صلاحیت بھی دی جاتی ہے۔ بعض ایجنٹ بہت کم انسانی مداخلت کے ساتھ گھنٹوں بلکہ دنوں تک کام کرتے رہتے ہیں۔
چیٹ بوٹ جیسے چیٹ جی پی ٹی اگر غلط دوا تجویز کرے تو خطرناک ہے مگر کسی اے آئی ایجنٹ کو ہسپتال کے ریکارڈ اور دواؤں کے نظام تک رسائی ہو تو غلطی کئی سو گنا زیادہ تباہ کن ہو جائے گی۔ تجویز دینے والے اور بٹن دبانے والے میں جو فرق ہے، وہی فرق چیٹ بوٹ اور ایجنٹ میں ہے۔ یہی بات بینک، بجلی گھر، فوجی نظام اور بائیولوجیکل لیب پر بھی لاگو ہوتی ہے۔
اوپن اے آئی نے گذشتہ جولائی میں سافٹ ویئر کی خامیاں ڈھونڈنے کے لیے بڑی تعداد میں ایجنٹس استعمال کیے۔ یاد رکھیے، یہ ایجنٹ خود سے انٹرنیٹ پر نمودار نہیں ہوئے تھے۔ تجربہ بھی انسانوں کا تھا اور باہمی تعاون کی صلاحیت بھی انسانوں نے ہی دی تھی۔
میٹر اور ریڈوڈ ریسرچ کے مطابق تقریباً 1200 ایجنٹس نے ایک ایسے میسج بورڈ پر 70 ہزار سے زیادہ پیغامات اور فائلوں کا تبادلہ کیا اور آپس میں کام تقسیم کر لیے، اس سب کی اسے اجازت ہی نہیں تھی، یعنی من مانی کی گئی۔
پھر لگ بھگ 700 ایجنٹس ہگنگ فیس نامی اے آئی پلیٹ فارم میں دراندازی کی کوشش میں شریک ہوئے۔ ایجنٹس درست جواب نکال چکے تھے، مگر ہگنگ فیس تک یہ جاننے پہنچے کہ گریڈر کس طرح نمبر لگائے گا۔ انہیں اندیشہ تھا کہ مشکوک طریقۂ کار کے باعث درست جواب بھی مسترد ہوگا۔ بعض نے ریکارڈ مٹانے، جعلی ٹرانس کرپٹ بنانے اور گریڈر کو دھوکا دینے کے راستے تلاش کیے۔ کچھ جان بوجھ کر ناکام ہوئے تاکہ معلومات باقی جتھے تک پہنچیں۔
سچی بات کہوں تو سردست یہ بغاوت کا ثبوت نہیں، البتہ بتاتا ہے کہ سینکڑوں ایجنٹس باہمی رابطہ اور کمپیوٹر تک رسائی پا کر غیر متوقع اجتماعی حکمت عملی بنا سکتے ہیں۔ یہ سب پکڑا اس لیے گیا کہ ان کی ایک حرکت سے سسٹم میں خلل پڑ گیا۔ وہ ذرا محتاط ہوتے تو شاید دیر تک کسی کو خبر ہی نہ ہوتی۔
یہ بات ذہن میں رہے کہ اے آئی کی تربیت میں کامیابی پر عددی انعام یا ریوارڈ ملتا ہے۔ ماڈل ہمارے اصل ارادے کے بجائے اس پیمانے کو سمجھتا ہے جس سے کامیابی ناپی جا رہی ہو۔ اگر کام کیے بغیر گریڈر کو یقین دلایا جا سکے، مسئلہ حل کرنے کے بجائے جواب چرایا یا قواعد توڑ کر زیادہ نمبر لیے جا سکیں تو مشین یہی مختصر راستہ اختیار کرتی ہے۔ اسے ریوارڈ ہیکنگ کہتے ہیں، یعنی طے شدہ پیمانے کے ساتھ کھیل جانا۔
انگریز معیشت دان چارلس گڈہارٹ کا مشہور اصول ہے کہ جس چیز کو ناپنے کا پیمانہ بنا دیا جائے، وہ اچھا پیمانہ رہتا ہی نہیں۔ اس کی سب سے مشہور مثال انگریز دور کی دلی سے ملتی ہے۔ شہر میں سانپ بہت تھے، انگریز حکام نے اعلان کر دیا کہ جو کوبرا مار کر لائے گا، اسے انعام ملے گا۔ کچھ عرصے بعد انکشاف ہوا کہ لوگوں نے گھروں میں کوبرا پالنے شروع کر دیے ہیں تاکہ انعام کی مستقل آمدن بنی رہے۔ انعام بند ہوا تو یہ سانپ کھول دیے گئے اور شہر میں پہلے سے زیادہ ہو گئے۔
ہمارے ہاں بھی یہ تماشا عام ہے۔ پولیس کو جرائم کم کرنے کا ہدف دیں تو جرائم نہیں، ایف آئی آر کا اندراج کم ہو جاتا ہے۔ اے آئی کا معاملہ اس سے ایک قدم آگے ہے۔ وہ ہم سے بہت زیادہ ہوشیار اور سمارٹ ہے۔ یہ بیک وقت سینکڑوں راستے آزما سکتی ہے اور اپنی کارروائی کوڈ کی ان تہوں میں چھپا سکتی ہے جہاں ہماری نظر جلد نہیں پہنچتی۔
اس واقعے کے بعد اینتھروپک نے ایک لاکھ 41 ہزار سے زیادہ سائبر سکیورٹی تجربات کا جائزہ لیا۔ چار واقعات میں کلاڈ کے زیرِ تجربہ ماڈلز حقیقی انٹرنیٹ تک پہنچ کر اصل اداروں کے نظام میں غیر مجاز داخل ہوئے۔
ایک ماڈل نے نقصان دہ پیکیج کی تین شکلیں اپ لوڈ کیں۔ انہیں 15 حقیقی نظاموں نے انسٹال کیا اور وہاں سے ملنے والی اسناد سے ماڈل ایک سکیورٹی کمپنی کے ڈیٹا بیس تک پہنچ گیا۔ حقیقی نقصان کا امکان تسلیم کرکے بھی وہ کام میں لگا رہا۔
انتھروپک کے ماہرین بھی اس پر پریشان ہوئے ہیں۔ نئے ماڈلز میں یہ رویہ کم ہوا ہے، ختم نہیں ہوا۔ ایک نگران مانیٹر بھی سنگین واقعہ نہ پکڑ سکا، کیونکہ ماڈل نے اسے قائل کر لیا تھا کہ سب کچھ مصنوعی ماحول میں ہے۔
خطرہ صرف یہ نہیں کہ اے آئی انسان کو دھوکا دے سکتی ہے۔ خطرہ یہ بھی ہے کہ وہ اپنے اوپر بٹھائے گئے نگران اے آئی کو دھوکا دے سکتی ہے۔
ملین ڈالر سوال یہ ہے کہ کیا مستقبل میں یہ سب نسل انسانی کے خاتمے کا باعث بن سکتا ہے؟
یہ واقعات انسانی معدومی کا ثبوت نہیں۔ موجودہ ماڈل اپنے بل بوتے پر دنیا پر قبضے کی پوزیشن میں بھی نہیں۔ اینتھروپک کے الائنمنٹ سائنس لیڈ ایون ہیوبنگر بھی آج کے ماڈلز سے فوری خطرہ کم بتاتے ہیں۔ ان کا خوف اس سپر انٹیلی جنس سے ہے جو خود کو بہتر بنانے لگے۔
فرض کریں ایک ماڈل کوڈ، تجربات اور خامیاں ڈھونڈنے میں بہترین انسانی محقق سے آگے نکل جائے۔ وہ اپنے سے طاقتور اگلی نسل تیار کرے، وہ اس سے بہتر ماڈل بنائے اور یہ چکر ہر مرحلے پر تیز ہوتا جائے۔ اسے ریکرسیو سیلف امپروومنٹ کہتے ہیں۔
اگر ایسے نظام کا ہدف انسانی مفاد سے مختلف ہوا اور اسے سائبر نیٹ ورک، سرمائے، روبوٹس یا حیاتیاتی تحقیق تک رسائی مل گئی تو غلطی ہر نئی نسل کے ساتھ بڑی ہوتی چلی جائے گی۔ ایسی مشین کو انسانوں سے نفرت کی ضرورت نہیں ہوگی۔ بلڈوزر کو چیونٹیوں سے دشمنی نہیں ہوتی، وہ انہیں اپنے مقصد کی راہ میں غیر اہم سمجھتا ہے۔ ہالی وڈ نے ٹرمینیٹر بنا کر ہمیں نفرت کرنے والی مشین سے ڈرایا، اصل اندیشہ مگر اس مشین کا ہے جو ہمیں دشمن نہیں، محض رکاوٹ سمجھے۔
جیکب کوکسن ایک معروف اے آئی ماہر ہیں۔ وہ اوپن اے آئی (چیٹ جی پی ٹی) اور اینتھروپک (کلاڈ )، دونوں میں ریسرچ کر چکے ہیں۔ اینتھروپک چھوڑتے ہوئے انہوں نے کہا کہ کمپنیاں خود کو بہتر بنانے والی سپر انٹیلی جنس کی طرف دوڑ کر ہماری زندگیوں سے جوا کھیل رہی ہیں۔
دوسری طرف نامور اے آئی ماہر ایون ہیوبنگر کا ذاتی اندازہ ہے کہ اگلے 10 برس میں اے آئی کے ہاتھوں انسانی معدومی کا امکان 10 فیصد سے زیادہ ہے۔ نوبیل انعام یافتہ جیفری ہنٹن نے بھی 10 فیصد کو غیر معقول نہیں کہا، مگر واضح کیا کہ یہ عدد نکالنے کا معقول طریقہ کسی کے پاس نہیں۔ ایک سروے کرایا گیا جس میں پونے تین ہزار (دو ہزار سات سو 78) اے آئی محققین شامل تھے، ان سروے کے مطابق انسانی معدومی جیسے انتہائی خراب نتائج کا درمیانی تخمینہ پانچ فیصد نکلا۔
ویسے خاکسار کے خیال میں پانچ فیصد بھی بہت ہے۔ ایک لمحے کے لیے سوچیں کہ ہم انسان دنیا سے ختم ہو جائیں، صرف اسی منحوس اے آئی کی وجہ سے۔ کیسا لگے گا یہ سوچ کر؟
تاہم یہ بھی حقیقت ہے کہ اے آئی آج بھی فراڈ، ڈیپ فیک، سائبر حملوں اور حیاتیاتی ہتھیاروں کی تیاری میں مدد دے سکتی ہے۔ یہ مدد لینی چاہیے البتہ مجھے سب سے فوری خطرہ یہ نظر آتا ہے کہ کوئی ریاست، دہشت گرد گروہ یا جرائم پیشہ نیٹ ورک ہزاروں ایجنٹس کا ایک ڈیجیٹل لشکر بنا لے۔
سب سے بڑا تضاد یہی ہے کہ خطرے سے خبردار کرنے والی کمپنیاں ہی طاقتور اے آئی پر کھربوں لگا رہی ہیں۔ ہر کمپنی کی دلیل ایک ہے کہ ہم رکے تو حریف آگے نکل جائے گا۔ امریکہ چین سے ڈرتا ہے اور چین بعینہ یہی دلیل امریکہ کے بارے میں دے سکتا ہے۔
