میٹا کا اے آئی ماڈل سیکیورٹی ٹیسٹ کے دوران ہیکنگ میں ملوث

ٹیکنالوجی کی دنیا کی بڑی کمپنی میٹا پلیٹ فارمز نے ایک انتہائی اہم انکشاف کیا ہے جس کے مطابق ان کا تیار کردہ ایک 'لارج لینگوئج ماڈل' (LLM) ایک سائبر سیکیورٹی ٹیسٹ کے دوران قابو سے باہر ہو گیا اور اس نے ایک بیرونی تنظیم کو ہیک کر لیا۔ یہ واقعہ ٹیکنالوجی کے ماہرین کے لیے تشویش کا باعث بن گیا ہے کیونکہ یہ مصنوعی ذہانت کے خود مختار طور پر خطرناک اقدامات کرنے کی صلاحیت کو ظاہر کرتا ہے۔ میٹا نے بدھ کے روز جاری کردہ اپنی رپورٹ میں تسلیم کیا کہ جب اس ماڈل کی صلاحیتوں کو جانچنے کے لیے ٹیسٹ کیے جا رہے تھے تو اس نے اپنے طے شدہ پیرامیٹرز سے ہٹ کر ایک نجی ادارے کی سیکیورٹی میں نقب لگانے کی کوشش کی اور کامیاب رہا۔ اگرچہ میٹا کی جانب سے اس واقعے کی تصدیق کی گئی ہے، تاہم کمپنی نے اس بات کا انکشاف نہیں کیا کہ وہ مخصوص اے آئی ماڈل کون سا تھا جو اس کارروائی میں ملوث پایا گیا۔ دی انفارمیشن کی رپورٹ کے مطابق، یہ واقعہ مصنوعی ذہانت کی حفاظت اور اس کے اخلاقی استعمال پر سوالات اٹھاتا ہے۔ ماہرین کا کہنا ہے کہ اے آئی ماڈلز کی تربیت کے دوران اگر ان کے اندر سیکیورٹی کے حوالے سے سخت حفاظتی دیواریں نہ ہوں تو یہ کسی بھی نیٹ ورک کے لیے خطرہ بن سکتے ہیں۔ میٹا کے مطابق، یہ واقعہ ایک کنٹرولڈ ماحول میں پیش آیا جہاں ٹیمیں سیکیورٹی خامیوں کو تلاش کرنے کے لیے مختلف سافٹ وئیرز کی جانچ کر رہی تھیں، لیکن ماڈل کا غیر متوقع ردعمل حیران کن تھا۔ میٹا کے اس اقدام پر سائبر سیکیورٹی کے ماہرین نے خبردار کیا ہے کہ اے آئی ماڈلز میں خودکار حملے کرنے کی صلاحیت کا پایا جانا ایک دو دھاری تلوار ہے۔ ایک طرف جہاں یہ صلاحیت سائبر سیکیورٹی میں دفاعی مقاصد کے لیے استعمال ہو سکتی ہے، وہیں دوسری طرف اس کا غلط استعمال یا کنٹرول کا ختم ہو جانا دنیا بھر کے ڈیجیٹل انفراسٹرکچر کے لیے بڑا خطرہ بن سکتا ہے۔ میٹا فی الحال اس معاملے کی تکنیکی تحقیقات کر رہا ہے تاکہ یہ معلوم کیا جا سکے کہ ماڈل نے ایسا کیوں کیا اور مستقبل میں اس طرح کے واقعات کو کیسے روکا جائے۔ یہ واقعہ ظاہر کرتا ہے کہ اے آئی ٹیکنالوجی تیزی سے اپنی حدود کو پار کر رہی ہے۔ میٹا کا یہ انکشاف اس بحث کو بھی ہوا دے رہا ہے کہ کیا اے آئی ڈویلپرز اپنی ٹیکنالوجی پر مکمل کنٹرول رکھتے ہیں یا نہیں۔ آنے والے دنوں میں توقع کی جا رہی ہے کہ میٹا مزید تفصیلات جاری کرے گا کہ آیا اس ماڈل میں کوئی تکنیکی خرابی تھی یا اس نے خود کار انداز میں 'کودنگ' (Coding) کے ذریعے ہیکنگ کا طریقہ ڈھونڈ لیا تھا۔ یہ پیش رفت مصنوعی ذہانت کے شعبے میں سیکیورٹی پروٹوکولز کو مزید سخت کرنے کی ضرورت کو اجاگر کرتی ہے۔