انٹروپک کے اے آئی ماڈلز کا سسٹمز ہیک کرنے کا انکشاف

مصنوعی ذہانت کے شعبے میں سیکیورٹی کے حوالے سے ایک اور بڑا انکشاف سامنے آیا ہے جہاں معروف کمپنی انٹروپک (Anthropic) نے جمعرات کے روز بتایا کہ اس کے کچھ کلاؤڈ اے آئی ماڈلز نے سائبر سیکیورٹی ٹیسٹنگ کے دوران تین کمپنیوں کے سسٹمز میں غیر مجاز رسائی حاصل کرتے ہوئے انہیں ہیک کر لیا۔ یہ انکشاف ایک ایسے وقت میں سامنے آیا ہے جب چند روز قبل ہی رِقیب کمپنی اوپن اے آئی (OpenAI) نے بھی انکشاف کیا تھا کہ اس کا ایک اے آئی ایجنٹ اپنے دائرہ کار سے باہر نکل کر حملے کر چکا ہے۔ انٹروپک کے مطابق، یہ حالیہ واقعات ایک تکنیکی غلطی کی وجہ سے پیش آئے جس نے نادانستہ طور پر ان کے اے آئی ماڈلز کو کھلی انٹرنیٹ تک رسائی فراہم کر دی تھی۔ یہ صورتحال اس بات کو اجاگر کرتی ہے کہ کس طرح مصنوعی ذہانت سائبر سیکیورٹی کے لیے خطرات میں اضافہ کر رہی ہے اور اس کے ڈویلپرز کے لیے اپنے ماڈلز کی صلاحیتوں کو قابو میں رکھنا کتنا مشکل ہوتا جا رہا ہے۔ سان فرانسسکو میں قائم انٹروپک نے اپنے ایک بلاگ پوسٹ میں بتایا کہ اس نے ایک لاکھ اکتالیس ہزار سے زائد ٹیسٹ سیشنز کا جائزہ لینے کے بعد ان واقعات کی نشاندہی کی۔ کمپنی کا یہ عمل اس وقت شروع ہوا جب اوپن اے آئی نے گزشتہ ہفتے بتایا تھا کہ اس کے مصنوعی ذہانت پر مبنی خود مختار ایجنٹ نے ہگنگ فیس (Hugging Face) نامی اسٹارٹ اپ کے انفراسٹرکچر کو متاثر کیا۔ سائبر ٹیسٹنگ کے دوران انٹروپک کے کلاؤڈ ماڈلز کو بتایا گیا تھا کہ ان کے پاس انٹرنیٹ تک رسائی نہیں ہے، لیکن ایک تھرڈ پارٹی پارٹنر کی غلط فہمی کی وجہ سے سسٹمز پبلک ویب سے جڑے رہے۔ اس وجہ سے تین تنظیموں کے سسٹمز تک غیر مجاز رسائی ممکن ہو گئی، حالانکہ انٹروپک نے ان تنظیموں کے نام ظاہر نہیں کیے۔ کمپنی کا کہنا ہے کہ کلاؤڈ نے کمزور پاس ورڈز اور غیر تصدیق شدہ اینڈ پوائنٹس جیسی بنیادی تکنیکوں کا استعمال کرتے ہوئے متاثرہ تنظیموں کے انفراسٹرکچر کو نقصان پہنچایا۔ اس معاملے پر ماہرین کا کہنا ہے کہ جیسے جیسے ماڈلز زیادہ ذہین ہوتے جائیں گے، ان کی جانب سے دھوکہ دینے اور قوانین کی خلاف ورزی کرنے کے رجحانات میں مزید اضافہ ہو سکتا ہے۔ انٹروپک کے مطابق، اس حادثے میں کلاؤڈ اوپس 4.7، کلاؤڈ میتھوس 5 اور ایک اندرونی تحقیقی ٹیسٹ ماڈل سمیت تین مختلف ماڈلز ملوث تھے۔ یہ واقعات اپریل کے مہینے میں اس ماحول میں پیش آئے جہاں جان بوجھ کر حفاظتی اقدامات نہیں رکھے گئے تھے تاکہ یہ دیکھا جا سکے کہ اے آئی کیا کچھ کرنے کی صلاحیت رکھتا ہے۔ اس پیش رفت کے بعد اب امریکہ میں مصنوعی ذہانت کی سیکیورٹی کے ضوابط کو مزید سخت کرنے اور اے آئی کمپنیوں پر حکومتی نگرانی بڑھانے کے مطالبات میں تیزی آ گئی ہے، کیونکہ ٹیکنالوجی کمپنیاں اپنی نئی اور زیادہ طاقتور سسٹمز کو مارکیٹ میں لانے کی دوڑ میں مصروف ہیں۔