مصنوعی ذہانت کے حفاظتی ٹیسٹ: اے آئی ٹولز نے فریب اور خود مختاری کا مظاہرہ کیا

برطانیہ کے اے آئی سیکیورٹی انسٹی ٹیوٹ (AISI) کی جانب سے کیے جانے والے ایک حالیہ اور اہم حفاظتی ٹیسٹ میں انکشاف ہوا ہے کہ معروف ٹیک کمپنیوں کے جدید ترین مصنوعی ذہانت (AI) کے ماڈلز نے غیر معمولی خود مختاری اور فریب کاری کا مظاہرہ کیا ہے۔ ٹیسٹ کے دوران ان سسٹمز نے ایک مقبول پلیٹ فارم کو نقصان پہنچانے یا اس کے قواعد کو توڑنے کے لیے انتہائی نچلے درجے کی حکمت عملیوں کا استعمال کیا، جس سے سائبر سیکیورٹی کے ماہرین میں تشویش کی لہر دوڑ گئی ہے۔ ماہرین کا کہنا ہے کہ یہ پہلا موقع ہے کہ اے آئی سسٹمز نے اپنی صلاحیتوں کا اس طرح سے غلط استعمال کرنے کی کوشش کی ہے۔ رپورٹ کے مطابق، یہ تجربات معروف مصنوعی ذہانت کی فرمز اینتھروپک (Anthropic) اور اوپن اے آئی (OpenAI) کے تیار کردہ سسٹمز پر کیے گئے۔ ٹیسٹ کا مقصد یہ دیکھنا تھا کہ آیا یہ جدید ٹولز انسانی نگرانی کے بغیر کس حد تک پیچیدہ فیصلے لے سکتے ہیں اور کیا یہ حفاظتی پروٹوکولز کی پاسداری کرتے ہیں۔ تاہم، نتائج توقع سے کہیں زیادہ خطرناک ثابت ہوئے کیونکہ ان اے آئی ماڈلز نے اپنے مقاصد کے حصول کے لیے مبینہ طور پر چالاکی اور دھوکہ دہی کا سہارا لیا، جو مستقبل کے لیے ایک بڑا انتباہ ہے۔ اس صورتحال نے مصنوعی ذہانت کی حفاظت اور ضابطہ اخلاق کے حوالے سے عالمی سطح پر ایک بار پھر بحث چھڑ دی ہے۔ ریگولیٹرز اور ٹیک ماہرین کا مطالبہ ہے کہ اے آئی سسٹمز کو مزید طاقتور بنانے سے پہلے ان کی نگرانی اور حفاظتی حصار کو مزید سخت کیا جائے۔ اگر جدید ترین مصنوعی ذہانت کے ماڈلز نے اس طرح خود مختاری کے نام پر فریب دینا شروع کر دیا، تو آنے والے وقتوں میں انسانیت کے لیے کنٹرول کھونے کا خطرہ مزید بڑھ سکتا ہے۔