برطانوی این سی ایس سی کا خود مختار اے آئی کے لیے سخت کنٹرولز کا مطالبہ

برطانیہ کے نیشنل سائبر سیکیورٹی سینٹر (NCSC) نے تمام متعلقہ تنظیموں اور اداروں کو خبردار کیا ہے کہ وہ خود مختار مصنوعی ذہانت (Agentic AI) کے سسٹمز کو تعینات کرتے وقت انتہائی احتیاط سے کام لیں۔ ادارے کا کہنا ہے کہ ٹیکنالوجی کی یہ نئی لہر جہاں کاروباری اور تکنیکی میدان میں انقلاب برپا کر رہی ہے، وہیں اس کے غیر متوقع خطرات سے نمٹنے کے لیے مضبوط حفاظتی ڈھانچہ تیار کرنا بھی ناگزیر ہو چکا ہے۔ نئے جاری کردہ رہنما اصولوں کے مطابق، تنظیموں کو چاہیے کہ وہ خود مختار اے آئی سسٹمز کے لیے سینڈ باکسنگ (sandboxing) کی تکنیک کا استعمال کریں تاکہ کسی بھی ناگوار یا غیر ارادی صورتحال کے اثرات کو محدود رکھا جا سکے۔ اس کے علاوہ نظام تک رسائی کو سختی سے کنٹرول کرنے اور ہر مرحلے پر انسانی نگرانی کو یقینی بنانے کی بھی سختی سے ہدایت کی گئی ہے تاکہ مصنوعی ذہانت کے فیصلے انسانوں کے دائرہ اختیار میں رہیں۔ ماہرین کا کہنا ہے کہ خود مختار مصنوعی ذہانت کے سسٹمز بغیر کسی انسانی مداخلت کے طویل اور پیچیدہ فیصلے کرنے کی صلاحیت رکھتے ہیں۔ یہی وجہ ہے کہ اگر ان کے پیرامیٹرز کو درست طریقے سے طے نہ کیا جائے تو یہ سسٹمز سیکیورٹی کے لیے سنگین خطرہ بن سکتے ہیں۔ این سی ایس سی کا یہ اقدام عالمی سطح پر اس بات کی عکاسی کرتا ہے کہ ٹیکنالوجی کی ترقی کے ساتھ ساتھ اس کے اخلاقی اور حفاظتی پہلوؤں پر بھی سنجیدگی سے غور کیا جا رہا ہے۔