اے آئی فیس سکیننگ ٹیکنالوجی کی ناکامی اور عوامی مشکلات

برطانیہ کے معروف سپر مارکیٹ چین 'سینسبری' (Sainsbury’s) کو اس وقت ایک بڑی تنقید کا سامنا کرنا پڑا جب ان کی جانب سے استعمال کی جانے والی مصنوعی ذہانت (اے آئی) پر مبنی فیس سکیننگ ٹیکنالوجی نے ایک عام گاہک کو غلطی سے چور قرار دے کر اسے سٹور سے باہر نکال دیا۔ یہ واقعہ اے آئی ٹیکنالوجی کے ان دعووں پر سوالیہ نشان بن کر ابھرا ہے جن میں 99.8 فیصد درستگی کا دعویٰ کیا جاتا ہے۔ ماہرین کا کہنا ہے کہ ٹیکنالوجی کے یہ اعداد و شمار دیکھنے میں تو بہت متاثر کن لگتے ہیں، لیکن حقیقت میں ان کی معمولی سی غلطی بھی کسی عام شہری کی ساکھ کو نقصان پہنچانے کے لیے کافی ہے۔ اس واقعے کے بعد سٹور انتظامیہ نے فوری طور پر مذکورہ برانچ میں اس ٹیکنالوجی کا استعمال معطل کر دیا ہے۔ متاثرہ کسٹمر نے شکایت کی کہ اسے بغیر کسی ٹھوس ثبوت کے سٹور سے باہر نکالا گیا، جس سے اس کی شدید تذلیل ہوئی۔ اس واقعے نے اب ایک بڑی بحث کو جنم دیا ہے کہ کیا ہمیں انسانی فیصلوں کو مکمل طور پر مشینوں کے حوالے کر دینا چاہیے؟ جب ٹیکنالوجی کسی فرد کو غلطی سے مجرم قرار دیتی ہے، تو اس کے سماجی اور نفسیاتی اثرات انتہائی گہرے ہو سکتے ہیں۔ اے آئی سسٹمز میں 'فالس پازیٹو' (false positive) کی شرح اگرچہ بظاہر کم لگتی ہے، مگر اس کے نتائج انسانی زندگی پر بہت بھاری ثابت ہو سکتے ہیں۔ ٹیکنالوجی ماہرین کا کہنا ہے کہ جدید اے آئی ماڈلز کو تربیت دینے کے لیے استعمال ہونے والا ڈیٹا اکثر غیر شفاف ہوتا ہے، جس کی وجہ سے شناخت میں غلطیوں کے امکانات موجود رہتے ہیں۔ سینسبری کا یہ اقدام اس بات کی نشاندہی کرتا ہے کہ کارپوریٹ سیکٹر میں اے آئی کو نافذ کرنے سے پہلے اس کی نگرانی اور انسانی مداخلت کو یقینی بنانا کتنا ضروری ہے۔ محض الگورتھم پر انحصار کرنا سٹورز اور صارفین دونوں کے لیے نقصان دہ ثابت ہو سکتا ہے۔ مستقبل میں، جب کمپنیاں اپنے سسٹمز کو بہتر بنانے کے لیے اے آئی کی طرف بڑھ رہی ہیں، تو انہیں عوامی اعتماد کو برقرار رکھنے کے لیے شفافیت اور درستگی کے اعلیٰ معیارات قائم کرنے کی ضرورت ہے۔ یہ واقعہ ایک انتباہ ہے کہ ٹیکنالوجی کو انسانی حقوق اور وقار پر فوقیت نہیں دی جا سکتی، اور جب تک یہ سسٹمز سو فیصد محفوظ اور قابل اعتماد نہیں ہو جاتے، تب تک ان کا استعمال محدود اور نگرانی میں ہونا چاہیے۔