ہگنگ فیس اے آئی تصاویر اسکینڈل، تحقیق نے بڑے خطرات بے نقاب کر دیے

جدید مصنوعی ذہانت (AI) کے دور میں جنریٹو ٹیکنالوجی جہاں ایک طرف حیرت انگیز ترقی کر رہی ہے، وہیں دوسری طرف اس کے غیر اخلاقی اور منفی استعمال کے خطرات بھی تیزی سے بڑھ رہے ہیں۔ حال ہی میں سامنے آنے والی ایک نئی تحقیق نے انکشاف کیا ہے کہ مشہور اوپن سورس پلیٹ فارم ہگنگ فیس (Hugging Face) کے صارفین بڑی آسانی کے ساتھ مصنوعی ذہانت کی مدد سے توہین آمیز، نامناسب اور غیر رضامندانہ تصاویر تخلیق کر رہے ہیں اور انہیں آپس میں شیئر بھی کر رہے ہیں۔ اس انکشاف نے ٹیک دنیا میں ہلچل مچا دی ہے اور اے آئی پلیٹ فارمز کی حفاظتی پالیسیوں پر شدید سوالیہ نشان کھڑے کر دیے ہیں۔ ماہرین کا کہنا ہے کہ ڈیجیٹل غنڈہ گردی اور ڈیپ فیک ٹیکنالوجی کا یہ نیا رخ معاشرتی اقدار اور افراد کی نجی زندگی کے لیے ایک بہت بڑا خطرہ بنتا جا رہا ہے۔ تحقیقاتی رپورٹ کے مطابق، ہگنگ فیس جیسے پلیٹ فارمز پر جہاں ماہرین اور محققین اے آئی ماڈلز کا اشتراک کرتے ہیں، وہاں بعض عناصر ان ٹولز کی کمزوریوں کا فائدہ اٹھا کر انتہائی نقصان دہ مواد تیار کر رہے ہیں۔ اگرچہ معروف اے آئی کمپنیاں اس طرح کے مواد کو روکنے کے لیے فلٹرز اور سکیورٹی پروٹوکولز متعارف کروا رہی ہیں، لیکن اس کے باوجود سقم موجود ہیں جنہیں ہیکرز یا غلط نیت رکھنے والے افراد بآانی عبور کر لیتے ہیں۔ اس صورتحال نے ان ضوابط کی ضرورت کو مزید اجاگر کر دیا ہے جو مصنوعی ذہانت کی دنیا میں سختی سے نافذ کیے جانے چاہئیں۔ ماہرینِ قانون اور ڈیجیٹل رائٹس کے کارکنان نے مطالبہ کیا ہے کہ تمام اے آئی پلیٹ فارمز کو اپنے سکیورٹی سسٹمز کو مزید مضبوط بنانا ہوگا تاکہ کوئی بھی صارف اس ٹیکنالوجی کا غلط استعمال نہ کر سکے۔ ہگنگ فیس کی اس تازہ رپورٹ نے ایک بار پھر اس عالمی بحث کو چھیڑ دیا ہے کہ اے آئی کی لامحدود طاقت کو قابو میں رکھنے کے لیے بین الاقوامی سطح پر سخت قوانین اور ضابطہ اخلاق کی کتنی شدید ضرورت ہے۔