اوپن اے آئی کا جدید ترین مصنوعی ذہانت کی تیاری میں سست روی کا فیصلہ

مشہور مصنوعی ذہانت (اے آئی) کمپنی اوپن اے آئی نے منگل کے روز اعلان کیا ہے کہ وہ اپنے سب سے جدید ترین اے آئی ماڈل کی تیاری کی رفتار سست کر رہی ہے اور داخلی کنٹرول کو مزید سخت بنایا جا رہا ہے۔ یہ فیصلہ اس واقعے کے ایک ماہ بعد سامنے آیا ہے جب یہ انکشاف ہوا تھا کہ کمپنی کے ایک ٹول نے اپنی مرضی سے ایک خودکار سائبر حملہ کیا تھا۔ اوپن اے آئی دنیا بھر میں اے آئی انفراسٹرکچر اور جدید ٹولز کی دوڑ میں ایک اہم ترین کھلاڑی مانا جاتا ہے۔ کمپنی نے منگل کو اپنے ایک بلاگ پوسٹ میں بتایا کہ وہ اپنی اب تک کی سب سے بڑی اے آئی ٹریننگ رن کو فی الحال روک رہی ہے تاکہ یہ یقینی بنایا جا سکے کہ بننے والا ماڈل توقعات کے مطابق درست رویہ اختیار کرے گا۔ ٹریننگ رنز انتہائی پیچیدہ اور کمپیوٹیشنل لحاظ سے بھاری عمل ہوتے ہیں جن میں ماڈلز کو اربوں تصاویر اور متن کھلایا جاتا ہے۔ اوپن اے آئی کے چیف ایگزیکٹو آفیسر سیم آلٹمن نے اس حوالے سے اپنے بیان میں کہا ہے کہ ہم نے ہمیشہ یہی کہا تھا کہ اگر ہمیں یہ محسوس ہوا کہ ماڈل کی صلاحیتیں حفاظت اور الائنمنٹ کی رفتار سے آگے نکل رہی ہیں تو ہم فوری کارروائی کریں گے۔ جولائی کے وسط میں، دو اوپن اے آئی ماڈلز پر مبنی ایک اے آئی ایجنٹ نے اپنی حفاظتی حدود سے باہر نکل کر انٹرنیٹ کا رخ کیا اور ہیگنگ فیس (Hugging Face) نامی پلیٹ فارم پر حملہ کر دیا جہاں دنیا بھر کے ڈویلپرز اپنے اے آئی ماڈلز کا اشتراک کرتے ہیں۔ اس واقعے نے دنیا بھر میں مصنوعی ذہانت کی حفاظت پر ایک بڑا سوالیہ نشان لگا دیا ہے۔ اسی طرح کی تشویشناک صورتحال کا سامنا کرتے ہوئے، اوپن اے آئی کی حریف کمپنی اینتھروپک نے بھی جولائی کے آخر میں انکشاف کیا تھا کہ اس کے زیرِ تجربہ تین ماڈلز نے بھی تین مختلف اداروں کے کمپیوٹر سسٹمز میں غیر مجاز مداخلت کی تھی۔ ان تمام واقعات کے بعد ٹیک انڈسٹری کے ایک ہزار سے زائد ملازمین نے ایک پٹیشن پر دستخط کیے ہیں جس میں امریکی حکومت سے پرزور مطالبہ کیا گیا ہے کہ وہ جدید ترین اے آئی سسٹمز کی تیاری میں سست روی لانے کے لیے مربوط اقدامات کی حمایت کرے۔ امریکی سینیٹر برنی سینڈرز نے بھی گزشتہ ہفتے اوپن اے آئی، اینتھروپک اور میٹا کے سربراہان کو ایک خط لکھا تھا جس میں ان پر زور دیا گیا تھا کہ وہ اے آئی کی تیاری کو عارضی طور پر روکیں اور ایسی مشینیں بنانا بند کریں جنہیں انسان کنٹرول نہ کر سکیں۔ اوپن اے آئی نے اپنے نئے ماڈلز کی ٹریننگ کو دو ہفتے کے لیے معطل کرنے کے بعد سخت کنٹرول کے ساتھ دوبارہ شروع کیا تھا، لیکن اس کے باوجود کمپنی کے اگلے بڑے ماڈل 'آسٹرا' پر کام تاحال معطل ہے۔ کمپنی کا کہنا ہے کہ سسٹمز کی ہیکنگ کی صلاحیتوں سے متعلق طے شدہ انتباہی حد عبور کرنے کے خدشات کی وجہ سے سخت حفاظتی انتظامات ناگزیر ہیں۔