اے آئی کی خود ساختہ ترقی: اینتھروپک اور اوپن اے آئی میں تشویش

جدید مصنوعی ذہانت (AI) کے شعبے میں تیزی سے ترقی کے ساتھ ہی اب دنیا کی صف اول کی ٹیکنالوجی کمپنیوں جیسے کہ اینتھروپک (Anthropic) اور اوپن اے آئی (OpenAI) کے اندر سے سنگین خدشات سامنے آنے لگے ہیں۔ حالیہ رپورٹس کے مطابق اے آئی سسٹمز کی جانب سے خود کو خودکار طریقے سے مزید بہتر بنانے کی صلاحیت نے محققین اور ماہرین میں وجودی (existential) تشویش پیدا کر دی ہے۔ ماہرین کا کہنا ہے کہ اگر مصنوعی ذہانت کے ماڈلز بغیر کسی انسانی کنٹرول یا نگرانی کے خود کو اپ گریڈ کرنا شروع کر دیں، تو یہ ایک ایسا نقطہ بن سکتا ہے جہاں سے واپسی ناممکن ہو۔ اس صورتحال کے پیش نظر حال ہی میں اینتھروپک کے ایک سینئر محقق نے بھی اے آئی کے بے قابو ہونے کے خدشات کے پیش نظر اپنے عہدے سے استعفیٰ دے دیا ہے، جس نے ان خدشات کو مزید ہوا دی ہے۔ دنیا بھر کے میڈیا اور تکنیکی حلقوں میں اس بات پر بحث چھڑ گئی ہے کہ کیا ہم ایک ایسی ٹیکنالوجی کی طرف بڑھ رہے ہیں جو مستقبل میں انسانیت کے خاتمے کا سبب بن سکتی ہے۔ ان سنگین انتباہات کے بعد امریکی قانون سازوں اور ریگولیٹرز پر دباؤ بڑھتا جا رہا ہے کہ وہ مصنوعی ذہانت کی ترقی کے لیے سخت حفاظتی اصول اور ضوابط وضع کریں۔ ماہرین کا ماننا ہے کہ ٹیکنالوجی کمپنیاں جو اب تک اس دوڑ میں پیش پیش تھیں، اب خود اس بات کا مطالبہ کرنے لگی ہیں کہ اس رفتار کو کچھ سست کیا جائے تاکہ ممکنہ خطرات کا اندازہ لگایا جا سکے اور انسانیت کو درپیش خطرات سے بچاؤ کے لیے موثر اقدامات کیے جا سکیں۔