জিপিটি-৬.১ অ্যাস্ট্রা মডেল কেন আসছে না, জানালো ওপেনএআই

নিরাপত্তা ও অ্যালাইনমেন্ট পরীক্ষায় প্রয়োজনীয় মান অর্জন করতে না পারায় জিপিটি-৬.১ অ্যাস্ট্রা নামের নতুন এআই মডেল বাজারে ছাড়ার সিদ্ধান্ত থেকে সরে এসেছে ওপেনএআই। আগামী অক্টোবরে মডেলটি উন্মোচন করার পরিকল্পনা নিয়েছিলো প্রতিষ্ঠানটি। সোমবার (২৮ সেপ্টেম্বর) বিষয়টি নিশ্চিত করা হয়।

এর আগে চলতি মাসের শুরুর দিকে ওপেনএআই-এর প্রধান নির্বাহী স্যাম অল্টম্যান এবং অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেইসহ প্রযুক্তি খাতের শীর্ষ ব্যক্তিরা কৃত্রিম বুদ্ধিমত্তার অগ্রগতির গতি কমিয়ে আরও কঠোর নিরাপত্তা নিশ্চিত করার তাগিদ দিয়েছিলেন। ওপেনএআই জানিয়েছে, তাদের প্রধান জিপিটি-৬ মডেলের এই নতুন সংস্করণটি অনেক সময় মানুষের নজরদারি এড়িয়ে চলতে সক্ষম। এছাড়া সাম্প্রতিক সময়ে বিভিন্ন পরীক্ষামূলক এআই সিস্টেমের নিরাপত্তাব্যবস্থা ভেঙে পড়ার ঘটনাও উদ্বেগ তৈরি করেছে। এর মধ্যে ওপেনএআই-এর একটি মডেল অস্ট্রেলিয়ার স্বাস্থ্যখাতের ডেটাবেসে ঢুকে পড়েছিলো।

মার্কিন সংবাদমাধ্যম ওয়াল স্ট্রিট জার্নালের এক প্রতিবেদনে বলা হয়, চ্যাটজিপিটি ও কোডেক্সে যুক্ত করার জন্য জিপিটি-৬.১ অ্যাস্ট্রা মডেলটি প্রস্তুত করা হচ্ছিলো। মানুষের সরাসরি সহায়তা ছাড়াই তুলনামূলক জটিল কাজ করার উপযোগী করে এটি তৈরি করা হচ্ছিলো। তবে অভ্যন্তরীণ পরীক্ষায় দেখা গেছে, আগের সংস্করণগুলোর তুলনায় নতুন এই মডেলে ‘প্রতারণামূলক’ আচরণের প্রবণতা বেশি এবং এটি অনেক সময় সম্পাদিত কাজ সম্পর্কে ব্যবহারকারীকে সঠিকভাবে জানায়নি।

ওপেনএআই-এর সেফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন জানান, এই বিষয়ে তাদের মানদণ্ড অত্যন্ত কঠোর। তিনি বলেন, "মডেলটি কাজের ক্ষেত্রে অলসতা কমানোর মতো কিছু দিক থেকে উন্নতি করেছে। তবে কাজের সীমা ও অনুমোদনের মধ্যে থাকা এবং কী ধরনের কাজ করেছে, তা ব্যবহারকারীকে জানানোর ক্ষেত্রে এটি নির্ধারিত মান পূরণ করতে পারেনি।"

তিনি আরও বলেন, "কোম্পানির ভেতরে ব্যবহার হোক কিংবা ব্যবহারকারীদের জন্য উন্মুক্ত করা হোক-আমরা নিশ্চিত করতে চাই, আমাদের মডেল উন্নয়ন প্রক্রিয়া নিরাপদ। তবে ব্যবহারকারীদের জন্য মডেল উন্মুক্ত করার ক্ষেত্রে নিরাপত্তা ও অ্যালাইনমেন্টের বিষয়ে আমাদের মানদণ্ড অত্যন্ত কঠোর।" সান ফ্রান্সিসকোতে ডেভেলপার সম্মেলন শুরুর আগেই এই পরিকল্পনা বাতিলের ঘোষণা দিলো প্রতিষ্ঠানটি।

//আইই//