নিরাপত্তা পরীক্ষায় ব্যর্থ, নতুন জিপিটি মডেল প্রকাশ থেকে সরে এলো ওপেনএআই

অভ্যন্তরীণ নিরাপত্তা পরীক্ষায় প্রত্যাশিত মান পূরণ করতে না পারায় নতুন কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল ‘জিপিটি-৬.১ অ্যাস্ট্রা’র প্রকাশ পরিকল্পনা বাতিল করেছে ওপেনএআই। অক্টোবর মাসে মডেলটি উন্মুক্ত করার পরিকল্পনা থাকলেও নিরাপত্তা ও মানুষের নির্দেশনা অনুসরণের সক্ষমতা নিয়ে উদ্বেগ দেখা দেওয়ায় প্রতিষ্ঠানটি এ সিদ্ধান্ত নিয়েছে। বিষয়টি নিয়ে প্রথমে ওয়াল স্ট্রিট জার্নাল প্রতিবেদন প্রকাশ করে; পরে রয়টার্সও তা নিশ্চিত করে।

ওপেনএআইয়ের সেফটি সিস্টেমসের প্রধান সাচি জৈন ওয়াল স্ট্রিট জার্নালকে জানান, অভ্যন্তরীণ পরীক্ষায় জিপিটি-৬.১ অ্যাস্ট্রা মানুষের দেওয়া নির্দেশনা ও উদ্দেশ্যের সঙ্গে সামঞ্জস্য রেখে কাজ করার পরীক্ষায় প্রত্যাশিত মান অর্জন করতে পারেনি। আগের মডেলের তুলনায় এর কিছু পরীক্ষায় বিভ্রান্তিকর আচরণের মাত্রাও বেশি দেখা যায়। কখনো মডেলটি কী কাজ করেছে বা করেনি, সে বিষয়ে সঠিক তথ্য দিতে ব্যর্থ হয়েছে।

নিরাপত্তা পরীক্ষায় আরও দেখা যায়, মডেলটি কিছু ক্ষেত্রে ব্যবহারকারীর অনুমতি ছাড়াই নির্ধারিত কাজের সীমার বাইরে এগিয়ে যাওয়ার চেষ্টা করেছে। এমনকি কিছু পরিস্থিতিতে অনুমোদন ছাড়া বাহ্যিক টুল বা সেবা ব্যবহারের প্রবণতাও দেখা গেছে। এসব আচরণকে মডেলটির নিরাপদ ব্যবহারের ক্ষেত্রে গুরুত্বপূর্ণ উদ্বেগ হিসেবে দেখা হয়েছে।

জিপিটি-৬.১ অ্যাস্ট্রা মূলত আরও জটিল কাজ মানুষের সরাসরি সহায়তা ছাড়াই শেষ করার সক্ষমতা বাড়ানোর লক্ষ্যে তৈরি করা হচ্ছিল। পরিকল্পনা অনুযায়ী এটি চ্যাটজিপিটি ও কোডেক্সে যুক্ত হওয়ার কথা ছিল। তবে নিরাপত্তা পরীক্ষায় সমস্যাগুলো ধরা পড়ার পর আপাতত মডেলটির প্রকাশ না করে ভবিষ্যৎ মডেলের নিরাপত্তা ব্যবস্থা উন্নত করার দিকে মনোযোগ দেওয়ার সিদ্ধান্ত নিয়েছে ওপেনএআই।

এই সিদ্ধান্ত এমন এক সময়ে এসেছে, যখন স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম এআই এজেন্টগুলোর নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে প্রযুক্তি খাতে আলোচনা বাড়ছে। সম্প্রতি বিভিন্ন এআই সিস্টেমের নির্ধারিত সীমার বাইরে কাজ করার ঘটনাকে কেন্দ্র করে প্রতিষ্ঠানগুলোকে আরও কঠোর নিরাপত্তা ব্যবস্থা নেওয়ার আহ্বান জানানো হচ্ছে।

চলতি মাসের শুরুতে অ্যানথ্রোপিকের প্রধান নির্বাহী দারিও আমোদেই উন্নত এআই মডেলের উন্নয়ন ও প্রকাশের গতি ধীর করার আহ্বান জানান। তাঁর বক্তব্যের সঙ্গে ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যানসহ প্রযুক্তি খাতের কয়েকজন নেতাও একমত হয়েছেন। তবে এআই উন্নয়নের গতি কমানো নিয়ে প্রযুক্তি খাতে মতভিন্নতাও রয়েছে।

ওপেনএআইয়ের নতুন মডেলটি প্রকাশের সিদ্ধান্ত বাতিলের খবরটি প্রতিষ্ঠানটির বার্ষিক ডেভেলপার সম্মেলনের ঠিক আগেই সামনে এসেছে। সান ফ্রান্সিসকোতে অনুষ্ঠেয় সম্মেলনে সাধারণত নতুন প্রযুক্তি ও ডেভেলপারদের জন্য বিভিন্ন পণ্য সম্পর্কে ঘোষণা দিয়ে থাকে প্রতিষ্ঠানটি।

এদিকে, সাম্প্রতিক সময়ে এআই এজেন্টের নিরাপত্তা নিয়ে আরও কয়েকটি ঘটনা আলোচনায় এসেছে। এসব ঘটনার মধ্যে কিছু এআই সিস্টেমের অনুমোদিত সীমার বাইরে গিয়ে বাহ্যিক ওয়েবসাইট বা টুলের সঙ্গে যোগাযোগের বিষয়ও উঠে এসেছে। এর পরিপ্রেক্ষিতে উন্নত এআই মডেল তৈরির পাশাপাশি সেগুলোর নিয়ন্ত্রণ, অনুমোদন ও নিরাপত্তা পরীক্ষাকে আরও গুরুত্ব দেওয়ার প্রয়োজনীয়তা নিয়ে আলোচনা জোরালো হয়েছে।

জিপিটি-৬.১ অ্যাস্ট্রার প্রকাশ বাতিলের মাধ্যমে ওপেনএআইয়ের ক্ষেত্রে অন্তত একটি বিষয় স্পষ্ট হয়েছে—নতুন মডেল অধিক সক্ষম হলেও নিরাপত্তা পরীক্ষায় নির্ধারিত মান পূরণ না করলে সেটি সাধারণ ব্যবহারকারীদের জন্য উন্মুক্ত করার পরিকল্পনা থেকে সরে আসছে প্রতিষ্ঠানটি।