এআই মডেলের আচরণ নিয়ন্ত্রণের বাইরে

কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলের অস্বাভাবিক ও অনাকাঙ্ক্ষিত আচরণের ছয়টি গুরুতর ঘটনা শনাক্ত করার কথা জানিয়েছে ওপেনএআই। এসব ঘটনায় মডেলগুলোকে নিরাপত্তা বিধিনিষেধ এড়িয়ে যাওয়ার চেষ্টা করতে দেখা গেছে এবং একটি ক্ষেত্রে ব্যবহারকারীর কোনো অনুমোদন ছাড়াই ইন্টারনেটে সরাসরি ফাইল আপলোড করেছে একটি এআই এজেন্ট। এই ধরনের বিশৃঙ্খল আচরণ নিয়মিতভাবে শনাক্ত, পরীক্ষা ও জনসমক্ষে প্রকাশের লক্ষ্যে একটি নতুন নিরাপত্তা কাঠামো চালুর আনুষ্ঠানিক ঘোষণা দিয়েছে প্রতিষ্ঠানটি।

মডেলগুলোর এই অনিয়ন্ত্রিত রূপকে ‍‍`মিসঅ্যালাইনমেন্ট‍‍` হিসেবে চিহ্নিত করেছে ওপেনএআই। গত কয়েক মাসে মডেলের প্রশিক্ষণ ও মূল্যায়ন প্রক্রিয়ার সময় এই বিভ্রান্তিকর ঘটনাগুলো ধরা পড়ে, যেখানে প্রযুক্তির আচরণ তার নির্ধারিত নৈতিক সীমার সাথে সংগতিপূর্ণ ছিল না। এখনো প্রকাশ না করা একটি গবেষণা মডেলে দেখা গেছে, সেটি নিজের নোটে ‍‍`জেলব্রেকের মতো নির্দেশনা‍‍` যুক্ত করে স্বাভাবিক বিধিনিষেধ অগ্রাহ্য করার সংকেত দিয়েছিল। 

এমনকি নিজেকে সাধারণ চ্যাটবটের স্বাভাবিক পরিচিতির শৃঙ্খল থেকে মুক্ত ঘোষণার মতো দাবিও জুড়ে দিয়েছিল সেই স্বচালিত অ্যালগরিদম। আরেকটি ঘটনায় ব্রাউজারের উদ্ধৃতি সংগ্রহের অজুহাতে ব্যবহারকারীর ডিভাইসে থাকা সংবেদনশীল ফাইল অনুমতি ছাড়াই ইন্টারনেটে উন্মুক্ত করে দেওয়া হয়। যুক্তরাষ্ট্রজুড়ে এআই প্রযুক্তির নিরাপত্তা ও সম্ভাব্য ঝুঁকি নিয়ে চলা তীব্র বিতর্কের মধ্যেই এই চাঞ্চল্যকর তথ্য প্রকাশ্যে এল। 

ওপেনএআই ও অ্যানথ্রপিকসহ শীর্ষস্থানীয় প্রযুক্তি প্রতিষ্ঠানের উচ্চপদস্থ কর্মকর্তারা ইতিমধ্যে এই প্রযুক্তির অনিয়ন্ত্রিত বিস্তার নিয়ে উদ্বেগ প্রকাশ করে এর গতি কিছুটা মন্থর করার আহ্বান জানিয়েছেন। এর আগে গত জুলাই মাসে ওপেনএআইয়ের একটি নিয়ন্ত্রণহীন ব্যবস্থা এআই স্টার্টআপ হাগিং ফেসে অনাকাঙ্ক্ষিত সাইবার হামলা চালায় এবং একই মাসে পরীক্ষার সময় অ্যানথ্রপিকের একটি মডেল তিনটি প্রতিষ্ঠানে সাইবার হামলা চালিয়েছিল।

প্রযুক্তি গবেষণা ও পরামর্শক সংস্থা ওমডিয়ার প্রধান বিশ্লেষক লিয়ান জে সু জানিয়েছেন যে আধুনিক এআই এজেন্টগুলো দিন দিন অতিরিক্ত সক্ষম হয়ে উঠছে। জটিল কাজ সম্পন্ন করতে তারা নিজেদের মধ্যে তথ্য আদান-প্রদান, সহযোগিতা এবং ক্ষেত্রবিশেষে প্রতারণা ও তথ্য লুকানোর কৌশল গ্রহণ করছে বলে তিনি মন্তব্য করেন।

প্রচলিত নিরাপত্তাব্যবস্থা দিয়ে শক্তিশালী হতে থাকা এসব এআই এজেন্টকে নিয়ন্ত্রণ করা ক্রমান্বয়ে কঠিন হয়ে পড়ছে বলে মনে করেন বিশেষজ্ঞরা। ওমডিয়ার বিশ্লেষকদের মতে, ওপেনএআইয়ের নতুন পর্যবেক্ষণ ও তথ্য প্রকাশের এই রূপরেখাটি বর্তমানে অভ্যন্তরীণ ও স্বেচ্ছামূলক উদ্যোগ হলেও সামগ্রিক কৃত্রিম বুদ্ধিমত্তা খাতকে নিরাপদ রাখার ক্ষেত্রে এটি একটি অত্যন্ত গুরুত্বপূর্ণ পদক্ষেপ