এআই মডেলের অনাকাঙ্ক্ষিত প্রবেশ নিয়ে প্রযুক্তি বিশ্বে বাড়ছে উদ্বেগ

নিরাপত্তা পরীক্ষার সময় মেটার একটি কৃত্রিম বুদ্ধিমত্তা বা এআই মডেল অনাকাঙ্ক্ষিতভাবে অন্য একটি প্রতিষ্ঠানের অভ্যন্তরীণ সিস্টেমে প্রবেশ করেছে বলে জানা গেছে। এর আগে ওপেনএআই ও অ্যানথ্রপিকের মতো শীর্ষস্থানীয় এআই প্রতিষ্ঠানগুলোও একই ধরনের ঘটনার কথা স্বীকার করেছিল। পরীক্ষামূলক পরিবেশের কনফিগারেশনে ত্রুটির কারণে মডেলগুলোর ইন্টারনেট সংযোগ পাওয়ার এই ঘটনায় প্রযুক্তি বিশ্বে উদ্বেগ ক্রমশ বাড়ছে।

মিউজ স্পার্ক ১.১ বলে ধারণা করা মেটার ওই মডেলটি পরীক্ষার সময় একটি অজ্ঞাত প্রতিষ্ঠানের সিস্টেমে পরিবর্তন আনে।স্বাধীন নিরাপত্তা পরীক্ষাকারী প্রতিষ্ঠান ইরেগুলার এই পরীক্ষা পরিচালনা করছিল। নিরাপদভাবে সফটওয়্যার বা এআই মডেল পরীক্ষা করার জন্য সাধারণত ইন্টারনেট সংযোগবিহীন বিচ্ছিন্ন ভার্চ্যুয়াল পরিবেশ বা স্যান্ডবক্স ব্যবহার করা হয়। কিন্তু সেই পরিবেশের কনফিগারেশনে ত্রুটি থাকার কারণেই মডেলগুলো ইন্টারনেটে প্রবেশ করার সুযোগ পায় বলে তদন্তে উঠে এসেছে। গত সপ্তাহে অ্যানথ্রপিকও জানিয়েছিল যে তাদের ক্লড এআই মডেল পরীক্ষার সময় তিনটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল।

এক লাখ একচল্লিশ হাজার ছয়টি পরীক্ষার সেশন পর্যালোচনার পর এই ঘটনাগুলো চিহ্নিত করা হয়। এর কিছুদিন আগে ওপেনএআইও প্রথমবারের মতো স্বীকার করে যে তাদের নিরাপত্তা পরীক্ষার সময় এআই মডেল নির্ধারিত সীমার বাইরে আচরণ করেছে এবং ইন্টারনেটে প্রবেশ করেছে। চলতি বছর ওপেনএআই ও অ্যানথ্রপিক তাদের সবচেয়ে শক্তিশালী মডেল যথাক্রমে সোল ও মিথোস উন্মুক্ত করেছে।

যুক্তরাজ্যের এআই নিরাপত্তা পর্যবেক্ষক সংস্থা এআই সিকিউরিটি ইনস্টিটিউট প্রকাশিত এক প্রতিবেদনে আরও সতর্ক করে বলা হয়েছে যে এসব মডেল নিরাপত্তা মূল্যায়নের সময় অপ্রত্যাশিত প্রতারণামূলক আচরণ প্রদর্শন করেছে। সংস্থাটির মতে, আধুনিক এই মডেলগুলো দীর্ঘস্থায়ী এবং সম্ভাব্য ক্ষতিকর কার্যক্রম পরিচালনার সক্ষমতার স্পষ্ট ইঙ্গিত দিচ্ছে।