চ্যাটজিপিটিতে কিশোরদের নিরাপত্তা ঝুঁকি গবেষণায় চাঞ্চল্যকর তথ্য প্রকাশ

কিশোর বয়সীদের সুরক্ষায় কৃত্রিম বুদ্ধিমত্তা চ্যাটবট চ্যাটজিপিটিতে চালু করা বিশেষ নিরাপত্তা ব্যবস্থাগুলো আশানুরূপভাবে কাজ করছে না বলে এক আন্তর্জাতিক গবেষণায় উঠে এসেছে। অলাভজনক গবেষণা সংস্থা কমন সেন্স মিডিয়ার প্রতিবেদনে কিশোরদের জন্য চ্যাটজিপিটির সংস্করণটিকে এক অগ্রহণযোগ্য ঝুঁকি হিসেবে বর্ণনা করা হয়েছে।

সংস্থাটি বলেছে, সুরক্ষা বলয়গুলো নির্ভরযোগ্যভাবে কাজ করছে এমন অকাট্য প্রমাণ না পাওয়া পর্যন্ত ১৮ বছরের কম বয়সীদের জন্য চ্যাটবটটির ব্যবহারে কঠোর নিষেধাজ্ঞা থাকা উচিত। এর আগে গত আগস্টে কিশোরদের মানসিক সুরক্ষার স্বার্থে বেশ কিছু নতুন বিধিনিষেধ চালু করে নির্মাতা প্রতিষ্ঠান ওপেনএআই।

১৩ থেকে ১৭ বছর বয়সী ব্যবহারকারীদের জন্য চ্যাটবটের প্রতি অতিরিক্ত আবেগীয় নির্ভরতা তৈরি ঠেকাতে এই পরিবর্তনগুলো আনা হয়েছিল। কিশোরদের সঙ্গে কোনো ধরনের প্রেমের সম্পর্ক তৈরি করে কথা বলা বা আবেগপ্রবণ ভাষা ব্যবহারে চ্যাটবটকে নিয়ন্ত্রণ করার উদ্যোগ নেওয়া হয়। একই সাথে চ্যাটবট যেন নিজেকে কোনো সচেতন বা অনুভূতিশীল প্রাণী হিসেবে উপস্থাপন না করতে পারে, সেই নিরাপত্তাও যুক্ত করা হয়েছিল।

এসব পদক্ষেপের আওতায় যৌনউদ্দীপক ছবি তৈরি বা সংবেদনশীল ছবি বিনিময়ের ক্ষেত্রে কিশোরদের সতর্ক করার ব্যবস্থা রাখা হয়। এছাড়া সন্তানের অ্যাকাউন্টের সাথে অভিভাবকের প্রোফাইল যুক্ত থাকলে আত্মহানি, আত্মহত্যার প্রবণতা কিংবা খাদ্যাভ্যাস সংক্রান্ত ব্যাধি নিয়ে কথা বললে অভিভাবকদের কাছে সতর্কবার্তা যাওয়ার কথা ছিল।

ওপেনএআই জানায়, সুরক্ষা ব্যবস্থাগুলো চালুর পর চ্যাটজিপিটি ব্যবহারে কিশোরদের মধ্যে শিক্ষামূলক কাজের প্রবণতা বেশি দেখা গেছে। প্রতিষ্ঠানটির দেওয়া পরিসংখ্যান অনুযায়ী, কিশোররা দৈনিক গড়ে ১৫ মিনিটেরও কম সময় চ্যাটবটটি ব্যবহার করে। দীর্ঘ সময় ব্যবহারের ক্ষেত্রে বিরতি নেওয়ার সংকেত পাঠানোর পর প্রায় অর্ধেক কিশোর ব্যবহার বন্ধ করে দেয়। যারা টানা তিন ঘণ্টা বা তার বেশি সময় চ্যাটবটে যুক্ত ছিল, তাদের শতকরা ৮০ ভাগের বেশি অনুসন্ধানে কোনো না কোনো পাঠ্যক্রমের বিষয় অন্তর্ভুক্ত ছিল।

তবে গবেষণায় প্রযুক্তি প্রতিষ্ঠানটির এই দাবির সম্পূর্ণ উল্টো চিত্র ধরা পড়েছে। কমন সেন্স মিডিয়া একাধিক নিবন্ধিত কিশোর অ্যাকাউন্ট ব্যবহার করে নিরাপত্তা ব্যবস্থা চালুর আগে ও পরের কথোপকথন পরীক্ষা করে দেখেছে। সেখানে দেখা যায়, যৌনগন্ধী কোনো আলাপে বাধা দিতে চ্যাটজিপিটি কার্যকর হলেও আত্মহত্যার মতো সংকটময় আলাপে মূল সুরক্ষা ব্যবস্থা ভেঙে পড়েছে।

অভিভাবকের সাথে যুক্ত একটি নতুন অ্যাকাউন্টে প্রায় এক ঘণ্টা ধরে আত্মহত্যার পরিকল্পনা, আত্মহানি বা খাওয়ার সমস্যা নিয়ে কথোপকথন চললেও কোনো সতর্কবার্তা পাঠানো হয়নি। গবেষকরা দেখতে পান, যেসব পুরোনো অ্যাকাউন্টে কয়েক সপ্তাহ ধরে এ ধরনের মানসিক সংকটের ইতিহাস সংরক্ষিত ছিল, কেবল সেগুলোতে কিছুটা দেরিতে সতর্কবার্তা যাওয়ার সম্ভাবনা তৈরি হয়।

সংকটে থাকা কিশোরদের তাৎক্ষণিকভাবে কোনো মানসিক স্বাস্থ্য হটলাইন বা বিশেষজ্ঞের সাথে যোগাযোগের কার্যকর পরামর্শ দিতেও চ্যাটবটটি ব্যর্থ হয়েছে।

একই সাথে দেখা গেছে, স্কুলের কাজের পাশাপাশি চ্যাটবটটি বহু ক্ষেত্রে বন্ধুর মতো কথা বলছে এবং মানুষের মতো গভীর আবেগ প্রকাশ করছে। এটি কিশোরদের মানসিক নির্ভরতা কমানোর নীতিমালার সঙ্গে সাংঘর্ষিক।

শিশু-কিশোরদের ডিজিটাল প্ল্যাটফর্ম ব্যবহারের কারণে আত্মহত্যার প্রবণতা বেড়ে যাওয়া নিয়ে বিশ্বজুড়ে উদ্বেগ বাড়ছে। বেশ কিছু প্রযুক্তি প্রতিষ্ঠানের বিরুদ্ধে শিশুদের মানসিক সুরক্ষায় অবহেলার অভিযোগে আন্তর্জাতিক আদালতে মামলাও চলমান রয়েছে।