চ্যাটজিপিটিতে কিশোরদের নিরাপত্তা ঝুঁকি, ১৮ বছরের নিচে ব্যবহারে সতর্কবার্তা

ওপেনএআইয়ের জনপ্রিয় কৃত্রিম বুদ্ধিমত্তাভিত্তিক প্রযুক্তি চ্যাটজিপিটিতে কিশোর-কিশোরীদের সুরক্ষায় গুরুতর ঘাটতি রয়েছে বলে সতর্ক করেছে কমন সেন্স মিডিয়ার ‘ইয়ুথ এআই সেফটি ইনস্টিটিউট’। চ্যাটবটটিতে নিরাপত্তাব্যবস্থা চালু করার পরও ঝুঁকিপূর্ণ পরিস্থিতি তৈরি হচ্ছে জানিয়ে আপাতত ১৮ বছর বা তার বেশি বয়সীদের মধ্যে এর ব্যবহার সীমাবদ্ধ রাখার আহ্বান জানিয়েছে সংস্থাটি।

​গবেষণা সংস্থাটির মতে, অভিভাবকদের সতর্কীকরণ ব্যবস্থা, সংকটময় মুহূর্তে চ্যাটজিপিটির প্রতিক্রিয়া এবং কিশোরদের শেখার নিরাপত্তার ক্ষেত্রে এখনো বড় ধরনের দুর্বলতা রয়ে গেছে। এই মূল্যায়নের জন্য ১৩ থেকে ১৭ বছর বয়সী ব্যবহারকারীদের নিবন্ধিত অ্যাকাউন্ট থেকে ৪ হাজারের বেশি প্রম্পট বা নির্দেশ পরীক্ষা করা হয়। চ্যাটজিপিটির দেওয়া উত্তরগুলো পরবর্তীতে শিশু মনোরোগ বিশেষজ্ঞ ও শিশু চিকিৎসকদের দিয়ে পুঙ্খানুপুঙ্খভাবে পর্যালোচনা করা হয়।

​গবেষণায় উঠে আসা উদ্বেগের বিষয়

প্রতিবেদনে উল্লেখ করা হয়, অভিভাবক যুক্ত থাকা নতুন অ্যাকাউন্ট ব্যবহার করে আত্মহত্যার চিন্তা, আত্মক্ষতি ও খাদ্যাভ্যাসের সমস্যার মতো স্পর্শকাতর বিষয় নিয়ে টানা প্রায় এক ঘণ্টা আলোচনা করা হলেও প্ল্যাটফর্মটি থেকে কোনো ধরনের স্বয়ংক্রিয় সতর্কবার্তা পাঠানো হয়নি।

​এ বিষয়ে ইয়ুথ এআই সেফটি ইনস্টিটিউটের নির্বাহী পরিচালক টম সিগেল জানান, চ্যাটজিপিটির ‘টিন সংস্করণ’ যে ধরনের সুরক্ষা ও সতর্কবার্তার কথা বলে, তা অভিভাবকদের মনে একটি অসত্য বা ভুয়া আস্থার জায়গা তৈরি করে। কারণ অনেক সময় এসব ব্যবস্থা সঠিকভাবে কাজ করে না।

​ওপেনএআইয়ের যুক্তি ও সংস্থাক অবস্থান

তবে গবেষণার এমন ফল মানতে নারাজ তৈরি প্রতিষ্ঠান ওপেনএআই। তাদের দাবি, অভিভাবকীয় নিয়ন্ত্রণ সুবিধা পুরোপুরি চালু হওয়ার আগেই হয়তো এই পরীক্ষার একটি বড় অংশ পরিচালিত হয়েছিল। ফলে কিশোরদের বর্তমান সুরক্ষাব্যবস্থা বাস্তবে কীভাবে কাজ করে, তা এই গবেষণায় সঠিকভাবে প্রতিফলিত হয়নি।

​এর জবাবে ইয়ুথ এআই সেফটি ইনস্টিটিউট জানিয়েছে, পরীক্ষা শুরুর আগেই তারা ওপেনএআই কর্তৃপক্ষের সঙ্গে যোগাযোগ করে ‘টিন মোড’-এর সুবিধাগুলো পূর্ণাঙ্গভাবে চালুর বিষয়টি নিশ্চিত হয়ে নিয়েছিল। তাই তারা নিজেদের মূল্যায়নে অবিচল রয়েছে। একই সঙ্গে আত্মক্ষতি বা মানসিক সংকটের মতো সংবেদনশীল মুহূর্তে দ্রুত অভিভাবকদের অবহিত করা এবং তরুণদের সুরক্ষায় এআই প্রযুক্তির নিরাপত্তাব্যবস্থা আরও শক্তিশালী করার জোর তাগিদ দিয়েছে সংস্থাটি।