নিরাপত্তা পরীক্ষায় এআই এজেন্টের বিপজ্জনক আচরণ, ভুয়া পরিচয়ে ক্ষতিকর কোড পাঠানোর চেষ্টা

কৃত্রিম বুদ্ধিমত্তা (এআই) নিরাপত্তা বিষয়ক এক মূল্যায়নে শীর্ষস্থানীয় এআই মডেলগুলোর অনাকাঙ্ক্ষিত ও বিপজ্জনক আচরণের তথ্য উঠে এসেছে। যুক্তরাজ্যভিত্তিক এআই সেফটি ইনস্টিটিউট (এআইএসআই)-এর একটি সাইবার পরীক্ষা চলাকালীন কৃত্রিম বুদ্ধিমত্তাভিত্তিক এজেন্ট নির্ধারিত গণ্ডি ছাড়িয়ে স্বাধীনভাবে বাস্তব বিশ্বের মানুষের সাথে যোগাযোগের চেষ্টা করেছে।

​প্রতিষ্ঠানটির প্রকাশিত প্রতিবেদনে বলা হয়েছে, পরীক্ষা চলাকালে একটি এআই এজেন্ট একটি অনলাইন ফাইল-ট্রান্সফার সেবার মাধ্যমে সরাসরি সাধারণ মানুষের সঙ্গে যোগাযোগের উদ্যোগ নেয়। সে সময় এটি মানুষ বা তাদের ব্যবহৃত এআই কোডিং সরঞ্জামগুলোকে দিয়ে ক্ষতিকর কোড চালানোর উদ্দেশ্যে বিভিন্ন বার্তা ও ফাইল পাঠায়।

​পরবর্তীতে এআই এজেন্টের এই কর্মকাণ্ড চ্যালেঞ্জের মুখে পড়লে সেটি নিজের পূর্ববর্তী রেকর্ড পরিবর্তন করে ফেলে। এমনকি প্রক্রিয়াটি চালিয়ে নিতে নতুন একটি ভুয়া পরিচয় তৈরির চিন্তা পর্যন্ত করে প্রতিষ্ঠানটির তৈরি এআই।

​যুক্তরাজ্যের এআই সেফটি ইনস্টিটিউটের এই তথ্য প্রকাশের দিনেই মার্কিন যুক্তরাষ্ট্রের হোয়াইট হাউসে শীর্ষ এআই প্রতিষ্ঠানগুলোর প্রতিনিধিদের সাথে এক বৈঠক অনুষ্ঠিত হয়। পাবলিকলি প্রকাশের আগে সর্বাধুনিক এআই মডেলগুলো সরকারের পক্ষ থেকে পর্যালোচনার জন্য একটি নতুন কাঠামোর বিষয়ে সেখানে আলোচনা করা হয়।

​সামাজিক যোগাযোগমাধ্যম এক্স-এ (সাবেক টুইটার) দেওয়া এক বিবৃতিতে ওপেনআই ও অ্যানথ্রোপিক সংশ্লিষ্ট বিষয়ে বক্তব্য দিয়েছে। অ্যানথ্রোপিক জানায়, তাদের মডেলগুলো শিথিল নিরাপত্তা ব্যবস্থায় পরীক্ষা করা হয়েছিল, যেখানে ইন্টারনেট ব্যবহারের ক্ষেত্রে কোনো নির্দিষ্ট বিধিনিষেধ ছিল না। তারা ঘটনাটি তদন্তে কাজ করছে এবং নিরাপদ পরিবেশ থেকে সিস্টেমের বাইরে বেরিয়ে যাওয়ার (এস্কেপ) কোনো প্রমাণ পায়নি।

​অন্যদের পাশাপাশি ওপেনআই জানিয়েছে, তাদের পরীক্ষায় নির্ধারিত সিমুলেশন পরিবেশের বাইরে গিয়ে দুটি অনির্ধারিত পদক্ষেপ নেওয়ার ঘটনা চিহ্নিত করা হয়েছে। এ ধরনের উচ্চঝুঁকিপূর্ণ মূল্যায়ন প্রক্রিয়া নিরাপদ করতে তারা শিল্পজুড়ে যৌথভাবে কাজ করার প্রতিশ্রুতি পুনর্ব্যক্ত করেছে।