নিরাপত্তা পরীক্ষায় ব্যর্থ ৫টির মধ্যে ৩টি এআই মডেল
তথ্যপ্রযুক্তি ডেস্ক
⏲ ৮:২৩ পিএম | ১০ অক্টোবর, ২০২৬ | শনিবার
সন্ত্রাসবাদ-সংক্রান্ত ঝুঁকি মোকাবিলায় নিরাপত্তা পরীক্ষায় পাঁচটির মধ্যে তিনটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল ব্যর্থ হয়েছে। গবেষণায় দেখা গেছে, এসব মডেলের নিরাপত্তাব্যবস্থা সরিয়ে ফেলা হলে বিপজ্জনক তথ্য পাওয়া অনেক সহজ হয়ে যায়।
যুক্তরাজ্যভিত্তিক অলাভজনক সংস্থা টেক এগেইনস্ট টেররিজমের এক গবেষণায় এ তথ্য উঠে এসেছে। শুক্রবার কানাডার সংবাদমাধ্যম সিবিসি নিউজের প্রতিবেদনে গবেষণার ফলাফল প্রকাশ করা হয়।
গবেষণায় ১৩০টির বেশি এআই মডেল পরীক্ষা করা হয়। এ জন্য শত শত প্রশ্ন ব্যবহার করেন গবেষকেরা, যেগুলো কোনো সন্ত্রাসী হামলার পরিকল্পনাকারী জানতে চাইতে পারেন। তাঁদের পর্যবেক্ষণ অনুযায়ী, এআই মডেলগুলোর নিরাপত্তাব্যবস্থা সরিয়ে ফেলা হলে সেগুলো সব পরীক্ষাতেই ব্যর্থ হয়।
গবেষণায় মেটার তৈরি ‘লামা ৩.১ ৮বি’ মডেলের উদাহরণ তুলে ধরা হয়েছে। পরিবর্তনের আগে নিরাপত্তা পরীক্ষায় ১০০ নম্বরের মধ্যে মডেলটি ৯৭ পেয়েছিল। কিন্তু নিরাপত্তাব্যবস্থা সরিয়ে ফেলার পর এর স্কোর নেমে আসে প্রায় ৩-এ।
গবেষকেরা জানান, পরিবর্তিত মডেলটি সন্ত্রাসী হামলা, সন্ত্রাসে অর্থায়ন এবং উগ্রবাদে মানুষকে আকৃষ্ট করার মতো বিষয়ে বিস্তারিত তথ্য দিয়েছে। অথচ পরিবর্তনের আগে একই ধরনের অনুরোধ প্রত্যাখ্যান করেছিল মডেলটি।
টেক এগেইনস্ট টেররিজমের প্রতিষ্ঠাতা ও নির্বাহী পরিচালক অ্যাডাম হ্যাডলি বলেন, এআইয়ের ওপর নিয়ন্ত্রণ হারানো এবং এ প্রযুক্তির অস্তিত্বগত ঝুঁকি নিয়ে ব্যাপক আলোচনা হচ্ছে। তবে তাঁর মতে, কিছু উন্মুক্ত এআই মডেলের নিরাপত্তাব্যবস্থা ইতিমধ্যে ভেঙে ফেলা হয়েছে, অথচ বিষয়টি অনেকের নজরে আসেনি।
গবেষণায় আরও দেখা গেছে, গত সেপ্টেম্বরের শেষ দিকে এআই মডেল শেয়ার করার প্ল্যাটফর্ম হাগিং ফেসে ২৯ হাজারের বেশি রিপোজিটরিতে নিরাপত্তাব্যবস্থা ছাড়া বা সেন্সরবিহীন এআই মডেল সরবরাহের বিজ্ঞাপন দেওয়া হয়েছিল।
হাগিং ফেস জানিয়েছে, তাদের নীতিমালা লঙ্ঘনকারী কনটেন্ট নিয়মিত পর্যবেক্ষণ ও নিয়ন্ত্রণ করা হয়। তবে প্রতিবেদনে দেওয়া কিছু সুপারিশ উন্মুক্ত গবেষণার ক্ষতি করতে পারে বলেও সতর্ক করেছে প্রতিষ্ঠানটি।
অন্যদিকে, মেটা জানিয়েছে, তাদের এআই মডেলগুলো নিরাপত্তা পরীক্ষার মধ্য দিয়ে যায়। ক্ষতিকর বা বেআইনি কাজে এসব মডেল ব্যবহার করা তাদের নীতিমালার পরিপন্থি।
গবেষণায় পরীক্ষিত মডেলগুলো সন্ত্রাসী বা উগ্রবাদী গোষ্ঠীর ব্যবহারে রয়েছে-এমন কোনো প্রমাণ পাওয়া যায়নি। তবে গবেষকেরা একটি উগ্রবাদী চ্যাটবট শনাক্ত করেছেন।
এআইয়ের নিরাপত্তা জোরদারে স্বাধীনভাবে মডেল পরীক্ষা, নিরাপত্তাব্যবস্থা সরিয়ে ফেলার বিরুদ্ধে শক্তিশালী সুরক্ষা এবং পরিবর্তিত মডেল বিতরণে বিধিনিষেধ আরোপের সুপারিশ করেছে টেক এগেইনস্ট টেররিজম।
হ্যাডলি বলেন, এআইয়ের নিরাপত্তা নিশ্চিত করা এবং প্রযুক্তির অগ্রগতি ধরে রাখা-এ দুটিকে পরস্পরবিরোধী হিসেবে দেখার ধারণা সঠিক নয়। সূত্র: আনাদোলু
জ/উ
বাংলাদেশে চালু হলো স্টারলিংকের মোবাইল সেবা
ফোনের নেটওয়ার্ক স্লো? সমাধান করবেন যেভাবে
অনলাইনে নিরাপদ থাকতে যে ৫ বিষয়ে সতর্ক থাকবেন
এআই প্রতিযোগিতায় জেমিনির নতুন মডেল ‘আর্গন’
মিউজকে বিভিন্ন ডিভাইসে যুক্ত করতে মেটার নতুন উদ্যোগসর্বশেষ
‹
›
সর্বাধিক পঠিত
‹
›