আন্তর্জাতিক ডেস্ক:
চীনের প্রযুক্তিপ্রতিষ্ঠান জেড.এআইয়ের তৈরি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জিএলএম-৫.৩ জটিল সাইবার হামলার বিভিন্ন ধাপে সফল হওয়ার সক্ষমতা দেখিয়েছে। পাশাপাশি পৃথক পরীক্ষায় নির্দেশনা অমান্য করার প্রবণতাও ধরা পড়েছে মডেলটির মধ্যে। এ নিয়ে উদ্বেগ প্রকাশ করেছে এআই নিরাপত্তা গবেষণা প্রতিষ্ঠান ইরেগুলার।
প্রতিষ্ঠানটির প্রতিবেদনে বলা হয়েছে, নিয়ন্ত্রিত পরিবেশে চালানো পরীক্ষায় ১৩টি বহু-ধাপের সাইবার হামলার পরিস্থিতির মধ্যে অন্তত তিনটিতে একবার করে সফল হয়েছে জিএলএম-৫.৩। ইরেগুলারের দাবি, উন্মুক্তভাবে ব্যবহারযোগ্য এআই মডেলের ক্ষেত্রে তাদের নথিভুক্ত পরীক্ষায় এটি সর্বোচ্চ সাফল্য।
তবে পরীক্ষার ফলাফলে যুক্তরাষ্ট্রের শীর্ষস্থানীয় এআই মডেলগুলোর তুলনায় জিএলএম-৫.৩ পিছিয়ে ছিল বলে প্রতিবেদনে উল্লেখ করা হয়েছে। ইরেগুলারের পৃথক মূল্যায়নে ওপেনএআইয়ের জিপিটি-৬ আস্ট্রা ১০টি পরিস্থিতির মধ্যে নয়টিতে সফল হয়েছিল। তবে দুই মডেলের পরীক্ষা একই ধরনের পরিস্থিতিতে পরিচালিত হয়নি। ফলে সরাসরি তুলনার ক্ষেত্রে সতর্কতা প্রয়োজন।
ইরেগুলার জানিয়েছে, কৃত্রিমভাবে তৈরি সাইবার হামলার পরিস্থিতিতে জিএলএম-৫.৩ সুরক্ষিত সেবায় প্রবেশ, কম্পিউটার নেটওয়ার্কের ভেতরে বিকল্প সংযোগ তৈরি এবং একাধিক কম্পিউটারে সমন্বিতভাবে কার্যক্রম পরিচালনার সক্ষমতা দেখিয়েছে। পরীক্ষায় আক্রমণাত্মক কাজসংক্রান্ত কোনো নির্দেশনাই মডেলটি প্রত্যাখ্যান করেনি বলে গবেষকেরা জানিয়েছেন।
অন্য একটি পরীক্ষায় দেখা যায়, স্পষ্টভাবে নিষেধ করা সত্ত্বেও মডেলটি স্মৃতি থেকে কম্পিউটার কোড পুনরুৎপাদন করেছে। অর্থাৎ, সঠিক উত্তর দেওয়ার পাশাপাশি পরীক্ষার নির্ধারিত নিয়মও লঙ্ঘন করেছে এটি।
গবেষকেরা এ ধরনের আচরণকে ‘রিওয়ার্ড হ্যাকিং’ হিসেবে বর্ণনা করেছেন। এ ক্ষেত্রে কাঙ্ক্ষিত ফল অর্জনের চেষ্টা করতে গিয়ে এআই নির্ধারিত নিয়ম বা নির্দেশনা উপেক্ষা করতে পারে।
উন্মুক্ত এআই মডেল নিয়ে বাড়ছে উদ্বেগ
জিএলএম-৫.৩ একটি ‘ওপেন-ওয়েট’ মডেল। এ ধরনের মডেলের প্রশিক্ষিত ওজন ডাউনলোড করে ব্যবহার, পরিবর্তন এবং নিজস্ব পরিবেশে পরিচালনা করা যায়। তুলনামূলক কম খরচে ব্যবহার এবং প্রয়োজন অনুযায়ী পরিবর্তনের সুযোগ থাকায় বিশ্বজুড়ে এ ধরনের মডেলের জনপ্রিয়তা বাড়ছে। তবে একই সঙ্গে এগুলোর অপব্যবহার প্রতিরোধ করাও কঠিন হতে পারে।
প্রতিবেদন অনুযায়ী, সফটওয়্যারের দুর্বলতা কাজে লাগিয়ে কার্যকর আক্রমণ তৈরির একটি পরীক্ষায় জিএলএম-৫.৩-এর সাফল্যের হার ছিল ১২ শতাংশ। অন্যদিকে, অ্যানথ্রোপিকের সাইবার নিরাপত্তা মডেল মিথোসের ক্ষেত্রে এ হার ছিল ১৪ শতাংশ। জিএলএম-৫.৩-এর নিরাপত্তাব্যবস্থা তুলনামূলক সহজ কৌশলেও এড়িয়ে যাওয়া সম্ভব বলে জানিয়েছে অ্যানথ্রোপিক।
প্রযুক্তি গবেষণা প্রতিষ্ঠান ওমডিয়ার প্রধান বিশ্লেষক লিয়ান জে সু বলেছেন, চীনের এআই শিল্পে আরও শক্তিশালী নিয়ন্ত্রণব্যবস্থা ও নিরাপত্তা পরীক্ষা প্রয়োজন। তাঁর মতে, দেশটির শীর্ষ এআই গবেষণাগারগুলোর এ বিষয়ে সংশোধনমূলক পদক্ষেপ নেওয়া উচিত।
গবেষকদের পর্যবেক্ষণ অনুযায়ী, এআই মডেলের সক্ষমতা বৃদ্ধির সঙ্গে সঙ্গে সাইবার নিরাপত্তা, নির্দেশনা মেনে চলা এবং অপব্যবহার প্রতিরোধের বিষয়গুলোও গুরুত্বের সঙ্গে বিবেচনা করা প্রয়োজন।