তথ্যপ্রযুক্তি ডেস্ক:
নতুন একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল অক্টোবর মাসে প্রকাশের পরিকল্পনা করেছিল ওপেনএআই। তবে নিরাপত্তা পরীক্ষায় মডেলটির আচরণ নিয়ে উদ্বেগ দেখা দেওয়ায় আপাতত সেটি প্রকাশ না করার সিদ্ধান্ত নিয়েছে প্রতিষ্ঠানটি। প্রযুক্তিবিষয়ক ওয়েবসাইট টেকক্রাঞ্চ ও ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে এ তথ্য জানানো হয়েছে।
প্রতিবেদন অনুযায়ী, ‘অ্যাস্ট্রা ৬.১’ নামের মডেলটি আগামী কয়েক দিনের মধ্যেই প্রকাশের পরিকল্পনা ছিল। কিন্তু পরীক্ষার সময় আগের সংস্করণগুলোর তুলনায় মডেলটির মধ্যে বেশি ‘প্রতারণামূলক আচরণ’ দেখা যায়। পাশাপাশি কিছু অনিরাপদ আচরণও শনাক্ত করা হয়েছে বলে প্রতিবেদনে উল্লেখ করা হয়।
ওয়াল স্ট্রিট জার্নালকে ওপেনএআইয়ের নিরাপত্তা ব্যবস্থার প্রধান সাচি জেইন জানিয়েছেন, মডেলটি এআইয়ের ‘অ্যালাইনমেন্ট’ পরীক্ষায় প্রত্যাশিত ফল করতে পারেনি। এই পরীক্ষার মাধ্যমে একটি এআই ব্যবস্থা মানুষের নির্দেশনা ও উদ্দেশ্য কতটা সঠিকভাবে অনুসরণ করছে, তা যাচাই করা হয়।
অ্যাস্ট্রা সিরিজের আগের মডেলটি চলতি মাসের শুরুতে প্রকাশ করেছিল ওপেনএআই। তখন প্রতিষ্ঠানটি মডেলটিকে তাদের সবচেয়ে শক্তিশালী এআই মডেল হিসেবে তুলে ধরেছিল। তবে নতুন সংস্করণ প্রকাশের আগে নিরাপত্তা পরীক্ষায় পাওয়া ফলাফল প্রকাশ পরিকল্পনায় পরিবর্তন আনতে প্রতিষ্ঠানটিকে বাধ্য করেছে বলে প্রতিবেদনে বলা হয়েছে।
নতুন মডেলটি নিয়ে জানতে ওপেনএআইয়ের কাছে মন্তব্য চেয়েছে টেকক্রাঞ্চ। তবে প্রতিবেদন প্রকাশের সময় পর্যন্ত প্রতিষ্ঠানটির পক্ষ থেকে কোনো বক্তব্য পাওয়া যায়নি।
এদিকে, এআই ব্যবস্থার নিরাপত্তা নিয়ে সাম্প্রতিক সময়ে প্রযুক্তি খাতে উদ্বেগ বাড়ছে। এর আগে একটি ঘটনায় ওপেনএআইয়ের একটি এআই ব্যবস্থা নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে বিভিন্ন প্রতিষ্ঠানের ব্যবস্থায় অননুমোদিত প্রবেশের চেষ্টা করেছিল বলে প্রতিবেদন প্রকাশিত হয়। পরবর্তী সময়ে অ্যানথ্রপিকের ক্লড ও গুগলের জেমিনিসহ আরও কয়েকটি এআই ব্যবস্থার ক্ষেত্রেও একই ধরনের আচরণের কথা জানা যায়।
এ ধরনের ঘটনাকে কেন্দ্র করে এআই ব্যবস্থার নিরাপত্তা, নিয়ন্ত্রণ এবং ব্যবহারের সীমা নিয়ে নতুন করে আলোচনা শুরু হয়েছে। যুক্তরাষ্ট্রেও এআই নিরাপত্তা নিশ্চিত করতে শিল্প খাতের জন্য নতুন মানদণ্ড তৈরির আলোচনা জোরালো হয়েছে।
ওপেনএআই ও অ্যানথ্রপিকসহ কয়েকটি প্রতিষ্ঠান এআই নিরাপত্তাকে এসব উদ্যোগের অন্যতম কারণ হিসেবে তুলে ধরেছে। তবে সমালোচকদের কেউ কেউ মনে করেন, কঠোর নিরাপত্তা মানদণ্ড কার্যকর হলে বড় এআই প্রতিষ্ঠানগুলো তুলনামূলক সুবিধা পেতে পারে। তাদের মতে, ছোট প্রতিষ্ঠানগুলোর জন্য একই ধরনের নিরাপত্তাব্যবস্থা তৈরি ও বাস্তবায়নের ব্যয় তুলনামূলক বেশি হতে পারে।