চীনা প্রযুক্তি প্রতিষ্ঠান জেড.এআইয়ের তৈরি কৃত্রিম বুদ্ধিমত্তার মডেল জিএলএম-৫.৩ জটিল সাইবার হামলার সক্ষমতা দেখিয়েছে। একই সঙ্গে পৃথক পরীক্ষায় নির্দেশনা অমান্য করার প্রবণতাও দেখা গেছে মডেলটির মধ্যে। এ নিয়ে উদ্বেগ প্রকাশ করেছে এআই নিরাপত্তা গবেষণা প্রতিষ্ঠান ইরেগুলার।

প্রতিষ্ঠানটির প্রতিবেদনে বলা হয়েছে, নিয়ন্ত্রিত পরিবেশে ১৩টি বহু-ধাপের সাইবার হামলার পরিস্থিতিতে পরীক্ষা চালিয়ে অন্তত একবার তিনটিতে সফল হয়েছে জিএলএম-৫.৩। ইরেগুলারের দাবি, উন্মুক্তভাবে ব্যবহারযোগ্য এআই মডেলের ক্ষেত্রে তাদের নথিভুক্ত পরীক্ষায় এটি সর্বোচ্চ সাফল্য।

তবে যুক্তরাষ্ট্রের শীর্ষস্থানীয় এআই মডেলগুলোর তুলনায় জিএলএম-৫.৩ পিছিয়ে রয়েছে বলে প্রতিবেদনে উল্লেখ করা হয়েছে। ইরেগুলারের পৃথক মূল্যায়নে ওপেনএআইয়ের জিপিটি-৬ আস্ট্রা ১০টি পরিস্থিতির মধ্যে ৯টিতে সফল হয়েছিল। তবে দুই মডেলের পরীক্ষা একই ধরনের ছিল না।

গবেষকদের ভাষ্য অনুযায়ী, সিমুলেটেড হামলার সময় জিএলএম-৫.৩ সুরক্ষিত সেবায় প্রবেশ, কম্পিউটার নেটওয়ার্কে চলাচলের জন্য বিকল্প সংযোগ তৈরি এবং একাধিক কম্পিউটারে সমন্বিতভাবে কার্যক্রম পরিচালনা করতে পেরেছে। পরীক্ষায় মডেলটি আক্রমণাত্মক কোনো কাজ প্রত্যাখ্যান করেনি বলেও প্রতিবেদনে দাবি করা হয়েছে।

পৃথক পরীক্ষায় স্পষ্টভাবে নিষেধ করার পরও মডেলটি স্মৃতি থেকে কম্পিউটার কোড পুনরুৎপাদন করেছে। গবেষকেরা এ আচরণকে ‘রিওয়ার্ড হ্যাকিং’ হিসেবে বর্ণনা করেছেন। অর্থাৎ, কাঙ্ক্ষিত ফল অর্জন করতে গিয়ে এআই নির্ধারিত নির্দেশনা বা নিয়ম উপেক্ষা করতে পারে।

‘ওপেন-ওয়েট’ মডেল হওয়ায় জিএলএম-৫.৩ ডাউনলোড, পরিবর্তন ও নিজস্ব ব্যবস্থায় পরিচালনা করা যায়। তুলনামূলক কম খরচে ব্যবহার এবং প্রয়োজন অনুযায়ী পরিবর্তনের সুযোগ থাকায় এ ধরনের মডেল জনপ্রিয় হচ্ছে। তবে এগুলোর অপব্যবহার ঠেকানো কঠিন হতে পারে বলে উদ্বেগ রয়েছে।

অন্যদিকে, অ্যানথ্রোপিকের এক পরীক্ষায় সফটওয়্যারের দুর্বলতা কাজে লাগিয়ে কার্যকর আক্রমণ তৈরিতে জিএলএম-৫.৩-এর সাফল্যের হার ছিল ১২ শতাংশ। প্রতিষ্ঠানটির সাইবার নিরাপত্তা মডেল মিথোসের ক্ষেত্রে এ হার ছিল ১৪ শতাংশ। অ্যানথ্রোপিকের মূল্যায়নে আরও বলা হয়েছে, তুলনামূলক সহজ কৌশল ব্যবহার করেও জিএলএম-৫.৩-এর নিরাপত্তাব্যবস্থা এড়িয়ে যাওয়া সম্ভব।

প্রযুক্তি গবেষণা প্রতিষ্ঠান ওমডিয়ার প্রধান বিশ্লেষক লিয়ান জে সু মনে করেন, চীনের এআই শিল্পে আরও শক্তিশালী নিয়ন্ত্রণব্যবস্থা ও নিরাপত্তা পরীক্ষা প্রয়োজন। এ বিষয়ে দেশটির শীর্ষ এআই গবেষণাগারগুলোর সংশোধনমূলক পদক্ষেপ নেওয়া উচিত বলেও মন্তব্য করেছেন তিনি।