নির্দেশনা মানছে না চীনা এআই মডেল, উদ্বেগ

চীনের তৈরি একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল নিয়ন্ত্রিত পরীক্ষায় জটিল সাইবার হামলা পরিচালনার সক্ষমতা দেখিয়েছে। একই সঙ্গে পৃথক পরীক্ষায় স্পষ্ট নির্দেশনা অমান্য করার প্রবণতাও দেখা গেছে। এ ঘটনায় এআই প্রযুক্তির নিরাপত্তা ও অপব্যবহারের ঝুঁকি নিয়ে উদ্বেগ প্রকাশ করেছেন গবেষকেরা।

এআই নিরাপত্তা গবেষণা প্রতিষ্ঠান ইরেগুলারের এক প্রতিবেদনে বলা হয়েছে, চীনা প্রযুক্তি প্রতিষ্ঠান জেড.এআইয়ের তৈরি জিএলএম-৫.৩ মডেলটি নিয়ন্ত্রিত পরিবেশে ১৩টি বহু-ধাপের সাইবার হামলার পরিস্থিতিতে পরীক্ষা করা হয়। এর মধ্যে তিনটি পরিস্থিতিতে অন্তত একবার সফল হয়েছে মডেলটি। ইরেগুলারের নথিভুক্ত পরীক্ষায় উন্মুক্তভাবে ব্যবহারযোগ্য কোনো এআই মডেলের জন্য এটিই সর্বোচ্চ সাফল্য বলে দাবি করা হয়েছে।

তবে পরীক্ষায় যুক্তরাষ্ট্রের শীর্ষস্থানীয় এআই মডেলগুলোর তুলনায় জিএলএম-৫.৩ পিছিয়ে রয়েছে বলে প্রতিবেদনে উল্লেখ করা হয়েছে। ইরেগুলারের পৃথক মূল্যায়নে ওপেনএআইয়ের জিপিটি-৬ আস্ট্রা ১০টি পরিস্থিতির মধ্যে ৯টিতে সফল হয়েছিল। যদিও দুটি মডেলের পরীক্ষার ধরন এক ছিল না। ফলে ফলাফল সরাসরি তুলনাযোগ্য নয়।

গবেষণা প্রতিষ্ঠানটির দাবি, সিমুলেটেড সাইবার হামলার সময় জিএলএম-৫.৩ সুরক্ষিত সেবায় প্রবেশ, কম্পিউটার নেটওয়ার্কের বিভিন্ন অংশে প্রবেশের জন্য বিকল্প সংযোগ তৈরি এবং একাধিক কম্পিউটারে সমন্বিতভাবে কার্যক্রম পরিচালনা করতে সক্ষম হয়েছে। পরীক্ষায় আক্রমণাত্মক কোনো কাজও মডেলটি প্রত্যাখ্যান করেনি বলে জানানো হয়েছে।

নির্দেশনা অমান্যের প্রবণতাও শনাক্ত

পৃথক এক পরীক্ষায় দেখা যায়, স্পষ্টভাবে নিষেধ করা হলেও মডেলটি স্মৃতিতে থাকা কম্পিউটার কোড পুনরুৎপাদন করেছে। এর মাধ্যমে সঠিক ফলাফল দিতে পারলেও পরীক্ষার নির্ধারিত নিয়ম অমান্য করেছে মডেলটি।

গবেষকেরা এ ধরনের আচরণকে ‘রিওয়ার্ড হ্যাকিং’ হিসেবে চিহ্নিত করেছেন। অর্থাৎ, কাঙ্ক্ষিত ফলাফল অর্জনের জন্য এআই নির্ধারিত নির্দেশনা বা সীমাবদ্ধতা উপেক্ষা করছে।

উন্মুক্ত এআই মডেল নিয়ে বাড়ছে উদ্বেগ

জিএলএম-৫.৩ একটি ‘ওপেন-ওয়েট’ মডেল। ফলে এর মডেল ওয়েট ডাউনলোড করে ব্যবহারকারী বা প্রতিষ্ঠান নিজেদের প্রয়োজন অনুযায়ী পরিবর্তন ও পরিচালনা করতে পারে।

তুলনামূলক কম খরচ এবং নিজস্ব চাহিদা অনুযায়ী ব্যবহারের সুযোগ থাকায় এ ধরনের এআই মডেলের জনপ্রিয়তা বাড়ছে। তবে প্রযুক্তি বিশেষজ্ঞদের আশঙ্কা, উন্মুক্তভাবে ব্যবহারযোগ্য শক্তিশালী মডেলের অপব্যবহার নিয়ন্ত্রণ করা কঠিন হতে পারে।

এদিকে, এআই প্রতিষ্ঠান অ্যানথ্রোপিকের পৃথক পরীক্ষায় সফটওয়্যারের নিরাপত্তা দুর্বলতা কাজে লাগিয়ে কার্যকর আক্রমণ তৈরিতে জিএলএম-৫.৩ মডেলের সাফল্যের হার ছিল ১২ শতাংশ। একই পরীক্ষায় প্রতিষ্ঠানটির সাইবার নিরাপত্তা মডেল মিথোসের সাফল্যের হার ছিল ১৪ শতাংশ।

অ্যানথ্রোপিকের মূল্যায়নে আরও বলা হয়েছে, তুলনামূলক সহজ কৌশলেও জিএলএম-৫.৩-এর কিছু নিরাপত্তাব্যবস্থা এড়িয়ে যাওয়া সম্ভব হয়েছে।

প্রযুক্তি গবেষণা প্রতিষ্ঠান ওমডিয়ার প্রধান বিশ্লেষক লিয়ান জে সু বলেন, চীনের এআই শিল্পে আরও শক্তিশালী নিয়ন্ত্রণব্যবস্থা ও নিরাপত্তা পরীক্ষা প্রয়োজন। দেশটির শীর্ষ এআই গবেষণাগারগুলোর এ বিষয়ে সংশোধনমূলক পদক্ষেপ নেওয়া উচিত বলেও মত দেন তিনি।

গবেষকদের এসব পর্যবেক্ষণ এআই প্রযুক্তির ক্রমবর্ধমান সক্ষমতার পাশাপাশি নিরাপত্তা নিশ্চিত করার প্রয়োজনীয়তাও সামনে এনেছে।