এআইকে অন্ধভাবে বিশ্বাস করা বিপজ্জনক: সত্য নাদেলা
কৃত্রিম বুদ্ধিমত্তার (এআই) সক্ষমতা দ্রুত বাড়ার সঙ্গে সঙ্গে এর নিরাপত্তা নিয়েও উদ্বেগ তৈরি হচ্ছে। বিশেষ করে প্রতিষ্ঠানের গোপন তথ্য ব্যবহারের পাশাপাশি গুরুত্বপূর্ণ সিদ্ধান্ত বাস্তবায়নের ক্ষমতা পাওয়ায় এআইয়ের ওপর অতিরিক্ত নির্ভরতা বড় ধরনের ঝুঁকি তৈরি করতে পারে বলে সতর্ক করেছেন মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা (সিইও) সত্য নাদেলা।
সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে ‘মডেলস অ্যাজ ইনসাইডার রিস্কস ইন দ্য সুপার ইন্টেলিজেন্স এরা’ শিরোনামের একটি পোস্টে এআই ব্যবহারে কঠোর নিরাপত্তাব্যবস্থা নিশ্চিত করার ওপর গুরুত্ব দেন তিনি। ভারতীয় সংবাদমাধ্যম ইন্ডিয়া টুডের এক প্রতিবেদনে এ তথ্য জানানো হয়েছে।
নাদেলার মতে, কৃত্রিম বুদ্ধিমত্তার ব্যবহার এখন আর শুধু প্রশ্নের উত্তর দেওয়া, ইমেইল লেখা কিংবা ছবি তৈরির মধ্যে সীমাবদ্ধ নেই। আধুনিক এআই এজেন্ট প্রতিষ্ঠানের গুরুত্বপূর্ণ তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা এবং মানুষের সীমিত তত্ত্বাবধানে বিভিন্ন কাজ সম্পন্ন করতে সক্ষম হচ্ছে।
এসব প্রযুক্তি কাজের গতি ও দক্ষতা বাড়ালেও ভুল সিদ্ধান্ত, অননুমোদিত কার্যক্রম এবং সংবেদনশীল তথ্যের নিরাপত্তা বিঘ্নিত হওয়ার আশঙ্কাও তৈরি করছে।
সাধারণ সফটওয়্যারে ত্রুটি দেখা দিলে নির্দিষ্ট কোড পরীক্ষা করে অনেক ক্ষেত্রে সমস্যার উৎস শনাক্ত করা সম্ভব। কিন্তু কৃত্রিম বুদ্ধিমত্তা কোনো সিদ্ধান্ত কেন নিয়েছে বা নির্দিষ্ট কাজ কীভাবে সম্পন্ন করেছে, তা সব সময় সহজে ব্যাখ্যা করা যায় না।
ফলে এআইয়ের ভুলের কারণ শনাক্ত করা এবং সম্ভাব্য ক্ষতি নিয়ন্ত্রণ করা কঠিন হয়ে উঠতে পারে। এ কারণে শুধু এআই নির্মাতা প্রতিষ্ঠানের নিরাপত্তাসংক্রান্ত আশ্বাসের ওপর নির্ভর না করে ব্যবহারকারী প্রতিষ্ঠানগুলোকেও নিজস্ব সুরক্ষাব্যবস্থা গড়ে তোলার পরামর্শ দিয়েছেন নাদেলা।
মাইক্রোসফটের সিইওর মতে, এআইয়ের কোনো কাজ বোঝার সক্ষমতা এবং সেই কাজ বাস্তবায়নের অনুমতিকে আলাদা রাখতে হবে।
উদাহরণ হিসেবে তিনি উল্লেখ করেন, কোনো এআই ব্যবস্থা আর্থিক লেনদেনের পরামর্শ দিতে কিংবা গোপন নথি বিশ্লেষণ করতে সক্ষম হতে পারে। তবে সেই সক্ষমতার অর্থ এই নয় যে, তাকে স্বয়ংক্রিয়ভাবে লেনদেন সম্পন্ন করা বা সব ধরনের গোপন তথ্য ব্যবহারের অনুমতি দিতে হবে।
এ জন্য এআই কোন তথ্য ব্যবহার করতে পারবে এবং কী ধরনের কাজ সম্পন্ন করতে পারবে, তা নির্ধারণে পৃথক নিরাপত্তাব্যবস্থা থাকা প্রয়োজন।
একই সঙ্গে গুরুত্বপূর্ণ কাজের অনুমতি নিয়ন্ত্রণ, এআইয়ের কার্যক্রমের রেকর্ড সংরক্ষণ এবং অনাকাঙ্ক্ষিত আচরণ দ্রুত শনাক্ত করার ব্যবস্থা রাখতে হবে। প্রয়োজনে অনুমোদিত ব্যক্তিরা যেন এআই এজেন্টের কার্যক্রম তাৎক্ষণিক বন্ধ করতে পারেন, সেটিও নিশ্চিত করা জরুরি।
নাদেলা সতর্ক করে বলেন, একটি এআই মডেলের কাজ আরেকটি মডেল দিয়ে যাচাই করলেই পূর্ণ নিরাপত্তা নিশ্চিত হয় না। স্বাধীন যাচাইব্যবস্থা না থাকলে একাধিক মডেল একই ধরনের ভুল শনাক্ত করতে ব্যর্থ হতে পারে।
তাই এআইয়ের কার্যক্রম পর্যবেক্ষণ, ব্যবহারের অনুমতি সীমিত রাখা এবং সমস্যা দেখা দিলে দ্রুত নিয়ন্ত্রণ নেওয়ার মতো ব্যবস্থা গড়ে তোলার ওপর গুরুত্ব দেন তিনি।
এআই ব্যবস্থায় কোনো ত্রুটি, অনাকাঙ্ক্ষিত আচরণ কিংবা নিরাপত্তা লঙ্ঘনের ঘটনা ঘটলে তা গোপন না রেখে সময়মতো প্রকাশের প্রয়োজনীয়তার কথাও তুলে ধরেছেন নাদেলা।
তাঁর মতে, এ ধরনের তথ্য প্রকাশ করা হলে অন্য প্রতিষ্ঠানগুলো সম্ভাব্য ঝুঁকি সম্পর্কে সচেতন হতে এবং প্রয়োজনীয় প্রতিরোধমূলক ব্যবস্থা নিতে পারবে।
মাইক্রোসফটের প্রধান নির্বাহীর বক্তব্যের মূল বার্তা হলো, কৃত্রিম বুদ্ধিমত্তা যত উন্নতই হোক, তার ওপর নিয়ন্ত্রণহীনভাবে নির্ভর করা নিরাপদ নয়। বরং এমন সুরক্ষাব্যবস্থা নিশ্চিত করতে হবে, যাতে এআই ভুল করলেও তা বড় ধরনের ক্ষতির কারণ হয়ে না দাঁড়ায়।
