এআই নিরাপত্তা নিয়ে উদ্বেগ, ওপেনএআই কর্মীর পদত্যাগ

এআই নিরাপত্তা নিয়ে উদ্বেগ প্রকাশ করে ওপেনএআইয়ের এক সাবেক নিরাপত্তাকর্মী পদত্যাগ করেছেন। দ্রুত এআই উন্নয়নের সংস্কৃতি প্রতিষ্ঠানটির নিরাপত্তাঝুঁকি বাড়াচ্ছে বলে অভিযোগ করেছেন তিনি।

রয়টার্সের প্রতিবেদনে বলা হয়েছে, ডেভিড রবিনসন নামে ওই সাবেক কর্মী সম্প্রতি ওপেনএআই ছেড়েছেন। শনিবার প্রকাশিত দ্য আটলান্টিকে লেখা এক নিবন্ধে তিনি বলেন, উন্নত এআই সিস্টেম তৈরির আগে এআই প্রতিষ্ঠানগুলোর, বিশেষ করে ওপেনএআইয়ের, নিরাপত্তা গবেষণা ও বিশেষজ্ঞদের মতামতকে আরও বেশি গুরুত্ব দেওয়া প্রয়োজন।

রবিনসনের ভাষ্য, ‘পরীক্ষা-নিরীক্ষার সময় শেষ।’ তার মতে, উন্নত এআই ব্যবস্থার ক্ষেত্রে পারমাণবিক বিদ্যুৎ ও উড়োজাহাজ শিল্পের মতো কঠোর নিরাপত্তাব্যবস্থা অনুসরণ করা প্রয়োজন।

ওপেনএআই বর্তমানে ‘ইটারেটিভ ডিপ্লয়মেন্ট’ পদ্ধতির ওপর অনেকটাই নির্ভর করে। এই পদ্ধতিতে নতুন এআই সিস্টেম ব্যবহারকারীদের জন্য উন্মুক্ত করার পর কোনো সমস্যা দেখা দিলে ধাপে ধাপে নিরাপত্তাব্যবস্থা আরও শক্তিশালী করা হয়। তবে রবিনসনের মতে, শক্তিশালী এআই সিস্টেমের ক্ষেত্রে এ ধরনের পদ্ধতি যথেষ্ট নাও হতে পারে।

ওপেনএআইয়ে প্রায় সাড়ে তিন বছর কাজ করেছেন রবিনসন। এ সময় তিনি প্রতিষ্ঠানটির ‘প্রিপেয়ার্ডনেস ফ্রেমওয়ার্ক’ তৈরিতে কাজ করেন এবং ১২টি অত্যাধুনিক এআই মডেল উন্মোচনের নিরাপত্তা প্রতিবেদন তদারক করেন।

রবিনসনের দাবি, একের পর এক নতুন মডেল উন্মোচনের প্রতিযোগিতায় ওপেনএআই প্রয়োজনীয় মাত্রার সতর্কতা বজায় রাখতে পারছে না। একই সঙ্গে এআইয়ের সক্ষমতা গবেষকদের এআই অ্যালাইনমেন্ট—অর্থাৎ মানুষের লক্ষ্য ও মূল্যবোধের সঙ্গে এআইয়ের আচরণ সামঞ্জস্য রাখার বিষয়টি বোঝার সক্ষমতার চেয়েও দ্রুত এগিয়ে যাচ্ছে বলে সতর্ক করেন তিনি।

তবে ওপেনএআই বলেছে, এআই মডেলগুলো যাতে সেগুলোকে নিরাপদভাবে নিয়ন্ত্রণ ও সুরক্ষিত রাখার সক্ষমতার চেয়ে বেশি শক্তিশালী হয়ে না ওঠে, তা নিশ্চিত করতে প্রতিষ্ঠানটি কাজ করছে। প্রয়োজন হলে কোনো মডেলের প্রশিক্ষণ বন্ধ করা বা সেটির উন্মোচন পিছিয়ে দেওয়ার সিদ্ধান্তও নেওয়া হয় বলে জানিয়েছে প্রতিষ্ঠানটি।

শক্তিশালী এআই মডেল দ্রুত উন্নয়নের পাশাপাশি প্রযুক্তিটির নিরাপত্তা নিয়ে বিশ্বজুড়ে উদ্বেগ বাড়ার মধ্যেই রবিনসনের এই মন্তব্য সামনে এলো।