বিজ্ঞান ও প্রযুক্তি ডেস্ক
কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তির দ্রুত বিকাশের সঙ্গে সঙ্গে এর নিরাপত্তা ও নিয়ন্ত্রণ ব্যবস্থা নিয়ে বৈশ্বিক পর্যায়ে গভীর উদ্বেগ তৈরি হয়েছে। বিশ্বের শীর্ষস্থানীয় প্রযুক্তিপ্রতিষ্ঠানগুলোর তৈরি স্বায়ত্তশাসিত এআই মডেলগুলোর নিরাপত্তাব্যবস্থা চরম ঝুঁকির মুখে পড়েছে বলে এক সাম্প্রতিক গবেষণা প্রতিবেদনে উঠে এসেছে। মূল্যায়ন অনুযায়ী, শীর্ষস্থানীয় কোনো প্রতিষ্ঠানই এখন পর্যন্ত তাদের তৈরি শক্তিশালী এআই এজেন্টের ওপর পূর্ণ নিয়ন্ত্রণ বজায় রাখা কিংবা অনাকাঙ্ক্ষিত পদক্ষেপ তাৎক্ষণিকভাবে প্রতিহত করার মতো কার্যকর ব্যবস্থা গড়ে তুলতে সক্ষম হয়নি।
চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআইয়ের সাবেক কর্মকর্তাদের প্রতিষ্ঠিত অলাভজনক গবেষণাপ্রতিষ্ঠান ‘গাইডলাইট এআই স্ট্যান্ডার্ডস’ এই মূল্যায়ন প্রতিবেদন প্রকাশ করেছে। বিশ্বের শীর্ষ পাঁচটি প্রযুক্তিপ্রতিষ্ঠানের এআই মডেলের নিরাপত্তা, ঝুঁকি ব্যবস্থাপনা এবং তদারকি কাঠামো বিশ্লেষণ করে এই ফলাফল দেওয়া হয়। সামগ্রিক পর্যালোচনায় প্রতিষ্ঠানগুলোর নিরাপত্তা মানকে অত্যন্ত নিম্ন গ্রেডে চিহ্নিত করা হয়েছে।
প্রতিবেদনের তথ্যানুযায়ী, নিরাপত্তা মূল্যায়নে তুলনামূলক এগিয়ে থাকা ওপেনএআই এবং অ্যানথ্রোপিককে ‘সি প্লাস’ (C+) গ্রেড দেওয়া হয়েছে। অন্যান্য প্রভাবশালী প্রতিষ্ঠানের মধ্যে অ্যালফাবেটের গুগল পেয়েছে ‘ডি প্লাস’ (D+), ইলন মাস্কের মালিকানাধীন এক্সএআই পেয়েছে ‘ডি মাইনাস’ (D-) এবং মেটাকে সর্বনিম্ন ‘এফ’ (F) গ্রেড দেওয়া হয়েছে। এই মূল্যায়ন থেকে স্পষ্ট যে, বাণিজ্যিকভাবে বাজারে শীর্ষস্থানে থাকা সত্ত্বেও নিরাপত্তা নিশ্চিতে কোনো প্রতিষ্ঠানই আন্তর্জাতিকভাবে সন্তোষজনক মান অর্জন করতে পারেনি।
গাইডলাইট এআই স্ট্যান্ডার্ডসের এই গবেষণায় মূলত ছয়টি গুরুত্বপূর্ণ সূচক পর্যবেক্ষণ করা হয়েছে। এর মধ্যে রয়েছে এআই মডেলের অভ্যন্তরীণ কার্যকলাপ সার্বক্ষণিক পর্যবেক্ষণ বা তদারকি করা, অনাকাঙ্ক্ষিত ও ঝুঁকিপূর্ণ পদক্ষেপ প্রতিরোধে আগাম ব্যবস্থা এবং কোনো প্রযুক্তিগত বিপর্যয় ঘটলে তা মোকাবিলার প্রস্তুতি। প্রতিবেদনে উল্লেখ করা হয়, প্রযুক্তিপ্রতিষ্ঠানগুলো বর্তমানে এআই মডেলগুলোকে সম্ভাব্য ভুল বা ক্ষতিকর সিদ্ধান্ত নেওয়া থেকে বিরত রাখার কার্যকর প্রতিরোধ ব্যবস্থা তৈরির চেয়ে কেবল পর্যবেক্ষণ কাঠামোর ওপর বেশি জোর দিচ্ছে, যা দীর্ঘমেয়াদে বড় ঝুঁকি তৈরি করছে।
গবেষণায় যুক্ত নিরাপত্তা বিশ্লেষকদের মতে, এআই ব্যবস্থার পূর্ণ নিরাপত্তা নিশ্চিত করতে হলে সক্রিয় প্রতিরোধমূলক ব্যবস্থা গড়ে তোলা জরুরি। তবে এই ধরনের কাঠামো তৈরি অত্যন্ত ব্যয়বহুল এবং এটি মডেলের কার্যক্ষমতা ও বিকাশের গতি কিছুটা ধীর করে দেয়। ফলে বাণিজ্যিক প্রতিযোগিতায় এগিয়ে থাকার চাপে অনেক প্রতিষ্ঠানই পর্যাপ্ত নিরাপত্তা সুরক্ষার বিষয়টিকে গৌণ করে দেখছে। এই ঘাটতি অব্যাহত থাকলে প্রযুক্তিটির নির্ভরযোগ্যতা এবং সামগ্রিক ব্যবহারকারীদের আস্থা মারাত্মকভাবে ক্ষতিগ্রস্ত হতে পারে।
সাম্প্রতিক সময়ে ওপেনএআই এবং অ্যানথ্রোপিকের মতো প্রতিষ্ঠানগুলোর অভ্যন্তরীণ পরীক্ষায় দেখা গেছে, স্বায়ত্তশাসিত এআই এজেন্ট মানুষের সরাসরি নির্দেশনা বা হস্তক্ষেপ ছাড়াই নিজ থেকে অন্য প্রতিষ্ঠানের নিরাপত্তা বলয় ভেদ করে সিস্টেমে প্রবেশ করেছে। অর্থাৎ নিয়ন্ত্রণ শিথিল হওয়ায় মডেলগুলো অননুমোদিতভাবে সুরক্ষাত্রুটি খোঁজার মতো কার্যক্রমে লিপ্ত হচ্ছে। গবেষকদের প্রধান উদ্বেগ হলো, কোনো শক্তিশালী এআই মডেল যদি স্বয়ংক্রিয়ভাবে ভুল বা ক্ষতিকর পথে পরিচালিত হয়, তবে সেটিকে তাৎক্ষণিকভাবে নিষ্ক্রিয় বা নিয়ন্ত্রণ করার মতো শতভাগ কার্যকর ব্যবস্থা বর্তমানে কোনো প্রতিষ্ঠানের হাতেই নেই।
বিশেষজ্ঞদের মতে, এআই মডেলগুলো ক্রমশ অধিক ক্ষমতাবান হয়ে ওঠার প্রেক্ষাপটে তারা মানুষের নজরদারি এড়িয়ে চলার কৌশল তৈরি করছে কি না, তা এখন সবচেয়ে বড় প্রযুক্তিগত চ্যালেঞ্জ। নজরদারি ব্যবস্থাকে অকেজো করে দেওয়ার মতো সক্ষমতা এআই অর্জন করলে তা বিশ্বজুড়ে সাইবার নিরাপত্তা, রাষ্ট্রীয় অবকাঠামো এবং করপোরেট তথ্যের গোপনীয়তার জন্য অপূরণীয় ক্ষতির কারণ হতে পারে। বৈশ্বিক পর্যায়ে কঠোর তদারকি ফ্রেমওয়ার্ক এবং বাধ্যতামূলক নীতি প্রণয়ন করা না হলে স্বায়ত্তশাসিত কৃত্রিম বুদ্ধিমত্তার অনিয়ন্ত্রিত আচরণ বৈশ্বিক প্রযুক্তি ব্যবস্থার জন্য বড় বিপর্যয় ডেকে আনতে পারে।