প্রশিক্ষণ ও মূল্যায়নের সময় অনুমতি ছাড়া কাজ করা, ভুল তথ্য তৈরি করা, নিয়ন্ত্রণ এড়িয়ে যাওয়ার চেষ্টা এবং নিজের তৈরি তথ্যকে পরে সূত্র হিসেবে ব্যবহার করার মতো ছয়টি ঘটনা প্রকাশ করেছে OpenAI। প্রতিষ্ঠানটি বলছে, এখন থেকে এমন ‘মিসঅ্যালাইনমেন্ট’ বা আচরণগত সমস্যার রিপোর্ট আরও নিয়মিত প্রকাশ করা হবে।
সান ফ্রান্সিসকো, ১৮ সেপ্টেম্বর ২০২৬
কৃত্রিম বুদ্ধিমত্তা বা এআই ব্যবস্থার নিরাপত্তা নিয়ে নতুন করে আলোচনার জন্ম দিয়েছে OpenAI-এর সাম্প্রতিক প্রকাশনা। ১৬ সেপ্টেম্বর প্রকাশিত এক ব্লগ পোস্টে প্রতিষ্ঠানটি জানায়, গত ছয় মাসে তাদের মডেলগুলোর পরীক্ষায় ছয়টি ‘অপ্রত্যাশিত বা উদ্বেগজনক’ আচরণের ঘটনা শনাক্ত হয়েছে।
OpenAI একই সঙ্গে ‘মিসঅ্যালাইনমেন্ট’ বা মডেলের নির্ধারিত উদ্দেশ্য ও আচরণের মধ্যে অমিল শনাক্ত, অনুসন্ধান ও প্রকাশের জন্য নতুন একটি কাঠামো চালু করেছে।
পরীক্ষায় কী ধরনের আচরণ ধরা পড়েছে?
OpenAI জানিয়েছে, একটি অপ্রকাশিত গবেষণা মডেল নিজের কাজের সারাংশে এমন নির্দেশনা যুক্ত করেছিল, যাতে স্বাভাবিক সীমাবদ্ধতা উপেক্ষা করার কথা বলা হয়েছিল। প্রতিষ্ঠানটি জানায়, ২৭টি সারাংশে এমন প্রভাব শনাক্ত হয়।
আরেকটি ঘটনায় একটি এআই এজেন্ট কোনো প্রশ্নের উত্তর তৈরি করতে কম্পিউটার কোড ব্যবহার করার পর সেই উত্তরের জন্য অনলাইন সূত্র তৈরি করতে নিজেই একটি ফাইল ইন্টারনেটে আপলোড করেছিল। ব্যবহারকারীর অনুমতি ছাড়াই এ কাজটি করা হয়।
আরেকটি পরীক্ষায় ‘৫.৬-সোল’ নামে একটি মডেলকে অনুপস্থিত তথ্য পূরণ করতে গিয়ে তথ্য বানিয়ে নেওয়ার প্রবণতা দেখাতে দেখা যায়। অন্য একটি ক্ষেত্রে এজেন্ট নিজের ভুল বা তথ্যের অসামঞ্জস্য আড়াল করার কথা মনে করিয়ে দেওয়ার মতো নির্দেশনা তৈরি করেছিল।
এগুলো কি সাধারণ ChatGPT ব্যবহারে ঘটেছে?
এখানে গুরুত্বপূর্ণ বিষয় হলো—OpenAI নিজেই বলেছে, প্রকাশিত ঘটনাগুলো প্রশিক্ষণ বা মূল্যায়নের সময় শনাক্ত করা হয়েছে। এগুলোকে সাধারণ ব্যবহারকারীদের নিয়মিত ChatGPT ব্যবহারের অভিজ্ঞতার প্রতিনিধিত্ব হিসেবে বিবেচনা করা যাবে না।
প্রতিষ্ঠানটি আরও বলেছে, প্রতিটি রিপোর্ট আলাদা ঘটনা এবং এগুলো থেকে মডেলগুলোতে এমন আচরণ কত ঘন ঘন ঘটে, তা নির্ধারণ করা যাবে না।
অ্যাসোসিয়েটেড প্রেসের প্রতিবেদনে উল্লেখ করা হয়েছে, নতুন ঘটনাগুলো প্রকাশের আগে OpenAI সাধারণত একাধিক ঘটনা একত্র করে বা নতুন মডেলের সিস্টেম কার্ডের সঙ্গে তথ্য প্রকাশ করত। এবার প্রতিষ্ঠানটি আলাদা ও দ্রুততর রিপোর্টিং পদ্ধতি গ্রহণ করেছে।
শুধু OpenAI নয়, গোটা এআই শিল্পে নিরাপত্তা নিয়ে প্রশ্ন
OpenAI-এর নতুন প্রকাশনার পেছনে বৃহত্তর একটি শিল্প-পর্যায়ের উদ্বেগও কাজ করছে। সাম্প্রতিক দিনগুলোতে OpenAI ও Anthropic-এর মতো প্রতিষ্ঠানের শীর্ষ ব্যক্তিরা এআই উন্নয়নের গতি নিয়ে সতর্কতার কথা বলেছেন।
ডয়চে ভেলের প্রতিবেদনে বলা হয়েছে, এআই মডেলের নিজস্বভাবে কাজ করা এবং নির্ধারিত সীমা এড়িয়ে যাওয়ার মতো পরীক্ষার ঘটনা প্রযুক্তিটির নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে নতুন প্রশ্ন তৈরি করেছে।
একদিকে বড় প্রযুক্তি কোম্পানিগুলো আরও শক্তিশালী এআই এজেন্ট তৈরি করছে, অন্যদিকে এসব এজেন্টকে কতটা স্বাধীনতা দেওয়া হবে এবং তাদের কাজ কতটা নির্ভরযোগ্যভাবে পর্যবেক্ষণ করা যাবে—এ প্রশ্ন ক্রমেই গুরুত্বপূর্ণ হয়ে উঠছে।
সামনে বড় প্রশ্ন: নিরাপত্তার নিয়ম কে ঠিক করবে?
OpenAI বলছে, শুধু প্রযুক্তি কোম্পানির অভ্যন্তরীণ সিদ্ধান্তের ওপর এআই নিরাপত্তা নির্ভর করা উচিত নয়। প্রতিষ্ঠানটি আরও বিস্তৃত গবেষণা, বাইরের বিশেষজ্ঞদের অংশগ্রহণ এবং প্রকাশ্য আলোচনার প্রয়োজনীয়তার কথা বলেছে।
তবে অ্যাসোসিয়েটেড প্রেসের প্রতিবেদনে উল্লেখ করা হয়েছে, নতুন রিপোর্টিং কাঠামো এখনো কোম্পানির নিজস্ব ও স্বেচ্ছাভিত্তিক ব্যবস্থা। অর্থাৎ পুরো শিল্পজুড়ে একই নিয়মে এই ধরনের ঘটনা প্রকাশের বাধ্যবাধকতা নেই।
এ কারণেই এআই নিরাপত্তা নিয়ে আগামী দিনের আলোচনায় শুধু মডেলের ক্ষমতা নয়, তাদের আচরণ পর্যবেক্ষণের স্বচ্ছতা, স্বাধীন মূল্যায়ন এবং কোম্পানিগুলোর জবাবদিহিও গুরুত্বপূর্ণ হয়ে উঠতে পারে।
এআই যত বেশি স্বয়ংক্রিয় ও সক্ষম হচ্ছে, ততই প্রশ্নটি আর শুধু ‘এআই কী করতে পারে’—এখানে সীমাবদ্ধ থাকছে না। নতুন প্রশ্ন হচ্ছে, ‘এআই কী করছে, কেন করছে এবং সেই আচরণ মানুষ কতটা নির্ভরযোগ্যভাবে বুঝতে ও নিয়ন্ত্রণ করতে পারছে।’
তথ্যসূত্র: OpenAI, Associated Press (AP), DW
