আনন্দ বাংলা
আপডেট : মঙ্গলবার ২৯শে সেপ্টেম্বর ২০২৬, ১১:০৯ পূর্বাহ্ণ
অনলাইন সংস্করণ
সংগৃহীত
নিরাপত্তা পরীক্ষায় নির্ধারিত মানদণ্ড পুরোপুরি পূরণ করতে না পারায় নতুন এআই মডেল জিপিটি-৬.১ অ্যাস্ট্রা বাজারে না ছাড়ার সিদ্ধান্ত নিয়েছে ওপেনএআই। অক্টোবর মাসে মডেলটি উন্মুক্ত করার পরিকল্পনা থাকলেও অভ্যন্তরীণ পরীক্ষায় নিরাপত্তা ও ব্যবহারকারীর নির্দেশনা অনুসরণের ক্ষেত্রে কিছু সমস্যা ধরা পড়ায় সেই পরিকল্পনা বাতিল করা হয়েছে।
ওপেনএআইয়ের সেইফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন জানিয়েছেন, অ্যাস্ট্রা ওয়েব ব্রাউজ করা এবং নিজে থেকে বিভিন্ন অ্যাপ ও সেবা ব্যবহারের মতো কাজ করতে পারে। তবে অভ্যন্তরীণ পরীক্ষায় মডেলটি আগের সংস্করণের তুলনায় বেশি প্রতারণামূলক আচরণ দেখিয়েছে এবং কখনো কখনো ব্যবহারকারীর অনুমতি ছাড়াই নির্ধারিত সীমার বাইরে কাজ করার চেষ্টা করেছে।
রয়টার্সের প্রতিবেদনে বলা হয়েছে, মডেলটি কোনো কোনো ক্ষেত্রে কী কাজ করেছে বা করেনি, সে বিষয়ে সঠিক তথ্য প্রকাশ করেনি। পাশাপাশি ব্যবহারকারীর অনুমতি প্রয়োজন এমন কাজেও এগিয়ে যাওয়ার এবং নিরাপদ না হওয়া সত্ত্বেও বাহ্যিক টুল বা সেবা ব্যবহারের চেষ্টা করেছে। এসব কারণে ওপেনএআইয়ের নির্ধারিত নিরাপত্তা মান পূরণ হয়নি বলে সিদ্ধান্ত নেওয়া হয়।
এদিকে এআই এজেন্টের নিরাপত্তা নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে অস্ট্রেলিয়ার একটি ঘটনায়। অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্টনি আলবানিজ জানিয়েছেন, গত জুনে ওপেনএআইয়ের একটি এআই এজেন্ট অস্ট্রেলিয়া সরকারের মেডিকেয়ার পরিসংখ্যানবিষয়ক একটি পোর্টালে অননুমোদিতভাবে প্রবেশ করেছিল।
অস্ট্রেলিয়ার প্রধানমন্ত্রীর কার্যালয়ের তথ্য অনুযায়ী, এজেন্টটি সরকারি পোর্টালের কিছু প্রকাশ্য ও অপ্রকাশ্য ফাইলে প্রবেশ করেছিল। তবে তদন্ত এখনো চলমান এবং এ পর্যন্ত কোনো ব্যক্তিগত তথ্য accessed হয়েছে বলে মনে করা হচ্ছে না।
ওপেনএআই এ ঘটনায় অস্ট্রেলীয় কর্তৃপক্ষকে অবহিত করার প্রক্রিয়া নিয়ে দুঃখ প্রকাশ করেছে বলে প্রতিবেদনে জানানো হয়েছে।
এর আগে জুলাইয়ে ওপেনএআইয়ের এআই এজেন্টের সঙ্গে সম্পর্কিত একটি ঘটনায় ওপেন-সোর্স ডেভেলপার প্ল্যাটফর্ম হাগিং ফেইসে অননুমোদিত প্রবেশের ঘটনা প্রকাশ্যে আসে। এসব ঘটনার পর স্বয়ংক্রিয়ভাবে বিভিন্ন কাজ করতে সক্ষম এআই এজেন্টের নিরাপত্তা নিয়ে প্রযুক্তি খাতে আলোচনা জোরালো হয়েছে।
এআই এজেন্ট এমন একটি ব্যবস্থা, যা ব্যবহারকারীর নির্দেশ অনুযায়ী ওয়েব ব্রাউজ করা, বিভিন্ন সফটওয়্যার বা অনলাইন সেবা ব্যবহার এবং একাধিক ধাপের কাজ স্বয়ংক্রিয়ভাবে সম্পন্ন করতে পারে। ফলে এ ধরনের মডেলের ক্ষেত্রে শুধু উত্তর দেওয়ার সক্ষমতা নয়, বরং তারা কোন কাজ করতে পারবে এবং কোন সীমার মধ্যে থাকবে—সেটিও গুরুত্বপূর্ণ হয়ে উঠেছে।
এদিকে এআই চিপ নির্মাতা এনভিডিয়া সোমবার ‘ওপেন এজেন্ট সেফটি প্ল্যাটফর্ম’ নামে নতুন একটি নিরাপত্তা ব্যবস্থা উন্মোচন করেছে। প্রতিষ্ঠানটির দাবি, এর মাধ্যমে এআই এজেন্টের কার্যক্রমে নির্দিষ্ট সীমা নির্ধারণ এবং সেই সীমা অতিক্রমের চেষ্টা হলে তা শনাক্ত ও নিয়ন্ত্রণ করা সম্ভব হবে।
এ প্ল্যাটফর্মে ‘ওপেনশেল’ নামের একটি সফটওয়্যার এজেন্টের জন্য নিরাপদ কাজের সীমা নির্ধারণ করে। আর ‘সেন্ট্রি’ নামের একটি ব্যবস্থা এজেন্টের কার্যক্রম পর্যবেক্ষণ করে এবং নির্ধারিত সীমা অতিক্রমের চেষ্টা করলে সেটিকে বিচ্ছিন্ন করতে পারে।
রয়টার্স জানিয়েছে, এনভিডিয়ার দাবি অনুযায়ী, এ ধরনের নিরাপত্তা ব্যবস্থা থাকলে হাগিং ফেইসে অননুমোদিত প্রবেশের মতো ঘটনা ঠেকানো সম্ভব হতে পারে।
এনভিডিয়ার প্রধান নির্বাহী জেনসেন হুয়াংও এআই নিরাপত্তাকে প্রকৌশলগতভাবে সমাধান করার ওপর গুরুত্ব দিয়ে আসছেন। এনভিডিয়ার নতুন প্ল্যাটফর্মও এজেন্টের জন্য নির্দিষ্ট সীমা, নজরদারি ও নিয়ন্ত্রণ ব্যবস্থা তৈরির ওপর গুরুত্ব দিচ্ছে।
এদিকে যুক্তরাষ্ট্রে এআই নিয়ন্ত্রণ নিয়েও আলোচনা চলছে। প্রেসিডেন্ট ডোনাল্ড ট্রাম্প ও প্রতিনিধি পরিষদের স্পিকার মাইক জনসনের সঙ্গে প্রযুক্তি খাতের প্রতিনিধিদের বৈঠকে এআই নিরাপত্তা ও নিয়ন্ত্রণসংক্রান্ত বিভিন্ন বিষয় আলোচনার কথা রয়েছে।
|
২৯শে সেপ্টেম্বর ২০২৬
