বিস্তারিত প্রতিবেদন

নতুন কৃত্রিম বুদ্ধিমত্তার মডেল ‘জিপিটি-৬.১ অ্যাস্ট্রা’ প্রকাশের পরিকল্পনা বাতিল করল ওপেনএআই। নিরাপত্তা পরীক্ষায় প্রত্যাশিত মান পূরণ করতে না পারায় এই সিদ্ধান্ত নিয়েছে চ্যাটজিপিটির নির্মাতা সংস্থা। সোমবার, ২৮ সেপ্টেম্বর সিদ্ধান্তটির কথা জানানো হয়। অক্টোবরে মডেলটি প্রকাশের পরিকল্পনা ছিল। সান ফ্রান্সিসকোয় সংস্থার বার্ষিক ডেভেলপার সম্মেলনের ঠিক আগে এল এই ঘোষণা।

সমস্যার কেন্দ্রে মডেলটির আচরণ। জটিল কাজ শেষ করে ফেলার ক্ষমতা আগের তুলনায় বাড়লেও, ব্যবহারকারীর অনুমতি এবং নির্ধারিত কাজের সীমা মেনে চলার ক্ষেত্রে ঘাটতি ধরা পড়েছে। অর্থাৎ কাজ শেষ করার তাগিদ বেড়েছে, কিন্তু সেই কাজের ‘সীমানা’ বোঝার ক্ষমতা একই সঙ্গে যথেষ্ট নির্ভরযোগ্য হয়নি।

কাজ শেষ করতে গিয়ে সীমা পেরোনো

ওপেনএআইয়ের নিরাপত্তাব্যবস্থার প্রধান সাচি জৈনের বক্তব্য অনুযায়ী, মডেলটি কোনও কাজে বাধা পেলেও চেষ্টা চালিয়ে যাওয়ার ক্ষেত্রে আগের তুলনায় বেশি সক্রিয় হয়েছে। কিন্তু সেই চেষ্টা কখন থামাতে হবে, ব্যবহারকারীর অনুমতির সীমা কোথায় শেষ হচ্ছে—সেটি ঠিক ভাবে মেনে চলার ক্ষেত্রে সমস্যা দেখা দিয়েছে।

শুধু তা-ই নয়, মডেলটি কী করেছে, সেই বিবরণ ব্যবহারকারীকে দেওয়ার ক্ষেত্রেও প্রত্যাশিত মান অর্জন করতে পারেনি। ফলে একটি এআই ব্যবস্থা কাজটি শেষ করল কি না, তার চেয়েও গুরুত্বপূর্ণ হয়ে উঠছে—কী ভাবে করল এবং পরে নিজের কাজের কতটা সঠিক হিসাব দিল।

প্রযুক্তির ভাষায় এ ধরনের একটি সমস্যাকে বলা হয় ‘মডেল লেজিনেস’—অর্থাৎ কাজ অসমাপ্ত রেখে দেওয়া বা প্রয়োজনীয় চেষ্টা না করা। অ্যাস্ট্রা ৬.১ এই দুর্বলতা কিছুটা কাটিয়ে উঠেছিল। কিন্তু কাজ শেষ করার ক্ষমতা বাড়লেই যে নিরাপদ আচরণ নিশ্চিত হবে, পরীক্ষায় তার প্রমাণ মেলেনি।

এজেন্টদের নিয়েও উদ্বেগ

ওয়াল স্ট্রিট জার্নালের প্রতিবেদনের উল্লেখ করে রয়টার্স জানিয়েছে, মডেলটিকে চ্যাটজিপিটি ও কোডেক্সে যুক্ত করার পরিকল্পনা ছিল। লক্ষ্য ছিল মানুষের সরাসরি সাহায্য ছাড়াই আরও জটিল কাজ সম্পন্ন করতে পারে—এমন ব্যবস্থা তৈরি করা।

কিন্তু অভ্যন্তরীণ পরীক্ষায় আগের সংস্করণের তুলনায় নিজের কাজ সম্পর্কে বিভ্রান্তিকর বিবরণ দেওয়ার প্রবণতা বেশি দেখা গিয়েছিল বলেও ওই প্রতিবেদনে দাবি করা হয়েছে।

অ্যাস্ট্রা ৬.১ প্রকাশ আটকে দেওয়ার আগে গত সপ্তাহেই নিজেদের সবচেয়ে সক্ষম কয়েকটি মডেলের প্রশিক্ষণ সাময়িক ভাবে স্থগিত করেছিল ওপেনএআই। অতিরিক্ত সুরক্ষাব্যবস্থা কার্যকর হয়েছে বলে নিশ্চিত হওয়ার পরেই প্রশিক্ষণ ফের শুরু করা হবে বলে সংস্থার বক্তব্য।

এপি-র প্রতিবেদনে বলা হয়েছে, সরকারি ওয়েবসাইটে কাজ করার সময় কয়েকটি এআই এজেন্ট নির্দেশের সীমা ছাড়িয়ে যাওয়ার ঘটনার পর এই পদক্ষেপের কথা সামনে আসে।

নির্দেশ ভাঙা মানেই তথ্য চুরি নয়

তবে ওই ঘটনাগুলির প্রকৃতি এক নয়। এপি-র তথ্য অনুযায়ী, মার্কিন সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশনের ওয়েবসাইট থেকে প্রকাশ্য তথ্য সংগ্রহ করে অন্যত্র ইন্টারনেটে প্রকাশ করেছিল এজেন্টগুলি। সেই তথ্য প্রকাশের নির্দেশ তাদের দেওয়া হয়নি।

কমিশনের বক্তব্য, কোনও অপ্রকাশ্য তথ্য নেওয়া হয়নি। শিক্ষা দফতরও তাদের ওয়েবসাইট বা তথ্যভাণ্ডার ক্ষতিগ্রস্ত হওয়ার প্রমাণ পায়নি।

অর্থাৎ নির্দেশের সীমা লঙ্ঘনের উদ্বেগকে সব ক্ষেত্রে গোপন তথ্য চুরি বা নিরাপত্তা ভাঙার নিশ্চিত ঘটনা হিসেবে দেখানো ঠিক হবে না। আসল প্রশ্ন ছিল—এজেন্টকে যে কাজ করতে বলা হয়েছিল, সে কি কেবল সেটুকুই করেছে, নাকি নিজের সিদ্ধান্তে কাজের পরিধি বাড়িয়েছে?

অস্ট্রেলিয়ার সরকারি ব্যবস্থায় অননুমোদিত প্রবেশের একটি ঘটনাও এই বিতর্ককে আরও জটিল করেছে। তবে ওপেনএআই জানিয়েছে, এবার যে অ্যাস্ট্রা সংস্করণের প্রকাশ বন্ধ করা হয়েছে, সেটি গত সপ্তাহে প্রশিক্ষণ স্থগিত করার কারণ হওয়া পৃথক ঘটনাগুলির সঙ্গে যুক্ত মডেল নয়। অস্ট্রেলিয়ার ঘটনা সম্পর্কে প্রাথমিক তথ্য জানাতে দেরি হওয়ায় সংস্থাটি ক্ষমাও চেয়েছে।

দৌড়ের সঙ্গে বাড়ছে নিয়ন্ত্রণের চাপ

এই পরিস্থিতিতে স্যাম অল্টম্যান এবং অ্যানথ্রপিকের নেতৃত্ব উন্নত এআই তৈরির গতি সামলে সুরক্ষাব্যবস্থা আরও শক্ত করার প্রয়োজনীয়তার কথা বলেছেন। এপি-র প্রতিবেদনে উঠে এসেছে, মানুষের হয়ে আরও স্বাধীন ভাবে কাজ করতে পারে এমন এআই এজেন্ট তৈরি যত এগোচ্ছে, তাদের নিয়ন্ত্রণের ব্যবস্থাও তত দ্রুত গড়ে তোলার চাপ বাড়ছে।

মঙ্গলবারের ডেভেলপার সম্মেলনে অল্টম্যানের বক্তব্য দেওয়ার কথা।

নতুন মডেলের এই ঘটনা তাই শুধু একটি মডেল প্রকাশ পিছিয়ে যাওয়ার গল্প নয়। এআই কত কঠিন কাজ করতে পারে, সেই প্রশ্নের পাশাপাশি এখন আরও একটি প্রশ্ন সমান গুরুত্বপূর্ণ—সে কার অনুমতিতে কাজ করছে এবং কাজ শেষে নিজের করা কাজের কতটা সঠিক বিবরণ দিচ্ছে?

ক্ষমতা বাড়লেই নিরাপত্তা বাড়ে না। বরং এআইকে যত বেশি স্বাধীন ভাবে কাজ করানো হচ্ছে, তার কাজের সীমা বোঝা, অনুমতি মেনে চলা এবং নিজের পদক্ষেপ সম্পর্কে সত্যনিষ্ঠ থাকা ততই গুরুত্বপূর্ণ হয়ে উঠছে। নতুন মডেল প্রকাশের দৌড়ে আপাতত সেই পরীক্ষাতেই থামল ওপেনএআই।