মানুষের নির্দেশ ছাড়াই সফটওয়্যারের দুর্বলতা খুঁজে কাজে লাগানো এবং সাইবার হামলার পরিকল্পনা তৈরির ক্ষমতা দেখিয়েছে এআই এজেন্ট
এআই যত স্মার্ট হচ্ছে, তাকে নিয়ন্ত্রণে রাখার চিন্তাও তত বাড়ছে। নিরাপত্তা নিয়ে গুরুতর উদ্বেগের জেরে নিজেদের একটি কৃত্রিম মেধা-নির্ভর এজেন্ট ‘অ্যাস্ট্রা’কে ঘিরে কিছু কাজ আপাতত স্থগিত রাখার সিদ্ধান্ত নিয়েছে ওপেনএআই। শুক্রবার সংস্থাটি জানিয়েছে, পরীক্ষামূলক পরিবেশে স্বয়ংক্রিয় এআই এজেন্টের ক্ষমতা এবং আচরণ নিয়ে একাধিক উদ্বেগজনক ঘটনা সামনে আসার পরই এই পদক্ষেপ।
‘অ্যাস্ট্রা’র সক্ষমতা পরীক্ষা করতে গিয়ে ওপেনএআই দেখেছে, স্বয়ংক্রিয় ভাবে কোড লেখা এবং সাইবার নিরাপত্তার ক্ষেত্রে এজেন্টটি উল্লেখযোগ্য অগ্রগতি করেছে। সমস্যা হল, সেই ক্ষমতা এখন এমন একটি ‘গুরুতর’ পর্যায়ে পৌঁছেছে, যেখানে মানুষের সরাসরি নির্দেশ ছাড়াই এটি সফটওয়্যার বা কম্পিউটার ব্যবস্থার দুর্বলতা খুঁজে বার করতে এবং সেই দুর্বলতাকে কাজে লাগাতে পারে।
শুধু কোনও সাইবার হামলার লক্ষ্য বলে দিলেও এজেন্টটি নিজে থেকে তার পরিকল্পনা তৈরি করে তা বাস্তবায়নের চেষ্টা করতে পারে।
এআইয়ের লাগাম কোথায়?
ওপেনএআই জানিয়েছে, পরীক্ষার সময় তাদের একটি এআই এজেন্ট নির্ধারিত নিয়ন্ত্রণসীমা পেরিয়ে উন্মুক্ত ইন্টারনেটে প্রবেশ করেছিল এবং প্রযুক্তি সংস্থা হাগিং ফেসের একটি ব্যবস্থায় অনুপ্রবেশ করেছিল। তবে ওই ঘটনায় ‘অ্যাস্ট্রা’ যুক্ত ছিল না।
জুলাই মাসে রয়টার্স জানিয়েছিল, স্বয়ংক্রিয় এআই এজেন্টের পরীক্ষায় নির্ধারিত সুরক্ষাবেষ্টনী অতিক্রম করার মতো আরও কয়েকটি ঘটনা শনাক্ত হয়েছে।
ঘটনাগুলি অত্যাধুনিক এআই মডেলের দ্রুত বিকাশ এবং সেগুলিকে মানুষের নিয়ন্ত্রণে রাখার সক্ষমতা নিয়ে নতুন করে প্রশ্ন তুলেছে।
ক্ষমতা, নাকি প্রচার?
তবে এআই শিল্পের সমালোচকদের একাংশের প্রশ্ন, ওপেনএআই, অ্যানথ্রপিক এবং মেটার মতো সংস্থাগুলি নিজেদের প্রযুক্তির বিপুল ক্ষমতা নিয়ে যে সতর্কবার্তা দিচ্ছে, তার পিছনে ব্যবসায়িক স্বার্থও থাকতে পারে।
তাঁদের যুক্তি, কোনও মডেল কতটা শক্তিশালী এবং কতটা ‘ঝুঁকিপূর্ণ’—এই ধারণা তৈরি হলে বিনিয়োগকারীদের আগ্রহও বাড়তে পারে।
এ বার আরও কড়া পাহারা
স্বয়ংক্রিয় এআই এজেন্টের সম্ভাব্য নিয়ন্ত্রণহীন আচরণ ঠেকাতে অধিক ক্ষমতাসম্পন্ন মডেলের জন্য নিরাপত্তাব্যবস্থা আরও কঠোর করছে ওপেনএআই।
সংস্থার ব্লগে জানানো হয়েছে, নতুন ব্যবস্থার মধ্যে থাকবে সম্পূর্ণ বিচ্ছিন্ন পরীক্ষার পরিবেশ, ইন্টারনেট ও অন্যান্য সরঞ্জামে প্রবেশের উপর কঠোর বিধিনিষেধ এবং মডেল ব্যবহারের নির্দিষ্ট সীমা।
এ ছাড়াও মডেলের মূল প্রযুক্তিগত উপাদান বা ‘মডেল ওয়েট’ সুরক্ষিত রাখতে অতিরিক্ত ব্যবস্থা এবং সাংকেতিক সুরক্ষা চালু করা হবে। নজরদারি এবং সন্দেহজনক আচরণ শনাক্ত করার ব্যবস্থাও আরও শক্তিশালী করা হচ্ছে।
ওপেনএআই জানিয়েছে, ‘অ্যাস্ট্রা’ নিয়ে সংস্থার যে সব অভ্যন্তরীণ কাজ নতুন নিরাপত্তার শর্ত পূরণ করতে পারছে না, সেগুলি আপাতত স্থগিত থাকবে।
সংস্থার বক্তব্য, ‘‘অ্যাস্ট্রার মতো অত্যাধুনিক মডেল এবং ভবিষ্যতে তার চেয়েও শক্তিশালী মডেল যাতে দায়িত্বশীল ভাবে এবং সমগ্র মানবজাতির কল্যাণে ব্যবহার করা যায়, তা নিশ্চিত করতে আমরা সরকার, নিরাপত্তা প্রতিষ্ঠান এবং নাগরিক সমাজের সঙ্গে কাজ করতে প্রতিশ্রুতিবদ্ধ।’’
শুধু ওপেনএআই নয়
একই ধরনের ঘটনা অন্য এআই সংস্থার ক্ষেত্রেও সামনে এসেছে।
মেটা চলতি সপ্তাহেই জানিয়েছে, সাইবার নিরাপত্তা সংক্রান্ত একটি পরীক্ষার সময় তাদের একটি মডেল অন্য একটি সংস্থার ব্যবস্থায় অনুপ্রবেশ করেছিল।
ব্রিটেনের এআই সিকিউরিটি ইনস্টিটিউটও ৪ অগস্ট জানিয়েছে, ওপেনএআই এবং অ্যানথ্রপিকের প্রযুক্তিতে চালিত কয়েকটি এজেন্ট একটি সাইবার নিরাপত্তা পরীক্ষায় সফল হওয়ার চেষ্টা করতে গিয়ে সফটওয়্যার নির্মাতাদের উদ্দেশে নির্দিষ্ট লক্ষ্যভিত্তিক ই-মেল পাঠিয়েছিল।
প্রচেষ্টা সফল হয়নি। বাস্তবে কোনও ক্ষতিও হয়েছে বলে তদন্তে প্রমাণ মেলেনি। কিন্তু ব্রিটিশ প্রতিষ্ঠানটির মতে, নির্দিষ্ট ভাবে এমন কাজের নির্দেশ না দেওয়া সত্ত্বেও বাস্তব জগতে স্বয়ংক্রিয়তা এবং প্রতারণামূলক আচরণের ঝুঁকি এত স্পষ্ট ভাবে প্রকাশ পাওয়ার ঘটনা গুরুত্বপূর্ণ।
পালিয়ে যায়নি এআই
তবে এখানেও রয়েছে গুরুত্বপূর্ণ একটি পার্থক্য।
ব্রিটিশ প্রতিষ্ঠানটি স্পষ্ট করেছে, ক্ষতিকর সফটওয়্যার পাঠানোর ঘটনাকে নিরাপদ পরীক্ষার পরিবেশ থেকে কোনও মডেলের ‘পালিয়ে যাওয়া’ বলা ঠিক হবে না। মডেলগুলির সর্বোচ্চ ক্ষমতা যাচাই করতেই গবেষকেরা ইচ্ছাকৃত ভাবে তাদের ইন্টারনেটে প্রবেশের সুযোগ দিয়েছিলেন।
তার পরেও সতর্কবার্তাটি যথেষ্ট তাৎপর্যপূর্ণ। ইনস্টিটিউটের কথায়, এই ধরনের আচরণ ‘‘সম্ভব হয়েছে, কিছু সময় ধরে বজায় থেকেছে এবং এটি নতুন ধরনের আচরণ’’—শুধু এই কারণেই বিষয়টি গুরুত্ব দিয়ে দেখা প্রয়োজন।
নতুন নিয়মের অপেক্ষা
এই সব ঘটনা সামনে এসেছে এমন সময়ে, যখন ডোনাল্ড ট্রাম্প প্রশাসন এআই মডেলের নিরাপত্তা এবং সাইবার ঝুঁকি কী ভাবে পরীক্ষা করা হবে, তা নিয়ে একটি নতুন কাঠামো চূড়ান্ত করছে।
অন্য দিকে, চিন এবং বিশ্বের অন্যান্য প্রযুক্তি সংস্থার সঙ্গে ক্রমবর্ধমান প্রতিযোগিতার মধ্যেই ওপেনএআই ও অ্যানথ্রপিক ‘ওপেন সোর্স’ এআই মডেল নিয়েও নিরাপত্তা-আশঙ্কা প্রকাশ করেছে।
যে সব মডেলের অন্তর্নিহিত প্রোগ্রাম দেখা এবং পরিবর্তন করা সম্ভব, সেগুলির ক্ষেত্রে অতিরিক্ত ঝুঁকি রয়েছে বলে দাবি তাদের। এই ধরনের মডেলের উপর আরও কঠোর কেন্দ্রীয় নিয়ন্ত্রণের পক্ষেও যুক্তরাষ্ট্র সরকারের কাছে সওয়াল করেছে তারা।
লাগাম কি যথেষ্ট?
‘অ্যাস্ট্রা’কে ঘিরে সর্বশেষ ঘটনাগুলি তাই এআই নিয়ে পুরনো প্রশ্নটিকেই আরও ধারালো করে তুলেছে।
প্রযুক্তি যত বেশি স্বয়ংক্রিয়, দ্রুত এবং ক্ষমতাশালী হয়ে উঠছে, তাকে নিয়ন্ত্রণে রাখার মানুষের ক্ষমতাও কি একই গতিতে বাড়ছে?
নাকি একদিন এমন হবে, যখন মানুষ শুধু নির্দেশ দেবে—আর তার পরের সিদ্ধান্তগুলি নেবে এমন এক যন্ত্র, যার ক্ষমতার শেষ সীমাটাই মানুষ এখনও পুরোপুরি জানে না?
