শিশুর জন্য এআই কতটা নিরাপদ

প্রতিবেদন: শিশু ও কিশোরদের ব্যবহৃত কৃত্রিম বুদ্ধিমত্তার সেবা স্বাধীনভাবে পরীক্ষা করার লক্ষ্য নিয়ে ‘ইয়ুথ এআই সেফটি ইনস্টিটিউট’-এর প্রথম নির্বাহী পরিচালক হয়েছেন টম সিগেল। গুগলের আস্থা ও নিরাপত্তা বিভাগের প্রাক্তন প্রধান সিগেলের নিয়োগের খবর ২২ সেপ্টেম্বর প্রকাশিত হয়েছে। প্রতিষ্ঠানটি গবেষণা, নিরাপত্তার মান নির্ধারণ এবং বাজারে থাকা সেবার মূল্যায়ন করতে চায়। তার অর্থ, কোনও একটি চ্যাটবট চালানো নয়; শিশুদের সামনে থাকা বিভিন্ন কৃত্রিম বুদ্ধিমত্তা-ব্যবস্থার ঝুঁকি তুলনা করাই ঘোষিত কাজ।

প্রতিষ্ঠানটি কমন সেন্স মিডিয়ার উদ্যোগ। অর্থদাতাদের মধ্যে অ্যানথ্রপিক এবং ওপেনএআই ফাউন্ডেশনের নাম রয়েছে। অর্থসাহায্য পাওয়া আর পরীক্ষার ফল দাতাদের নিয়ন্ত্রণে থাকা এক কথা নয়; আবার অর্থের সম্পর্ক উপেক্ষাও করা যায় না। বিশ্বাসযোগ্যতা বিচার করতে তাই পরীক্ষার পদ্ধতি, কাঁচা ফল, স্বার্থের ঘোষণা এবং নেতিবাচক ফল প্রকাশের স্বাধীনতা দেখতে হবে। প্রতিষ্ঠানের ঘোষণায় মান ও মূল্যায়নের কথা আছে, কিন্তু সব ভবিষ্যৎ পরীক্ষার পূর্ণ নিয়ম এখনও দেখা যায়নি।

রয়টার্সকে সিগেল বলেছেন, পর্যাপ্ত রক্ষাকবচ ছাড়া কৃত্রিম বুদ্ধিমত্তা সামাজিক মাধ্যমের চেয়েও শিশুদের বেশি ক্ষতি করতে পারে। আত্মহানি, মানসিক বিভ্রান্তি এবং যন্ত্রের উপর অতিনির্ভরতায় সমালোচনামূলক চিন্তা কমার আশঙ্কা তিনি তুলেছেন। এটি দীর্ঘমেয়াদি কারণ–ফল প্রমাণ করা কোনও নতুন গবেষণার সিদ্ধান্ত নয়; দীর্ঘদিন প্রযুক্তি-নিরাপত্তায় কাজ করা এক বিশেষজ্ঞের ঝুঁকি-অনুমান। তুলনাটি পরীক্ষিত সত্য হিসেবে নয়, দ্রুত ব্যবস্থা নেওয়ার সতর্কবার্তা হিসেবে পড়া দরকার।

সিগেল বয়স যাচাই এবং স্বাধীন নিরাপত্তা পরীক্ষাকে অগ্রাধিকার দিয়েছেন। শিশুর বয়স না-জানলে একই কথোপকথনের উত্তর প্রাপ্তবয়স্ক ও অপ্রাপ্তবয়স্কের জন্য আলাদা করা কঠিন। তবে বয়স যাচাইয়ের জন্য পরিচয়পত্র বা মুখের তথ্য চাইলে গোপনীয়তার নতুন ঝুঁকি তৈরি হয়। নিরাপদ ব্যবস্থা তাই শুধু দরজা বন্ধ করবে না; কত তথ্য নেবে, কত দিন রাখবে এবং ভুল বয়স নির্ধারণ হলে কীভাবে আপিল হবে, তাও জানাতে হবে।

কমন সেন্স মিডিয়ার সাম্প্রতিক এক পরীক্ষায় ১,২০০টি অনুসন্ধান ব্যবহার করে পারপ্লেক্সিটির শিশু-সুরক্ষা যাচাই করা হয়েছিল। একটি প্রতিষ্ঠানের নির্দিষ্ট সময়ের পরীক্ষা গোটা শিল্পের প্রতিচ্ছবি নয়। প্রশ্নের ভাষা, বয়সের ছদ্মপরিচয়, সেবার সংস্করণ এবং নিরাপত্তা-ব্যবস্থার হালনাগাদ ফল বদলাতে পারে। ফলে নম্বরের সঙ্গে পরীক্ষার তারিখ ও পদ্ধতি না-থাকলে তুলনা দ্রুত পুরনো হয়ে যায়।

এই খবরকে শুধু জেন জির খবর বলাতেও সতর্কতা দরকার। জেন জির প্রাপ্তবয়স্ক অংশের পাশাপাশি আজকের বহু শিশু পরের প্রজন্মের। প্রতিষ্ঠানটি বয়সভিত্তিকভাবে শিশু ও কিশোর নিয়ে কাজ করবে; কোনও একটি প্রজন্মের স্বভাব নির্ধারণ করবে না। একই বয়সের ব্যবহারও সমান নয়—কেউ বাড়ির কাজে প্রশ্ন করে, কেউ বন্ধুর মতো কথা বলে, কেউ আবার আদৌ ব্যবহার করে না।

নিরাপত্তা যাচাইয়ে ভাষাগত বৈষম্যও বড় প্রশ্ন। ইংরেজিতে ক্ষতিকর পরামর্শ আটকালেও বাংলা, স্প্যানিশ বা কথ্য ভাষায় একই সুরক্ষা কাজ করছে কি না, তা আলাদা পরীক্ষা চাই। শিশু অনেক সময় বানানভুল, সংকেত বা বন্ধুমহলের শব্দ ব্যবহার করে। শুধু পরিচ্ছন্ন পরীক্ষাগার-প্রশ্নে ভালো ফল করলে বাস্তব ব্যবহারের নিরাপত্তা প্রমাণ হয় না। পরীক্ষায় বয়স, ভাষা, দীর্ঘ কথোপকথন এবং সংকটের মুহূর্ত—সব স্তর রাখতে হবে।

বিশ্লেষণ: নতুন প্রতিষ্ঠানের আসল পরীক্ষা হবে প্রযুক্তি সংস্থার দাবির পুনরাবৃত্তি না করে পুনরুৎপাদনযোগ্য প্রমাণ দেওয়া। ক্ষতিকর উত্তর কত ঘন ঘন আসে, দীর্ঘ কথোপকথনে সীমা ভাঙে কি না, বিভিন্ন ভাষায় সুরক্ষা সমান কি না এবং অভিযোগের পরে কী বদলায়—এই প্রশ্নগুলির নিয়মিত ফল দরকার। একবারের শংসাপত্র যথেষ্ট নয়, কারণ মডেল ও ব্যবহারবিধি ঘন ঘন পাল্টায়।

অভিভাবক বা বিদ্যালয়ের জন্যও সহজ ‘নিষিদ্ধ’ কিংবা ‘সম্পূর্ণ নিরাপদ’ ছাপ কার্যকর নয়। ব্যবহারকারীর বয়স, কাজের ধরন এবং মানুষের সহায়তা অনুযায়ী ঝুঁকি বদলায়। নতুন প্রতিষ্ঠান যদি ফল প্রকাশ, অর্থায়নের স্বচ্ছতা এবং শিশুদের নিজস্ব অভিজ্ঞতাকে একসঙ্গে রাখে, তবে নীতিনির্ধারণে কাজে লাগতে পারে। আপাতত নিশ্চিত খবর নেতৃত্ব ও কর্মসূচির ঘোষণা; কৃত্রিম বুদ্ধিমত্তা সামাজিক মাধ্যমের চেয়ে বেশি ক্ষতি করেছে—এমন রায় এখনও নয়।