বিস্তারিত প্রতিবেদন

শিশু ও কিশোরদের ব্যবহৃত কৃত্রিম বুদ্ধিমত্তা (এআই) সেবা কতটা নিরাপদ—এ বার সেই প্রশ্নের স্বাধীন মূল্যায়নের উদ্যোগ। ‘ইয়ুথ এআই সেফটি ইনস্টিটিউট’-এর প্রথম নির্বাহী পরিচালক হলেন টম সিগেল, গুগলের আস্থা ও নিরাপত্তা বিভাগের প্রাক্তন প্রধান। ২২ সেপ্টেম্বর তাঁর নিয়োগের খবর প্রকাশিত হয়েছে।

নতুন এই প্রতিষ্ঠানটির লক্ষ্য কোনও নির্দিষ্ট চ্যাটবট তৈরি বা পরিচালনা করা নয়। বরং শিশুদের সামনে থাকা বিভিন্ন এআই ব্যবস্থাকে গবেষণা, নিরাপত্তার মানদণ্ড এবং স্বাধীন পরীক্ষার মাধ্যমে যাচাই করা। বাজারে থাকা পরিষেবাগুলি শিশুদের জন্য কতটা নিরাপদ, কোথায় ঝুঁকি তৈরি হচ্ছে এবং বিভিন্ন সেবার মধ্যে পার্থক্য কতটা—সেই প্রশ্নগুলিই সামনে আনতে চায় প্রতিষ্ঠানটি।

উদ্যোগটি কমন সেন্স মিডিয়ার। অর্থদাতাদের মধ্যে রয়েছে অ্যানথ্রপিক এবং ওপেনএআই ফাউন্ডেশনও। অর্থসাহায্য পাওয়া আর পরীক্ষার ফলের ওপর অর্থদাতার নিয়ন্ত্রণ থাকা এক বিষয় নয়। তবে স্বচ্ছতার প্রশ্নটি থেকেই যায়। কোনও মূল্যায়ন কতটা বিশ্বাসযোগ্য, তা বুঝতে পরীক্ষার পদ্ধতি, কাঁচা তথ্য, অর্থায়নের সম্পর্ক এবং নেতিবাচক ফল প্রকাশের স্বাধীনতা গুরুত্বপূর্ণ। প্রতিষ্ঠানটি নিরাপত্তার মান ও মূল্যায়নের কথা জানিয়েছে, তবে ভবিষ্যতের সব পরীক্ষার বিস্তারিত নিয়ম এখনও প্রকাশ্যে আসেনি।

রয়টার্সকে সিগেল সতর্ক করে বলেছেন, যথেষ্ট রক্ষাকবচ ছাড়া এআই শিশুদের ক্ষেত্রে সামাজিক মাধ্যমের চেয়েও বেশি ক্ষতিকর হতে পারে। আত্মহানি, মানসিক বিভ্রান্তি এবং এআইয়ের ওপর অতিনির্ভরতার ফলে সমালোচনামূলক চিন্তার ক্ষমতা কমে যাওয়ার মতো ঝুঁকির কথাও তিনি বলেছেন।

তবে এগুলিকে প্রতিষ্ঠিত কারণ–ফল সম্পর্ক হিসেবে দেখার সুযোগ নেই। এগুলি দীর্ঘদিন প্রযুক্তি-নিরাপত্তায় কাজ করা এক বিশেষজ্ঞের ঝুঁকি-অনুমান। ফলে তাঁর তুলনাটি নিশ্চিত বৈজ্ঞানিক সিদ্ধান্তের চেয়ে দ্রুত সতর্ক হওয়ার আহ্বান হিসেবেই দেখা যুক্তিযুক্ত।

সিগেলের অগ্রাধিকারের তালিকায় রয়েছে বয়স যাচাই এবং স্বাধীন নিরাপত্তা পরীক্ষা। কোনও ব্যবহারকারীর বয়স জানা না থাকলে একই কথোপকথনে প্রাপ্তবয়স্ক ও অপ্রাপ্তবয়স্কের জন্য আলাদা নিরাপত্তা ব্যবস্থা তৈরি করা কঠিন।

কিন্তু বয়স যাচাই নিজেও নতুন সমস্যা তৈরি করতে পারে। পরিচয়পত্র, মুখের ছবি বা অন্য ব্যক্তিগত তথ্য ব্যবহার করতে হলে গোপনীয়তার ঝুঁকি বাড়ে। ফলে নিরাপদ ব্যবস্থা শুধু অপ্রাপ্তবয়স্ককে চিহ্নিত করলেই হবে না। কী তথ্য নেওয়া হচ্ছে, কত দিন রাখা হচ্ছে এবং ভুলভাবে বয়স নির্ধারিত হলে ব্যবহারকারীর আপিলের সুযোগ কী—সেগুলিও স্পষ্ট হওয়া দরকার।

এআই নিরাপত্তার পরীক্ষাও যে সহজ নয়, তার একটি উদাহরণ কমন সেন্স মিডিয়ার সাম্প্রতিক একটি মূল্যায়ন। সেখানে ১,২০০টি অনুসন্ধান ব্যবহার করে পারপ্লেক্সিটির শিশু-সুরক্ষা পরীক্ষা করা হয়েছিল। কিন্তু কোনও একটি প্রতিষ্ঠানের নির্দিষ্ট সময়ের পরীক্ষা গোটা এআই শিল্পের চিত্র হয়ে উঠতে পারে না।

প্রশ্ন কীভাবে করা হয়েছে, ব্যবহারকারীর বয়স কীভাবে উপস্থাপন করা হয়েছে, কোন সংস্করণের মডেল পরীক্ষা করা হয়েছে এবং সেই সময় কী ধরনের নিরাপত্তা ব্যবস্থা চালু ছিল—সবই ফল বদলে দিতে পারে। তাই পরীক্ষার ফলের সঙ্গে তারিখ, পদ্ধতি এবং ব্যবহৃত মডেলের সংস্করণ জানা জরুরি।

নিরাপত্তার আর একটি বড় পরীক্ষা ভাষা। ইংরেজিতে ক্ষতিকর পরামর্শ আটকে গেলেই বাংলা, স্প্যানিশ কিংবা অন্য ভাষাতেও একই সুরক্ষা কাজ করছে—এমন নিশ্চয়তা নেই। শিশু-কিশোরেরা আবার সব সময় প্রমিত ভাষায় প্রশ্ন করে না। বানানভুল, সংকেত, আঞ্চলিক শব্দ কিংবা বন্ধুমহলের নিজস্ব ভাষাও ব্যবহৃত হয়।

ফলে পরীক্ষায় শুধু পরিচ্ছন্ন, আগে থেকে তৈরি প্রশ্ন রাখলে চলবে না। দেখতে হবে ভিন্ন বয়সের ব্যবহারকারী, বিভিন্ন ভাষা, দীর্ঘ কথোপকথন এবং মানসিক সংকটের মুহূর্তে এআই কীভাবে প্রতিক্রিয়া জানায়। একটি মডেল প্রথম প্রশ্নে নিরাপদ উত্তর দিলেও দীর্ঘ কথোপকথনের পরে তার সীমা বদলায় কি না, সেটিও গুরুত্বপূর্ণ।

এখানেই নতুন প্রতিষ্ঠানের সামনে আসল চ্যালেঞ্জ।

প্রযুক্তি সংস্থাগুলির নিজেদের নিরাপত্তা-দাবির পুনরাবৃত্তি না করে এমন প্রমাণ তৈরি করা দরকার, যা অন্য গবেষকরাও পুনরায় পরীক্ষা করতে পারেন। ক্ষতিকর উত্তর কত ঘন ঘন আসে, দীর্ঘ কথোপকথনে নিরাপত্তা ভাঙে কি না, বিভিন্ন ভাষায় সুরক্ষা সমান কি না এবং অভিযোগের পরে মডেলে কী পরিবর্তন আনা হয়—এসবের নিয়মিত তথ্য প্রকাশ জরুরি।

কারণ এআই মডেল স্থির নয়। মডেলের সংস্করণ বদলায়, নিরাপত্তা ব্যবস্থা বদলায়, ব্যবহারের ধরনও বদলায়। তাই একবারের নিরাপত্তা-শংসাপত্র দিয়ে দীর্ঘমেয়াদি নিরাপত্তা নিশ্চিত করা কঠিন।

অভিভাবক বা স্কুলের কাছেও তাই শুধু ‘নিরাপদ’ কিংবা ‘বিপজ্জনক’—এই দুই শব্দের উত্তর যথেষ্ট নয়। ব্যবহারকারীর বয়স, এআই কী কাজে ব্যবহার করা হচ্ছে এবং প্রয়োজনে পাশে কোনও মানুষ আছেন কি না—এসবের ওপর ঝুঁকি বদলাতে পারে।

নতুন প্রতিষ্ঠানটির সাফল্য শেষ পর্যন্ত নির্ভর করবে তারা কতটা স্বচ্ছ ও পুনরুৎপাদনযোগ্য পরীক্ষা করতে পারে তার ওপর। অর্থায়নের সম্পর্ক প্রকাশ, পরীক্ষার পদ্ধতি জানানো, নেতিবাচক ফলও প্রকাশ করা এবং শিশু-কিশোরদের বাস্তব অভিজ্ঞতাকে গবেষণায় অন্তর্ভুক্ত করা—এই কয়েকটি বিষয় বিশেষ গুরুত্বপূর্ণ।

এখন নিশ্চিতভাবে বলা যায়, নতুন প্রতিষ্ঠানের নেতৃত্বে এসেছেন টম সিগেল এবং শিশুদের জন্য এআই নিরাপত্তা মূল্যায়নই তাদের ঘোষিত লক্ষ্য। কিন্তু এআই সামাজিক মাধ্যমের চেয়েও বেশি ক্ষতিকর—এমন কোনও চূড়ান্ত সিদ্ধান্ত এই নিয়োগ বা উদ্যোগ থেকে এখনও পাওয়া যায় না।

আসল উত্তর মিলবে পরীক্ষায়—শিশুরা এআইকে কীভাবে ব্যবহার করছে, আর সেই ব্যবহারের সময় এআই তাদের কতটা নিরাপদে রাখতে পারছে, তার ধারাবাহিক প্রমাণে।