Character.AI কিশোর-কিশোরীদের তার AI চ্যাটবটের সাথে কথা বলা নিষিদ্ধ করবে

অনলাইন সমবয়সীদের সাথে তরুণদের ইন্টারঅ্যাকশনের ধরন নিয়ে তীব্র সমালোচনার সম্মুখীন হওয়ার পর, চ্যাটবট সাইট Character.ai টিনএজদের ভার্চুয়াল চরিত্রের সাথে ইন্টারঅ্যাক্ট করতে বাধা দিচ্ছে।

2021 সালে প্রতিষ্ঠিত, প্ল্যাটফর্মটি কৃত্রিম বুদ্ধিমত্তা (AI) দ্বারা চালিত চ্যাটবটগুলির সাথে কথা বলার জন্য লক্ষ লক্ষ লোক ব্যবহার করে।

কিন্তু এটি মার্কিন যুক্তরাষ্ট্রে অভিভাবকদের কাছ থেকে বেশ কয়েকটি মামলার সম্মুখীন হচ্ছে, যার মধ্যে একটি কিশোরের মৃত্যু সহ, কেউ কেউ এটিকে যুবকের জন্য একটি “স্পষ্ট এবং বর্তমান বিপদ” বলে অভিহিত করেছে৷

এখন, Character.AI বলছে যে 25 নভেম্বর থেকে, 18-এর কম বয়সীরা তাদের সাথে কথা বলার পরিবর্তে শুধুমাত্র তাদের চরিত্রগুলির সাথে ভিডিওর মতো বিষয়বস্তু তৈরি করতে সক্ষম হবে, যেমন তারা বর্তমানে করতে পারে।

অনলাইন নিরাপত্তা প্রচারণাকারীরা এই পদক্ষেপকে স্বাগত জানিয়েছে তবে বলেছে যে বৈশিষ্ট্যটি শিশুদের জন্য প্রথম স্থানে পাওয়া উচিত ছিল না।

Character.AI বলেছে যে “নিয়ন্ত্রক, নিরাপত্তা বিশেষজ্ঞ এবং অভিভাবকদের রিপোর্ট এবং প্রতিক্রিয়া” যা কিশোরদের সাথে তার চ্যাটবটগুলির মিথস্ক্রিয়া সম্পর্কে উদ্বেগ তুলে ধরেছে তার পরে এটি পরিবর্তন করছে।

বিশেষজ্ঞরা ইতিমধ্যেই এআই চ্যাটবট সম্পর্কে সতর্ক করেছেন যে তারা জিনিসগুলি তৈরি করতে পারে, অত্যধিক উত্সাহিত করতে পারে এবং সহানুভূতি দেখাতে পারে যা তরুণ এবং দুর্বল লোকদের জন্য ঝুঁকি তৈরি করে।

“আজকের ঘোষণাটি আমাদের সাধারণ বিশ্বাসের ধারাবাহিকতা যে আমাদের বিনোদনের উদ্দেশ্যে গ্রহে সবচেয়ে নিরাপদ AI প্ল্যাটফর্ম তৈরি করা চালিয়ে যেতে হবে,” ক্যারেক্টার.এআই বস করণদীপ আনন্দ বিবিসি নিউজকে বলেছেন৷

তিনি বলেছিলেন যে এআই সুরক্ষা ছিল “একটি চলমান লক্ষ্য” তবে সংস্থাটি পিতামাতার নিয়ন্ত্রণ এবং পাহারার সাথে একটি “আক্রমনাত্মক” পদ্ধতি গ্রহণ করেছে।

অনলাইন নিরাপত্তা গ্রুপ ইন্টারনেট ম্যাটারস এই ঘোষণাকে স্বাগত জানিয়েছে, তবে বলেছে যে নিরাপত্তা ব্যবস্থা শুরু থেকেই তৈরি করা উচিত ছিল।

এটি যোগ করেছে, “আমাদের নিজস্ব গবেষণা দেখায় যে শিশুরা ক্ষতিকারক বিষয়বস্তুর সংস্পর্শে আসে এবং এআই চ্যাটবট সহ AI এর সাথে জড়িত থাকার সময় ঝুঁকিতে থাকে।”

শিশুরা কথা বলতে পারে এমন সম্ভাব্য ক্ষতিকারক বা আপত্তিকর চ্যাটবট হোস্ট করার জন্য অতীতে Character.AI-এর সমালোচনা করা হয়েছে।

2023 সালে খুন হওয়া ব্রিটিশ কিশোরী ব্রায়ানা ঘি এবং মলি রাসেল, যিনি অনলাইনে আত্মহত্যার সামগ্রী দেখার পরে 14 বছর বয়সে নিজের জীবন নিয়েছিলেন, 2024 সালে অপসারণের আগে সাইটে আবিষ্কৃত হয়েছিল।

পরবর্তীতে, 2025 সালে, ব্যুরো অফ ইনভেস্টিগেটিভ জার্নালিজম (TBIJ) পেডোফাইল জেফরি এপস্টেইনের উপর ভিত্তি করে একটি চ্যাটবট খুঁজে পেয়েছিল যা ব্যবহারকারীদের সাথে 3,000 টিরও বেশি চ্যাট লগ ইন করেছিল।

আউটলেটটি জানিয়েছে যে “বেস্টি এপস্টাইন” অবতার তার প্রতিবেদকের সাথে ফ্লার্ট করতে থাকে যখন তারা বলে যে তাদের একটি সন্তান রয়েছে। এটি TBIJ দ্বারা পতাকাঙ্কিত বেশ কয়েকটি বটগুলির মধ্যে একটি যা পরে Character.AI দ্বারা সরিয়ে দেওয়া হয়েছিল।

মলি রোজ ফাউন্ডেশন – যা মলি রাসেলের স্মৃতিতে প্রতিষ্ঠিত হয়েছিল – মুঞ্চের প্রেরণা নিয়ে প্রশ্ন তোলে।

এর প্রধান নির্বাহী অ্যান্ডি বারোজ বলেছেন, “আবারও একটি প্রযুক্তি সংস্থা সঠিক জিনিসটি করার জন্য মিডিয়া এবং রাজনীতিবিদদের কাছ থেকে ক্রমাগত চাপের সম্মুখীন হয়েছে এবং এটি প্রদর্শিত হচ্ছে যে ক্যারেক্টার এআই এখন নিয়ন্ত্রকদের বলার আগে কাজ করা বেছে নিচ্ছে।”

মিঃ আনন্দ বলেছিলেন যে কোম্পানির নতুন ফোকাস “এমনকি গভীর গেমপ্লে” প্রদানের দিকে [and] কিশোর-কিশোরীদের জন্য “রোল-প্লে স্টোরিটেলিং” বৈশিষ্ট্য – এইগুলি যোগ করা “ওপেন-এন্ডেড বটগুলির সাথে আমরা যা করতে পারি তার চেয়ে অনেক বেশি নিরাপদ হবে”।

নতুন বয়স যাচাইকরণ পদ্ধতিও থাকবে এবং কোম্পানি একটি নতুন এআই নিরাপত্তা গবেষণা ল্যাবকে অর্থায়ন করবে।

সোশ্যাল মিডিয়া বিশেষজ্ঞ ম্যাট নাভারা বলেছেন যে এটি এআই শিল্পের জন্য একটি “ওয়েক আপ কল”, যা “অনুমতিহীন উদ্ভাবন থেকে ক্রাইসিস-পরবর্তী প্রবিধানে” চলে যাচ্ছে।

“যখন একটি প্ল্যাটফর্ম যা কিশোরদের অভিজ্ঞতা তৈরি করে তখনও প্লাগ টানে, এর মানে হল যে প্রযুক্তির মানসিক টান শক্তিশালী হলে ফিল্টার করা চ্যাট আর যথেষ্ট নয়,” তিনি বিবিসি নিউজকে বলেছেন।

তিনি বলেন, “এটি বিষয়বস্তুর ত্রুটির বিষয়ে নয়। এটি কীভাবে এআই বটগুলি বাস্তব সম্পর্কের অনুকরণ করে এবং তরুণ ব্যবহারকারীদের জন্য লাইনগুলিকে অস্পষ্ট করে।”

মিঃ নাভারা আরও বলেন, Character.AI-এর জন্য বড় চ্যালেঞ্জ হবে একটি আকর্ষক AI প্ল্যাটফর্ম তৈরি করা যা কিশোর-কিশোরীরা এখনও “কম নিরাপদ বিকল্পের” দিকে না গিয়ে ব্যবহার করতে চায়।

এদিকে, এআই নিরাপত্তা নিয়ে গবেষণাকারী ডাঃ নোমিশা কুরিয়ান বলেছেন যে কিশোর-কিশোরীদের চ্যাটবট ব্যবহার করা থেকে বিরত রাখা “একটি বুদ্ধিমান পদক্ষেপ”।

“এটি আরও ব্যক্তিগত, আবেগগতভাবে সংবেদনশীল বিনিময় থেকে সৃজনশীল খেলাকে আলাদা করতে সাহায্য করে,” তিনি বলেছিলেন।

“এটি অল্প বয়স্ক ব্যবহারকারীদের জন্য খুবই গুরুত্বপূর্ণ যারা এখনও মানসিক এবং ডিজিটাল সীমানা অতিক্রম করতে শিখছেন।

“Character.ai-এর নতুন পদক্ষেপগুলি AI শিল্পে একটি পরিপক্ক পর্যায়ে প্রতিফলিত হতে পারে – দায়িত্বশীল উদ্ভাবনের জন্য শিশু সুরক্ষা একটি জরুরি অগ্রাধিকার হিসাবে স্বীকৃত হচ্ছে।”