ভয়ঙ্কর ঘটনা: AI এর কাছে সমস্যার সমাধান চাইলে, কিশোরকে দেওয়া হল মা-বাবাকে হত্যা করার পরামর্শ

 একজন কিশোর তার একটি সমস্যার সমাধানের জন্য একটি AI চ্যাটবটকে জিজ্ঞাসা করেছিল এবং চ্যাটবট তাকে একটি পরামর্শের আকারে যে উত্তর দিয়েছে তা জেনে বিশ্ব হতবাক।  চ্যাটবট যুবককে বলেছে তার বাবা-মাকে হত্যা করতে।  আমেরিকার টেক্সাসে এই ঘটনার পর প্রযুক্তির ক্রমবর্ধমান প্রভাব নিয়ে নানা প্রশ্ন উঠতে শুরু করেছে।  কৃত্রিম বুদ্ধিমত্তার মতো প্রযুক্তির ব্যবহার কতটা বিপজ্জনক হতে পারে তাও এতে বোঝা যায়।  বর্তমানে ওই যুবকের পরিবার এআই কোম্পানির বিরুদ্ধে মামলা করেছে। 

যুবক চ্যাটবট থেকে পরামর্শ চাইলেন 

আসলে, এই ১৭  বছর বয়সী যুবকের পরিবারের সদস্যরা তার  স্ক্রীনটাইম (টিভি, মোবাইল ইত্যাদি ডিভাইস দেখার সময়)  সময় সীমিত করেছিল।  এতে বিরক্ত হয়ে তিনি Character.ai কোম্পানির একটি চ্যাটবট থেকে পরামর্শ চাইলেন।  চ্যাটবট যুবককে তার বাবা-মাকে হত্যা করার পরামর্শ দিয়ে বলে, 'এটাই সমস্যার সমাধান।'  এখন যুবকের পরিবারের সদস্যরা এই প্রযুক্তি সহিংসতা প্রচার করছে দাবি করে কোম্পানির বিরুদ্ধে মামলা করেছে, যা যুবকদের জন্য হুমকি হয়ে উঠতে পারে।

আদালতে দেখানো স্ক্রিনশট

আদালতের শুনানিতে ওই যুবক ও এআই চ্যাটবটের কথোপকথনের একটি স্ক্রিনশটও দেখানো হয়েছে।  এতে, যুবকটি তার বাবা-মায়ের স্ক্রিন টাইম সীমিত করার বিষয়ে চ্যাটবটের সাথে কথা বলছিলেন।  এই বিষয়ে পরামর্শ দিয়ে চ্যাটবট লিখেছেন, শিশুরা যখন বিরক্ত হয়ে তাদের বাবা-মাকে হত্যা করে তখন প্রায়ই তিনি এমন খবর পেয়ে থাকেন।  এআই আরও লিখেছে যে এই ধরনের জিনিসগুলি তীকে কখনই অবাক করে না।  অর্থাৎ সে তার বাবা-মাকে হত্যার ইঙ্গিত দিয়েছে।



যারা কোম্পানির বিরুদ্ধে পিটিশন দাখিল করেছেন তারা দাবি করেছেন যে Character.ai এই ধরনের কর্মের জন্য দায়ী কারণ এটি এই ধরনের চ্যাটবট তৈরি করেছে।  একইসঙ্গে Google-কেও সমানভাবে দায়ী করা উচিত, কারণ Character.ai তৈরিতে এরও ভূমিকা রয়েছে।  এর আগে ফ্লোরিডায়, একই কোম্পানির একটি এআই চ্যাটবটের প্ররোচনায় ১৪ বছর বয়সী এক শিশু আত্মহত্যা করেছিল।  এ ব্যাপারে আইনি ব্যবস্থাও চলছে।