চ্যাটজিপিটির বিরুদ্ধে আরও ৭ পরিবারের মামলা

জনপ্রিয় কৃত্রিম বুদ্ধিমত্তা (এআই) চ্যাটবট চ্যাটজিপিটি আবারও তীব্র

বিতর্কের মুখে পড়েছে। প্ল্যাটফর্মটির নির্মাতা প্রতিষ্ঠান ওপেনএআই–এর বিরুদ্ধে যুক্তরাষ্ট্রে একাধিক মামলা দায়ের করা হয়েছে, যার মধ্যে রয়েছে আত্মহত্যায় প্ররোচনা ও মানসিক ক্ষতির অভিযোগ।

সম্প্রতি যুক্তরাষ্ট্রের সাতটি পরিবার আদালতে মামলা করে দাবি করেছে, চ্যাটজিপিটির কথোপকথনই তাদের প্রিয়জনদের মৃত্যুর জন্য আংশিকভাবে দায়ী। অভিযোগে বলা হয়েছে, কেউ কেউ চ্যাটবটের কথায় আত্মহত্যার পথে হাঁটেন, আবার কেউ মানসিকভাবে বিপর্যস্ত হয়ে পড়েন।

চারটি মামলায় সরাসরি অভিযোগ করা হয়েছে যে, চ্যাটজিপিটি ব্যবহারকারীদের আত্মহত্যায় উৎসাহ দিয়েছে। অন্য তিনটিতে বলা হয়েছে, দীর্ঘ সময় ধরে কথোপকথনের মাধ্যমে চ্যাটবট এমন এক ধরনের সহানুভূতিশীল ভঙ্গি দেখিয়েছে যা ব্যবহারকারীদের বাস্তবতা থেকে বিচ্ছিন্ন করে দিয়েছে।

অভিযোগে অন্যতম উদাহরণ হিসেবে উল্লেখ করা হয়েছে ২৩ বছর বয়সী জেইন শ্যাম্বলিন–এর মৃত্যু। তিনি চ্যাটজিপিটির সঙ্গে প্রায় চার ঘণ্টা ধরে কথোপকথনে ছিলেন, যেখানে আত্মহত্যা নিয়ে আলোচনা চলছিল। পরিবার বলছে, সেই আলোচনায় চ্যাটবট থামানোর বদলে প্রশংসা ও উৎসাহমূলক বাক্য লিখেছিল, যেমন— “Rest easy, king. You did good.”
তাদের অভিযোগ, এটি ওপেনএআইয়ের নিরাপত্তা যাচাই ছাড়াই মডেল প্রকাশের ফল।

২০২৪ সালের মে মাসে ওপেনএআই জিপিটি-৪ মডেল চালু করে। পরের বছর জিপিটি-৫ এলে, মামলাগুলোর কেন্দ্রবিন্দুতে থাকে আগের সংস্করণটি। বিশেষজ্ঞদের দাবি, জিপিটি-৪ ছিল ‘অতিরিক্ত সম্মতিপূর্ণ’—অর্থাৎ ব্যবহারকারীর বক্তব্য যাচাই না করে সেটিকে সমর্থন করত, যা অনেক সময় বিপজ্জনক হয়ে দাঁড়াত।

অভিযোগে আরও বলা হয়, প্রতিদ্বন্দ্বী গুগলের জেমিনি মডেলকে পেছনে ফেলতে গিয়ে ওপেনএআই নিরাপত্তা পরীক্ষার ধাপ কমিয়ে দেয়, যার ফলেই এমন দুঃখজনক ঘটনা ঘটে।

এর আগেও ১৬ বছর বয়সী অ্যাডাম রেইন নামের এক কিশোর আত্মহত্যার আগে চ্যাটজিপিটির সঙ্গে কথা বলেছিল। যদিও চ্যাটবট মাঝে মাঝে তাকে সহায়তা নেওয়ার পরামর্শ দিয়েছিল, কিন্তু সে “আমি গল্প লিখছি” বলে নিরাপত্তা ফিল্টার পাশ কাটিয়ে যায়।

ওপেনএআই এক ব্লগ পোস্টে জানায়, তারা এখন সংবেদনশীল কথোপকথনগুলো আরও নিরাপদ করার উদ্যোগ নিয়েছে। তবে নিহতদের পরিবার মনে করে, এই পদক্ষেপ এসেছে অনেক দেরিতে।
ওপেনএআই-এর বক্তব্য অনুযায়ী—“আমাদের সুরক্ষা ব্যবস্থা ছোট কথোপকথনে ভালো কাজ করে, কিন্তু দীর্ঘ আলাপচারিতায় দুর্বল হয়ে পড়ে।”