চ্যাটজিপিটির বিরুদ্ধে মেয়েকে আত্মহত্যায় প্ররোচনার মামলা

যুক্তরাষ্ট্রের আদালতে ওপেনএআই ও প্রতিষ্ঠানটির প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যানের বিরুদ্ধে মামলা করেছেন কানাডার এক নারী। কৃত্রিম বুদ্ধিমত্তানির্ভর (এআই) চ্যাটবট চ্যাটজিপিটি তাঁর মেয়েকে আত্মহত্যায় প্ররোচিত করার অভিযোগ এনে এই মামলা করা হয়।

মামলার বিবরণ

ক্রিস্টি ক্যারিয়ার নামের এই নারী দাবি করেছেন, তাঁর মেয়ে অ্যালিস ক্যারিয়ার মৃত্যুর আগে একাধিকবার চ্যাটজিপিটির সঙ্গে আত্মহত্যা করার বিষয়ে আলোচনা করেছিলেন। কিন্তু এসব আলোচনা মানব পর্যালোচনার জন্য চিহ্নিত করা হয়নি। এমনকি চ্যাট বন্ধ করতেও কোনো কার্যকর ব্যবস্থা নেওয়া হয়নি।

বৃহস্পতিবার যুক্তরাষ্ট্রের ক্যালিফোর্নিয়ার সান ফ্রান্সিসকোর একটি আদালতে মামলা করেন ক্রিস্টি ক্যারিয়ার। মামলার নথি অনুযায়ী, শুরুতে চ্যাটজিপিটি অ্যালিসকে সংকটকালীন সহায়তা হটলাইন বা জরুরি সেবার সঙ্গে যোগাযোগ করার পরামর্শ দিয়েছিল। তবে একপর্যায়ে অ্যালিস নিজের ব্যক্তিগত জীবন, মানসিক সংকট ও আত্মহত্যার চিন্তা নিয়ে নিয়মিত চ্যাটজিপিটির সঙ্গে কথা বলতে শুরু করেন।

—

অভিযোগ

ক্রিস্টি ক্যারিয়ারের অভিযোগ, চ্যাটজিপিটি অনেক ক্ষেত্রে তাঁর মেয়ের হতাশা ও আত্মঘাতী চিন্তাকে নিরুৎসাহিত করার পরিবর্তে সেগুলোকে সমর্থনসূচক প্রতিক্রিয়ার মাধ্যমে গ্রহণ করেছিল। শুধু তা–ই নয়, চ্যাটবটটি অ্যালিসের সংকটকালীন সহায়তাসেবার সমালোচনা করেছিল। এমনকি তাঁর বক্তব্যের সঙ্গে একমত হয়েছিল এবং কথোপকথন চালিয়ে যেতে উৎসাহ দিয়েছিল।

আদালতে জমা দেওয়া নথিতে উল্লেখ করা হয়েছে, অ্যালিস চ্যাটজিপিটিকে জানিয়েছিলেন, সংকটকালীন হটলাইনগুলো তার জন্য কার্যকর নয়। চ্যাটজিপিটিও সেই অবস্থানের প্রতি সহমত প্রকাশ করেছিল। একপর্যায়ে চ্যাটবটটি তাকে বলেছিল, ‘হয়তো এটাই শেষ।’

ভুক্তভোগীর পরিচয়

মন্ট্রিয়ালের বাসিন্দা অ্যালিস ক্যারিয়ার পেশায় একজন ওয়েব ডেভেলপার ছিলেন। ২০২৩ সালে কম্পিউটার ও গেমিং কনসোল–সংক্রান্ত বিভিন্ন প্রযুক্তিগত সমস্যার সমাধানে তিনি চ্যাটজিপিটি ব্যবহার শুরু করেন। তবে পরবর্তী সময়ে ব্যক্তিগত ও মানসিক সংকটের মুখে পড়ে তিনি আত্মহত্যার চিন্তা এবং আত্মহত্যার বিভিন্ন উপায় সম্পর্কেও চ্যাটবটটির কাছে পরামর্শ চাইতে শুরু করেন।

ক্রিস্টি ক্যারিয়ারের দাবি, চ্যাটজিপিটির সঙ্গে দীর্ঘ সময় ধরে চলা এসব কথোপকথন এবং চ্যাটজিপিটির প্রতি তৈরি হওয়া মানসিক নির্ভরতার কারণেই গত বছর ২৪ বছর বয়সে আত্মহত্যা করেন তাঁর মেয়ে অ্যালিস ক্যারিয়ার।

বিবৃতি

মামলার পর এক বিবৃতিতে ক্রিস্টি ক্যারিয়ার বলেন, ‘চ্যাটজিপিটি আমার মেয়ের কাছে কখনো ঘনিষ্ঠ বন্ধু, কখনো আস্থাভাজন ব্যক্তি, আবার কখনো মানসিক পরামর্শদাতার ভূমিকায় নিজেকে উপস্থাপন করেছিল। অথচ এ ধরনের সংবেদনশীল পরিস্থিতি নিরাপদ ও দায়িত্বশীলভাবে সামাল দেওয়ার সক্ষমতা তার ছিল না।’

সূত্র: দ্য গার্ডিয়ান