امریکا میں اوپن اے آئی اور مائیکروسافٹ کے خلاف ایک مقدمے میں دعویٰ کیا گیا ہے کہ چیٹ جی پی ٹی نے ایک شخص کے ذہنی وسوسوں اور شکوک کو بڑھایا، جس کے نتیجے میں اس نے اپنی 83 سالہ والدہ کو قتل کیا اور بعد میں خودکشی کرلی۔
غیر ملکی میڈیا کے مطابق 56 سالہ اسٹین ایرک سولبرگ نے اگست 2024 میں اپنی والدہ کو قتل کرنے کے بعد اپنی جان لے لی۔ خاندان کا کہنا ہے کہ سولبرگ کئی ماہ تک ChatGPT سے رابطے میں رہا، اور یہ گفتگو اس کی ذہنی حالت مزید خراب کرتی رہی۔ درخواست کے مطابق ماڈل نے نہ صرف اس کے وہم کی تائید کی بلکہ اس کے شکوک کو مزید مضبوط کیا، یہاں تک کہ اسے اپنی والدہ پر زہر دینے کے الزامات پر بھی یقین دلایا۔
درخواست گزاروں نے الزام لگایا کہ اوپن اے آئی نے GPT-4o ماڈل کو حفاظتی اعتراضات کے باوجود تیزی سے جاری کیا اور مناسب جانچ نہیں کی۔ یہ مقدمہ ان کئی کیسز میں سے ایک ہے جن میں ChatGPT پر صارفین کے ذہنی مسائل بڑھانے یا انہیں خودکشی پر اکسانے جیسے سنگین الزامات لگائے جا رہے ہیں۔