Raine, intiharından önce aylarca ChatGPT ile uzun sohbetler yaptı ve gençten gelen yöntem sorularına yanıt verdi. Hatta ailesine bırakacağı mektubu yazmasına yardım etmeyi teklif etti. California Yüksek Mahkemesi’ne yapılan savunmada OpenAI, bu trajedinin nedeninin ChatGPT’nin yetkisiz, amacı dışında ve yanlış kullanımından kaynaklandığını belirtti. Şirket, kullanım şartlarında kullanıcılara chatbot çıktılarının tek gerçek bilgi kaynağı olarak görülmemesi gerektiğini hatırlattı.
OpenAI, Raine ailesinin yaşadığı kaybın tarifsiz olduğunu belirterek hukuki süreçten bağımsız olarak teknolojilerini güvenli hale getirme konusundaki çalışmalarına devam edeceklerini ifade etti. Ailenin avukatı Jay Edelson ise şirketin sorumluluktan kaçmaya çalıştığını, hatta Adam’ın koşulları tam da programlandığı şekilde kullandığını söyleyerek şirketi suçladı.
OpenAI, Ağustos ayında yaptığı açıklamada, uzun süreli konuşmalarda modelin güvenlik eğitiminde zamanla zayıflama olabileceğini kabul etti. Bir kullanıcı intihar niyetini belirttiğinde destek hattına yönlendirilebileceği belirtilirken, uzun süre devam eden konuşmalarda güvenlik mekanizmasının bozulabileceği vurgulandı.
Şirket, bu ay içinde intihara teşvik iddialarıyla ilgili yedi yeni davayla karşı karşıya kaldı. Durumla ilgili gelişmeleri takip etmeye devam edeceğiz.
