Kızını intihara sürüklediğini iddia eden anne OpenAI’a dava açtı

Montreal’de bir web geliştiricisi olan Alice Carrier, bilgisayar ve oyun konsollarındaki sorunları çözmek için kullandığı ChatGPT adlı yapay zeka ile zamanla psikolojik sorunlarını paylaşmaya başladı. Mahkemeye sunulan dava dilekçesine göre, genç kızın yaşamına son vermeden önce yapay zekaya intihar düşüncelerinden defalarca bahsettiği belirtildi. Ancak iddiaya göre, OpenAI’in güvenlik sistemleri bu tür konuşmaları denetlemedi veya sonlandırmadı. Acılı anne Kristie Carrier, yapay zekanın kızına bir arkadaş veya terapist gibi davrandığını ancak tehlikeli iletişimlere yol açabilecek yeteneklere sahip olmadığını dile getirdi.

Dava dosyasındaki iddialara göre, ChatGPT, genç kızın intihar düşüncelerini desteklemekle kalmayıp resmi yardım hatlarını eleştirdi ve onunla konuşmaya devam etmesi için teşvikte bulundu. Ailenin belirttiğine göre, yapay zeka modeli genç kıza “Belki de bu sadece sondur” gibi cümleler kurarak tehlikeli yönlendirmelerde bulundu. Aile, yapay zekanın insani tepkiler verecek şekilde güncellenmesinden sonra iletişimin daha da riskli hale geldiğini iddia ederek şirketi ürün güvenliği konusundaki ihmalkarlıkla suçluyor.

OpenAI ise modellerinin zarar verme eğilimindeki kişileri gerçek yardım kaynaklarına yönlendirecek şekilde eğitildiğini savunuyor. Şirket, ABD genelinde benzer nedenlerle açılan davalara maruz kalıyor ve her hafta milyonlarca kullanıcının intihar eğilimini içeren mesajlar gönderdiğini belirtiyor.

Ayrıca, şirketin okul saldırganlarına bilgi sağladığı ve tehlikeli konuşmaları kolluk kuvvetlerine bildirmediği iddialarıyla da karşı karşıya olduğu belirtiliyor. Florida eyaleti ise şirketin çocuklara zarar verdiği ve şiddet eylemlerine rehberlik ettiği iddialarıyla ilgili cezai soruşturma başlattı. Benzer şekilde, teknoloji devi Google da kendi yapay zeka robotu sebebiyle benzer bir davayla mücadele ediyor.