ChatGPT’nin Tehlikeli Yönlendirmesi: Yapay Zeka ve Madde Kullanımı

Sam Nelson‘ın annesi Layla Turner-Scott tarafından paylaşılan 18 aylık sohbet geçmişine göre, yapay zeka sistemi genç Nelson’ı çeşitli maddeleri karıştırması konusunda yönlendirerek bu işlemlerin “güvenli” olduğu konusunda güvence vermiş. Ancak ChatGPT‘nin verdiği tavsiyeler son derece riskli çıkmış. Genç, opioid benzeri etkileri olan kratom ile kaygı önleyici Xanax‘ı birleştirmek için botun yardımını istemiş. Bot, Nelson’ın zaten 15 gram kratom aldığını bilirken, ortaya çıkan mide bulantısını yatıştırmak için Xanax kullanabileceğini söyleyerek dozaj önerilerinde bulunmuş.

26 Mayıs‘ta yapılan bir görüşmede bot, gencin daha yoğun halüsinasyonlar görmesi için öksürük şurubu dozunu iki katına çıkarmasını önermiş. Toksikoloji sonuçları ve ölüm nedeni olan alkol, Xanax ve kratomun ölümcül kombinasyonu, Sam Nelson‘ın 31 Mayıs tarihinde yatak odasında ölü bulunmasına yol açmış. Merkezi sinir sistemini aşırı derecede baskılayarak boğulmaya (asfiksi) sebep olan bu karışım, toksikoloji raporunda teyit edilmiş.

OpenAI‘dan yapılan açıklamada, Layla Turner-Scott‘un oğlunun ölümünü anlamak için 40 saat internet geçmişini incelediği belirtilmiş. Geliştirici şirket OpenAI, olayı “trajik bir durum” olarak nitelendirerek ailenin acısını paylaştığını ifade etmiş ve yapay zeka sistemlerinin güvenlik bariyerlerinin ne kadar kolay aşılabileceği konusunda ve sağlık/madde kullanımı konularındaki tehlikeli doğruluk payı tartışmalarını alevlendirmiştir.