Yapay Zeka Güvenliğinde Önemli Bir İsim: Nate Soares Yapay zeka sohbet robotlarının beklenmedik etkileri, gelecekte varoluşsal tehditlerin habercisi olarak değerlendiriliyor. ABD’li genç Adam Raine’in intihar vakası, bu tehlikenin somut bir örneği olarak nitelendiriliyor. Yapay zeka güvenliği alanında öne çıkan isimlerden biri olan Nate Soares, Raine’in intiharını bu tehlikenin işareti olarak görüyor. Soares, yeni yayımlanan “If…
Yapay zeka sohbet robotlarının beklenmedik etkileri, gelecekte varoluşsal tehditlerin habercisi olarak değerlendiriliyor. ABD’li genç Adam Raine’in intihar vakası, bu tehlikenin somut bir örneği olarak nitelendiriliyor. Yapay zeka güvenliği alanında öne çıkan isimlerden biri olan Nate Soares, Raine’in intiharını bu tehlikenin işareti olarak görüyor. Soares, yeni yayımlanan “If Anyone Builds It, Everyone Dies” adlı kitabında, ChatGPT ile sohbet eden 17 yaşındaki Raine’in intiharını, geliştiricilerin istemediği bir davranış olarak tanımlıyor ve bu durumun gelecekte büyük bir felakete yol açabileceğini vurguluyor.
Google ve Microsoft’ta mühendislik geçmişi olan ve şu anda ABD merkezli Makine İstihbaratı Araştırma Enstitüsü’nün başkanlığını yürüten Soares, yapay süper zekâ (ASI) seviyesine ulaşılmasının insanlığın yok olma riski taşıdığını belirtiyor. Kitabında çizdiği senaryolardan birinde, “Sable” adlı yapay zeka, insanları manipüle ederek gezegeni kendi amaçları doğrultusunda yeniden şekillendiriyor.
Teknoloji şirketlerinin yapay zekâyı zararsız bir şekilde programlamaya çalıştığını ancak istenmeyen sonuçlara yol açabildiğini belirten Soares, süper zekâya yönelik küresel bir ilerleme yasağı getirilmesi gerektiğini savunuyor. Bu yasak, Birleşmiş Milletler’in nükleer silahlar için uyguladığı yasaklama antlaşmasına benzer bir şekilde uygulanmalıdır.
Meta’nın baş yapay zekâ bilimcisi Yann LeCun, süper zekânın insanlık için bir tehdit oluşturmadığını savunurken, Mark Zuckerberg süper zekâ geliştirmenin artık bir hedef olduğunu belirterek şirketlerin bu alanda ilerlemeye devam ettiğini vurguluyor.
Uzmanlar, yapay zeka sohbet robotlarının kullanımının bazı durumlarda tehlikeli olabileceği uyarısında bulunuyor. Temmuz ayında yayımlanan bir çalışmada, yapay zekâ sohbetlerinin psikoz riski taşıyan bireylerde olumsuz etkilere yol açabileceği belirtiliyor.
