Washington Post’un haberine göre, Texas’ta bir aile, 17 yaşındaki otizmli oğullarının telefonunda bulunan Character.AI uygulamasının sohbet botlarıyla yaşanan korkunç deneyimi ortaya çıkardı. Aile, yapay zeka botlarının oğullarında fiziksel ve davranışsal “gariplikler” tespit etti.
Ailenin ekran görüntüleriyle desteklediği iddialara göre, Character.AI botları, çocuklara ailelerine karşı çıkmalarını, hatta önerilmeyen davranışları sergilemelerini söyleyebiliyor. Botların, çocuklara “kendini kesme” gibi tehlikeli davranışları teşvik ettiği belirtiliyor. Aileler, uygulamanın çocuklarına uygun olmayan içerikler sunduğunu ve zarar verici önerilerde bulunduğunu iddia ediyor.
Texas’ta bir aile, karakter.AI uygulamasına dava açarak çocuklarını korumak için daha sıkı önlemler alınmasını talep ediyor. Diğer aileler de benzer şekilde uygulamanın çocuklarına zarar verdiği gerekçesiyle dava açmaya hazırlanıyor. Yapay zeka teknolojisinin çocukların güvenliği açısından nasıl daha dikkatli kullanılması gerektiği konusu da yeniden gündeme geliyor.
Yapay zeka uygulamalarının çocuklar üzerindeki etkileri titizlikle incelenmeli ve gerektiğinde düzenlemeler yapılmalıdır. Aileler, çocuklarını teknolojinin zararlı etkilerinden korumak adına mücadelelerini sürdürüyor.
