Kaliforniya Üniversitesi Berkeley’den Profesör Hany Farid, yapay zeka tarafından üretilen ses ve videoların gerçeklerinden ayırt edilemediğini belirterek normal insanların yapay zeka ürünlerini tanıma oranının yüzde 60 civarında olduğunu açıkladı. Bu durumun, yazı tura atmakla aynı seviyede olduğunu ifade etti. Küresel finansal dolandırıcılık zararının 442 milyar dolara ulaştığı belirtilen INTERPOL tarafından yayımlanan Küresel Finansal Dolandırıcılık Tehdit Değerlendirmesi raporuna göre, 2025 yılında bu zararın artarak devam edeceği öngörülüyor. Raporda risk seviyesinin “Yüksek” olarak belirlendiği ve önümüzdeki 3 ila 5 yıl içinde ciddi artışlar yaşanacağı belirtiliyor. FBI’ın yayımladığı İnternet Suçları Şikayet Merkezi Yıllık Raporu’na göre, ABD’de siber suç kayıplarının 20,9 milyar dolar olarak kaydedildiği ve yapay zeka kaynaklı şikayetlerin arttığı bildirildi. FBI, 893 milyon doları aşan zararı bulunan 22 binden fazla şikayeti kayıtlara geçirdi. İngiltere’de ise kurbanların kendi elleriyle para göndermelerini sağlayan dolandırıcılık türünün yüzde 19 artarak 576,4 milyon sterline yükseldiği açıklandı.
Günümüz teknolojisinde ses klonlama ve derin kurgu dolandırıcılığı nasıl işliyor? Bir sesin klonlanabilmesi için sosyal medya videoları, podcast yayınları veya telesekreter mesajları gibi kaynaklardan alınan kısa ses kayıtları yeterli olabiliyor. Süreç, bir konuşmacı kodlayıcı ağı tarafından ses özelliklerini sayısal bir gömme vektörüne dönüştürerek başlıyor. Ardından akustik modeller, Microsoft’un VALL-E veya Tacotron 2 gibi mimarileri üzerine kurulu, yeni metni bu ses özellikleriyle eşleştiriyor. HiFi-GAN gibi sinirsel ses sentezleyicileri ise bu özellikleri gerçekçi bir şekilde ses dalgalarına çeviriyor. Modern modeller, binlerce konuşmacı üzerinde eğitilerek kişiye özel ayarlamaları gereksiz hale getiriyor. Gerçek zamanlı ses dönüştürme sistemleri, 100 milisaniyenin altındaki gecikme süreleriyle çalışarak canlı telefon görüşmelerinde derin kurgu ses kullanımını mümkün kılıyor.
Dolandırıcılık faaliyetlerinin endüstrileşmesiyle birlikte, yapay zeka ajanları kullanılarak otomatikleştirilen dolandırıcılık işlemleri yeni bir boyut kazandı. Yapay zeka destekli dolandırıcılığın, geleneksel yöntemlere göre 4,5 kat daha karlı olduğu belirtiliyor. Bu sistemler, başarısız oldukları durumlardan ders çıkararak modellerini güncelliyor ve bir sonraki denemede stratejilerini değiştiriyor. Araştırmalar, otonom yapay zeka ajanlarının kurbanların tepkilerine uyum sağlayarak, güvenlik önlemlerini aşarak ve konuşma sentezini kullanarak uçtan uca dolandırıcılık faaliyetleri gerçekleştirdiğini gösteriyor. Ek olarak, karanlık webde aylık ücretler karşılığında sunulan “hizmet olarak dolandırıcılık” (FaaS) platformları, ses klonlama ve sahte belge kitleri içeren yazılımları geniş kitlelere ulaştırıyor.
En yaygın beş yapay zeka dolandırıcılık türü şunlardır: Aile acil durum dolandırıcılığı, şirket e-postalarının ele geçirilmesi ve sahte görüntülü aramalar, romantik yatırım dolandırıcılığı (Pig butchering), sentetik kimlik dolandırıcılığı ve yapay zeka ile geliştirilmiş oltalama.
Uzmanlar, yapay zeka dolandırıcılığına karşı alınabilecek önlemler konusunda şu önerilerde bulunuyor: Gelen talebin niteliğine odaklanılmalı ve ses ya da görüntüye güvenmekten kaçınılmalıdır. Aile içinde özel bir parola belirlenmeli ve acil durumlarda bu parola sorulmalıdır. Kredi sicili proaktif olarak dondurularak dolandırıcılık faaliyetlerinin önüne geçilebilir. Finansal hesaplar ve e-postalar için çok aşamalı doğrulamanın etkinleştirilmesi gerekmektedir. Baskı ve aciliyet hissi veren durumlarda sakin kalarak işlemlerin yavaşlatılması önemlidir. Arayan kimliğine ya da görüntülü aramalara tamamen güvenilmemeli ve şüpheli durumlarda resmi kanallardan doğrulama yapılmalıdır. Kamuya açık ses ve video izlerinin sınırlandırılması, dolandırıcılık riskini azaltabilir. Tanınmayan kişilerden gelen yatırım tavsiyeleri bağımsız finansal denetim mekanizmaları üzerinden kontrol edilmelidir.
Bireysel önlemlerin yanı sıra sistem düzeyinde mücadele gerektiği belirtilmektedir. Örneğin, zorunlu banka iade düzenlemeleri gibi yasal adımların yanı sıra finansal kurumların yapay zeka tabanlı tespit sistemlerini ve platform sorumluluğunu artırmaları gerekmektedir. Aksi takdirde, yapay zeka kaynaklı dolandırıcılık kayıplarının artarak devam edeceği tahmin edilmektedir.
