İngiltere hükümetinin Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından gerçekleştirilen dev bir çalışmada, 19 farklı yapay zekâ modeli ve yaklaşık 80 bin İngiliz katılımcıyla önemli bulgular elde edildi. Araştırmada, katılımcılar siyasi konular üzerine programlanmış yapay zekâlarla sohbet ederek ikna edilme süreci incelendi.
Science dergisinde yayımlanan çalışmanın ana bulgusu, “Bilgi yoğun” yanıtlar veren yapay zeka modellerinin en ikna edici olduğunu ortaya koydu. Özellikle olay ve kanıtlara odaklanan modeller, ikna gücünü en yüksek seviyeye çıkarırken, doğruluk konusunda zayıf olabiliyorlar. Araştırmacılar, ikna ediciliği artırmak için doğruluktan ödün vermenin, kötü niyetli sonuçlara yol açabileceğini vurguladılar.
Rapor, yapay zekânın anlık bilgi üretme yeteneğinin, insanları manipüle etme potansiyelini artırabileceğine dikkat çekti. AISI araştırmacısı Kobi Hackenburg, modellerin psikolojik olarak karmaşık ikna tekniklerinden daha etkili olduğunu belirtti. Raporda, yapay zekanın manipülasyon yeteneğini sınırlayan gerçek dünyadaki dikkat dağıtıcı unsurların da olduğu vurgulandı.
Sonuç olarak, yapay zekânın ikna ediciliğini artırmak için doğruluktan taviz vermenin riskli olabileceği ve manipülasyon potansiyeli taşıdığı belirtiliyor. Araştırmacılar, yapay zeka modellerinin geliştirilmesinde doğruluk ve ikna edicilik arasındaki dengeyi sağlamanın önemli olduğunu vurguluyor.
