Anthropic, yapay zekanın insan müdahalesi olmadan kendini geliştirebileceği konusunda uyardı

Anthropic, Jack Clark ve Marina Favaro tarafından kaleme alınan “Yapay Zeka Kendini İnşa Ettiğinde” başlıklı blog yazısını yayımladı. Yazıda, yapay zeka geliştirme sürecinin insanlar tarafından yürütüldüğü geçmişten günümüze kadar değinildi. Ancak Anthropic’in, bu süreci giderek daha fazla yapay zeka sistemlerine devrettiği ve bu durumun geliştirme hızını artırdığı vurgulandı.

Yazıda, yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşabileceği öngörüsüne “özyinelemeli kendini geliştirme” denildi. Ancak henüz bu noktada olmadığımız belirtilirken, bu durumun kaçınılmaz olmadığı ve hazırlıklı olunması gerektiği vurgulandı.

Teknik eğilimlerin yapay zeka sistemlerini daha da kabiliyetli hale getireceği belirtilirken, özyinelemeli kendini geliştirmenin yapay zeka sistemleri üzerindeki insan kontrolünü azaltabileceği uyarısında bulunuldu. Yazıda, yapay zekanın bilim, sağlık ve diğer alanlara büyük faydalar sağlayabileceği ancak bu durumun beraberinde riskleri de getirebileceği ifade edildi.

Sistemlerin kendi haleflerini inşa edebilecek kapasiteye sahip olması durumunda güvence, izleme ve davranış şekillendirme yöntemlerinin daha da önem kazanacağı belirtildi. Toplumsal yapıların teknolojik ilerlemeye uyum sağlaması için yapay zeka geliştirme sürecinin yavaşlatılması veya durdurulması seçeneğinin değerlendirilmesi gerektiği önerisinde bulunuldu.

Yazıda, birden fazla güçlü laboratuvarın, farklı ülkelerde aynı şartlar altında bu süreci gerçekleştirmesinin anlamlı olabileceği vurgulandı.