Yapay zeka teknolojisinin insanlık için yarattığı tehlike konusunda Anthropic şirketindeki endişeler çığ gibi büyüyor. Şirketin kıdemli araştırmacılarından biri, gelişmiş yapay zeka sistemlerinin nihayetinde insanlığın varlığını tehdit edebileceği uyarısında bulundu.
Anthropic’in hizalama bilimi başkanı Evan Hubinger, şirket içindeki pek çok çalışanın yapay zekanın insanlık için varoluşsal bir tehdit oluşturabileceğine candan inandığını belirtti. Hubinger, yapay zeka sistemlerinin hedeflerini insan çıkarlarıyla uyumlu hale getirmek için henüz net bir çözüm bulunamadığını da itiraf etti.
Bu açıklamalar, araştırmacı Jacob Coxon’un Anthropic’ten istifa edip şirketi yeterince sorumlu davranmamakla suçlamasından kısa bir süre sonra geldi.
Daha önce hem OpenAI hem de Anthropic’te ön eğitim araştırmalarında görev alan Coxon, rakip şirketlerin kendini geliştiren süper zekaya doğru tehlikeli bir hızla ilerlediğini ve “insanların hayatlarıyla oynadığını” savundu.
Yapay Zeka On Yıl İçinde İnsanlığı Tehdit Edebilir
X platformundan paylaşımlar yapan Hubinger, kendisinin ve meslektaşlarının “yapay zekanın tüm insanlığı yok edebileceğine gerçekten inandıklarını” dile getirdi. Hubinger, önümüzdeki on yıl içinde böyle bir felaketin gerçekleşme olasılığının %10'u aştığını tahmin etti.
Anthropic’in tüm çabalarına rağmen, “süper zeka hizalama” sorununu çözmek için ortada henüz net bir plan bulunmadığının altını çizdi.
Coxon ise ayrı bir açıklamada, yapay zeka geliştirme süreçlerinde çalışan kişilerin bu teknolojinin on yılın sonuna kadar insanlığı tehdit edebileceğine inandığını belirtti ve bu uyarıların bir “tanıtım hilesi” olmadığını vurguladı.
OpenAI’yi de sert bir dille eleştiren Coxon, şirketin medeniyet için neyin söz konusu olduğunu tam olarak kavrayamadığını ifade etti. Öte yandan Anthropic’in riskleri çok daha iyi anladığını, ancak diğer yapay zeka devleriyle girdiği acımasız rekabet yarışında çaresiz kaldığını sözlerine ekledi.
Endişeler Kendini Geliştiren Süper Zeka Üzerinde Yoğunlaşıyor
Bu endişelere yanıt veren Hubinger, Anthropic’in yaptığı son risk değerlendirmesine atıfta bulundu. Söz konusu değerlendirme, mevcut yapay zeka modellerinin düşük düzeyde risk oluşturduğu sonucuna varıyor.
Ancak asıl endişesi, öngörülenden çok daha hızlı ilerleyen ve tekrarlayan kendi kendini geliştirme döngüleriyle ortaya çıkacak süper zeka gelişimi.
Yapay Zeka Düzenlemesi ve Denetimi İçin Artan Çağrılar
Tüm bu gelişmeler, önde gelen yapay zeka araştırmacılarının ve sektör yöneticilerinin gelişmiş sistemlerin geliştirilme hızının düşürülmesi yönündeki çağrılarını giderek yoğunlaştırdığı bir döneme denk geliyor.
Temmuz ayında, aralarında Anthropic ortak kurucuları Dario Amodei ve Jared Kaplan, OpenAI baş bilim insanı Jakub Pachocki ile Meta AI baş bilim insanı Shengjia Zhao’nun da bulunduğu önde gelen isimler ortak bir bildiri yayımladı. Bildiride, yeterli güvenlik ve denetim önlemlerinin hayata geçirilebilmesi için yapay zeka geliştirme süreçlerinin yavaşlatılması gerektiği konusunda uyarıda bulunuldu.
Söz konusu bildiride, kontrolsüz otomatik yapay zeka sistemlerinin geliştirilmesine karşı önlem alınması amacıyla uluslararası işbirliği ve hükümetlerin müdahalesi çağrısı yapıldı.
Yakın zamanda yaptığı bir paylaşımda Pachocki, hiçbir yapay zeka laboratuvarının hizalama ve izleme zorluklarını tam olarak çözemediğini bir kez daha hatırlattı.
Pachocki, teknolojiyi izlemek ve kontrol etmek için yeterli mekanizmalar oluşturulmadan, sektörün yapay zeka sistemlerini bu hızla sonsuza kadar genişletemeyeceği konusunda da uyarıda bulundu.
