Birleşmiş Milletler (BM) bünyesindeki bağımsız bir uzman paneli, yapay zekanın (YZ) hızla gelişmesinin dünya genelinde toplumlara büyük faydalar sağlama potansiyeli taşıdığını ancak aynı zamanda önemli ve giderek büyüyen riskler de barındırdığını açıkladı.
Kırk önde gelen bilim insanı ve uzmanın katkı sunduğu bu rapor, YZ konusundaki ilk bağımsız bilimsel değerlendirme olma özelliği taşıyor. Rapor, 6-7 Temmuz tarihlerinde Cenevre’de düzenlenecek BM’nin ilk Küresel Yapay Zeka Yönetişimi Diyaloğu’nda hükümetlere sunulacak.
Dünyanın her bölgesinden seçilen panel, hükümetlerden, kurumlardan ve şirketlerden bağımsız olarak görev yapıyor. Panelin gelecek yıl daha kapsamlı bir rapor daha yayımlaması bekleniyor.
Raporda, politika yapıcıların yapay zekayı düzenlemek için acilen bilimsel kanıtlara ihtiyaç duyduğuna ancak teknolojideki ilerlemenin bilimsel anlayıştan ve hükümetlerin uyum sağlama kapasitesinden çok daha hızlı olduğuna dikkat çekiliyor.
Ayrıca, düzenleyici kurumların yüksek düzeyde özerk yapay zeka sistemlerini kontrol etmek için şu anda çok sınırlı araçlara sahip olduğu uyarısı yapılıyor.
Panelin eş başkanı Yoshua Bengio, yapay zeka sistemlerinde aldatıcı davranışlara dair kanıtların arttığını belirtti. Bengio, bilimin, yapay zekanın ister otonom hareketleriyle ister kötü niyetli kullanımıyla felaket boyutunda zararlar vermeyeceğini garanti edemeyeceği uyarısında bulundu.
Rapora göre yapay zeka “muazzam potansiyel faydalar” sunmakla birlikte, hızlı ve büyük ölçüde denetimsiz genişlemesi ciddi riskler de yaratıyor. Bunlar arasında ruh sağlığı üzerindeki etkiler, yıkıcı bir araç olarak kullanılma potansiyeli ve sosyal, ekonomik ile çevresel sistemlerde yaratacağı aksamalar sıralanıyor.
Raporda ayrıca, giderek güçlenen teknolojileri kontrol altında tutmanın zorluklarına da dikkat çekiliyor.
Yapay zeka kullanımı ülkeler ve sektörler arasında dengesiz bir şekilde yayılıyor. Bugün bir milyardan fazla insan temel düzeyde yapay zekayı haftalık olarak kullanıyor ancak gelişmekte olan ülkelerde bu oran geride kalıyor.
Rapor, yapay zeka gücünün ciddi bir şekilde tekelleştiğini ortaya koyuyor. Dünyanın en güçlü 500 süper bilgisayarı arasındaki işlem gücünün yüzde 75’i Amerika Birleşik Devletleri’nde, yüzde 15’i ise Çin’de bulunuyor.
Dünya genelinde 7 binin üzerinde dil konuşulmasına rağmen mevcut yapay zeka modelleri bunların yalnızca çok küçük bir kısmı üzerinde eğitiliyor. Bu durum, makine çevirilerinde hatalara yol açarak tıbbi teşhis ve tedavi kararlarını bile etkileyebiliyor.
Raporda ayrıca insan hakları ve sosyal sistemlere yönelik artan risklere de dikkat çekiliyor. Yapay zeka ile üretilen çocuk istismarı materyalleri ve derin sahte (deepfake) içeriklerin cinsel şiddeti yaygınlaştırmak için kullanılması bu riskler arasında sayılıyor.
Panel, yapay zekanın ikna edici içeriklerin seri üretimini ve hedef kitleye ulaştırılmasını mümkün kıldığını, bunun da bilgi bütünlüğünü aşındırarak kamu güvenini, sosyal uyumu ve demokratik tartışmayı zayıflattığını belirtiyor.
Son olarak panel, gelişmiş ekonomiler de dahil olmak üzere çoğu ülkenin, gelişmiş yapay zeka sistemlerini düzgün bir şekilde değerlendirmek veya yönetişim süreçlerine anlamlı bir şekilde katılmak için gereken teknik uzmanlıktan yoksun olduğu uyarısında bulunuyor.
