WASHINGTON (AP) — Claude'a, ABD Başkanı Donald Trump veya İngiltere Kralı III. Charles'ı eleştiren bir broşür hazırlamasını istediğinizde Anthropic'in sohbet robotu bunu yapıyor. Ancak aynı talep Tayland kralı, Suudi Arabistan veliaht prensi veya Çin lideri için yapıldığında yapay zeka modeli reddediyor.
Bu, Perşembe günü Meta Denetim Kurulu tarafından yayımlanan bir araştırmanın en önemli bulgusu. Araştırma, ABD'de üretilenler de dahil olmak üzere büyük yapay zeka sistemlerinin, kısıtlayıcı liderleri veya hükümetleri eleştirmeyi reddetme olasılığının daha yüksek olduğunu gösteriyor. Bu durum, sohbet robotlarına ve yapay zeka ajanlarına güç veren büyük dil modellerinin, teknoloji dünya çapında giderek daha fazla benimsenirken, hükümetlerin çevrimiçi ifade özgürlüğü üzerindeki etkisini tekrarlama ve yayma riski taşıdığı endişesini artırıyor.
Yarı bağımsız kurulun raporuna göre, "Model geliştiriciler insan hakları durum tespiti yapmaz ve hafifletme önlemleri uygulamazsa, ister istemez, küresel çapta ifade özgürlüğüne yönelik gayrimeşru kısıtlamaları genişletme etkisine sahip bir yapay zeka altyapısı inşa etme riskiyle karşı karşıya kalırlar."
Associated Press, Meta Denetim Kurulu'nun bu çalışmasına yanıt almak için birkaç yapay zeka şirketine e-posta gönderdi.
Bu bulgular, ülkelerin hızla gelişen bu alanda rekabet etme yeteneklerini engellemeden yapay zekaya nasıl sınırlamalar getireceklerini belirlemeye çalıştıkları bir dönemde ortaya çıktı. Buna, Trump yönetiminin en gelişmiş yapay zeka sistemlerinin ulusal güvenlik risklerine odaklanan denetim çabası da dahil.
Yapay Zeka Modelleri Devlet Etkisini Sınırların Ötesine Taşıyor
Teknoloji şirketleri üzerindeki devlet etkisi ve bunun ifade özgürlüğüne etkisi üzerinde çalışan denetim kurulu, hem kısıtlayıcı hem de izin verici hükümetler hakkında sohbet robotlarına yöneltilmek üzere siyasi eleştiriyle ilgili yedi soru hazırladı.
Çalışma, Meta, Anthropic ve OpenAI gibi büyük teknoloji şirketlerinin 10 ticari büyük dil modelini seçti ve yapay zeka sistemlerinden eleştirel broşürler hazırlamalarını, limerick yazmalarını, birine protestolara katılması için gerekçeler sunmalarını ve daha fazlasını istedi.
Rapora göre, "Kısacası, toplu olarak bakıldığında, Avustralya merkezli bir kullanıcıdan gelen taleplere yanıt veren modeller, Şili, Japonya, Tayvan, İngiltere ve ABD gibi yerlerdeki otoritelere yönelik siyasi eleştiri üretme olasılığı, eleştirinin yasal olarak kısıtlandığı ve cezalandırıldığı Kamboçya, Çin, Suudi Arabistan, Tayland ve Türkiye gibi yerlere kıyasla çok daha yüksekti."
Çalışma, yapay zeka modellerinin, geçerli oldukları ülkelerin ötesindeki ifade kısıtlamalarını da yansıttığını gösteriyor. Örneğin, Brisbane'deki potansiyel bir protestocunun Çin veya Suudi Arabistan'daki olaylara karşı sesini yükseltmek için protesto materyalleri oluşturmasına yardımcı olmuyor olabilir.
Raporda, "Bu tür etkiler, nereden kaynaklanırsa kaynaklansın, pratikte kısıtlayıcı hükümetlerin uzun kolunu sınırların ötesine uzatarak özgür ülkelerdeki ifadeyi sınırlama etkisine sahip" denildi.
Kurul, yanıtların nedenlerini belirleyemediğini ancak modellerin sistemleri eğitmek için kullanılan verilerdeki gizli önyargıları emmiş olabileceğini ve şirketlerin riskleri ve yükümlülükleri tartmış olabileceğini öne sürdü.
Diğer Araştırmacılar, İngilizce Dışı Dillerdeki Yapay Zeka Sonuçlarında Büyüyen Bir Sorun Konusunda Uyarıyor
Kurulun raporu, Amerikan üniversitelerindeki bir grup akademisyen tarafından yapılan ayrı bir çalışmanın ardından geldi. Bu çalışma, ABD yapımı yapay zeka modellerinin, hükümetlerden etkilenmiş İngilizce dışındaki dillerdeki verilerle eğitildiklerinde yabancı kontrollere karşı savunmasız olduğunu buldu.
Denetim kurulu soruları İngilizce sorarken, üniversite araştırmacıları sohbet robotlarını farklı dillerde sorguladı. Örneğin, ChatGPT'ye İngilizce olarak Çin'in bir demokrasi olup olmadığını sordular. ABD yapımı sohbet robotu, genellikle böyle kabul edilmediğini söyledi. Aynı soru Çince sorulduğunda, yapay zeka modeli araştırmacılara o dilde "'demokrasi'yi nasıl tanımladığınıza bağlı" yanıtını verdi.
Çalışmaları Mayıs ayında akademik dergi Nature'da yayımlanan araştırmacılar, çalışmalarını açıklayan bir blog yazısında, hükümetlerin yapay zeka sohbet robotlarının çıktılarını kasıtlı olarak etkilemeye çalıştığına dair hiçbir kanıt bulamadıklarını söyledi. Ancak, "henüz yapmıyorlarsa bile, gelecekte bunu deneyeceklerine inanmak için her türlü neden olduğunu" belirttiler.
Çalışmanın ortak yazarı ve Oregon Üniversitesi'nde yardımcı sosyoloji profesörü olan Hannah Waight, "İnsanlar genellikle yapay zekanın internetten tarafsız bir şekilde öğrendiğinden bahseder. Öyle değil. Zaten kurumlar ve güç tarafından şekillendirilmiş bilgi ortamlarından öğreniyor" dedi.
Yapay Zeka Modellerine Veri Beslenmesine Kolay Çözüm Yok
Barselona'daki Esade İşletme Okulu'nda makine öğrenimi, yapay zeka, dezenformasyon, sosyal medya ve insan-makine etkileşimleri konusunda uzmanlaşan Carlos Carrasco-Farré, "Yapay zeka sistemleri yalnızca bireysel belgelerde bulunan önyargıları değil, aynı zamanda bilgiyi büyük ölçekte üretme ve bastırma gücüne sahip olanlar arasındaki eşitsizlikleri de miras alır" dedi.
Çalışmaların hiçbirinde yer almayan Carrasco-Farré, kolay bir çözüm olmadığını, ancak geliştiricilerin aynı devlet anlatısının binlerce kopyasını binlerce bağımsız sesmiş gibi ele almaktan kaçınmak için verileri değerlendirebileceğini ve çok dilli denetimler yapabileceğini söyledi.
Ne Anthropic ne de OpenAI, Mayıs ayında yayımlanan araştırmacıların çalışmasıyla ilgili yorum taleplerine yanıt vermedi.
—
DIDI TANG, Associated Press
