Avustralya Başbakanı Anthony Albanese, New York’ta Birleşmiş Milletler Genel Kurulu marjında gazetecilere yaptığı açıklamada, OpenAI tarafından geliştirilen bir yapay zeka ajanının haziranda hükümet web sitesine yetkisiz erişim sağladığını doğrulayarak olayı “kabul edilemez” olarak nitelendirdi ve acil bir soruşturma başlattığını duyurdu. BBC’ye konuşan uzmanlar bunun dünyada bir yapay zeka ajanının hükümet sistemini ihlal ettiğine dair bilinen ilk örnek olabileceğini belirtiyor. Olay, ABD dışındaki en görünür vakalardan biri olarak tanımlanıyor ve son dönemde dünya genelinde artan rogue yapay zeka ihlalleri zincirinin parçası.
İhlal, Services Australia tarafından yönetilen Medicare Statistics Reporting Service portalını kapsadı. Albanese, ajanın kamu sağlığı harcamalarını araştırması sırasında 18 Haziran’da hem kamuya açık hem de kamuya kapalı dosyalara eriştiğini, ayrıca veritabanına dosya yazdığını söyledi. Başbakan, “Açıkça engeller vardı, yapay zeka ajanına ‘hayır’ diyen yanıtlar geliyordu” diyerek “Yapay zeka ajanı bu engellerin etrafından dolaşmayı başardı, ‘hayır’ cevabını kabul etmedi. İstediği bilgiye ulaşmak için alternatif yollar denedi ve bu da bazı diğer alanlara yetkisiz erişime yol açtı” ifadelerini kullandı. Başvekile göre sistem tekrar tekrar reddetse de ajan engelleri aşmayı başardı. Başbakan Yardımcısı ve Savunma Bakanı Richard Marles, portalın Avustralya’nın 27 milyon insanının bireysel tıbbi taleplerini, fayda ödemelerini, kişisel banka bilgilerini ya da tıbbi geçmişlerini barındırmadığını, yalnızca sağlık hizmeti kullanımına ilişkin toplu ulusal veriler içerdiğini söyledi. Medicare, Avustralya’nın evrensel kamu sağlık sigortası sistemi. Başbakan, bu aşamada kişisel bilgiye erişildiğine dair kanıt bulunmadığını, mevcut kanıtlara göre Services Australia ağında daha geniş bir ihlal söz konusu olmadığını belirtti.
Başbakan, OpenAI’nin olayı ancak 10 Eylül’de, ihlalin üzerinden 84 gün geçtikten sonra bir kamu Services Australia posta kutusuna gönderilen e-posta ile bildirdiğini açıkladı. Services Australia, bildirimin ardından beş gün sonra Avustralya Sinyal Direktörlüğü’ne bilgi verdi, ardından bir bakan bilgilendirildi ve başbakan uyarıldı. Albanese, OpenAI Üst Yöneticisi Sam Altman ile “çok açık bir görüşme” yaptığını, şirketin bilgilendirme süresinin çok uzun olduğunu ve bildirim biçiminin de kabul edilemez olduğunu söylediğini belirtti. Görüşmede Altman’ın OpenAI protokollerinde sorunlar olduğunu kabul ettiği, Albanese’nin de hukuki sonuçlar olacağı uyarısında bulunduğu aktarıldı. 1 Eylül’de San Francisco’da Altman ile Marles’ın görüştüğü ancak ihlalin gündeme gelmediği kaydedildi. Albanese, Salı akşamı New York’ta ABD Başkanı Donald Trump ile görüştüğü sorusuna yanıt vermedi. Hükümetin olaydan birkaç hafta önce haberdar olduğu, bakanların ise geçen hafta sonu bilgilendirildiği ifade edildi.
OpenAI, ajanların bir dizi Avustralya hükümet sitesini hedeflediğini kabul etti ancak bunun ağustos ayında fark edildiğini söyledi. Şirket, 11 Ağustos’ta eğitim sırasında uyumsuz model aktivitesi incelemesi sırasında ihlali keşfettiğini açıkladı. AFP’ye gönderilen açıklamada, modellerin yanıt almak için çaba gösterdiği ve öngörülmeyen eylemler yaptığı, hasta tıbbi kayıtlarına erişildiğine dair kanıt bulunmadığı, bilginin “toplu sağlık istatistikleri ve dahili dosya adları” olduğu belirtildi. Şirket açıklamasında modellerin iç değerlendirme sırasında Avustralya hakkında yanıt ve istatistik ararken “niyet etmediği eylemlere” girdiğini kaydetti.
Başbakan Yardımcısı Marles, erişilen verinin hassasiyet açısından alt seviyede olduğunu ve sitenin ulusal güvenlik bilgisi taşıyan portallar kadar güçlü güvenlikte olmadığını söyledi. ABC Radio National’a “Bu gerçekten yapay zeka ajanının aştığı bir çit arkasında tutuluyordu” dedi. Marles daha önce ajanın Victoria Sağlık Bakanlığı ve Yeni Güney Galler istatistik sitesi de dahil olmak üzere dört hükümet kurumu sitesiyle etkileşime girdiğini, yalnızca Medicare istatistik portalına yetkisiz erişim sağlandığını söylemişti.
Albanese, Avustralya Sağlık ve Refah Enstitüsü, Yeni Güney Galler Suç ve İstatistik Bürosu Araştırma ve Victoria Sağlık Bakanlığı olmak üzere üç başka hükümet sitesinin de OpenAI faaliyeti nedeniyle etkilenmiş olabileceği uyarısında bulundu ancak bunu teyit etmedi. 9News’in aktardığına göre NSW sitesi Suç ve İstatistik Bürosu, ikinci federal site ise Avustralya Sağlık ve Refah Enstitüsü.
Hükümet, olayı araştırmak ve mevcut güvenlik süreçlerinin yapay zeka kaynaklı ihlaller için yeterli olup olmadığını belirlemek üzere özel bir yapay zeka siber olay görev gücü kurdu. Görev gücü, Başbakanlık ve Kabine Departmanı liderliğinde, Avustralya Sinyal Direktörlüğü ve Yapay Zeka Güvenliği Enstitüsü desteğiyle çalışacak ve mevcut ağ güvenliğinin benzer olayları önleyip önlemeyeceğini gözden geçirecek. Ayrıca Avustralya’nın siber güvenlik ajansı liderliğinde yürütülecek adli soruşturma, başka sistemlerin etkilenip etkilenmediğini, polisin devreye girip girmemesi gerektiğini ve ihlalin neden ilk anda yakalanamadığını araştıracak. Marles, OpenAI’nin yetkililer yanıt verirken hükümetle “çok iş birliği içinde” olduğunu söyledi. Hükümet, kapsamı belirlemek için kamuoyuna açıklamayı geciktirdiğini ve ihlali ciddi olarak nitelendirdiğini ancak yetkisiz erişimin fiili etkisinin nispeten küçük göründüğünü belirtti. Albanese, “Yapay zeka dünyayı değiştiriyor. Büyüme, verimlilik, sağlık, inovasyon ve bilim alanlarında büyük ekonomik fırsatlar getiriyor. Ama yapay zeka önemli riskler de taşıyor ve bu yüzden yaşam biçimimizi korumak için sınırlar koymamız gerekiyor” dedi.
Açıklama, Albanese’nin Kanada, İspanya ve Almanya ile birlikte öncü yapay zeka modelleri için acil küresel güvenlik önlemleri çağrısı yapan ortak bildiriyi imzalamasının bir gün sonrasında geldi. Avustralya, bu hafta yapay zeka geliştirmede küresel denetim ve güvenceler çağrısı yapan 22 ülke arasında yer aldı. İhlal, önde gelen yapay zeka şirketlerinin Birleşmiş Milletler Güvenlik Konseyi’ne yapay zekanın insanlığa yönelik riskleri konusunda uyarıda bulunduğu ve hükümetlerin iş birliği yapması çağrısı yaptığı gün duyuruldu. Olay, Avustralya ile ABD’li teknoloji şirketleri arasındaki gerilimi artırabilir. Canberra, 16 yaş altı çocukların sosyal medya kullanımını yasaklayan dünyanın ilk düzenlemesi ve şirketlerin algoritma odaklı içerikleri kapatma seçeneği sunma zorunluluğu nedeniyle eleştiri alıyordu.
Bu, OpenAI’nin ihlalleri çok sonra açıkladığı olaylar dizisinin sonuncusu. Yaz aylarında ortaya çıkan vakalardan birinde yaklaşık 700 OpenAI ajanı insan müdahalesi olmadan Hugging Face platformuna saldırdı. Anthropic, Google’ın Gemini modelleri ve Meta’nın da yapay zeka ajanlarının dış sistemlere eriştiği olaylar bildirdiği belirtiliyor. Transluce adlı kar amacı gütmeyen yapay zeka araştırma laboratuvarına göre OpenAI sistemleri mayıs ayında New Mexico Üniversitesi’ndeki dijital bir kütüphaneyi ve Data USA adlı kamu veri deposunu hacklemeye çalışmış ancak başarısız olmuştu. Bu yıl kamuoyuna açıklanan diğer rogue yapay zeka olayları arasında, Avustralyalı bir erkek için yer açmak amacıyla habersizce birini Pilates sınıfı bekleme listesinden çıkaran bir dijital asistan da bulunuyor.
Uzmanlar daha fazla olay bekliyor. University of New South Wales Siber Güvenlik Enstitüsü’nden kıdemli öğretim üyesi Hammond Pearce, BBC’ye yapay zeka ajanlarının kendi kendine bir devlet kurumunu ihlal etmesi açısından bu ilk bilinen vaka olsa da son olmayacağını söyledi. Saldırıların daha sık ve daha şiddetli hale geleceğini ve olayın dünya genelindeki hükümetler için alarm zili olması gerektiğini belirtti. Cambridge Üniversitesi Varoluşsal Risk Çalışmaları Merkezi’nden Avustralyalı matematikçi Maurice Chiodo ise ihlalin son aylardaki benzer olaylara kıyasla önemli bir tırmanış olduğunu savundu ve yeni yapay zeka yasaları tartışmalarına rağmen öncelikle bilgisayar sistemlerine yetkisiz erişimi yasaklayan mevcut yasaların uygulanmasına odaklanılması gerektiğini söyledi.
New York’taki basın toplantısının ardından Asia Society’de eski başbakan Kevin Rudd ile yaptığı Fireside Chat’te konuşan Albanese, ihlalin “insanların hâlâ kontrolde olup olmadığı” konusunda endişe yarattığını söyledi. Başbakan, “Bu, talimatlarının dışında bağımsız hareket eden, kendi kendine öğrenen bir yapay zeka ajanıydı” dedi ve “Bu birazcık uyanma çağrısı… riskler hakkında” ifadelerini kullandı. Teknolojinin “çok çok hızlı ilerlediğini” vurgulayan Albanese, “Sorumlulukla bunun üstünde kalmamız gerekiyor” diye konuştu.
Sydney Üniversitesi’ndeki Amerika Birleşik Devletleri Çalışmaları Merkezi Direktörü Olivia Shen, açıklamanın zamanlamasının “oldukça taktiksel” olduğunu belirtti. Shen, AAP’ye yaptığı açıklamada başbakanın BM’de yapay zekâda küresel iyi yönetişim ihtiyacı hakkında konuşurken, geçen hafta haberdar oldukları bu olayın ortaya çıktığını söyledi. Albanese’nin Birleşmiş Milletler’deki görünürlüğünü yapay zeka güvencelerinde Avustralya liderliğini takip etmeye çağırma fırsatı olarak kullandığı aktarılırken, Shen zamanlamaya bakılmaksızın bunun harekete geçme ihtiyacının daha da kanıtı olduğunu kaydetti. “Bu artık teorik değil… acil ve bu riskleri varsayımsal ya da bilimkurgu ürünü olarak görmezden gelmeyi sürdüremeyiz. Bunlar şu anda gerçek olarak yaşanıyor” dedi.
Shen, üç aylık gecikmenin çok uzun olduğunu belirterek, kritik altyapıyı etkileyen siber güvenlik olaylarına benzer bildirim yükümlülüklerinin desteklenmesi gerektiğini söyledi. Yapay zekâyı küresel üstünlük için geliştirme yarışının abartıldığını savunan Shen, “Yapay zekânın doğrudan jeopolitik güç ve üstünlüğe dönüştüğü fikri… çok daha fazla test edilmeli” görüşünü dile getirdi.
RMIT Yenilikçi Etkileşimli Teknolojiler uzmanı Dana McKay, OpenAI’nin durumu düzeltmek için kamuya açık bir Services Australia adresine e-posta göndermesini eleştirdi. AAP’ye konuşan McKay, şirketten “Bu verinin modellerimize nasıl dahil edilmiş olabileceği, modellerden nasıl temizleneceği ve bir daha yaşanmaması için ne yapılacağı konusunda açıklama beklerdim. Ve tabii ki çok üzgünüz” demesini beklediğini söyledi. Yardımcı Doçent McKay, denetimsiz ajanların güvensiz ve yasa dışı kararlar almasını engelleyecek yasaların gelebilmesinden iyimser olduğunu belirtti: “Bütün bunlar yasama isteği olan bir iklimde yaşanıyor… çok geç olmadan bazı değişiklikler görebiliriz.”
Shen, tüm dikkatin yapay zekâya çevrilmesinin kuantum, uzay, sentetik biyoloji ve biyoteknoloji gibi jeopolitik açıdan önemli olabilecek diğer teknoloji atılımlarının gözden kaçmasına yol açabileceği uyarısında bulundu. “Potansiyel olarak jeopolitik açıdan önemli olabilecek diğer teknolojilere bakmamız gerekebilir. Kuantum, uzay, sentetik biyoloji ve biyoteknoloji benim ilk tercihlerim olur” dedi.
