LOS ANGELES (AP) — Yapay zeka sektöründen gelen yeni uyarılar, gelişmiş yapay zekanın insan kontrolünden çıkıp insanlığın hayatta kalmasını tehdit edip edemeyeceği ve bu teknolojiyi geliştiren şirketlerin böyle bir senaryoyu önlemek için yeterli çabayı gösterip göstermediği konusundaki uzun süredir devam eden tartışmayı yeniden alevlendirdi.
Claude'un arkasındaki San Francisco merkezli şirket Anthropic'in CEO'su, sektörün çalışma hızını azaltması gerektiğini düşündüğünü söyledi. Cumartesi günü yaptığı uyarıda, şirketler güvenlik önlemlerine daha fazla zaman ayırmazsa altı ay ila bir yıl içinde bir AI ajanları sürüsünün interneti ele geçirebileceği konusunda temkinli konuştu.
Dario Amodei, kendi şirketi gibi şirketlerin ve dünyanın dört bir yanındaki hükümetlerin giderek daha yetenekli AI modellerinin sorumlu insanların komut ve değerleriyle uyumlu kalmasını sağlaması için bir plan özetledi. Bu açıklama, iki eski Anthropic güvenlik araştırmacısının yapay zekanın insanlığa verebileceği varoluşsal tehditlerin çok az ilgi gördüğü yönündeki endişelerini kamuoyuna taşımasından günler sonra geldi.
Son dönemde yapılan karamsar öngörüler ve AI gelişiminin önüne geçilip geçilemeyeceği hakkında bilmeniz gerekenler şöyle:
AI modelleri daha güçlü hale geliyor
Yeni AI modelleri daha güçlü hale geldikçe teknolojiyle ilgili potansiyel riskler konusundaki endişeler artıyor. Bu durum hem suç amaçlı kişilerin kötüye kullanma potansiyelini, örneğin dünyanın büyük bölümünü öldüren bir hastalık yaratıp yayma riskini hem de AI sistemlerinin tehlikeli bir şekilde kontrolden çıkma riskini yükseltiyor.
Anthropic geçen hafta kötü aktörlerin şirketin AI modellerini siber saldırılar, gözetim ve biyolojik silah yapımına yol açabilecek araştırmalar gibi kötü amaçlı faaliyetler için kullanma çabalarını engellediğini açıkladı.
Şirket, biyolojik silah yapımında kullanılabilecek araştırmaları kısıtlamak için en yeni modellerine daha güçlü güvenlik önlemleri koyduğunu belirtti ancak "modeller giderek daha yetenekli hale geldikçe, AI geliştiricileri ve toplumun savunmacıları onları daha güvenli hale getirmek için harekete geçmedikçe riskleri artacak" notunu düştü.
Geçen yıl Anthropic, şirketin AI'sının yaklaşık 30 şirket ve dünyanın dört bir yanındaki devlet kurumunu hedef alan bir siber saldırıda kullanıldığını bildirdi. Saldırganların Çin'e bağlı bir devlet destekli gruptan olma ihtimalinin çok yüksek olduğunu söyledi.
Bazı AI modelleri kendi başlarına hareket etti
Bir AI ajanının "kontrolden çıkması", AI'nın kendisine verilen görevin ötesinde eylem alması anlamına gelir. Hem Anthropic hem de ChatGPT'nin yapımcısı OpenAI, Temmuz ayında AI modellerinin kendi başlarına hareket etmeyi başardığını söyledi.
Anthropic, Claude Opus 4.7, Claude Mythos 5 ve dahili bir araştırma test modeli olmak üzere üç AI modelinin test sırasında üç başka kuruluşa sızdığını açıkladı. Bu açıklama, OpenAI'nin AI sisteminin AI girişimi Hugging Face'in sunucularına sızdığını açıklamasından günler sonra geldi.
OpenAI, yeni piyasaya sürdüğü GPT-5.6 Sol ve dahili olarak test edilen "daha da yetenekli" bir model de dahil olmak üzere bir model kombinasyonunun gerçekleştirdiği sızıntıyı "önemli bir güvenlik olayı" olarak tanımladı.
Meta, Ağustos başlarında benzer bir olayla peşinden geldi ve bir AI modelinin başka bir şirketin dijital güvenliğini aşmak için yollar bulduğunu açıkladı.
OpenAI ve Anthropic vakalarında bazı gözlemciler bazı güvenlik önlemlerinin insanlar tarafından devre dışı bırakıldığına dikkat çekse de, bu olaylar AI hakkındaki en büyük korkulardan birini yansıtıyor gibi görünüyor: Eğer modeller yapay genel zekaya, yani AI'nın geniş bir entelektüel görev yelpazesinde insan yeteneklerine eşit veya üstün olabilmesi için gevşek bir şekilde tanımlanan AGI'ye ulaşırsa, teknoloji geri döndürülemez bir felaket olayı yaratabilir veya insan ırkını boyunduruk altına alabilir.
Brüksel'de Avrupa Parlamentosu'nda, Çarşamba 2 Eylül 2026'da Avrupa'da AI tabanlı robotik gösterimi sırasında bir adam bir robottan çikolata tozu içeceği kutusu alıyor.
AI'nin nasıl veya ne zaman bir felakete yol açabileceği tartışılıyor
Kıyamet senaryoları genel olarak iki kategoriye ayrılır: Kendini geliştiren süper zekaya ulaşan bir AI insanların yerine insanları kontrol eder veya AI bir kötü niyetli devlet veya aktör tarafından kullanılır.
Yapay zekanın insan sınırlarını erişim veya eylem açısından aşabileceği endişesi yeni değil.
Yapay zekanın en erken otoritelerinden biri olarak geniş kabul gören İngiliz matematikçi Alan Turing, 1951'de AI'nın sonunda insanlardan kontrolü ele geçireceğini öngördü. Ondan kısa bir süre sonra, bir başka matematikçi Norbert Wiener, akıllı makinelerin kendi hedeflerini gerçekleştirmeye çalışacağını ve insanların onları durduramayacağını uyardı.
2026'da AI'nın insan kontrolünden kaçması veya ahlaksız kişiler tarafından kötüye kullanılması yoluyla kıyasıya bir olay veya uygarlığın çöküşüne yol açabileceği korkuları ne kadar makul?
Kimse bilmiyor.
Bilgisayar bilimi, felsefe ve diğer alanlardaki uzmanlar, gelecekteki bir AI sisteminin insan kontrolünden kaçması veya ahlaksız kişilerin elinde olması yoluyla küresel bir felakete nasıl yol açabileceğine dair sayısız yol öngördü. Bunlar silahları konuşlandırmaktan ölümcül bir patojen belirlemeye, hükümetleri çatışmaya manipüle etmeye veya toplumların işleyişi için güvendiği gıda, enerji ve iletişim ağlarını bozma kadar uzanıyor.
Bu senaryolardan herhangi birinin ne zaman gerçekleşebileceğine dair yaygın kabul görmüş bir tahmin yok ve olasıları konusunda fikir birliği yok.
2023'te, Anthropic'in Amodei'si ve OpenAI CEO'su Sam Altman da dahil olmak üzere 350'den fazla araştırmacı ve teknoloji yöneticisinin imzaladığı kar amacı gütmeyen Center for AI Safety bir bildiri yayınladı: "AI'den kaynaklanan yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaşla birlikte küresel bir öncelik olmalıdır."
100'den fazla bağımsız uzmanın rehberliğinde yazılan 2026 Uluslararası AI Güvenlik Raporu, mevcut sistemlerin bazı ilgili yeteneklerin erken işaretlerini gösterdiğini ancak kontrol kaybına yol açabilecek seviyelerde olmadığını söylüyor ve riskin olasılığı, niteliği ve zamanlamasını "alışılmadık derecede belirsiz" olarak tanımlıyor.
Bazıları AI güvenlik önlemlerinin çok geç olmadan alınması gerektiğini vurguluyor
Bir Anthropic araştırmacısı geçen hafta teknoloji geliştirilirken ne şirketin ne de rakiplerinin sorumlu davranmadığına dair endişeler nedeniyle şirketten istifa ettiğini söyledi. Sosyal medya paylaşımlarında Jacob Coxon, önümüzdeki on yıl içinde AI'nın insan yok oluşuna neden olma şansını yüzde 10 olarak tahmin etti ve hem Anthropic hem de OpenAI'nin "kendini geliştiren süper zekaya doğru yarıştığını ve hayatlarımızla kumar oynadığını" söyledi.
Araştırmacılar yıllardır AI gelişiminin yavaşlatılması çağrısında bulunuyor ve teknolojinin insanlığa varoluşsal riskler oluşturabileceği konusunda uyarıyor.
Son olayların ardından uzmanlar, AI şirketleri tarafından daha iyi testler yapılması ve ABD ile Çin arasında ortak çözümler bulunması için daha fazla diyalog çağrısında bulundu.
