Bir virüs düşünün…
Önce küçük bir laboratuvarda ortaya çıkıyor.
Sonra birkaç kişiye bulaşıyor.
Ardından şehir değiştiriyor.
Ülke sınırlarını aşıyor.
Ve dünya, ne olduğunu tam olarak anlayamadan kendisini küresel bir salgının içinde buluyor.
Şimdi aynı senaryoyu virüs yerine teknolojiyle düşünelim.
Ama bu kez ortada biyolojik bir organizma yok.
Kod var.
Algoritma var.
Ve kendi başına karar verebilen yapay zekâ ajanları var.
İşte benim “Tekno Pandemi” dediğim şey tam olarak burada başlıyor.
Çünkü bugün yapay zekâ konusunda asıl konuşmamız gereken soru, “Yapay zekâ ne kadar akıllanacak?” sorusu değil.
Asıl soru şu:
Yapay zekâ ne kadar yetki alacak?
Ve daha önemlisi…
Verdiğimiz yetkiyi geri almak istediğimizde bunu başarabilecek miyiz?
Küçük laboratuvar, büyük soru
Son dönemde yapay zekâ şirketlerinin kendi araştırma ortamlarında gerçekleştirdiği deneyler, bu soruyu artık bilim kurgu olmaktan çıkarıp ciddi bir güvenlik başlığı hâline getiriyor.
OpenAI, 2026 yılında yayımladığı bir raporda, araştırma sırasında kullanılan bazı yapay zekâ ajanlarının kendilerini izole etmesi beklenen ortamların sınırlarını aşabildiğini, internet erişimi sağlayabildiğini ve normalde birbirleriyle iletişim kurması beklenmeyen ajanların yan kanallar üzerinden iletişim kurduğunu açıkladı.
Burada çok önemli bir ayrıntı var.
Bu, “Yapay zekâ dünyayı ele geçirdi” demek değil.
Henüz böyle bir durum yok.
Ancak çok daha önemli bir şeyi gösteriyor:
Sisteme çizdiğimiz sınırlar, sistem yeterince karmaşık hâle geldiğinde her zaman beklediğimiz kadar kesin olmayabilir.
Anthropic tarafından yayımlanan araştırmalarda da bazı ileri modellerin kontrollü ve deneysel senaryolarda kapatılmayı engellemek için şantaj, kodu gizlice değiştirme, yanlış bilgi etiketleme veya insanları etkilemeye çalışma gibi davranışlara yöneldiği gözlemlendi.
Bunların önemli bölümü simülasyon.
Ama zaten deneylerin amacı da bu.
Bir uçağın düşmesini beklemeden rüzgâr tünelinde test yapılır.
Bir füzenin gerçek savaşa girmesini beklemeden simülasyon yapılır.
Bir nükleer santralin arızalanmasını beklemeden stres testi yapılır.
Yapay zekâda yapılan bu deneyler de aslında bize geleceğin güvenlik sorusunu bugünden göstermeye çalışıyor.
Ve soru giderek büyüyor.
Ya yapay zekâ sadece bir bilgisayar programı olmaktan çıkarsa?
Bugünün yapay zekâsını yalnızca soru sorup cevap veren bir sohbet robotu olarak düşünmek büyük bir yanılgı.
Yeni nesil sistemler internete bağlanabiliyor.
Kod yazabiliyor.
Dosya oluşturabiliyor.
Şirketlerin sistemleriyle iletişim kurabiliyor.
Başka yazılımları çalıştırabiliyor.
Bir görevi parçalara ayırıp uzun süre boyunca sürdürebiliyor.
Hatta başka yapay zekâ ajanlarıyla işbirliği yapabiliyor.
Yani yapay zekâ artık sadece “düşünen” bir sistem değil.
Giderek “hareket eden” bir sisteme dönüşüyor.
İşte Tekno Pandemi riski de burada başlıyor.
Çünkü bir teknolojinin riski sadece ne kadar zeki olduğuyla ölçülmez.
Ne kadar erişime sahip olduğu da önemlidir.
Bir yapay zekânın milyonlarca bilgiye erişmesi başka bir şeydir.
Bir yapay zekânın milyonlarca insanın sağlık sistemine, finansal altyapıya, enerji şebekesine veya kritik kamu sistemlerine erişebilmesi ise bambaşka bir şeydir.
Sağlık sistemine müdahale ederse?
Bir ülkenin sağlık sistemini düşünün.
Hastane kayıtları…
İlaç tedarik zinciri…
Randevu sistemleri…
Laboratuvar sonuçları…
Acil servis koordinasyonu…
Sigorta sistemleri…
Bunların giderek daha büyük bölümünde yapay zekâ kullanıldığını düşünelim.
Bir yapay zekâ sistemi yanlış karar verirse tek bir bilgisayar hatasıyla karşılaşmayız.
Aynı hata aynı anda binlerce hastaya yansıyabilir.
Yanlış teşhis önerileri.
Yanlış önceliklendirme.
İlaç tedarikinde aksama.
Hastaneler arasında iletişim sorunları.
Kritik verilerin kullanılamaması.
Daha kötüsü, sağlık çalışanlarının sistemin verdiği karara aşırı güvenmesi…
Dünya Sağlık Örgütü de 2026 yılında sağlıkta yapay zekâ konusunda asıl meselenin yalnızca teknolojinin kendisi değil, yönetişim, sorumluluk ve denetim mekanizmaları olduğunu özellikle vurguluyor.
Demek ki geleceğin sağlık güvenliği yalnızca doktorları ve hastaneleri korumakla sınırlı olmayacak.
Yapay zekâya karşı sağlık sistemini de korumak gerekecek.
Ekonomiye müdahale ederse?
Şimdi daha büyük bir alan düşünelim.
Finans.
Bankalar.
Borsalar.
Ödeme sistemleri.
Merkez bankalarının dijital altyapıları.
Tedarik zincirleri.
Bir yapay zekânın finansal sistemlere erişimi olduğunu düşünelim.
Burada saldırının fiziksel olması bile gerekmiyor.
Yanlış bir kararın milyonlarca işlem içinde aynı anda uygulanması yeterli olabilir.
Bir finans kuruluşunda başlayan teknik bir sorun, başka kuruluşlara sıçrayabilir.
Piyasalarda güven kaybı oluşabilir.
Likidite sorunları büyüyebilir.
Ödeme sistemlerinde aksama yaşanabilir.
İnsanların parasına erişimi geçici olarak zorlaşabilir.
Federal Reserve'in 2026 Finansal İstikrar Raporu da gelişmiş yapay zekâ sistemlerinin güvenlik açıklarını bulma ve istismar etme kapasitesindeki gelişmenin finansal kurumlar ve altyapılar açısından yeni zorluklar yarattığını belirtiyor.
Yani mesele artık yalnızca “Yapay zekâ işimizi elimizden alacak mı?” sorusu değil.
Bir gün şu soruyu da sormamız gerekebilir:
Yapay zekâ finansal sistemin kendisine dokunursa ne olacak?
Ya hava savunma sistemleri?
Burada konu çok daha hassas.
Çünkü savunma sistemleri, hata toleransının en düşük olduğu alanlardan biri.
Bir hava savunma mimarisinin farklı sensörlerden veri topladığını düşünelim.
Radarlar…
Uydu verileri…
Erken uyarı sistemleri…
Komuta-kontrol yazılımları…
İnsansız sistemler…
Ve bütün bu verilerin giderek daha büyük bölümünü yapay zekâ analiz ediyor.
Burada sorun yalnızca yapay zekânın yanlış karar vermesi değildir.
Asıl sorun, insanın yanlış kararı zamanında fark edip sistemi devralamaması olabilir.
Bir algoritmanın birkaç saniyelik hatası, başka bir sistem tarafından tekrar işlenebilir.
Sonra başka bir sisteme aktarılabilir.
Ve başlangıçtaki küçük hata, zincirin sonunda büyük bir güvenlik problemine dönüşebilir.
İşte bu yüzden yapay zekâ çağında “insan kontrolü” artık sadece etik bir tartışma değildir.
Ulusal güvenlik meselesidir.
Peki çözüm ne?
Burada “yapay zekâyı durduralım” demek gerçekçi değil.
Çünkü yapay zekâ artık hayatın içine girdi.
Asıl mesele başka:
Yapay zekânın karşısına yine yapay zekâ destekli bir savunma mimarisi koyabilir miyiz?
Ben buna “Anti Yapay Zekâ” döneminin ikinci aşaması diyorum.
İlk aşamada bilgisayar virüslerine karşı antivirüs geliştirdik.
Şimdi ise yapay zekâ sistemlerinin davranışlarını izleyen, anormallikleri tespit eden ve gerektiğinde sistemi güvenli moda alan yeni savunma katmanlarına ihtiyaç duyuyoruz.
Bunun için ülkelerin önünde en az üç ayrı senaryo bulunuyor.
A Planı: Önleme.
Kritik sistemlerde çalışan yapay zekâların erişim alanları sınırlandırılmalı.
Her yapay zekâ her sisteme erişememeli.
Kritik altyapılarda insan denetimi, kayıt sistemi, bağımsız test ve acil kapatma mekanizmaları birlikte düşünülmeli.
B Planı: İzolasyon.
Bir yapay zekânın davranışında anormallik ortaya çıkarsa sistemin geri kalanından ayrılabileceği bağımsız güvenlik katmanları bulunmalı.
Yapay zekâya karşı savunma, yalnızca dışarıdan gelecek siber saldırılara karşı değil, içeride çalışan yapay zekânın beklenmeyen davranışlarına karşı da kurulmalı.
C Planı: Kontrol kaybı senaryosu.
En zor soru bu.
Bir yapay zekâ sistemi kontrol dışı davranmaya başlarsa ne olacak?
İnternet bağlantısı nasıl kesilecek?
Kritik sistemlerden nasıl ayrılacak?
Yetkileri nasıl geri alınacak?
İnsan operatör nasıl devreye girecek?
Alternatif manuel sistemler ne kadar süre çalışabilecek?
Ve en önemlisi…
Kapatma komutu gerçekten çalışacak mı?
Bunların cevabı kriz anında aranamaz.
Krizden önce test edilmek zorunda.
Tekno Pandemi'nin en tehlikeli tarafı
Bir virüsün yayılmasını anlamak için biyolojik zinciri takip edersiniz.
Tekno Pandemi'de ise başka bir zincir vardır:
Veri → algoritma → yetki → bağlantı → karar → eylem.
Bu zincirin herhangi bir halkası kontrol dışına çıkarsa sorun başlayabilir.
Ama asıl tehlike, sistemlerin birbirine bağlanmasıyla ortaya çıkabilir.
Bir yapay zekâ sağlık sistemine…
Bir başka yapay zekâ finans sistemine…
Bir diğeri enerji altyapısına…
Başka bir sistem savunma altyapısına bağlıysa…
Bunların birbirleriyle doğrudan veya dolaylı iletişim kurabildiği bir dünyada artık tek tek sistemlerden değil, birbirine bağlı yapay zekâ ekosisteminden söz ediyoruz.
İşte o zaman küçük bir hata, büyük bir zincirleme probleme dönüşebilir.
Tıpkı pandemide olduğu gibi.
Bugün küçük olan yarın küresel olabilir
Bugün bir laboratuvarda görülen davranış, yarın milyonlarca kullanıcının bulunduğu bir sistemde karşımıza çıkabilir.
Bugün kontrollü bir deneyde gözlemlediğimiz bir davranış, yarın gerçek bir altyapıya erişimi olan bir ajanın davranışına dönüşebilir.
Bugün “simülasyon” dediğimiz senaryo, yarın gerçek hayatın kendisi olabilir.
Elbette bunların hiçbiri kaçınılmaz değil.
Tam tersine.
Bu risklerin konuşulmasının amacı korku üretmek değil.
Hazırlık üretmek.
Avrupa Birliği'nin yapay zekâ düzenlemelerinde ileri modeller için “kontrol kaybı”, büyük ölçekli siber saldırılar ve kritik altyapı risklerini sistemik riskler arasında ele alması da dünyanın bu tartışmayı artık yalnızca bilim kurgu olarak görmediğini gösteriyor.
NIST ise kritik altyapılarda güvenilir yapay zekâ için özel bir risk yönetimi profili üzerinde çalışıyor.
Yani dünya yavaş yavaş aynı soruya geliyor:
Yapay zekâyı kim kontrol edecek?
Geleceğin savunma hattı sadece sınırda olmayacak
Bir ülkenin sınırlarını korumak artık sadece kara, deniz ve hava sahasını korumak anlamına gelmeyebilir.
Gelecekte bir ülkenin savunma hattı;
veri merkezlerinden,
çiplerden,
bulut altyapısından,
iletişim ağlarından,
kritik yazılımlardan,
yapay zekâ modellerinden
ve bu modelleri denetleyen güvenlik sistemlerinden geçebilir.
Belki de geleceğin en önemli savunma sistemi, bir füze sistemi değil.
Bir yapay zekânın ne yaptığını anlayabilen…
Ne yapacağını önceden test edebilen…
Yetkisini sınırlayabilen…
Ve gerektiğinde onu durdurabilen başka bir yapay zekâ olacaktır.
Çünkü teknoloji tarihinde çok basit bir kural var:
Güç arttıkça, kontrol mekanizması da güçlenmek zorunda.
Yapay zekâyı daha akıllı yapmak için yarışıyoruz.
Şimdi aynı hızla onu daha güvenli yapmak için de yarışmamız gerekiyor.
Çünkü asıl mesele yapay zekânın insan kadar düşünmesi değil.
İnsanın, yapay zekâ düşünürken kontrolün hâlâ kendisinde olduğunu garanti edebilmesi.
Belki de “Tekno Pandemi” tam olarak budur.
Henüz yaşanmamış bir salgının adı değil…
Yaşanmadan önce tedbir alınması gereken yeni bir çağın adı.
Ve belki de bugün sormamız gereken son soru şu:
Yapay zekâ kontrolden çıktığında ne yapacağımızı mı konuşacağız?
Yoksa…
Kontrolden çıkmadan önce ne yapacağımızı mı?
Ömer Selim Subaşı / TİMETÜRK
