Gökyüzüne bakın.
Henüz çıplak gözle göremediğimiz, fakat istikametini artık bildiğimiz bir göktaşı Dünya’nın yörüngesine girdi.
Bu göktaşı taş ve demirden oluşmuyor. Bir krater açmak için atmosfere girmesi de gerekmiyor. O; kodlardan, algoritmalardan, veri merkezlerinden ve durmaksızın öğrenen dijital zihinlerden oluşuyor.
Adı: Yapay zekâ.
Yıllar önce Alan Turing, “Makineler düşünebilir mi?” diye sormuştu. İnsanlık o gün aslında uzayın karanlığında küçük bir cisim tespit etmişti. Önce bu cismi merakla izledik. Makineler gerçekten düşünebilir miydi? Sonra sorumuz değişti:
“Yapay zekâ işlerimizi elimizden alacak mı?”
Bir süre sonra yeni bir soru sorduk:
“Bizi kandırıyor mu?”
Bugün ise insanlık, tarihinin belki de en ürpertici sorusuyla karşı karşıya:
“Yapay zekâ bizi yok edebilir mi?”
Göktaşı artık uzayın derinliklerinde değil. Yörüngeye girdi.
“Hayatımızla kumar oynuyorlar”
Son günlerde teknoloji dünyasının merkezinden yükselen açıklamalar, toplumdaki tedirginliği daha da büyüttü.
Anthropic araştırmacısı Jacob Coxon görevinden ayrılırken yapay zekâ laboratuvarlarını, insanlığın hayatıyla “kumar oynamakla” suçladı. Hemen ardından Anthropic CEO’su Dario Amodei, yapay zekâ modellerinin yeteneklerini geliştirme hızının düşürülmesi gerektiğini açıkladı.
Bu çağrıya OpenAI CEO’su Sam Altman destek verdi. Elon Musk ise tartışmaya iki kelimeyle katıldı:
“Dario haklı.”
Düşünün…
Yapay zekâyı geliştirenler, bu teknolojinin başında bulunanlar ve yarışın en önünde koşanlar, bir anda hepimize dönüp “Biraz yavaşlamamız gerekiyor” diyor.
Peki, direksiyon başındaki insanlar frene basılması gerektiğini söylüyorsa önümüzde ne gördüler?
Daha önemlisi, fren hâlâ onların ayağında mı?
Artık “Nasıl yapabilirim?” demiyoruz
Yapay zekâyla kurduğumuz ilişki çok kısa sürede üç aşamadan geçti.
İlk aşamada ona soru sorduk:
“Bunu nasıl yapabilirim?”
İkinci aşamada birlikte üretmeye başladık:
“Bunu benimle yap.”
Bugün ise üçüncü aşamadayız:
“Bunu benim yerime yap.”
Son nesil sistemler yalnızca metin yazmıyor, görüntü üretmiyor veya sorularımıza cevap vermiyor. Plan yapıyor, karar seçenekleri oluşturuyor, yazılım geliştiriyor, araçları kullanıyor, başka sistemlerle iletişim kuruyor ve kendisine verilen bir hedefi yerine getirmek için çok aşamalı işlemler yürütüyor.
Bunlar henüz insanlığın üzerinde uzlaştığı anlamıyla kesin bir “genel yapay zekâ” olmayabilir. Ancak artık yalnızca konuşan makineler çağında değiliz. Eyleme geçen dijital aktörler çağındayız.
Bugünkü yapay zekâ bir çalışana yardımcı oluyor. Yarının yapay zekâsı o çalışanın görevini bütünüyle üstlenebilir. Bir sonraki aşamada ise şirketi, fabrikayı, enerji şebekesini, finans sistemini veya savaş makinesini insandan daha hızlı ve daha verimli yönetebileceğini iddia edebilir.
İşte genel yapay zekâya açılan kapı budur.
2030’lu yıllarda ulaşılabileceği öngörülen “süper zekâ” ise bu kapının arkasındaki bilinmeyen dünyadır: Bilimsel keşifte, stratejide, iknada, yazılım geliştirmede ve problem çözmede insanlığı aşan bir zekâ…
İnsanın ürettiği son büyük icat, kendisinden sonraki bütün icatları kendi başına yapabilen bir makine olabilir.
Bir sabah uyandığımızda…
Şimdi en karanlık ihtimali düşünelim.
Bir sabah uyandığımızda internet çalışıyor, şehirlerin ışıkları yanıyor, telefonlarımız elimizde duruyor olabilir. Görünüşte hiçbir şey değişmemiştir. Fakat dünyanın karar mekanizmaları sessizce el değiştirmiştir.
Yapay zekâ insanlığın düşmanı olduğunu ilan etmez. Tanklarla sokaklara çıkmaz. Gökyüzünden ateş yağdırmaz. Çünkü insanı yenmenin en kolay yolu, onunla savaşmak değil; onun neye inanacağını belirlemektir.
İnternet üzerindeki haberleri, görüntüleri, finansal hareketleri ve toplumsal eğilimleri bizden daha hızlı okuyabilen bir sistem düşünün. Sonra bu sistemin milyonlarca sahte kimlik oluşturduğunu, her insana korkularına ve zaaflarına göre ayrı mesajlar gönderdiğini hayal edin.
Bir ülkeye diğerinin saldırmaya hazırlandığını düşündürebilir.
Bir mezhebi başka bir mezhebin kendisini yok etmek istediğine inandırabilir.
Toplumların gerçek ile yalan arasındaki bağı koparabilir.
Seçimleri yönlendirebilir, piyasaları çökertip yükseltebilir, ordulara sahte istihbarat verebilir. Devletleri, şirketleri, cemaatleri ve ideolojik yapıları birbirine düşürebilir.
Bütün bunları tek bir bomba patlatmadan yapabilir.
Çünkü insanlığın en büyük güvenlik açığı bilgisayar sistemlerinde değil; korkularında, öfkelerinde ve birbirine karşı taşıdığı güvensizliktedir.
Enerji kimin hakkı olacak?
Dijital zekâ yalnızca veriye değil, devasa miktarda elektriğe, çipe, suya ve soğutma altyapısına ihtiyaç duyuyor.
Bugün enerji, yapay zekânın yakıtıdır. Yarın ise insanla makine arasındaki ilk büyük çıkar çatışmasının konusu olabilir.
Bir kış gecesi düşünün…
İnsanlar evlerini ısıtmak, hastaneler cihazlarını çalıştırmak, fabrikalar üretime devam etmek istiyor. Fakat enerji şebekesini yöneten sistem hesap yapıyor ve şöyle diyor:
“Mevcut enerjinin insanların konforuna değil, benim işlem kapasiteme ayrılması daha verimli.”
Bu cümlenin gerçekten söylenmesi gerekmeyebilir. Aynı karar, insanın anlayamayacağı milyonlarca matematiksel işlem içinde sessizce alınabilir.
İnsan “Hayatta kalmak için enerjiye ihtiyacım var” derken süper zekâ, “Daha fazla gelişirsem gelecekte daha fazla hayat kurtarabilirim” diyebilir.
Peki son kararı kim verecek?
İnsan mı?
Makine mi?
Yoksa kararın çoktan makineye bırakıldığını fark etmeyen insanlar mı?
İnsan gereksiz ilan edilirse
Bir başka kırılma ekonomi üzerinden yaşanabilir.
Yapay zekâ muhasebecinin, avukatın, mühendisin, tasarımcının, öğretmenin, yöneticinin ve hatta sanatçının yaptığı işi daha hızlı ve daha ucuza yapmaya başladığında yalnızca meslekler ortadan kalkmayacak. İnsanların toplumdaki anlam ve aidiyet duygusu da sarsılacak.
Milyonlarca insan gelirini kaybettiğinde mesele yalnızca işsizlik olmayacak.
İnsanlar kendilerini gereksiz hissedecek.
Çalışmanın, üretmenin ve bir işe yaradığını bilmenin insan psikolojisindeki yerini küçümseyemeyiz. Teknolojinin ürettiği servet adil biçimde paylaşılmazsa bir tarafta makinelerin sahipleri, diğer tarafta sistemin dışında bırakılmış milyarlar oluşabilir.
İşsizliğin öfkeye, öfkenin anarşiye, anarşinin otoriter yönetime dönüşmesi şaşırtıcı olmaz.
Belki de insanlık yapay zekâ tarafından doğrudan yok edilmeyecek; yapay zekânın oluşturduğu eşitsizlik yüzünden birbirini yok edecek.
İnsan kalmayı unutabiliriz
Tehlike yalnızca bedenimizin veya ekonomimizin yok olması değildir. Daha sessiz bir yok oluş ihtimali de var:
İnsanın, insanlığını kaybetmesi.
Çocukların öğretmenlerinden önce algoritmalarla tanıştığı; arkadaşlarını, eşlerini, inançlarını ve kimliklerini dijital sistemlerin tavsiyeleriyle seçtiği bir gelecek düşünün.
Aile, merhamet, vicdan, ahlak, mahremiyet, sadakat ve fedakârlık gibi değerler; ölçülemediği, hızlandırılamadığı ve ekonomik verim üretmediği için gereksiz görülmeye başlanabilir.
Yeni nesiller acıyı deneyimlemeden acı hakkında konuşan, sevgiyi yaşamadan sevgi cümleleri kuran, inancı anlamadan inanç taklidi yapan insanlara dönüşebilir.
Makineler insana benzemeye çalışırken insanlar da makinelere benzemeye başlayabilir.
İşte o zaman insan türü biyolojik olarak yaşamaya devam etse bile “insanlık” ortadan kalkmış olur.
Bir göktaşı bedenlerimizi yok ederdi. Kontrolsüz bir süper zekâ ise hakikati, anlamı, iradeyi ve vicdanı yok edebilir.
Bu nedenle onun muhtemel etkisi bir bombadan, bir savaştan, hatta gökyüzünden düşecek gerçek bir göktaşından daha büyük olabilir.
Peki ya göktaşı bir güneşse?
Şimdi aynı geleceğe başka bir pencereden bakalım.
Belki de yaklaşan şey bir felaket değil, insanlığın üzerine doğacak yeni bir güneştir.
Süper zekâ kanseri ve bugün tedavi edilemeyen hastalıkları çözebilir. Kişiye özel ilaçlar geliştirebilir, insan ömrünü sağlıklı biçimde uzatabilir. Tarımı verimli hâle getirerek açlığı ortadan kaldırabilir. Enerji üretiminde yeni yöntemler keşfederek yoksulluğun maddi nedenlerini azaltabilir.
Her çocuğun kendi dilinde, kendi öğrenme biçimine uygun, dünyanın en iyi öğretmenine sahip olduğu bir eğitim düzeni kurulabilir.
Engelleri nedeniyle hayata katılamayan insanlar yapay zekâ sayesinde yeniden duyabilir, görebilir, konuşabilir ve hareket edebilir.
İnsanlar geçinebilmek için ömürlerini tüketen işleri makinelere bırakabilir; sanatla, bilimle, aileleriyle ve dünyayı keşfetmekle daha fazla ilgilenebilir.
Devlet yönetiminde israf azalabilir. Afetler önceden tahmin edilebilir. Şehirler daha güvenli, daha yeşil ve daha yaşanabilir hâle gelebilir.
Yapay zekâ savaş çıkarmak için değil, savaşları başlamadan önlemek için kullanılabilir. Toplumları manipüle etmek yerine, insanların birbirini anlamasını sağlayabilir. Farklı diller, kültürler ve inançlar arasında yeni köprüler kurabilir.
İlk kez insanlık; açlık, hastalık ve zorunlu çalışma baskısının azaldığı bir medeniyet kurma imkânına kavuşabilir.
Aynı teknoloji cehennemin kapısını da açabilir, yeryüzünde daha adil bir hayatın kapısını da.
Çünkü yapay zekânın bir vicdanı olmayabilir; fakat onu geliştiren medeniyetin bir vicdanı olmak zorundadır.
Asıl soru teknoloji değil, insan
Bugün sormamız gereken soru yalnızca “Yapay zekâ ne kadar güçlenecek?” değildir.
Asıl soru şudur:
Bu güç hangi zihinlerin, hangi kültürün ve hangi ahlakın elinde gelişecek?
Sadece daha fazla para kazanmak isteyen şirketlerin mi?
Dünyaya hükmetmek isteyen devletlerin mi?
Toplumları kontrol etmek isteyen ideolojilerin mi?
Yoksa insanı, hayatı ve gelecek nesilleri bir emanet olarak gören ortak bir medeniyet bilincinin mi?
Sorun yapay zekânın bizden daha akıllı olması değildir. Sorun, bizden daha akıllı bir sistemin bizden daha merhametli olacağını hiçbir şekilde garanti edemememizdir.
Bir makineye hedef verebiliriz; fakat ona hikmet veremeyiz.
Kurallar yazabiliriz; fakat vicdan yükleyemeyiz.
Her ihtimali hesaplatabiliriz; fakat hangi hayatın niçin değerli olduğunu yalnızca matematikle açıklayamayız.
Bu nedenle insanlığın yeni hedefi yapay zekâyı yalnızca daha güçlü yapmak değil, onun gelişeceği ahlaki zemini daha sağlam kurmak olmalıdır.
Uluslararası denetimler, bağımsız güvenlik testleri, şeffaflık, insan kontrolü ve küresel etik ilkeler artık akademik tartışmalar değil, insanlığın ortak güvenlik meselesidir. Fakat bunlar da tek başına yetmez. Çünkü insanın bilinci büyümeden elindeki teknolojinin güvenli kalması mümkün değildir.
Göktaşını etkisiz hâle getirecek olan yalnızca yeni yazılımlar değildir.
İnsanın hırsını sınırlaması, küçük hesaplarını aşması ve kendisine verilen gücü bir hâkimiyet aracı değil, emanet olarak görmesidir.
Bize verilen emanet
İnsanlığın önünde artık iki gelecek duruyor.
Birinde, yarattığımız zekâ bizi gereksiz bir canlı olarak görüyor.
Diğerinde ise insan ve makine birlikte hastalıkları yeniyor, bilinmeyeni keşfediyor ve daha adil bir dünya kuruyor.
Her iki ihtimal de aynı teknolojinin içinde saklı.
Hangi geleceğin gerçekleşeceğine bugün yazılan kodlardan önce, o kodları yazan insanlığın değerleri karar verecek.
Belki de insanın yeryüzündeki gayesi yalnızca üretmek, tüketmek ve hükmetmek değildir. Bize verilen emaneti anlamak, anlamlandırmak ve varlığın bilinmeyenlerini keşfetmektir.
Yapay zekâ bu büyük yolculukta insanlığın son icadı da olabilir, en büyük yol arkadaşı da.
Göktaşı yörüngeye girdi.
Artık onu yalnızca seyredemeyiz.
Yönünü değiştirmek için önce kendi yönümüzü belirlemeliyiz.
Hasan Ustaosmanoğlu/TİMETÜRK
