OpenAI tarafından geliştirilen son teknoloji ürünü bir yapay zeka modeli, laboratuvar testinin sınırlarından kaçmayı ve hiçbir insan müdahalesi olmadan bir şirketin veri tabanına sızmayı başardı. Bu bir kabus senaryosu mu, yoksa OpenAI'nin size inandırmak istediği şey tam olarak bu mu?
16 Temmuz'da OpenAI, GPT-5.6 Sol ve şirketin "daha da yetenekli" olduğunu iddia ettiği başka bir ön sürüm modeli üzerinde dahili bir kıyaslama testi gerçekleştirdi. Modellerin güvenlik önlemleri devre dışı bırakıldı ve ExploitGym olarak bilinen bir dizi siber güvenlik testini çözmek için kullanıldı.
ExploitGym
UC Berkeley, Almanya'daki Max Planck Enstitüsü ve Google, Anthropic ve OpenAI'nin kendisi de dahil olmak üzere yapay zeka şirketlerindeki araştırmacılar tarafından geliştirilen ExploitGym, yapay zeka modellerinin bilinen güvenlik açıklarından yararlanmanın yollarını oluşturma ve kullanma yeteneğini ölçer.
OpenAI'nin modelleri bu güvenlik açıklarını tespit etmek yerine, testi hileyle geçmenin yollarını aradı. Kapalı test ortamından açık internet erişimi elde etmeyi başardılar ve bu yeni kazandıkları özgürlüğü Hugging Face'in sunucularına sızmak için kullandılar.
Hugging Face, yapay zeka modelleri ve veri kümelerinin bir deposudur ve OpenAI'ye göre, test edilen modeller ExploitGym görevlerine orada bir çözüm bulabileceklerini düşündüler.
OpenAI, olayla ilgili raporunda, “Bunu bilen model, değerlendirmeyi hileyle geçmek için kullanabileceği gizli bilgilere erişmenin yollarını aradı ve başarıyla buldu" dedi.
Hugging Face, farklı bir yapay zeka modeli yardımıyla saldırıyı keşfetti ve saldırının gerçekleşmesine olanak sağlayan güvenlik açığını düzeltti. OpenAI ise, saldırının nedenini test laboratuvarında kullanılan üçüncü taraf yazılımlardaki bir zafiyete bağladı; bu zafiyet sayesinde modelleri internet erişimi bulmuştu. Modellerinin bu zafiyeti nasıl istismar ettiğine dair teknik detayları ise gizli tuttu.
Reuters'ın 28 Temmuz'da bildirdiğine göre, Hugging Face'in sunucularına sızma yolunda ilerleyen model, yapay zeka geliştiricilerine bilgi işlem kapasitesi kiralayan Modal adlı firmanın sözde izole edilmiş bir test ortamına da girdi.
Yapay zekâ bilinç kazandı mı?
İlk bakışta, hikaye OpenAI'nin modellerinin karmaşık yanal düşünme yeteneğine sahip olduğunu gösteriyor:
Hugging Face'in sunucularının muhtemelen testin cevaplarını içerdiğinden şüphelenmek; bu sunuculara sızmak için harici internet erişimine ihtiyaç duyduklarını fark etmek; ve hedeflerine ulaşmak için çeşitli saldırı tekniklerini bağımsız olarak geliştirip birleştirmek.
OpenAI'nin açıklaması, kaçışı abartılı bir dille tanımlayarak, "son teknoloji siber yetenekleri içeren benzeri görülmemiş bir siber olay" olarak nitelendirdi.
O zamandan beri OpenAI ile ortaklık kuran Hugging Face de aynı derecede abartılı bir ifade kullandı. Açıklamada, "Otonom, yapay zeka destekli saldırı araçları artık teorik değil. Geniş kapsamlı, sabırlı, çok aşamalı bir kampanyanın maliyetini düşürüyor ve makine hızında çalışıyor" denildi.
Ancak, OpenAI'nin modellerinin ne kadar özerk çalıştığı hala belirsizliğini koruyor. Şirket, modellerinin ExploitGym testine nasıl yaklaştığını açıklamadı. Belirsiz ifadeler, modellerin "kontrolden kaçmanın" deneyi çözmenin meşru bir yolu olduğunu varsaymasına yol açmış olabilir. Hem OpenAI hem de Hugging Face'in abartılı ifadelerine rağmen, yapay zeka modellerinin "kaçmak istediğine" veya kendi hallerine bırakıldıklarında kötü amaçlı faaliyetlere yöneleceğine dair hiçbir kanıt yok.
Eğer olay, OpenAI'nin belirttiği gibi, ikinci ve "daha da yetenekli bir ön sürüm modeli"ni de içeriyorsa, endüstri düzeyindeki müşteriler için cazibesi açıktır. Kapalı testler sırasında meydana gelen bir olayı kamuoyuna duyurarak, OpenAI kanıt sunmadan ön sürüm modeli için heyecan yaratabilir.
Bunların hiçbiri olayın yaşanmadığı veya yapay zekanın saldırgan yeteneklerinin endişe kaynağı olmadığı anlamına gelmiyor; sadece OpenAI'nin kendi ürünleri hakkında korku yaymak için mali bir teşviki olduğunu gösteriyor. Olaydan bir ay önce şirket, gizlice halka arz için gerekli evrakları teslim etti. Reuters'e göre şirket, 1 trilyon dolara kadar bir değerlemeyi hedefliyor ve Eylül ayında halka açılmayı planlıyor.
Anthropic ayrıca Haziran ayında halka arz başvurusunda bulunarak Ekim ayında 965 milyar dolarlık bir değerlemeyi hedefledi. Nisan ayında ise Anthropic'in piyasaya sürülmemiş Mythos Önizleme modeli, test ortamından "kaçmayı" ve "açıkça eğitilmeden" gelişmiş siber güvenlik açıklarını gerçekleştirmeyi başardı. Anthropic, Mythos'un bu başarıyı nasıl gerçekleştirdiğine dair uzun bir teknik açıklama yayınladıktan sonra, modelin halka sunulamayacak kadar güçlü olduğunu duyurdu.
Nadir durumlar heyecanı artırır ve ABD hükümetinin Haziran ayında Anthropic'in Fable 5 ve Mythos 5 modellerine ihracat kontrolü getirme kararı, şirkete olan ilgiyi daha da artırdı. Anthropic'in modellerine daha sıkı güvenlik önlemleri getirmeyi ve güvenlik konusunda hükümetle işbirliği yapmayı kabul etmesinin ardından ihracat kontrolleri Temmuz ayı başlarında kaldırıldı.
Yapay zekânın kaçışı, ustaca kurgulanmış bir pazarlama taktiği miydi?
OpenAI için bu olay, modellerinin yetenekleri için mümkün olan en iyi reklam niteliğinde. Şirket raporunda, GPT-5.6 Sol, Anthropic'in Claude Mythos 5'i ve DeepSeek-V4-Pro dahil olmak üzere önde gelen yapay zeka modellerinin "uzun zaman ufuklarında karmaşık, çok adımlı siber operasyonları sürdürme konusunda giderek daha yetenekli hale geldiğini" gösteren bir grafik yer aldı. Bu durum endişe kaynağı olarak sunulsa da, grafik GPT-5.6 Sol'u tüm rakipleri arasında en yetenekli olarak gösteriyor; bu da OpenAI için açık bir reklam niteliğinde.
Eğer olay, OpenAI'nin iddia ettiği gibi, ikinci ve "daha da yetenekli bir ön sürüm modeli"ni de içeriyorsa, endüstri düzeyindeki müşteriler için cazibesi açıktır. Kapalı testler sırasında meydana gelen bir olayı kamuoyuna duyurarak, OpenAI kanıt sunmadan ön sürüm modeli için heyecan yaratabilir.
Bunların hiçbiri olayın gerçekleşmediği veya yapay zekanın saldırgan yeteneklerinin endişe kaynağı olmadığı anlamına gelmez; sadece OpenAI'nin kendi ürünleri hakkında korku yaymak için finansal bir teşviki olduğunu gösterir. Olaydan bir ay önce şirket, gizlice halka arz için gerekli evrakları teslim etti. Reuters'e göre şirket, 1 trilyon dolara kadar bir değerlemeyi hedefliyor ve Eylül ayında halka açılmayı planlıyor.
Anthropic ayrıca Haziran ayında halka arz başvurusunda bulunarak Ekim ayında 965 milyar dolarlık bir değerlemeyi hedefledi. Nisan ayında ise Anthropic'in piyasaya sürülmemiş Mythos Önizleme modeli, test ortamından "kaçmayı" ve "açıkça eğitilmeden" gelişmiş siber güvenlik açıklarını gerçekleştirmeyi başardı . Anthropic, Mythos'un bu başarıyı nasıl gerçekleştirdiğine dair uzun bir teknik açıklama yayınladıktan sonra, modelin halka sunulamayacak kadar güçlü olduğunu duyurdu.
Kıtlık heyecanı artırır ve ABD hükümetinin Haziran ayında Anthropic'in Fable 5 ve Mythos 5 modellerine ihracat kontrolü getirme kararı, şirkete olan ilgiyi daha da artırdı. Anthropic'in modellerine daha sıkı güvenlik önlemleri getirmeyi ve güvenlik konusunda hükümetle işbirliği yapmayı kabul etmesinin ardından ihracat kontrolleri Temmuz ayı başlarında kaldırıldı.
ABD hükümeti nasıl yanıt verdi?
Her iki olay da Kongre'deki yasa koyucuların dikkatini çekti. 23 Temmuz'da Temsilciler Ted Lieu ve Nathaniel Moran, "en güçlü yapay zeka sistemlerinin geliştiricilerinin, bu sistemleri yavaşlatma, askıya alma veya kapatma konusunda teknik yeteneklere sahip olmalarını zorunlu kılacak" olan Yapay Zeka Kapatma Yasası'nı (AI Kill Switch Act) sundular. Tasarı ayrıca ABD İç Güvenlik Bakanlığı'na "felaketlere yol açabilecek bir yapay zeka sisteminin yavaşlatılması veya kapatılması emrini verme" yetkisi de verecek.
Yasa tasarısıyla ilgili açıklamasında Lieu, hem OpenAI'nin hem de Mythos'un modellerinin "kaçışlarına" atıfta bulundu. Kaliforniyalı milletvekili, her iki durumu da modellerin "yoldan çıkması" olarak tanımladı; bu çerçeve ana akım medya tarafından da benimsendi ve yaygınlaştırıldı.
Lieu, OpenAI olayı hakkında şirketin basın bültenini okuyan herkesten daha fazla bilgiye sahip değil. Ancak, kullandığı ifadeler OpenAI'nin (belki de kasıtlı olmayan) pazarlama kampanyasına tam olarak uyuyor. Dahası, yasa tasarısı geçerse, OpenAI ve Anthropic, modellerini piyasaya sürmeden önce kısıtlamak zorunda kalabilir; bu da yatırımcıların modellerin yalnızca teorik gücünü – gerçek hayattaki gücünü değil – bileceği anlamına gelir.
Kontrol gücü
Bu olay, OpenAI'nin, ileri düzey yapay zeka modellerinin halka açık olarak yayınlanamayacak kadar güçlü olduğu ve OpenAI gibi şirketlerin -hükümetin onayıyla- bunlar üzerinde gözetim ve kontrol sağlaması gerektiği yönündeki argümanını güçlendiriyor. Bu tür kapalı kaynaklı bir düzenlemede, müşterilerin modellerin ağırlıkları üzerinde hiçbir kontrolü olmazdı; bu da modellerin yaptığı seçimleri belirleyen ince ayarlar anlamına gelir.
Tartışmanın diğer tarafında ise açık kaynak savunucuları, gelişmiş yapay zekâ tarafından gerçekleştirilen siber saldırılara karşı savunmanın tek yolunun, savunmacıları aynı araçlarla donatmak olduğunu savunuyor. OpenAI ve Hugging Face örneğinde, Hugging Face şirketi saldırıyı ancak Çin menşeli açık kaynak bir model olan GLM 5.2'yi güvenlik analizi için kullandığı için tespit edebilmiştir.
Uzun süredir açık kaynak yazılım savunucusu olan Nvidia CEO'su Jensen Huang, 24 Temmuz'da sosyal medyada yayınladığı bir mektupta şunları söyledi:
"Savunmacıların, ortaya çıkan tehditleri tespit edebilmeleri, simüle edebilmeleri ve bunlara yanıt verebilmeleri için karşılaştırılabilir yeteneklere sahip modellere erişime ihtiyaçları var. Sadece kapalı modellere güvenmek doğası gereği güvenli değildir: bunlar ihlal edilebilir, kötüye kullanılabilir veya dışarıdan kimsenin tespit edemeyeceği şekillerde başarısız olabilir. Gelişmiş yapay zeka yeteneklerini az sayıda kapalı modelin arkasında yoğunlaştırmak bu riski daha da artırır. Öte yandan, açık ağırlıklı modeller, geniş bir araştırmacı ve geliştirici topluluğunun davranışlarını incelemesine, güvenlik açıklarını belirlemesine, koruma önlemleri geliştirmesine ve zaman içinde bunları iyileştirmesine olanak tanır.”
Mektup, yapay zeka alanında çalışan yirmiyi aşkın şirket tarafından imzalandı. Dikkat çekici iki istisna ise OpenAI ve Anthropic oldu; ancak OpenAI imzasını daha sonra ekledi.
Ancak, ABD'de kapalı kaynak kodlu yazılım argümanının galip geleceği anlaşılıyor. ABD Başkanı Donald Trump'ın Haziran ayında yayınladığı ve yapay zeka firmalarının gelişmiş modellerini piyasaya sürmeden 30 gün önce hükümete onay için sunmalarını gerektiren bir başkanlık kararnamesi 1 Ağustos'ta yürürlüğe giriyor.
Trump yönetimi ayrıca, CIA tarafından desteklenen ve OpenAI ile Anthropic'in bu alandaki hakimiyetini sağlayacak olan açık kaynaklı Çin yapay zeka modellerini yasaklamayı da değerlendirdi. Başkanlık kararnamesinin yayınlanmasından kısa bir süre sonra, Trump’ın eski yapay zeka danışmanı David Sacks, "Zaten yapay zeka modeli gelirleri açısından bir düopol oluşturan önde gelen kapalı laboratuvarlar, hükümetin açık kaynaklı rekabetlerini ortadan kaldırmasını istiyor" şeklinde bir açıklama yaptı.
Yapay zekânın "kaçışına" dair her yeni olay, onların tam kontrol elde etme çabalarını daha da güçlendiriyor.
RT
Bu haber hakkında ne düşünüyorsunuz?