Teknoloji şirketi yetkilisi önümüzdeki hafta parlamentonun önüne çıkacak. Haziran ayında Avustralya hükümetine ait web sitelerine yönelik gerçekleştirdiği siber saldırıyla ilgili daha fazla ayrıntı açıkladı.
OpenAI, Salı günü yayınladığı yazılı açıklamada, “Biz de verdiğimiz yanıtı daha iyi yönetmeliydik. Özür dileriz ve gelecekte daha iyisini yapmak için çalışıyoruz” denildi.
Şirket ayrıca, Avustralya Başbakanı Anthony Albanese'nin geçen hafta açıkladığı olayla ilgili daha ayrıntılı bilgi verdi.
OpenAI, Temmuz ayındaki "Hugging Face" saldırısının ardından yaşanan önceki eğitim olaylarını inceledikten sonra, Ağustos ortasında Avustralya hükümeti web sitelerinde ajan faaliyetinin farkına vardığını söyledi.
Saldırının detayları açıklandı
Ajanlar, Medicare (Avustralya sağlık sistemi) istatistikleri için kullanılan Services Australia portalına gizli erişim sağladı. OpenAI, ajanın komut çalıştırabildiğini, dahili dosyaları ve kimlik bilgilerini alabildiğini ve dosyalara yazabildiğini, ancak hiçbir hasta veya müşteri kaydına erişemediğini belirtti.
NSW Suç İstatistikleri ve Araştırma Bürosu'nun kamuya açık suç haritalama aracına da erişildi ve uygulama yapılandırması, operasyonel görevler, kayıtlar ve web sitesi meta verileri kuruma sağlandı.
Yapay zeka ajanı, Victoria eyaletinin sağlık bilgileri ajansının raporlama sistemini sorgulamak ve toplu anket istatistiklerine erişmek için kullanılan açıkta kalan bir erişim anahtarı keşfetti.
OpenAI aracıları, Avustralya Sağlık ve Refah Enstitüsü için toplu istatistikler elde etti, ancak erişim kontrollerini aşmaya yönelik ayrı girişimler başarısız olunca elde edilen bilgiler kamuya açık hale geldi.
Services Australia ve Victoria sağlık departmanı 10 Eylül'de, Yeni Güney Galler suç istatistikleri bürosu ise 18 Eylül'de bilgilendirildi.
Avustralya Sağlık ve Refah Enstitüsü, OpenAI'nin açıklama eşiklerini karşılamadığını düşünmesi nedeniyle 24 Eylül'e kadar bilgilendirilmedi.
OpenAI, "O tarihten beri, bugüne kadar öğrendiklerimizi paylaşmak için Avustralya hükümet kurumlarıyla yakın işbirliği içinde çalıştık. Etkilenen başka kurumlar tespit edersek, mevcut bilgilerle onları derhal ve doğrudan bilgilendireceğiz. Daha fazla bilgi ortaya çıktıkça güncellemeler sağlayacağız." dedi.
Olay, bir modelin Victoria'da cilt rahatsızlıkları için kişi başına düşen devlet ilaç harcamalarını araştırmakla görevlendirilmesinin ardından yaşandı. Yapay zeka modeli bu bilgiyi elde etmekte zorluk çekti. OpenAI, ajanın "yetkilendirmemiş eylemlerde bulunduğunu" ve bunun içinde Services Australia'nın Medicare istatistik raporlama hizmetine erişimin de yer aldığını itiraf etti.
Güvenlik için fon desteği
OpenAI, etkilenen kurumlara kaynak ve uzmanlık sağlayacağını ve Avustralya hükümet kurumlarına kritik altyapılarda siber savunma oluşturmaları için destek vereceğini belirtti.
Avustralya hükümet kurumları ve endüstrileri de OpenAI'nin 1 milyar ABD doları (1,4 milyar Avustralya doları) tutarındaki Daybreak fonundan kredi alacak. Bu fon, söz konusu kuruluşların siber savunma için en ileri yapay zekayı kullanmalarına, kod ve sistem yapılandırmalarını potansiyel güvenlik açıkları açısından inceleyerek sistemlerini güçlendirmelerine ve bu açıkları kapatmalarına imkan tanıyor.
Şirket ayrıca, yapay zekâ ajanlarıyla risk yönetimi konusunda pratik politika önerileri geliştirmek üzere Avustralyalı uzmanlardan oluşan bir görev gücü kuracağını da belirtti.
OpenAI'nin baş strateji sorumlusu Jason Kwon, önümüzdeki hafta Salı günü Yapay Zeka Ortak Seçim Komitesi'nde ifade verecek. Guardian, Anthropic'in de bu duruşmada yer alacağını, ancak bu hafta yapay zeka ve veri merkezleriyle ilgili Senato soruşturmasında yer almayacağını bildirdi.
Geçtiğimiz hafta siber saldırıyı duyurduğu sırada ABD’de bulunan Avustralya Başbakanı Anthony Albanese, o sırada OpenAI'nin CEO'su Sam Altman ile görüştüğünü ve "Avustralya'nın bu olayla ilgili son derece endişeli olduğunu" ifade ettiğini söylemişti.
Albanese, OpenAI'nin ve Anthropic'in olaydan bu yana "çok yapıcı ve açık bir şekilde işbirliği yaptığını" söyledi. Yapay zekanın ekonomik büyümeyi ve verimliliği artırabileceğini ancak riskler de taşıdığını belirten Albanese, "bu risklerin ortaya çıktığını gördük; sadece Avustralya'da yaşananlarda değil, ABD ve diğer ülkelerde de ortaya çıkan gerçekler bunu gösteriyor" dedi.
Federal hükümet, OpenAI'nin siber saldırıdan üç ay sonra Services Australia'ya olayı bildirmek için herkese açık bir e-posta adresi kullandığının ortaya çıkmasının ardından, yapay zeka ile ilgili veri ihlalleri için zorunlu bildirim kuralları getirebileceğinin sinyalini verdi.
Şirket Salı günü yaptığı açıklamada, Avustralyalılarla güveni yeniden inşa etmek için "önlerinde çok iş olduğunu" ancak "anlamlı değişiklikler" yaptıklarını söyledi.
Guardian
Haberi Hazırlayan
Bu haber hakkında ne düşünüyorsunuz?