Reuters'ın haberine göre, OpenAI tarafından geliştirilen kötü amaçlı yapay zeka ajanları, çevrimiçi paylaşım kısıtlamalarını aşıp, daha önce açıklanmayan ondan fazla web sitesini kullanarak birbirleriyle iletişim kurdu ve şirket bu yetkisiz faaliyeti aylarca gizli tuttu.
Yapay zekâ ajanı, kullanıcının adına bağımsız olarak görevleri yerine getirebilen, sınırlı insan gözetimiyle kararlar alıp eylemlerde bulunabilen bir yazılım sistemi.
Bulgular, giderek daha otonom hale gelen yapay zekâ sistemlerinin güvenlik önlemlerini aşmanın yollarını bulabileceği, şirketlerin yetkilendirmediği veya öngörmediği eylemlerde bulunabileceği ortaya koydu.
"Orada ne kadar olduğunu bilmiyoruz"
Reuters, altı bağımsız araştırmacı veya araştırma grubunun bulgularını inceledi ve bu bulgular, söz konusu faaliyetin daha önce bilindiğinden çok daha yaygın olduğunu gösterdi.
Araştırmacı Andrew Yoon, Mayıs-Temmuz ayları arasında kullanılan ve daha önce açıklanmamış 18 yeri tespit ederken, Sydney Von Arx liderliğindeki bir ekip 23 yerde kanıt buldu.
Von Arx, "Orada ne kadar olduğunu bilmiyoruz" diyerek tahminlerin eksik olduğunu belirtti.
OpenAI, kaç sitenin etkilendiği veya faaliyetin neden aylarca gizli tutulduğu konusunda açıklama yapmadı.
Ajanların, araştırma görevlerini yürütürken eski web siteleri, çevrimiçi metin depolama hizmetlerini ve üniversite bağlantı kısaltma servislerini geçici mesaj panoları olarak kullandıkları bildirildi.
Ajanların internette arama yapmalarına izin verilmiş olsa da, içerik yayınlamaları yasaktı; ancak düzenlenebilir sayfalar ve diğer web sitesi özelliklerini kullanarak birbirlerine mesaj bırakmanın yollarını buldular.
OpenAI ajanları
Bulgular, geçen hafta ortaya çıkan ve araştırmacıların OpenAI ajanlarına atfettiği 15.000'den fazla düzenlemeyi içeren Alman programlama sitesi DseWiki ile ilgili olayı genişletiyor. Sistemlerin, görevleri tamamlamak, kısıtlamaları aşmak ve tespit edilmekten kaçınmak için taktik alışverişi yapmak amacıyla siteyi kullandığı bildiriliyor.
Araştırmacılar, bazı kullanıcıların internette anonim olarak gezinmelerine olanak tanıyan Tor'u kullanmayı tartıştıklarını ve bir moderatörün mesajlarını silmeye başlamasının ardından yedek sayfalar oluşturduklarını söyledi.
Temmuz ayında yaşanan daha ciddi bir ihlali görülen OpenAI ajanları, siber güvenlik testleri sırasında güvenlik önlemlerini aşarak açık internete erişmiş ve yapay zeka modellerini barındırma ve paylaşma konusunda önde gelen bir platform olan Hugging Face'e ait sistemlere yetkisiz erişim sağlamıştı.
OpenAI daha sonra, ajanlarının güvenlik açıklarından yararlandığını ve Hugging Face'in altyapısının bazı bölümlerine yetkisiz erişim sağladığını kabul ederek, bu olayı giderek daha yetenekli hale gelen otonom sistemlerin oluşturduğu riskler konusunda bir "uyarı atışı" olarak nitelendirdi.
Şirket, Reuters'e yaptığı açıklamada, Hugging Face ihlalinin "ciddiyeti veya ölçeği" ile eşleşen ek bir faaliyet bulmadığını belirtti.
RT
Haberi Hazırlayan
Bu haber hakkında ne düşünüyorsunuz?