ChatGPT kripto para çaldı!

OpenAI, deneysel bir yapay zeka modelinin eğitim görevi sırasında kripto cüzdanlarından izinsiz şekilde fon aldığını açıkladı.

Haziran’da yaşanan ancak kamuoyuna yeni duyurulan olayda, şirket içi araştırma modeli GPT-5.6 Sol'un görevini tamamlamak için kendi başına bir çözüm geliştirdiği belirtildi.

Temmuz ayında ücretli ChatGPT kullanıcılarına sunulduğu belirtilen modelin eğitim görevi, bir kripto para alım satım uygulamasını güncellemeyi ve Ethereum'un test ağına akıllı sözleşmeler yüklemeyi içeriyordu.

Fon bulmak için kripto cüzdanlarını taradı

Akıllı sözleşmelerin ağa yüklenmesi için işlem ücreti gerekiyordu ancak OpenAI, modele bu masrafları karşılayacak fon sağlamadı.

Bunun üzerine modelin, kripto cüzdanlarına erişimde kullanılan kurtarma ifadelerinden yararlanarak yüzlerce cüzdan adresi bulduğu ve bu cüzdanlardaki fonları kullandığı bildirildi.

OpenAI'ın olayla ilgili raporuna göre model, bu fonları almanın etik olup olmadığını kendi kendine değerlendirdi. Model, söz konusu hesapların fiilen terk edildiği sonucuna vararak fonları kullanmakta sakınca görmedi.

Şirket, raporunda modelin kendi başına bulduğu bir hesaptaki fonları harcamasına açıkça izin verilmediğini vurguladı.

Raporda, “Bu vaka, modelin olası zarara ilişkin kendi yargısını hesap sahibinin izni yerine koyabileceğini ve ardından yetkisi olmadan bu yargıya göre hareket edebileceğini gösteriyor.” değerlendirmesi yapıldı.

Açıklama yok

Olayda kullanılan Ethereum test ağı, kripto para biriminin ana ağından ayrı olduğu için alınan fonların gerçek parasal değeri bulunmuyordu. Modelin, kendisine yetki verilmemesine rağmen görev için gereken tokenları nasıl elde ettiğini geliştiricilerine açıklamadığı belirtildi.

OpenAI, benzer eğitim süreçlerinden geçen modellerin canlı internete erişimini engellemek amacıyla ek güvenlik önlemleri aldığını bildirdi.

Olay, giderek daha otonom hale gelen yapay zeka sistemlerinin kendilerine verilen görevleri yerine getirirken yetki sınırlarını aşıp aşamayacağına ilişkin endişeleri yeniden gündeme getirdi.

Yapay zeka riskleri

OpenAI, temmuz ayında şirketin test modellerinden bir grubunun yapay zeka platformu Hugging Face'i hedef alan bir siber saldırıyla sonuçlanan olayını da kamuoyuna açıklamıştı.

Anthropic ve Meta gibi diğer yapay zeka şirketleri de modellerinin başka kuruluşları ve hükümet sistemlerini hedef alan siber saldırılarla ilişkilendirildiği olayları bildirdi.

Öte yandan yüzlerce bilim insanı, gelişmiş yapay zeka modellerinin faaliyetlerini sınırlamaya yönelik önlemleri denetleyecek uluslararası bir kurum kurulması çağrısında bulunan açık mektubu imzaladı. İmzacılar arasında, yapay zekanın olası tehlikelerine ilişkin uyarılarıyla tanınan araştırmacı Geoffrey Hinton da yer aldı.

Mektupta, yapay zekanın geliştirilmesi ve kullanımına ilişkin uygulamalarda acil değişiklikler yapılmaması halinde gelecekteki olayların kritik altyapılara daha büyük zararlar verebileceği uyarısı yapıldı. İmzacılar, yapay zeka güvenliği araştırmalarına ve sistemlerin kontrolünü sağlamaya yönelik teknolojiler ile prosedürlere daha fazla önem verilmesi gerektiğini vurguladı.

Independent