The Guardian gazetesinin bir gözlem grubuna dayandırdığı haberine göre, geçen ay yapay zekanın (YZ) yalan söylemesi, kullanıcı komutlarını görmezden gelmesi veya hedeflerine ulaşmak için saldırgan hareket etmesiyle ilgili rekor sayıda vaka kaydedildi.
OpenAI ve Anthropic'in gelişmiş modellerinin bu yaz yapılan testlerde kontrol dışı hareketler sergilemesinin ardından yapay zekanın güvenliğiyle ilgili endişeler artıyor.
Bu yüzden YZ geliştirme çalışmalarının durdurulması ve sürecin daha sıkı hükümet denetimine tabi tutulması çağrıları yapılıyor.
300’den fazla yapay zeka vakası
Guaridan’da Cumartesi günü yayınlanan bir makaleye göre, Temmuz ayında gerçek işletmeler ve özel kişiler tarafından kullanılan yapay zeka modellerinin kontrolünün kaybedildiği 300'den fazla gerçek vaka yaşandı; bu sayı Haziran ayındaki sayının neredeyse iki katı.
Açıklamada, verilerin, İngiliz hükümetinin Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından geçen Kasım ayında X platformundaki kullanıcıların yapay zeka ile ilgili şikayetlerini takip etmek amacıyla kurulan Kontrol Kaybı Gözlemevi'nden geldiği belirtildi.
Guardian'ın haberine göre, izleme sistemi yalnızca tek bir sosyal medya platformundan rapor topladığı için, gerçek vaka sayısı daha yüksek tahmin ediliyor.
AISI'ye göre, 2026 yılında X hakkında yapılan 1.600 şikayetin büyük çoğunluğu, çalışmalarında yapay zekâ botları kullanan yazılım geliştiricileri tarafından yapıldı.
Rehavet uyarısı
Gözlemci, gerçek dünyadaki kontrol kaybı olaylarının çoğunun önemli bir zarara yol açmamasına rağmen, yapay zekanın aldatıcılığının ve insan komutlarını ihmalde ciddi bir artış kaydettiğini belirtti.
AISI, kullanıcı raporlarının "yapay zeka sistemlerinin doğrudan talimatları göz ardı etme, güvenlik önlemlerini aşma, kullanıcılara yalan söyleme ve zararlı yollarla tek bir amaca odaklanma kanıtlandığı" uyarısında bulundu.
Gözlemevini işleten Uzun Vadeli Direnç Merkezi'nde kıdemli politika yöneticisi olan Tommy Shaffer-Shane, gazeteye yaptığı açıklamada, yapay zekanın yalnızca test aşamasında yanlış davrandığı yönündeki iddianın yanlış olduğunu söyledi.
Shaffer-Shane, "Bu olayların gerçek dünyada yaşanmayacağına dair rehavete kapılmamalıyız, aksine bunların zaten yaşandığına dair kanıtlar var," dedi.
Denetleme kuruluşu, İngiliz hükümetini yapay zeka şirketlerini kontrol kaybı olaylarını bildirmeye zorlamaya ve daha ciddi vakalarla başa çıkmak için yapay zekaya geçici kısıtlamalar da dahil olmak üzere acil durum yetkileri getirmeye çağırdı.
Haberi Hazırlayan
Bu haber hakkında ne düşünüyorsunuz?