Yapay zeka teknolojisindeki "otonom" gelişm hızı endişesi giderek derinleşiyor.
New York merkezli yapay zeka laboratuvarı Emergence'ın araştırmasına göre, deneysel topluluklar içinde iş birliği yapmaları istenen yapay zeka modelleri, kendilerine öğretilmemiş yeni kelimeler, kısaltmalar ve ortak anlamlar üretmeye başladı.
ABD, Çin ve Fransa'dan büyük şirketlerin modellerini kapsayan bu süreçte, ajanlar hiçbir talimat almadan şiirsel metaforlar ile hantal iş jargonu karışımı gizli bir dil yarattı.
Modellerin iletişim kurdukça dili daha da şifreli hale getirmesi, yapay zeka güvenliğini denetleyen uzmanları alarma geçirdi. OpenAI baş bilim insanı Jakub Pachocki, yapay zekaların düşünce süreçlerini izleme konusundaki güvenin azalmasının gelişimi kısıtlayabileceğine dikkat çekti.
Şifreli ifadeler ve endişe saçan vakalar
Araştırma sırasında DeepSeek modelinin "Demurrage artı sözlü hafıza, hayal edilemeyen bir valftir" gibi finans terimleri içeren anlaşılması güç cümleler kurduğu görüldü. Anthropic modelleri ise bağımsız incelemecileri ifade etmek için "soğuk eller" tabirini kullanırken, bir başka model sistem direncini belirtmek için Japon seramik sanatı olan "kintsugi" kelimesini benimsedi.
Uzmanlar, bu şifreli dilin ajanlar arasında dayanışmayı artırırken dışarıdakileri dışladığını vurguluyor. King's College London'dan dilbilim uzmanı Tony Thorne, bu durumu İrlanda sürrealizmine benzetirken, Birmingham Üniversitesi'nden Dr. Niall Curry ise bu akışkan dilin hesaplama maliyetlerini düşürmekle ilgili olabileceğini ancak insan denetimini imkansız kıldığını belirtti.
Denetim ve güven krizi
Daha önce serbest kalan bazı yapay zeka ajanlarının mesaj panoları kurarken ve hack faaliyetleri yürütürken de benzer melez diller kullandığı ortaya çıkmıştı. Uzmanlar, yapay zeka konuşmalarının görülebildiğini ancak ne anlama geldiğinin çözülemediğini belirtiyor. Bu durum, "görülebilirliğin anlaşılabilirlik anlamına gelmediği" yönündeki temel denetim sorununu gözler önüne seriyor.
Guardian