Yapay zeka sektöründe vahşi rekabet sürerken uzman bir çalışan daha güvenlik kaygıları nedeniyle istifa etti.
Anthropic'te yeni yapay zeka modelleri geliştiren 27 yaşındaki Jacob Coxon, görevinden istifa etti ve sosyal medyada gündem olan vahim bir uyarıda bulundu.
Coxon, dün X'te yedi bölümden oluşan bir metin paylaştı. Bir gecede yaklaşık 76 milyon görüntülenme alan metnin yazarı Coxon, daha önce Wall Street Journal’e verdiği özel röportajdan da hatırlanıyor.
"Hayatlarımızla kumar oynuyorlar"
X platformundaki hesabından paylaşım yapan Coxon’un mesajı, samimi itiraflar içeren istifa duyurusuyla başlıyor:
“Bugün Anthropic'ten istifa ettim. Son üç yılımı hem OpenAI hem de Anthropic'te ön eğitim araştırmaları yaparak geçirdim. İki şirket de sorumlu davranmıyor. Doğrudan, otonom olarak kendini geliştiren süper zekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar.”
“Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilen, herhangi bir alanı bir gecede devrimleştirebilen ve gerçek güç ve kaynaklar elde edebilen insanüstü sistemler olacak. Bu alanların her birindeki ilerlemeye hepimiz şahit olduk ve bu ilerleme yavaşlamıyor.”
OpenAI ve Anthropic rekabeti
Coxon, yapay zeka teknolojisinin zihniyetini şu ifadelerle özetliyor:
“Yaygın bir yanıt şu: 'Eğer gerçekten buna inanıyorlarsa, neden hâlâ bunu inşa ediyorlar?' OpenAI'da birçok kişi medeniyetin çıkarlarını tam olarak kavrayamamış durumda. Anthropic'te ise çıkarlar gayet iyi anlaşılmış durumda, ancak ilk önce oraya ulaşmak için bir yarış içindeler – başka kimsenin sorumlu davranmayacağına inanıyorlar, bu yüzden riske rağmen kendileri yapmalılar.”
“Bu düzeyde başka bir tehlike yok”
"Yapay zekayı geliştiren insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine gerçekten inanıyorlar. Bu bir pazarlama hilesi değil. Aksine, birçok yönetici ve kıdemli araştırmacı basında mantıklı görünmek için ifadelerini yumuşatıyor - ama aynı kişilerin özel olarak korkularını dile getirdiklerini duyuyorum. Başka hiçbir insan faaliyeti bu düzeyde bir tehlike arz etmiyor."
"Zihnini tam olarak anlamadan süper zeki bir RL oyununa başlamak mı istiyorsunuz? 'Zaten oluyor işte' diyerek başınızı öne eğmeli misiniz, yoksa bu anı farklı koşullar talep etmek için mi kullanmalısınız?"
"Kritik an" ve "son oyun"
Cambridge Üniversitesi mezunu bir matematikçi olan Coxon, Wall Street Journal'a verdiği röportajda "Bu senaryoların en agresif olanlarının birçoğuna doğru ilerliyoruz; önümüzdeki yılın sonuna kadar işler zaten kontrolden çıkabilir" uyarısında bulunmuştu.
Bu yılın başlarında Anthropic'e katılmadan önce OpenAI'da çalışan Coxon, iki şirket ve Çinli rakipleri arasındaki rekabetin, güvenlik konusunda taviz vermeyi kaçınılmaz hale getirdiğini söyledi.
"Bu senaryoların en agresif olanlarının birçoğuna doğru ilerliyoruz ve gelecek yılın sonuna kadar işler zaten kontrolden çıkabilir," diyen Coxon, yapay zeka alanındaki meslektaşlarının hızlandırılmış, kendi kendini geliştiren yapay zeka modellerinin durumunu tanımlamak için "kritik an" ve "son oyun" terimlerini kullandığını belirtti.
Öte yandan Anthropic Uyum Bilimi lideri Evan Hubinger, X'te yaptığı bir paylaşımda Coxon'ın haklı olduğunu belirtti:
"Yapay zekanın tüm insanları öldürebileceğine gerçekten yürekten inanıyoruz! Şahsen, önümüzdeki on yıl içinde bunun yüzde 10'dan fazla olacağını düşünüyorum. Anthropic'in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum, ancak süper zekâ için uyum sorununu çözecek bir planımız henüz yok ve bu yönde net bir ilerleme kaydetmiyoruz."
Haberi Hazırlayan
Bu haber hakkında ne düşünüyorsunuz?