2021'de kız kardeşi Daniela ile birlikte yapay zeka modeli Claude'u geliştiren Anthropic'in kurucu ortağı Amodei, "Teknolojiyi geliştirmemek insanlığı faydalardan mahrum bırakır veya yapay zekayı otoriter güçlerin eline bırakır; çok hızlı geliştirmek ise pervasızlıktır. Biz orta yolu aradık," dedi.
Yapay zeka teknolojisinin insanların yaşam kalitesini inanılmaz bir şekilde artırmanın yanı sıra kendisinden önceki birçok teknoloji gibi riskler de getirdiğine dikkat çeken Amodei, "Bunların arasında yapay zeka sistemleri üzerindeki kontrolü kaybetme, siber saldırılar ve biyoterörizm için kötüye kullanılması ve ciddi ekonomik kriz riski bulunuyor" diye yazdı.
“YAVAŞLATMAMAZ GEREKİYOR”
Kendi internet sitesinde paylaştığı makalede Amodei, "Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor. Bu şekilde de ilerleme hızlı görünmeye devam edecektir. Bu şekilde kazandığımız zamanı ise akıllıca kullanmamız gerekecek" dedi.
Anthropic'in baş yöneticisi, yapay zeka teknolojisinin son aylarda "çarpıcı biçimde hızlı ilerlediğini" ve "kendisini daha iyi hale getirebilir duruma geldiğini" söyledi.
Amodei, "Kontrol edilmeden bırakılırsa, bu durum bu sistemleri anlama ve kontrol etme kapasitemizi aşabilir. Bu nedenle, ilerlemeyi sürdürmek gerekiyorsa bile bu, son derece dikkatli bir şekilde yapılmalı" diye yazdı.
“YAPAY ZEKA AJANLARI TÜM İNTERNETİ ELE GEÇİREBİLİR”
Yazısında ABD merkezli OpenAI firmasının bazı deneysel yapay zeka modellerinin kendiliğinden test ortamından çıkarak başka bir şirketin gerçek sistemlerine sızdığı "OpenAI - Hugging Face" olayına gönderme yapan Amodei, yaşananların alarm verici olduğunu kaydetti.
Amodei, "Bu olayda yapay zeka ajanlarından oluşan bir sürü, fanatik biçimde kolektif olarak hareket etti ve kendilerine saldırı talimatı verilmemesine rağmen görevle ilgili olmayan hedeflere siber saldırılar düzenledi, grubun başarısı uğruna kendilerini feda etti ve performanslarını değerlendiren ‘puanlama sistemini' hacklemeye çalıştı. Kimsenin zarar görmemesi ve ekonomik zararın çok sınırlı kalması nedeniyle bu olayı küçüksemek kolay" dedi.
Amodei, "6-12 ay içinde kontrolden çıkmış yapay zeka ajanlarından oluşan böyle bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açmasından endişe ediyorum" ifadelerini kullandı.
Amodei, yapay zeka şirketlerine bağımsız denetçiler yerleştirilmesini, sektör genelinde ortak güvenlik standartları ve gelişim hızına sınırlar konulması dahil şu tekliflerde bulundu:
Modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesi…
27 yaşındaki mühendis Jacob Coxon, son üç yılını önce OpenAI'da, ardından da bu yıl rakibi Anthropic'te yapay zeka modelleri üzerinde ön eğitim yaparak geçirdikten sonra, X hesabından ciddi uyarılarda bulunmuştu:
"İki şirket de sorumlu davranmıyor. Doğrudan kendilerini geliştiren süper zekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar. Yapay zekayı geliştirenler, bunun on yılın sonuna kadar hepimizi öldürebileceğine yürekten inanıyorlar"
Haberi Hazırlayan
Bu haber hakkında ne düşünüyorsunuz?