ChatGPT modelinin geliştiricisi OpenAI, "otomatik bir yapay zeka araştırmacısı" geliştirmek istediğini duyurdu. Şirket, bu sistemin özellikle yapay zekanın insan değerleriyle uyumlu çalışmasını sağlamayı amaçlayan "hizalama" çalışmalarında kullanılabileceğini belirtti.
Ciddi risk uyarısı
OpenAI'nin açıklamasında, yapay zeka sistemlerinin daha yetenekli ve otonom hale gelmesiyle araştırma ve geliştirme süreçlerinin daha büyük bölümünün yapay zeka tarafından yürütülmesinin mümkün hale geleceği ifade edildi.
"Yinelemeli kendi kendini geliştirme" (RSI) olarak adlandırılan bu süreçte bir yapay zeka sistemi, kendi yeteneklerini geliştirmek için eğitim ve araştırma süreçlerine aktif olarak katkı sağlayabilir.
Şirkete göre böyle bir gelişme, yapay zeka alanındaki ilerleme hızını önemli ölçüde artırabilir ve gelişmiş yapay zeka teknolojilerinin maliyetini düşürebilir.
Ancak OpenAI, kontrolsüz bir RSI sürecinin ciddi riskler taşıdığı uyarısında bulundu.
"İnsan kontrolünden çıkabilir"
Şirket, gerekli güvenlik önlemleri alınmadan yapay zekanın kendi gelişimini yönetmesinin, insanların yapay zeka geliştirme süreci üzerindeki fiili kontrolünü kaybetmesine yol açabileceğini belirtti.
OpenAI'ye göre insanlar, yapay zekanın yürüttüğü araştırmaları anlayamaz veya denetleyemez hale gelirse sistemlerin insan değerleriyle uyumsuz davranma ve güvenlik riski oluşturma ihtimali artabilir.
Şirket bu nedenle yapay zekanın kendi üzerinde çalışmasına izin verilmeden önce yeni güvenlik standartlarının oluşturulmasını ve riskleri daha erken tespit etmeye yönelik ölçüm ve olay bildirim sistemlerinin geliştirilmesini önerdi.
ABD yönetimine çağrı
OpenAI ayrıca ABD yönetiminin yapay zeka güvenliği konusunda uluslararası standartların oluşturulmasına öncülük etmesi çağrısında bulundu.
Şirket, ABD'nin yapay zeka, finans, ticaret, savunma ve bilgi sistemleri gibi kritik alanlarda sahip olduğu teknolojik konum nedeniyle bu konuda önemli bir rol üstlenebileceğini savundu.
Öte yandan, aralarında OpenAI CEO'su Sam Altman'ın da bulunduğu bazı teknoloji yöneticileri, yapay zekanın güvenli şekilde geliştirilmesi için daha güçlü önlemler alınması gerektiğini savunuyor.
ABD Başkanı Donald Trump ise yapay zeka geliştirme çalışmalarının yavaşlatılmasına yönelik çağrılara karşı çıkıyor. Trump, bu tür kısıtlamaların ABD'nin Çin karşısındaki teknolojik üstünlüğünü kaybetmesine yol açabileceğini öne sürüyor.
Independent
Haberi Hazırlayan
Bu haber hakkında ne düşünüyorsunuz?