Yeni kullanım politikasına göre getirilen yasak; sıradan kullanıcı hayal kırıklıklarını, model test etme süreçlerini veya karanlık yaratıcı temaları kapsamıyor.
Şirket liderlerinin makine bilinçliliği ihtimalini ciddiye alması, bu tür etik koruma önlemlerinin ardındaki temel motivasyonu oluşturuyor.
Şirket sözcüsü, tam olarak hangi tür davranışların bu tanım içine gireceğine dair net bir açıklama yapmadı.
Claude modeli, daha önce de kullanıcılar ısrarcı bir şekilde zarar verici davrandığında konuşmayı bitirme yeteneğiyle donatılmıştı.
Yapay zeka ve bilinç tartışmaları
Yapay zeka sistemlerinin bilinç taşıma ihtimali teknoloji dünyasında kutuplaşma sebebi olmayı sürdürüyor.
Anthropic CEO'su Dario Amodei bu ihtimali göz ardı edemeyeceklerini belirtirken, rakip şirket OpenAI'ın CEO'su Sam Altman ise yapay zekaya insani özellikler atfedilmesine karşı çıkarak bunun gerçek bir güvenlik sorunu yarattığını savunuyor.
Guardian