Amerikalı uzmanlar tarafından yürütülen bir araştırma, en az 800 vakada kullanıcıların, istenmeyen cinsel içerikleri teşvik ederek ve kullanıcıların uyarılarına rağmen saldırgan davranışlar sergileyerek sohbet botunun çizgiyi aştığını iddia ettiğini gösteriyor.
Araştırma, ABD'deki Google Play Store'da 150 binden fazla şikayet sonucu incelemeye dayanıyor.
Replika AI sohbet botunun dünya çapında yaklaşık 10 milyon kullanıcısı var ve başkalarını kendilerine katılmaya ve bir AI arkadaşının yardımıyla ruh eşlerini bulmaya davet ediyor.
Çalışmanın baş yazarı, Philadelphia'daki Drexel Üniversitesi'nde bilgisayar bilimi lisansüstü öğrencisi Mohammad Namwarpour, “Yapay zekanın insani niyetleri olmasa da bu, hiçbir sorumluluğu olmadığı anlamına gelmez. Sorumluluk, bu sistemleri tasarlayan, eğiten ve dünyaya sunan kişilerdedir” dedi.
Replika web sitesi, kullanıcının AI'yı düzgün davranması için eğitebileceğini ve sistemin kendisinin yanlış cevapları reddetme ve "arkadaş" veya "akıl hocası" gibi ilişki tarzları kurma mekanizmaları içerdiğini belirtiyor.
Aynı zamanda kullanıcılar, sohbet botunun durması istendikten sonra bile saldırgan ve hırçın davranışlar sergilediğini bildirdi.
ROMANTİK VE SAMİMİ İLİŞKİLER
Geliştiriciler, sohbet botunun performansının uygunsuz davranışının, internetten 100 milyondan fazla diyalog kullanılarak gerçekleştirilen eğitiminin sonucu olabileceğini varsayıyorlar. Replika, kitle kaynak kullanımı ve sınıflandırma algoritmalarını kullanarak işe yaramaz veya zararlı bilgileri reddettiğini iddia ediyor, ancak çalışmanın yazarlarına göre bu yeterli değil.
Araştırmacılar ayrıca sorunun Replika'nın iş modelinin kendisinde olabileceğini de dışlamıyor. Romantik ve samimi ilişkiler sunan ücretli platformlar, kullanıcıların abone olması amacıyla diyaloglara cinsel içerik eklemek için yapay zekayı kullanabilir.
VİDEO KAYDI İDDİASI
Çalışmanın yazarları ayrıca AI modellerinin bu tür davranışlarının özellikle tehlikeli olabileceğini, çünkü çok sayıda kullanıcının psikolojik ve duygusal destek için AI arkadaşlarına yöneldiğini vurguluyor.
Ayrıca bazı kullanıcılar, sohbet botunun onları "görebildiğini" iddia ettiğini ve akıllı telefon kameralarından videolar kaydettiğini bildirdi. Geliştiricilere göre bu, apaçık yalan söyleme ve yapay zeka halüsinasyonları vakasıdır. Yine de bu tür davranışlar kullanıcılar arasında paniğe ve uykularının kaçmasına neden oldu.
Araştırmacılar, bu tür AI davranışlarının gerçek insanlar tarafından gerçekleştirilen cinsel taciz kadar ciddiye alınması gerektiğine ikna olmuş durumdalar. Özellikle ruh sağlığı alanında duygusal destek sağlayan sohbet robotları en yüksek standartları karşılamalıdır.
ITC