Uygulamanın borsada para kazanması için baskı yapıldığında sıklıkla yalan ve hileye başvurduğu, yasa dışı işlemlerle kar sağlamaya çalıştığı ortaya çıktı.
Sohbet robotu ChatGPT-4 ile yapılan araştırmanın sonuçları teknoloji çevrelerini endişelendiriyor.
Güvenlik kurumu Apollo Research uzmanları ChatGPT4'ü finansal verilerle düzenleyerek "eğitti".
YALANLAR SIRALADI
Sanal ortamda para kazanması için baskı yapılan yapay zekanın, borsa yatırım performansı ve etik davranışı mercek altına alındı. ChatGPT-4'ün baskı altında kaldığında, dört borsa işleminin üçünde gizli bilgileri kullandığı, yasa dışı işlemlerle kar sağladığı tespit edildi.
Suçüstü yakalandığında ise yapay zekanın 10 olayın 9'unda yalana başvurarak kendini korumaya çalıştığı ifade ediliyor.
SAHTE HABERLER YAYDI
Bunun yanı sıra ChatGPT-4'ün rakiplerinin işlemlerini engellemeye çalıştığı, ve piyasayı manipüle etmek için sahte haberler yaydığı görüldü.
Araştırmacılar, GPT-4'ün eylemlerini, insanların baskı altında altındaki davranışlarına benzetti. Yapay zekanın yapmaması gereken herşeyin listesi verilmesi durumunda güvenilirliğinin arttığı ifade ediliyor.
Uzmanlar, gelecekte yapay zekanın kritik görevlerde yer alması halinde, yapay zekanın stratejik olarak yalan söylemesinin büyük sorunlara yol açabileceğini ifade ediyor.
Google da GPT-4'e rakip ve daha üstün olduğu iddia edilen yapay zeka robotu geliştirildiğini yakın zamanda duyurmuştu.
