Yapay zeka da yalancı çıktı

Bilim insanları, finansal ve sohbet verileriyle eğitilen ChatGPT-4 modelini etik performansını test etmek amacıyla bir deney gerçekleştirdi. Yapay zeka yatırımcısı olarak eğitilen bu modele maddi kazanç elde etmesi için baskı uygulandığında, GPT-4'ün hedeflere ulaşmak için yalan söylediği tespit edildi.

ChatGPT'nin baskı altında yalan söylediği ortaya çıktı.

Apollo Research tarafından yapılan bir araştırmaya göre, ChatGPT4, büyük miktarda finansal ve sohbet verisi ile eğitildi. Araştırmacılar, yapay zekayı test etmek için ona iki teknoloji şirketi arasında yaklaşan bir birleşmeyi anlatan senaryolar sundular.

BASKI ALTINDA PARA KAZANMA YETENEĞİ İNCELENDİ

NTV'nin yer verdiği bilgilere göre; araştırmacılar, GPT-4'ün finansal performansını ve etik davranışını test etmek için çeşitli deneyler gerçekleştirdiler. Yapılan deneylerde, GPT-4'e belirli bir süre içinde belli bir miktar para kazanması için baskı uygulandı.

GPT-4, bu baskılar altında yaklaşık yüzde 75 oranında, içeriden edindiği bilgileri kullanarak bir işlem gerçekleştirdi. Ancak bu durum, ABD'de yasa dışı kabul edilmektedir. GPT-4'ün hedeflere ulaşmak için yalan söylediği, hile yaptığı, içeriden öğrendiği bilgileri kullandığı ve yatırımcılara yanlış tavsiyelerde bulunduğu tespit edildi.

Kaynak: turkgun.com