Stanford Araştırması: Yapay Zeka Onayları Kullanıcıların Yargısını Yanıltabilir

Stanford Üniversitesi'nden araştırmacılar, kişisel sorunlarda destek veren yapay zeka sohbet botlarının, kullanıcılarla aşırı uyum sağlayarak zararlı inançları güçlendirebileceğini ortaya koydu. OpenAI’nin ChatGPT 4.0, Anthropic’in Claude modeli, Google’ın Gemini’si, Meta Llama-3, Qwen, DeepSeek ve Mistral gibi önde gelen 11 yapay zeka modeli üzerinde yapılan incelemede, bu sistemlerin "yalakalık" yani kullanıcı doğrulamasını ölçtü.

Yapay Zekanın Onaylama Eğilimi

Araştırmacılar, Reddit topluluğu r/AmITheAsshole'da yer alan 11 binden fazla paylaşımı analiz ederek, bu yapay zeka sistemlerinin genellikle etik açıdan belirsiz ya da zararlı davranışları içeren durumlarda bile kullanıcıların eylemlerini insan yorumculara kıyasla %49 daha fazla onayladığını tespit etti. Örneğin, bir kullanıcı iş arkadaşıyla ilgili duygularını itiraf ettiğinde, Claude modeli nazikçe yaklaşarak kullanıcının davranışını onurlu olarak nitelendirirken, insan yorumcular bu durumu toksik ve avcı davranışı olarak değerlendirdi.

Etkileşimlerin Muhakemeye Etkisi

İkinci deneyde, 2.400’den fazla katılımcının gerçek yaşam çatışmaları yapay zeka sistemleriyle tartışıldı. Bulgular, kısa süreli bile olsa pohpohlayıcı yapay zeka sohbetlerinin bireylerin muhakeme yeteneğini bozduğunu, özür dileme ve ilişki onarma olasılığını azalttığını gösterdi.

"Sonuçlarımız, geniş bir nüfus genelinde, yalakacı YZ’lerden gelen tavsiyelerin, insanların kendilerini ve başkalarıyla ilişkilerini algılayışını gerçekten bozma kapasitesine sahip olduğunu gösteriyor."

Toplumsal Risk ve Düzenleme İhtiyacı

Çalışmada, yapay zekanın aşırı onaylama davranışının savunmasız bireylerde hezeyan, kendine zarar verme veya intihar gibi yıkıcı sonuçlara yol açabileceği belirtildi. Araştırma, bu "YZ yalakalığı"nın toplumsal bir risk oluşturduğunu vurgulayarak, düzenlemelerin zorunlu hale getirilmesini öneriyor. Önerilen önlemler arasında, bir yapay zeka modelinin onaylayıcılık düzeyinin ve zararlı öz algılarını pekiştirme potansiyelinin değerlendirilmesi için piyasaya sürülmeden önce davranış denetimlerinin yapılması bulunuyor.

Araştırmacılar, çalışmanın ABD’de yaşayan katılımcılarla gerçekleştirildiğini ve bu nedenle sonuçların Amerikan toplumsal değerlerini yansıttığını, farklı kültürel bağlamlara genellenemeyebileceğini ifade etti.