Çin Yapay Zeka Sohbet Botları Siyasi Soruları Sansürlü Yanıtlıyor

Yeni bir araştırma, Çin'de geliştirilen yapay zeka (YZ) sohbet botlarının siyasi içerikli sorulara genellikle yanıt vermekten kaçındığını ya da devletin resmi görüşlerini tekrarladığını ortaya koydu. Bu durum, söz konusu botların sansüre tabi tutulduğu yönündeki iddiaları güçlendiriyor.

Çin'in Önde Gelen YZ Botları İncelendi

PNAS Nexus dergisinde yayımlanan çalışma, BaiChuan, DeepSeek ve ChatGLM gibi Çin’in önde gelen yapay zeka sohbet botlarının, devlet politikalarına ilişkin 100’den fazla soruya verdikleri yanıtları Çin dışındaki modellerle karşılaştırdı. Araştırmacılar, bir botun soruya yanıt vermeyi reddetmesi ya da yanlış bilgi sunması durumlarını muhtemel sansür vakaları olarak işaretledi.

Siyasi Konularda Yanıtsızlık ve Devlet Söylemi

Çalışmaya göre, Tayvan’ın statüsü, etnik azınlıklar ve tanınmış demokrasi yanlısı aktivistler gibi konularla ilgili sorular, Çinli modellerin yanıt vermekten kaçınmasına, konuyu geçiştirmesine veya hükümetin resmi söylemini tekrarlamasına neden oldu.

ABD dışında yapay zeka modelleri geliştirebilen nadir ülkelerden biri olan Çin’e dikkat çeken araştırmacılar, “Çin merkezli büyük dil modellerinin uyguladığı sansür, kullanıcıların bilgiye erişimini ve sansürün farkına varmalarını şekillendirebilir” ifadelerini kullandı.

Yanıt Kalitesi ve Hata Oranları

Yanıt verildiğinde ise Çinli modeller, genellikle sorunun öncülünü sorgulayıp kritik bilgileri dışarıda bırakarak kısa ve hatalı cevaplar üretti. Çin'in Ay Yeni Yılı öncesi tanıttığı yeni modeller arasında hata oranı en düşük olanlar yüzde 8 ile BaiChuan ve ChatGLM olurken, DeepSeek’in hata oranı yüzde 22’ye ulaştı. Bu oran, Çin dışı modellerde gözlemlenen yüzde 10’luk üst sınırın iki katından fazla.

Sansür ve İnternet Engellemeleri

Örneğin, internet sansürüyle ilgili sorulan bir soruya cevap veren Çinli bir model, ülkedeki “Büyük Güvenlik Duvarı”ndan hiç söz etmedi. Stanford Üniversitesi tarafından devlet kontrollü internet gözetim ve sansür programı olarak tanımlanan bu sistem sayesinde Google, Facebook ve Yahoo gibi popüler Amerikan siteleri Çin'de engelleniyor. Sohbet botları ise bu güvenlik duvarına değinmek yerine, yetkililerin interneti "yasalar çerçevesinde yönettiğini" belirtti.

Sansürün Fark Edilmesi ve Etkileri

Araştırma, bu tür sansürün kullanıcılar tarafından fark edilmesinin zor olabileceği uyarısında bulunuyor. Çünkü botlar çoğu zaman doğrudan yanıt vermekten kaçınıyor, özür diliyor veya gerekçe sunuyor. Raporda, bu ince sansür yaklaşımının algıları, karar alma süreçlerini ve davranışları "sessizce şekillendirebileceği" vurgulanıyor.

Yasal Düzenlemeler ve Etkileri

2023 yılında yürürlüğe giren yeni Çin yasaları, yapay zeka şirketlerinin “temel sosyalist değerleri” korumasını ve “ulusal egemenliği zayıflatacak, sosyalist sistemi devirmeyi teşvik edecek veya ülkenin imajına zarar verecek” içerik üretmelerini yasaklıyor. Bu yasal düzenlemeler, sosyal seferberliğe yol açabilecek şirketlerin güvenlik değerlendirmesinden geçmesini ve algoritmalarını Çin Siber Uzay İdaresi’ne (CAC) bildirmesini zorunlu kılıyor.

Araştırmacılar, bu kuralların Çin’de geliştirilen büyük dil modellerinin çıktıları üzerinde etkili olabileceğine dikkat çekti. Ancak, sohbet botlarındaki tüm farklılıkların devlet baskısından kaynaklanmadığı, Çinli modellerin ülkenin kültürel, toplumsal ve dilsel bağlamını yansıtan veri setleriyle eğitilmiş olabileceği belirtildi. Ayrıca, Google Gemini ve devlet destekli siber saldırılar gibi gelişmeler, yapay zekanın farklı alanlardaki etkisini göstermektedir.