Araştırma: Google Yapay Zeka Özetleri Dakikada Binlerce Yanlış Bilgi Üretebilir

Google’ın arama sonuçlarına entegre ettiği yapay zeka özetleri, görünüşte güvenilir ve kaynaklı içerikler sunsa da doğruluk açısından önemli şüpheler doğuruyor. Üretken yapay zekanın halüsinasyon eğilimi, yüksek enerji tüketimi ve psikolojik etkileri tartışılırken, Google’ın bu özetleri haber siteleri ve web trafiğinde sert düşüşlere neden oldu.

Google’ın Yapay Zeka Özetlerinin Doğruluk Oranı

The New York Times tarafından aktarılan yakın tarihli bir analiz, Google’ın yapay zeka özetlerinin her 10 sonuçtan 9’unda doğru ve güvenilir kaynaklara dayandığını gösteriyor. Ancak sistemin ölçeği düşünüldüğünde bu doğruluk oranı ciddi sorunlar barındırıyor. 2026 yılında 5 trilyondan fazla arama yapılması beklenirken, Popular Science’a göre saat başına on milyonlarca, dakikada ise yüz binlerce hatalı yanıt ortaya çıkabilir.

Doğruluk Ölçümünde Zorluklar

Analiz, güvenilirliği değerlendirme sürecinin de karmaşık olduğunu belirtmektedir. Aynı sorgu tekrarlandığında, ilk yanlış yanıt sonraki denemelerde doğru özetle değişebiliyor ve bu durum sistemin öngörülemezliğini artırıyor. Google’ın bu yapay zeka özetlerini arama sonuçlarının en üstüne yerleştirmesi, kullanıcıların bu içeriklere daha fazla maruz kalmasına ve doğru kabul etmesine yol açıyor.

Kullanılan Kaynaklar ve Model Gelişimi

Açık kaynak yapay zeka şirketi Oumi’nin analizine göre, özetlerde başvurulan kaynaklar da sorun teşkil ediyor. Facebook ve Reddit gibi platformlar en çok referans verilen kaynaklar arasında yer alırken, hatalı yanıtların daha sık olarak bu tür sitelere atıfta bulunduğu görülüyor. Bazı durumlarda ise sistem güvenilir bir kaynağı yanlış yorumlayarak hatalı sonuçlar üretebiliyor.

Oumi’nin testlerinde Gemini 2 ve Gemini 3 modelleri karşılaştırıldı. Daha yeni olan Gemini 3, yüzde 91 doğruluk oranına ulaşırken, Gemini 2 yüzde 85’te kaldı. Bu gelişmeler modele ilerleme sağlasa da sorunların tamamen ortadan kalkmadığını gösteriyor. Ayrıca, Gemini 3 modelinde temelsiz yanıtların oranı yüzde 56’ya yükseldi. Bu tür yanıtlar, verilen bilgilerin kaynaklarla desteklenmediği anlamına geliyor ve kullanıcıların doğrulama yapmasını zorlaştırıyor.

Manipülasyon Riskleri ve Google’ın Yanıtı

Uzmanlar, sistemdeki açıklıkların kötü niyetli kişilerce istismar edilebileceği uyarısında bulunuyor. Yanlış bilgi içeren içeriklerin yapay trafikle öne çıkarılması halinde, Google’ın yapay zeka sistemi bu içerikleri güvenilir zannederek yanlış özetler oluşturabilir. Bu durum, yanlış bilgilerin hızla yayılmasını tetikleyebilir.

Google ise eleştirilere karşı çıkıyor. Şirket sözcüsü Ned Adriance, gazete ile yaptığı görüşmede sistemin spam içeriklerin büyük çoğunluğunu engelleyen güvenlik ve sıralama mekanizmalarına dayandığını, örneklerin gerçek kullanıcı davranışlarını yansıtmadığını savundu.

Kullanıcıların Yapay Zekaya Güveni ve Uyarılar

Araştırmalar, kullanıcıların yapay zeka yanıtlarını sorgulamadan kabul etme eğiliminde olduğunu gösteriyor. Yakın tarihli bir çalışmaya göre, kullanıcıların sadece yüzde 8’i yapay zekadan gelen yanıtları kontrol ediyor. Başka bir deneyde, yanıtın yanlış olduğu bilinse bile vakaların yaklaşık yüzde 80’inde yapay zekaya güvenilmeye devam ettiği tespit edildi. Araştırmacılar bunu “bilişsel teslimiyet” olarak tanımlıyor.

Büyük dil modellerinin kendinden emin ve otoriter dil kullanması, yanlış bilgilerin doğruymuş gibi algılanmasını kolaylaştırıyor. Google’daki özetlerin sunduğu hız ve pratiklik ise bu etkiyi artırıyor. Uzmanlar bu nedenle, AI Overview gibi araçların en azından yakın gelecekte temkinli kullanılması gerektiğini belirtiyor. Google da kullanıcıları, "Yapay zeka hata yapabilir, bu yüzden yanıtları kontrol edin" diye uyarıyor.