Araştırma: Siber Suçlular Yapay Zekayı Denedi, Beklenen Avantajı Yakalamadı

Edinburgh Üniversitesi tarafından gerçekleştirilen yeni bir ön baskı araştırma, siber suçluların yapay zekayı (YZ) günlük faaliyetlerine entegre etmede zorluk yaşadığını ortaya koydu. CrimeBB veri tabanından elde edilen 100 milyondan fazla yeraltı forum mesajı, hem manuel hem de büyük dil modeli (LLM) yardımıyla analiz edildi.

Yapay Zeka Kullanımında Sınırlı Değişim

Çalışmada, siber suçluların YZ araçlarını öğrenmeye istekli oldukları ancak bu teknolojinin "çalışma" biçimlerinde kayda değer bir dönüşüm sağlamadığı belirtildi. Raporda, çoğu inceleme ve tartışmada YZ araçlarının özellikle faydalı bulunmadığı ifade ediliyor.

Araştırmacılar, bilgisayar korsanlarının YZ'yi öğrenme aracı veya daha etkili araçlar geliştirmek için kullanmalarına rağmen, saldırı tekniklerinde önemli bir gelişme kaydettiklerine dair somut kanıt bulamadıklarını vurguladı.

Kodlama Asistanlarının Etkisi

YZ tabanlı kodlama asistanlarının, özellikle kod yazmada zaten deneyimli olanlar için faydalı olduğu ancak sistemlere sızma veya güvenlik açıklarını tespit etmede siber suçlulara önemli bir avantaj sağlamadığı belirtildi. Çalışmada aktarılan bir forum paylaşımında, "YZ'den gerçekten fayda sağlamak için önce programlama inceliklerini kendi başına öğrenmek gerekiyor" denildi.

YZ'nin Hukuka Aykırı Çevrimiçi Faaliyetlerdeki Rolü

Şimdiye kadar, YZ'nin yasa dışı çevrimiçi etkinlikler üzerindeki en belirgin etkisi, otomasyonun kolay olduğu alanlarda görülüyor. Bunlar arasında sosyal medya botları üretimi, bazı romantik dolandırıcılık türleri ve SEO sahtekarlığı yer alıyor. Özellikle arama motoru sonuçlarında üst sıralara taşınmak için sahte siteler oluşturuluyor.

Siber Suçluların YZ Kullanım Alışkanlıkları

En deneyimli bilgisayar korsanlarının bile, kodlama sorularını yanıtlamak veya yardımcı kısa "cheatsheet"ler oluşturmak için sohbet botlarından faydalandığı gözlemlendi. Kullanılan yapay zekalar ise, WormGPT gibi özel siber suç amaçlı modellerden ziyade Anthropic’in Claude’u veya OpenAI’nin Codex’i gibi yaygın ve yasal ürünler kategorisinde yer alıyor.

Güvenlik Önlemleri ve Eski Modellerin Tercihi

Analiz edilen mesajların önemli bir kısmı, siber suçluların bu ana akım modellerdeki güvenlik önlemlerini aşmanın yollarını aramasına ayrılmış. Ancak YZ sistemlerinin güvenlik ayarlarını devre dışı bırakmak konusunda zorlandıkları anlaşılıyor. Bu nedenle, suçlular daha kolay kırılabilen, eski ve düşük kaliteli açık kaynaklı YZ modellerine yönelmek zorunda kalıyor.

Araştırmacılar, bu eski modellerin genellikle daha az kullanışlı olduğunu ve önemli derecede kaynak gerektirdiğini belirtiyor. Çalışma, yapay zeka şirketlerinin uyguladığı güvenlik bariyerlerinin şu an için etkili olduğunu gösteriyor. Bu durum, yapay zekanın akademik unvanlardaki rolü ve tartışmalar gibi farklı alanlarda da benzer güvenlik ve etik kaygıların gündeme gelmesine neden oluyor.