Kaspersky AI Teknoloji Araştırma Merkezi, siber güvenlik uzmanlarını büyük dil modellerindeki (LLM) güvenlik açıklarını tespit etme, değerlendirme ve bunlara karşı savunma geliştirme konusunda eğitmek amacıyla yeni bir eğitim programı başlattı.
Yapay zeka tabanlı sistemlerin yaygınlaşması, şirketlerin iş süreçlerinde köklü değişiklikler yaratırken, beraberinde yeni ve karmaşık güvenlik risklerini de gündeme getiriyor. Kaspersky'nin 2024 yılı araştırmasına göre, şirketlerin yarısından fazlası altyapılarında yapay zeka ve Nesnelerin İnterneti (IoT) teknolojilerini kullanmaya başladı. Bu teknolojilerin kurumsal sistemlere entegrasyonu arttıkça, olası saldırı vektörlerini ve güvenlik açıklarını anlamak, siber güvenlik uzmanları için vazgeçilmez bir yetkinlik haline geliyor.
Kaspersky, bu ihtiyaca yanıt olarak, siber güvenlik eğitim portföyünü LLM güvenliğine odaklanan yeni bir çevrimiçi kursla genişletti. Kurs, katılımcılara güvenlik açıklarını analiz etme, etkili savunma yöntemleri uygulama ve dayanıklı yapay zeka sistemleri tasarlama konularında uzmanlık kazandırmayı amaçlıyor. Gerçek vakalar ve uygulamalı ödevlerle desteklenen eğitim, LLM tabanlı uygulamaların güvenliğini artırmaya yönelik pratik beceriler sunuyor.
Kursun içeriği, yaklaşık yirmi yıllık deneyime sahip Kaspersky Yapay Zeka Teknoloji Araştırma Merkezi'nin uzmanlığına dayanıyor. Program, Kaspersky Araştırma Geliştirme Grubu Müdürü Vladislav Tushkanov liderliğinde, video dersler, laboratuvar çalışmaları ve etkileşimli uygulamalarla zenginleştirildi. Katılımcılar, jailbreak, prompt injection ve token smuggling gibi istismar tekniklerini öğreniyor; model, prompt, sistem ve hizmet düzeylerinde savunma stratejileri geliştiriyor ve LLM güvenliğini değerlendirmek için yapılandırılmış çerçeveler kullanıyor.
Bu eğitim, yapay zeka siber güvenliği alanında kariyerine yeni başlayanlar, LLM geliştiren veya entegre eden mühendisler ile yapay zeka altyapısı üzerinde çalışan profesyoneller için önemli avantajlar sunuyor.
Kaspersky Araştırma Geliştirme Grubu Müdürü Vladislav Tushkanov, "Büyük dil modellerinin yükselişi, kuruluşların yapay zeka geliştirme ve kullanma biçiminde devrim yarattı. Ancak bu ilerleme, çözülmesi gereken karmaşık güvenlik sorunlarını da beraberinde getiriyor. Siber güvenlik uzmanlarının bu açıkları tespit edip önlem alabilmesi hayati önem taşıyor. Bu nedenle, profesyonellere LLM tabanlı uygulamaları korumak ve tehditlere karşı hazırlıklı olmak için gerekli bilgi ve araçları sunan bu kursu geliştirdik," dedi.
Kaynak: (BYZHA) Beyaz Haber Ajansı