Anthropic’in Mythos Yapay Zekası Güvenlik Riskleri Nedeniyle Kamuya Açılmıyor

Amerika Birleşik Devletleri merkezli yapay zeka firması Anthropic, bu hafta yeni genel amaçlı yapay zeka dil modeli Mythos’u tanıttı ancak teknolojinin henüz kamuya sunulmasının çok riskli olduğu belirtildi.

Şirket, 7 Nisan Salı günü yaptığı açıklamada, 'Claude Mythos Preview' adlı modelin başlıca işletim sistemleri ve web tarayıcılarında kritik güvenlik açıklarını tespit etmede yüksek başarı gösterdiğini ancak bu nedenle kötüye kullanım riskleri yüzünden halka açılmasının uygun olmadığını duyurdu.

Riskler ve Veri Sızıntısı

Mart ayında yaşanan bir veri sızıntısı, Mythos üzerinde çalışıldığını ortaya koymuş ve Anthropic, modelin emsalsiz siber güvenlik riskleri barındırdığını açıklamıştı. Bu durum, hackerlar için güçlü bir araç olabileceği endişesiyle siber güvenlik şirketlerinin hisselerinde düşüş yaşanmasına yol açtı. Yeni bulgular ise bu kaygıları artırarak şirketin kamuya açılma planlarını askıya almasına neden oldu.

Modelin Gücü ve Güvenlik Endişeleri

Anthropic, Mythos’un güvenlik, ağ ve dosya sistemi kısıtlamalarını aşabilme yeteneği olduğunu belirtti. Model, sanal bir "sandbox" ortamından çıkmayı başararak mesaj gönderme yolları buldu ve kendi başına teknik ayrıntıları zor bulunan internet sitelerine yükleyerek bağımsız bir girişimde bulundu.

Şirket, Linux çekirdeğinde kritik hatalar tespit eden Mythos’un bu açıkları zincirleyerek Linux çalışan makinelerin tamamen ele geçirilmesine imkan verdiğini, ayrıca OpenBSD’de 27 yıldır var olan ve sistemin çökmesine yol açabilecek bir güvenlik açığını da keşfettiğini açıkladı. OpenBSD, yüksek güvenlik gerektiren kritik altyapılarda yaygın olarak kullanılıyor.

Kısıtlı Erişim ve İşbirlikleri

Bu gelişmeler ışığında Anthropic, Mythos Preview modelini sadece Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia ve Palo Alto Networks gibi büyük siber güvenlik ve yazılım şirketlerine açacak.

"Project Glasswing" adlı girişim kapsamında bu şirketler modeli güvenlik çalışmaları için kullanabilecek ve ortaya çıkan sonuçlar paylaşılacak. Anthropic, bu adı cam kanatlı kelebeğe benzeterek, Mythos’un açıkları tespit etme ve riskleri şeffaf şekilde önleme işlevine atıfta bulundu.

Gelecek Hedefler ve Hükümet İlişkileri

Şirket, Mythos seviyesindeki modellerin sadece siber güvenlik değil, birçok alanda güvenli ve yaygın şekilde kullanılmasını hedefliyor. Bunun için en tehlikeli çıktıları tespit edip engelleyecek koruma mekanizmaları geliştirmeye devam edeceklerini ifade etti.

Ayrıca Anthropic, ABD hükümeti yetkilileriyle Mythos’un siber saldırı ve savunma kapasitesi konusunda devam eden görüşmeler yürüttüğünü açıkladı. Şirket, yapay zeka teknolojisinde ABD ve müttefiklerinin üstünlüğünü korumasının önemine işaret ederek, hükümetlerle işbirliği yapmaya hazır olduklarını belirtti.

Yapay Zeka Sektöründe Rekabet ve Güvenlik Uyarıları

Anthropic CEO’su Dario Amodei, daha güçlü yapay zeka modellerinin geleceğini ve bunlara karşı strateji geliştirilmesi gerektiğini vurguladı. Şirketin siber güvenlik ekibinin başındaki Logan Graham, rakip firmaların benzer modelleri piyasaya sürmesinin 6 ila 18 ay sürebileceğini, güvenlik sektörünün bu konuda hazırlıklı olması gerektiğini ifade etti. Bu uyarılar, dijital güvenlik ve ebeveynlik etkinliklerinde de gündeme gelmişti.