Uzmanlar: Açık Erişimli Biyolojik Veriler Yapay Zekayla Tehlikeli Patojen Tasarımını Kolaylaştırabilir

Biyoloji alanında kullanılan yapay zeka (YZ) modelleri, genetik dizilimler ve patojen özellikleri gibi geniş biyolojik veri setlerine dayanıyor. Ancak, bu verilere sınırsız erişimin herkes tarafından sağlanması güvenlik endişeleri doğuruyor.

100'den fazla araştırmacı, Johns Hopkins Üniversitesi, Oxford Üniversitesi, Fordham Üniversitesi ve Stanford Üniversitesi gibi önemli kurumların katılımıyla yayımlanan açık bir mektupta, bazı biyolojik veri setlerinin sınırsız erişiminin, YZ sistemlerinin tehlikeli virüslerin tasarımını veya geliştirilmesini mümkün kılabileceği uyarısında bulundu. Bilim insanları, suistimallerin önüne geçilmesi için daha sıkı önlemler alınması çağrısında bulundu.

Biyolojik Verilerin Riskleri ve Yönetimi

Uzmanlar, açık erişimli bilimsel verilerin keşif sürecini hızlandırdığını belirtirken, biyolojik verilerin küçük bir kısmının kötüye kullanılması durumunda biyogüvenlik risklerinin ortaya çıkabileceğini ifade ediyor. Açık mektupta, "YZ modellerinin ciddi biyolojik tehditlerin ortaya çıkmasına katkıda bulunabileceği için biyolojik veri yönetimindeki risklerin yüksek olduğu" vurgulandı.

Biyolojide kullanılan YZ modelleri, mutasyonları tahmin edebilmekte, kalıpları tanımlamakta ve pandemi patojenlerinin daha bulaşıcı varyantlarını oluşturabilmektedir. Yazarlar, bu durumu, insanlarda pandemilere veya hayvanlar, bitkiler ve çevrede benzer olaylara yol açabilecek bulaşıcı biyolojik patojenlerin ortaya çıkmasını hızlandırıp kolaylaştırabilecek "endişe verici bir kapasite" olarak tanımlıyor.

Açık Erişim ve Güvenlik Dengesi

Araştırmacılar, biyolojik verilerin genel olarak açık erişimde olması gerektiğini belirtirken, "endişe verici patojen verilerinin" daha katı güvenlik denetimleri gerektirdiğinin altını çizdi. Yeni bir erişim düzenleyici çerçeve öneren ekip, "Amacımız, YZ geliştiricilerine sunulmadan önce en yüksek risk taşıyan veri setlerini belirlemek ve yönetmektir" ifadelerini kullandı.

Johns Hopkins Üniversitesi'nden mektubun ortak yazarlarından Moritz Hanke, "Açık biyolojik YZ modellerinin dünya genelinde geliştirildiği bir dönemde, hassas patojen verilerine erişimi sadece meşru araştırmacılarla sınırlamak, riskleri azaltmanın en umut verici yollarından biridir" dedi.

Mevcut Durum ve Geliştirici Yaklaşımları

Şu anda bu veri setlerini düzenleyen evrensel bir çerçeve bulunmamaktadır. Bazı geliştiriciler yüksek riskli verileri gönüllü olarak dışlasa da, araştırmacılar açık ve tutarlı kuralların herkes için geçerli olması gerektiğini savunuyor.

Arc Institute, Stanford ve TogetherAI tarafından geliştirilen Evo ve EvolutionaryScale'in geliştirdiği ESM3 gibi önde gelen biyolojik YZ modellerinin geliştiricileri, eğitim verilerinden bazı viral dizileri çıkarmıştır. Şubat 2025'te EVO 2 ekibi, etik ve güvenlik riskleri nedeniyle ve "Evo'nun biyolojik silah geliştirilmesinin önüne geçmek" amacıyla, insanları ve diğer karmaşık organizmaları enfekte eden patojenleri veri setlerinden çıkardığını duyurdu.

EVO 2, DNA mutasyonlarının etkilerini tahmin edebilen, yeni genomlar tasarlayabilen ve genetik kodlardaki kalıpları ortaya çıkarabilen biyolojiye yönelik açık kaynaklı bir YZ modelidir. Mektubun ortak yazarı Jassi Panu, LinkedIn üzerinden şu açıklamayı yaptı: "Şu anda hangi verilerin anlamlı riskler içerdiğine dair uzman destekli bir rehber yok. Bu nedenle öncü geliştiriciler kendi kanaatlerine göre hareket etmekte ve viral verileri eğitimden gönüllü olarak çıkarmaktadır."

Risk Kategorileri ve Önerilen Çerçeve

Yazarlar, önerilen çerçevenin biyolojik veri setlerinin yalnızca küçük bir bölümünü kapsadığını belirtiyor. Önerilen çerçeve, patojen verilerini sınıflandırmak için Beş Kademeli Biyogüvenlik Veri Düzeyi (BDL) sistemini içeriyor. Veriler, YZ sistemlerinin viral kalıpları ve biyolojik tehditleri öğrenme potansiyeline göre risk düzeylerine ayrılıyor:

• BDL-0: Günlük biyoloji verileri, herhangi bir kısıtlama olmadan serbestçe paylaşılabilir.
• BDL-1: Genetik diziler gibi temel viral yapı taşları, kapsamlı güvenlik kontrolleri gerektirmez ancak erişim izlenmelidir.
• BDL-2: Türler arası sıçrama veya konak dışı hayatta kalma gibi hayvan virüsü özelliklerine ilişkin veriler.
• BDL-3: Bulaşıcılık, semptomlar ve aşıya direnç gibi insan virüsü özelliklerine ilişkin veriler.
• BDL-4: COVID-19 virüsü mutasyonları gibi daha bulaşıcı hale getirilmiş insan virüsleri, en sıkı kısıtlamalar bu kategoride uygulanır.

Güvenli Erişim İçin Teknik Çözümler

Mektup, güvenli erişim sağlamak amacıyla veri sağlayıcıların kullanıcıların meşruiyetini doğrulaması ve suistimal risklerini takip etmesine olanak tanıyan teknik araçların geliştirilmesini öneriyor. Önerilen araçlar arasında filigranlama (veri sızıntılarının izlenmesini sağlayan gizli ve benzersiz tanımlayıcılar), veri kaynağını gösteren köken bilgisi, erişim ve değişikliklerin tahrif edilemez imzalarla kayıt altına alındığı denetim günlükleri ve kullanıcıların özgün etkileşim kalıplarını takip eden davranışsal biyometri yer alıyor.

Araştırmacılar, YZ sistemleri güçlendikçe, açıklık ile yüksek riskli veriler üzerindeki güvenlik kısıtlamaları arasında doğru dengenin kurulmasının kritik önem taşıdığını vurguluyor.