Biyolojik mühendislikte önemli bir sınır geçildi. Yapay zeka, bakterileri enfekte eden virüslerin genetik talimatlarını tasarladı. Bu tasarlanan virüsler laboratuvar ortamında test edildi ve bazıları çalışır halde üretildi.
Yapay zeka tarafından tasarlanan bu virüsler, insanlar yerine bakterileri enfekte edecek şekilde tasarlandı. Araştırmacılar, E. coli'yi hedef alan bakteriyofajlar üzerinde çalıştı ve kullandıkları AI modellerinden biri olan Evo 2, güvenlik kısıtlamalarıyla geliştirildi. Evo 2'nin geliştiricileri, hayvanlar, bitkiler ve insanların enfekte olduğu virüsleri, modelin eğitildiği verilerin dışına çıkardı.
Ancak bu deney, önemli bir soruyu gündeme getiriyor: Yapay zeka, biyolojik sistemlerin tasarımına yardımcı olmak için giderek daha yetenekli hale geldikçe, güvenlik önlemlerimiz yeterli hızda gelişiyor mu?
Aşağıdaki paragraflarda bu soruya cevap aranmaktadır.
Genom dil modelleri, metinlerdeki kalıpları öğrenen yapay zeka dil modellerine benzer şekilde çalışır. Ancak bu modeller, genetik kodlardaki kalıpları öğrenir. Evo 2, Örneğin, hayatın çeşitli formlarından alınan trilyonlarca DNA yapı taşı tarafından eğitildi.
Bu, araştırmacılara biyolojiyi incelemek ve olası DNA dizilerini üretmek için güçlü bir yeni yol sağlar. Ayrıca, biyolojik tasarımın bir kısmı artık bir laboratuvar ortamında değil, bir bilgisayar üzerinde gerçekleşebilir.
Yapay zeka tarafından üretilen bir DNA dizisi, gerçek bir biyolojik tehdide dönüşmek için hala birkaç adım uzakta. Dijital bir tasarım, fiziksel genetik materyale dönüştürülmeli, doğru bir şekilde monte edilmeli ve laboratuvar koşullarında test edilmelidir. Her bir aşama, riski azaltma fırsatı sunar.
AI modeline kendisi için bir güvenlik önlemi entegre edilebilir. Evo 2'nin geliştiricileri, güvenlik nedenleriyle, modelin eğitim verilerine insanları ve benzer organizmaları enfekte eden virüsleri kasıtlı olarak dahil etmediler. Araştırma, modelin insan enfekte eden virüslerin proteinlerini test ettiğinde zayıf performans gösterdiğini ortaya koydu.
Bu önlemler, biyolojik AI araçlarının yetenekleri arttıkça test edilmeli ve güçlendirilmelidir. Araştırmacılar, AI ve biyogüvenliğin birlikte ele alınması gerektiğini savunuyorlar, böylece güvenlik önlemleri yeni yetenekler geliştikçe gelişsin.
Dijital DNA'nın fiziksel DNA'ya dönüştürülmesi sırasında başka bir kontrol noktası vardır. DNA'yı sipariş üzerine üreten şirketler, hem istenen genetik dizisini hem de onu sipariş eden kişi veya kuruluşu güvenlik endişeleri için kontrol edebilir. Araştırmacılar, DNA sentezleme taraması üzerinde çalışıyorlar ve bu teknoloji daha yaygın hale geldikçe ortak uluslararası yaklaşımlar için savunuyorlar.
Tarama daha da geliştirilmeli. Bilinen tehlikeli patojenlere benzeyen DNA'yı tanıyan bir sistem, gerçekten yeni bir şey üreten AI tarafından üretilebilecekleri tanımakta zorlanabilir. Son araştırmalar, "endişe verici dizileri" tanımlamaya çalıştı ve bir genetik dizisinin ne yapabileceğini, sadece bir tehlikeli organizma ile bağlantılı olup olmadığını değil, aynı zamanda dikkate aldı.
Laboratuvarlar ve araştırma kurumları başka bir koruma katmanı sunar. Potansiyel olarak riskli araştırmalar, deneyler başlamadan önce değerlendirilebilir, biyolojik materyalin nasıl içerileceği, kime erişimi olacağı ve beklenen faydaların riskleri haklı çıkıp çıkarmadığını içeren soruları içerir.
Araştırma fon sağlayıcıları da güvenlik risklerinin nasıl yönetileceğini etkileyebilir. UK Research and Innovation (UKRI), Örneğin, güvenlik risklerini tanımlamak ve yönetmek için araştırmacılara ve kurumlara yardımcı olan Trusted Research and Innovation ekibini kurdu.
Halk sağlığı hazırlığı da bu tartışmaya dahildir. Biyolojik tasarım daha hızlı ve daha erişilebilir hale geldikçe, sağlık yetkililerinin anormal salgınları hızlı bir şekilde tespit edip soruşturması gerekecek. Metagenomics Surveillance Collaboration and Analysis Programme (mSCAPE), UK Sağlık Güvenlik Ajansı tarafından yürütülen bir program, örneklerden alınan genetik materyali analiz ederek ortaya çıkan patojenleri tespit etmeye ve izlemeye yardımcı olur.
Program, AI tarafından oluşturulan virüsleri bulmak için özel olarak tasarlanmadı. Ancak yaklaşımı ilgili, çünkü bilim adamlarının tam olarak hangi patojeni aradıklarını önceden bilmelerine gerek yok. Alışılmadık veya daha önce görülmemiş organizmaları tespit edebilen sistemler, biyolojik teknolojiler geliştikçe giderek daha değerli hale gelecek. Hazırlık, yeni bir tehdit ortaya çıktığında hızlı bir şekilde teşhis testleri, tedaviler ve aşılar geliştirmeyi de içerir.
Görüşümüze göre, küresel biyogüvenliğin en büyük zayıflığı, ülkelerin eşit derecede hazırlıklı olmaması. Bazı ülkeler already biyolojik riskleri tanımlamak ve bunlara yanıt vermek için sistemler kurdu, diğerleri ise bunları hala geliştiriyor. Aşı düzenlemelerinde de benzer bir boşluk görüyoruz, ülkelerin yeni ürünleri değerlendirmek için önemli ölçüde farklı yeteneklere sahip. Biyolojik tehditler sınırları aşabilir, bu nedenle etkili hazırlık, bu kapasitelerin uluslararası düzeyde güçlendirilmesine bağlı.
Zorlu bir dengeleme var. Ağır kısıtlamalar, faydalı araştırmaları, hastalıkları anlamaya veya tedaviler geliştirmeye yönelik çalışmaları yavaşlatabilir. Zayıf güvenlik önlemleri, bilimsel yeteneklerin suistimali önlemek amacıyla tasarlanan sistemlerden daha hızlı gelişmesine izin verebilir.
Açık bilim, bu durumu daha da zorlaştırıyor. Evo 2 açık bir şekilde yayınlandı, diğer araştırmacıların kullanması ve geliştirmesi için gerekli kod ve teknik bilgiler dahil. Açıklık, keşfi hızlandırabilir ve güçlü araştırma araçlarına erişimi genişletebilir. Ancak bu araçlar yaygın olarak dağıtıldığında, nasıl kullanıldıklarını kontrol etmek daha da zor hale gelir.
Hiçbir güvenlik önlemi, tüm bu risklerle başa çıkmak için yeterli olamaz. Biyogüvenlik, biyolojik AI modellerinin geliştirilmesinden ve yayınlanmasından, DNA taramasına, laboratuvar denetimine ve halk sağlığı hazırlığına kadar çeşitli aşamalarda çalışmak zorunda.
Son yapılan bakteriyofaj çalışması, AI'nin bir pandemi virüsünü tasarlayabileceğini göstermez. Ancak gösterdiği şey önemli: AI, already fiziksel olarak üretilen ve çalışan tam viral genomları tasarlayabilir.
Bu teknoloji hala gelişirken, sorumlu güvenlik önlemlerinin nasıl olması gerektiğini belirleme fırsatımız var. Daha tehlikeli yetenekler ortaya çıktıktan sonra korumalar geliştirmeye çalışmak, bilim adamları, hükümetler ve halk sağlığı sistemlerinin zaten gerekli olan korumaları geliştirmeye çalışmasına neden olur.
Yapay zeka, biyolojide tasarlayabileceğimiz şeyleri değiştirmeye başlıyor. Bu gücün yönetimini geliştirmek zorunda olduğumuz yeteneklerin gelişmesiyle eş zamanlı olmalı.
