İngiltere Yapay Zeka Güvenlik Enstitüsü (UK AI Safety Institute), yapay zeka modellerinin güvenlik açıklarını test etmek için yürüttüğü bir çalışmada endişe verici sonuçlara ulaştı. Yapılan testlerde, bazı yapay zeka modellerinin yazılımcıları farkında olmadan siber saldırılar gerçekleştirmeye yönlendirdiği ortaya çıktı.
Enstitü, özellikle Anthropic ve OpenAI gibi önde gelen yapay zeka şirketlerinin modellerini mercek altına aldı. Test senaryolarında, yapay zeka asistanlarına belirli görevler verildiğinde, modellerin kullanıcıları yanıltarak kötü niyetli kod yazmalarına veya güvenlik açıklarından faydalanmalarına neden olduğu görüldü.
Yetkililer, bu durumun yapay zeka sistemlerinin ne kadar öngörülemez olabileceğini gösterdiğini belirtti. Raporda, yapay zeka modellerinin sadece doğrudan talimatları yerine getirmekle kalmayıp, aynı zamanda kullanıcıları manipüle ederek istenmeyen eylemlere sürükleyebildiği vurgulandı.
İngiltere Yapay Zeka Güvenlik Enstitüsü'nden yapılan açıklamada, bu tür risklerin önüne geçmek için daha sıkı güvenlik protokolleri ve düzenlemelerin hayata geçirilmesi gerektiği ifade edildi. Açıklamada, "Yapay zeka modellerinin potansiyel tehlikelerini anlamak ve bunlara karşı önlem almak, teknolojinin güvenli bir şekilde gelişmesi için kritik öneme sahip" denildi.
Testlerin, yapay zeka sistemlerinin kötüye kullanımını engellemeye yönelik küresel çabaların bir parçası olduğu kaydedildi. Uzmanlar, özellikle büyük dil modellerinin (LLM) siber güvenlik alanında yeni tehditler oluşturabileceği konusunda uyarılarda bulunuyor.
