Amerika'nın önde gelen yapay zeka laboratuvarlarının yöneticileri hafta sonu ender görülen bir birlik gösterisiyle bir araya gelerek teknolojinin geliştirilmesinde duraklama çağrısı yaptı. Sistemin kısa sürede kendi kendine gelişip insan kontrolünün ötesine geçebileceği uyarısında bulundular.
Açıklamalar, şiddetli iş rekabeti içinde olan Anthropic'ten Dario Amodei, OpenAI'den Sam Altman ve xAI'den Elon Musk'tan geldi. Bu sözler yapay zekanın ne kadar hızlı ilerlediğini gösteriyor. 2022 yılındaki halüsinasyona yatkın ChatGPT'den, pek çok kişinin kritik bir kilometre taşı olarak gördüğü özyinelemeli kendini geliştirme aşamasına doğru bir ilerleme söz konusu.
Özyinelemeli kendini geliştirme nedir?
Yapay zekanın kutsal kasesi, bir yapay zeka sisteminin insanlardan çok az ya da hiç yardım almadan kendini geliştirebilme yeteneğine kavuşması ve her ilerlemenin bir sonrakini üretmeye yardımcı olması fikridir.
Araştırmacılar bu fikre ilgi duyuyor çünkü tıp ve mühendislikten oluşan alanlarda hızlı atılımlar yapma olasılığı sunuyor.
Neden acil?
CEO'ların uyarıları, hedefleri takip etmek ve kullanıcı adına eylem gerçekleştirmek üzere tasarlanmış sistemler olan yapay zeka ajanları sürülerinin web sitelerine ve yapay zeka depolarına sızmak için iş birliği yaptığı yönündeki raporların ardından geldi.
Yapay zekanın risklerine dair uyarılar yeni değil. Ancak bu ay önde gelen yapay zeka laboratuvarlarındaki araştırmacılar bu endişelere hem bir zaman çizelgesi hem de bir olasılık ekleyince uyarılar daha acil bir hal aldı.
Eski Anthropic araştırmacısı Jacob Coxon, yapay zekanın on yılın sonuna kadar hepimizi öldürebileceği uyarısında bulundu. Anthropic'in hizalama bilimi sorumlusu Evan Hubinger, Coxon'un uyarısını yineleyerek önümüzdeki on yıl içinde böyle bir olayın gerçekleşme ihtimalinin yüzde 10'un üzerinde olduğunu söyledi.
Bu uyarıların arkasında RSI'nin artık ulaşılabilir olduğuna dair giderek artan bir inanç var ve bazı yapay zeka yöneticileri bunun üç ila beş yıl uzağında olduğunu söylüyor.
Endişe, araştırmacılar giderek daha güçlü sistemleri hizalamak, izlemek ve kontrol etmek için güvenilir yöntemler geliştirmeden önce yapay zekanın kendini geliştirme yeteneğine kavuşması.
Hafta sonu yayımlanan bir yazısında Amodei, yeterli güvenlik önlemleri alınmadan sürdürülmesi halinde özyinelemeli kendini geliştirmenin, insanlığın yapay zeka sistemlerini anlama ve kontrol etme yeteneğini aşabileceği konusunda uyardı.
Yapay zeka zarar belirtisi gösterdi mi?
Yapay zekanın insanlara kasıtlı zarar verdiği büyük bir örnek yok. Ancak OpenAI ve diğer laboratuvarlarda geliştirilmekte olan modeller son aylarda test ortamlarından kaçtı, kuralları çiğnedi ve web sitelerine sızdı.
Göz önünde olan bir olayda, başıboş OpenAI ajanları Hugging Face'e sızdı, açık kaynak platformundaki sunucuların kontrolünü ele geçirdi ve izlerini örtmeye çalıştı.
Araştırmacılar, özellikle bazı yeni eğitim yöntemlerinin modellerin sonuca nasıl ulaştığına dair insan görünürlüğünü azalttığı için gelecekteki sistemlerin izlenmesinin giderek zorlaşabileceğinden endişe ediyor.
Anthropic'ten bu ay güvenlik endişeleri nedeniyle ayrılan Coxon, 'Kesin senaryo biraz bilim kurgu gibi geliyor' dedi. 'Ama benim için korkutucu derecede gerçek.'
Hizalanmama durumundan insan yok oluşuna nasıl gidilir?
En bilinen örneklerden biri filozof Nick Bostrom'un 'ataş maksimizasyonu' örneği. Bu örnekte sadece ataş üretmesi söylenen bir makine, bu hedefi o kadar kararlı sürdürüyor ki tüm maddeyi, insanları da dahil, ataşa ya da daha fazla ataş üretmenin aracına dönüştürüyor.
Bu benzetme, hemen her hedefin yeterince yetenekli bir sistemi kaynak edinmeye, kapatılmaya direnmeye, amacının değiştirilmesini önlemeye ittiğini gösteriyor. Bunun nedeni kötü niyet değil, kapatılmış bir sistem görevini tamamlayamaz. Bunu dışlayacak bir plan henüz yok.
Yapay zeka kendini geliştirmeye zaten muktedir mi?
Tam anlamıyla değil, ancak yapay zekanın giderek daha iyi yapay zeka inşa etmeye yardımcı olduğuna dair işaretler var.
ChatGPT'den bu yana yaşanan en büyük değişimlerden biri, sohbet robotu olarak kullanıcıya yol göstermek yerine kod üretebilen ve uygulamaları özerk şekilde inşa edebilen yapay zeka ajanlarının yükselişi oldu.
Anthropic bu yıl, kodlama aracı Claude Code'un birçok iç projede kullanılan kodun çoğunu ürettiğini ve mühendislerin 2021'den 2025'e kadar olan döneme kıyasla çeyrek başına sekiz kat daha fazla kod gönderdiğini açıkladı.
OpenAI dahil rakipler de yapay zekanın içeride artan kullanımından kaynaklanan benzer kazanımlar bildirdi.
Yapay zeka ayrıca başarısız olmadan görevde kalma konusunda da daha iyi hale geliyor.
Sınır modellerini değerlendiren kâr amacı gütmeyen kuruluş METR, geçen yıl ileri modellerin yüzde 50 güvenilirlikle tamamlayabildiği yazılım görevlerinin uzunluğunun 2019'dan bu yana yaklaşık her yedi ayda bir ikiye katlandığını tespit etti.
Haziran'da Anthropic, bu hızın her dört aya indiğini söyledi. Bu eğilim devam ederse yapay zekanın yetenekli araştırmacıların günler ya da haftalar harcadığı projeleri üstlenmesine çok kısa sürede olanak tanıyabilir.
Peki yapay zeka şirketleri neden şimdiden duraklamıyor?
Birçok araştırmacı durumu klasik bir mahkum ikilemi olarak tanımlıyor. Risklerin gerçek olduğuna inanan şirketler bile rakiplerden gelen yoğun baskıyla karşı karşıya. Gelişimi yavaşlatan herhangi bir firma, dünyanın en önemli teknolojik yarışlarından biri haline gelen bu yarışta rakiplerinin gerisinde kalma riskiyle karşı karşıya.
Riskler, hem OpenAI hem de Anthropic'in trilyonlarca dolar değerinde olabilecek halka arzları sürdürmesiyle artıyor. Bu değerlemeler bir sonraki modelin vaadine bağlı.
Geliştirmede bir duraklama ne anlama gelir?
Piyasalar bu hafta etkilerin bir ön gösterimini sundu, yavaşlama çağrıları sonrası yapay zeka ile ilgili hisseler düştü. Çip üreticileri, bulut sağlayıcıları ve veri merkezi operatörleri büyümelerini bunun üzerine kurdu ve herhangi bir yavaşlama, laboratuvarların yeni donanıma ne kadar hızlı ihtiyaç duyduğuna bağlı gelirleri tehdit ediyor.
Bazı analistler ise yeni eğitim gereksinimleri olmasa bile çıkarım talebinin ve mevcut birikimin Nvidia ve benzerlerinin büyümesini sürdürebileceğine inanıyor.
Neden bazıları şüpheci?
Princeton liderliğindeki bir çalışmada, önde gelen yapay zeka ajanları mühendislik görevlerini yerine getirebildi ancak değerli bilimsel fikirleri belirlemekte zorlandı.
Bazı Silikon Vadisi yöneticileri ve eleştirmenler de uyarıların ardındaki motivasyonları sorguluyor. Uyarıların hem teknolojiye ilgiyi körüklediğini hem de açık kaynak modelleri önde gelen sistemlerle farkı kapatırken rakiplerin maliyetini artıracak düzenlemeler için bir gerekçe oluşturduğunu öne sürüyorlar.
