Vatikan, yapay zekânın tetiklediği bir kıyamet riskine dair uyarıyı, büyük Amerikan firmalarının Çarşamba günü Birleşmiş Milletler Güvenlik Konseyi’nde alarm vermesinden yıllar önce yapmıştı; bu endişe Papa Leo’nun papalığının merkezine oturuyor.
Mayıs ayında dünya liderlerinden sektörü denetleyecek küresel kurallar çağrısı yapan Leo, Perşembe günü Vatikan’daki bir toplantıda yapay zekâ uyarılarını yineledi ve Cuma günü Birleşmiş Milletler’in kültür ve eğitim kuruluşu UNESCO’nun Paris merkezinde yapacağı konuşmada da aynı uyarıyı tekrarlaması bekleniyor.
“Bu, Kutsal Makam için sıfırıncı gün değil,” diye konuştu. Yapay zekâ konularında önde gelen Vatikan danışmanı Rev. Paolo Benanti, Reuters’a verdiği demeçte, yavaşlama çağrılarına Anthropic, OpenAI ve xAI’nın CEO’ları da dahil olmak üzere birçok kişinin destek verdiğini hatırlattı.
“Yapay zekânın dönüştürücü gücü… öngörülmesi çok zor toplumsal değişimler yaratabilir,” dedi. Benanti, yakın zamanda İngiltere Kralı Charles’ın ev sahipliğini yaptığı yapay zekâ zirvesine katılan İtalyan bir akademisyen.
Rahip, zirvenin gizli görüşmelerinin içeriğine dair ayrıntı vermeyeceğini söyledi.
Perşembe günü Papalık Bilimler Akademisi’ne yaptığı konuşmada Leo, yapay zekânın insanlığa fayda sağlayabileceğini ancak “güvenlik ve uluslararası barış için yeni tehlikeler” getirdiğini söyledi. Küresel liderlere teknolojinin denetiminde “bilgece yönetme” çağrısı yaptı.
Kardinal: İnsanlığın geleceği tehlikede
ABD doğumlu ilk papa olan Leo, 16 aylık papalığı boyunca yapay zekâ geliştirmenin olası tehlikelerini sık sık gündeme getirdi ve konuyu ilk kez göreve başladıktan üçüncü gün kamuoyuna açtı.
İlk büyük belgesi olarak yayımlanan Mayıs ayındaki çağrısında Leo, yapay zekâ sistemlerinin yanlış bilgiyi yaydığını, çatışmayı önceliklendirdiğini ve dünyayı bitmek bilmez bir savaş yoluna sürükleyebileceği uyarısında bulundu.
Vatikan’ın en üst düzey diplomasi temsilcisi Kardinal Pietro Parolin, geçen hafta Roma’daki bir etkinlikte Leo’nun sektörün uluslararası düzenlemesi çağrısını yineledi ve ülkelerin bu teknolojide “yalnız hareket edemeyeceği” uyarısında bulundu.
“İnsanlığın geleceği gerçekten burada tehlikede,” dedi Parolin. Dünya, dediği üzere, bu olguyu gerçekten yönetebilecek ortak kuralların oluşturulmasında “herkesin katılımına” ihtiyaç duyuyor.
Anthropic’in kurucu ortağı Chris Olah, papanın Mayıs ayındaki belgesinin tanıtım etkinliğinde, bir ansikklik olarak bilinen belgede konuştu.
Vatikan’ın herhangi bir yapay zekâ firması ile sürekli diyalog içinde olup olmadığı sorulduğunda Benanti, küresel kilisenin merkeziyetten uzak yapısına vurgu yaptı ve bazı tartışmaların yerel piskoposlar tarafından yürütüldüğünü söyledi.
16 Eylül’de ABD piskoposlar konferansı, liderlerinden bazılarının o gün yöneticilerle görüştükten sonra yeni bir yapay zekâ görev gücü oluşturduğunu açıkladı.
Bir açıklamada, “Diyalog, yapay zekâ sistemlerinin insanlığın hizmetinde kalmasının yollarına ve bu teknolojinin yarattığı gerçek ve güncel tehlikelerin acilen ele alınma ihtiyacına odaklandı” denildi.
Leo otonom silahlar konusunda uyarıyor
Vatikan, yapay zekânın riskleri konusunda 2019’da uyarı vermeye başladı ve o yıl teknolojinin olası tehlikelerine dair iki konferans düzenledi. Merhum Papa Francis, etkinliklerden birinde katılımcılara yapay zekâ tarafından yayılan yanlış bilginin dünya savaşına yol açabileceği uyarısında bulundu.
Vatikan, 2020’de Microsoft, IBM, Birleşmiş Milletler Gıda ve Tarım Örgütü ve İtalyan hükümetiyle birlikte, yapay zekâ geliştirmenin “tek amacının daha fazla kâr elde etmek ya da insanları iş yerinde kademeli olarak değiştirmek olmaması” çağrısını yaptı.
Leo, özellikle Rusya-Ukrayna savaşında kullanılanlar gibi silah sistemlerinin geliştirilmesi konusunda denetim çağrısı yaptı. Ansiklika’da bu tür silahların “neredeyse insan kontrolünün ötesine geçtiğini” söyledi.
Benanti’ye göre Vatikan’ın küresel sahnede otonom silahlara karşı savunuculuğu on yıllara dayanıyor ve yapay zekâ destekli insansız hava araçlarını hedef seçiminde ayrım yapmayan mayınlara benzetti.
Rahip, Vatikan’ın yapay zekâ risklerine dair uyarılarını, papaların uzun süredir nükleer silahsızlanma çağrısı yapmasına benzetti.
“Nükleer silahlar insanlığı yok edebilirse… sosyal alanlarda üretken yapay zekâ içeriğinin manipülasyonu, insanların toplum olarak birlikte kalma yeteneklerini yok edebilir,” dedi.
“Nükleer silahlar tesislerin içinde stoklanmak zorunda ve sayıp kontrol edebilirsiniz. Yapay zekâ bu kadar görünür değil.”
