Neapolis Üniversitesi Baf profesörü Savvas A. Hadjichristofis, yapay zekânın en büyük tehlikesinin bir makinenin insanlığa karşı dönmesi değil, insanların onun olmadan düşünme yeteneklerine kademeli olarak güvenini yitirmesi olabileceği uyarısında bulundu.
Üniversitede Araştırma ve İnovasyondan Sorumlu Rektör Yardımcısı ve Yapay Zekâ Profesörü olan Hadjichristofis, daha derin tehdidin zaten bir adı olduğunu söyledi. “Makineye eleştirel olmayan güven”.
Kıbrıs Haber Ajansı’na konuşan Hadjichristofis, varoluşsal tehlikenin sonuçta bir makinenin insanlığa saldırması şeklinde olmayabileceğini söyledi. Bunun yerine “makine olmadan karar verme yeteneğine sahip hissetmeyen bir toplum” biçiminde ortaya çıkabileceğini belirtti.
Uyarısı, küresel yapay zekâ sektörünün üst düzey isimlerinin ve önde gelen teknoloji şirketlerinden ayrılan araştırmacıların, gelişmiş sistemlerin ne hızla geliştiği ve nasıl kontrol edildiği konusundaki endişelerini dile getirdiği bir dönemde geldi.
Hadjichristofis, büyük yapay zekâ şirketlerinden istifa eden araştırmacıların uyarılarının özellikle dikkatle dinlenmesi gerektiğini söyledi. Çünkü bu uyarılar sistemleri içeriden bilen ve prestijli, yüksek maaşlı görevlerden vazgeçmeyi seçen kişilerden geliyordu.
Bu, tahminlerinin mutlaka gerçekleşeceği anlamına gelmiyor dedi. Ancak “onları ciddiyetle dinleme yükümlülüğümüz var. Onlar, son derece güçlü bir aracın muazzam bir hızla geliştiğini ve küçük bir şirket grubunun elinde yoğunlaştığını görüyor”.
Bununla birlikte araştırmacılardan gelen uyarılar ile şirketleri yöneten yöneticilerden gelen uyarılar arasında ayrım yaptı.
Hadjichristofis, Anthropic’in baş yöneticisi Dario Amodei’ye değindi. Amodei’nin bağımsız değerlendiriciler için sürekli erişim, ortak güvenlik standartları, modeller piyasaya sürülmeden önce kontroller ve siber saldırılar ya da biyolojik silahlarla bağlantılı kullanımlara kısıtlamalar önerdiğini söyledi.
En uç senaryoda Amodei’nin ayrıca geliştirmede koordineli bir yavaşlamanın da mümkünlüğünü gündeme getirdiğini ekledi.
Ayrıca Sam Altman’dan söz etti. OpenAI başkanı Altman’ın ilerlemenin devam etmesi gerektiğini ancak daha yavaş bir tempoda ve daha sıkı denetim altında olması gerektiğini savunduğunu belirtti. Sektördeki diğer üst düzey isimler de benzer endişeleri dile getirmişti.
Hadjichristofis, bununla birlikte tam bir uzlaşı olmadığını söyledi.
Ayrıca bu uyarıları yapan şirketlerin ticari çıkarlarından ayrı değerlendirilmemesi konusunda uyarıda bulundu. “Tanımladıkları korkular gerçek olabilir. Bu, şirketlerin güçlü ticari çıkarları olduğu gerçeğini değiştirmiyor” dedi.
Evrensel kurallar, şeffaflık ve bağımsız denetim etrafında kurulmuş gerçek bir ara, kamu güvenliğine hizmet edebilir dedi. Ancak “bugünün önde gelen oyuncuları tarafından tasarlanan, istisnalar ve kendi belirledikleri standartlar içeren bir ara, onların egemenliğini pekiştirebilir”.
Hadjichristofis’e göre bu, düzenlenmesi gerekenlerin kontrol etmeyi amaçlayan kuralları şekillendirmede belirleyici rol kazanmasıyla ortaya çıkan düzenleyici ele geçirme tehlikesinin görüldüğü noktaydı.
Tartışmanın zamanlamasının ekonomik bir boyutu da olduğunu söyledi.
Hadjichristofis, yeni bir öncü modelin eğitiminin giderek daha fazla bilişim altyapısı, enerji, veri ve sermaye gerektirdiğini söyledi. Her yeni yatırımın mutlaka eşdeğer bir yetenek artışı sağlamadığı da belirtildi.
“İlerleme devam ediyor ama basit, düz ve öngörülebilir bir çizgiyi takip etmiyor” dedi.
Yapay zekâ gelişimi hakkındaki varsayımları bir çocuğun büyümesini izlemeye benzetti. Çocuk emekler, sonra yürür ve ardından koşmaya başlar dedi, ancak bu eğriyi mekanik olarak uzatmak, dört yaşında çocuğun uçabilmesi gerektiği gibi absürt bir sonuca götürür.
“İlk göz alıcı iyileştirmeler aynı hızın sonsuza dek süreceğinin garantisi değildir” dedi.
Bir yavaşlama, önde gelen şirketlere teknolojik yarışın maliyetlerini dizginlemek, mevcut altyapılarını ticarileştirmek ve avantajlarını korumak için zaman da verebilir diye savundu.
Aynı zamanda Hadjichristofis, AB’nin Yapay Zekâ Yasası’nın uygulanmasına işaret etti. Yasanın geniş ilkelerden denetime ve belirli yükümlülüklerin uygulanmasına doğru ilerlediğini söyledi.
Şirketler düzenleyici çerçevenin şimdi oluşturulduğunu biliyordu dedi. Bu da onların standartların, kontrollerin ve sorumluluk sınırlarının belirlendiği masada yer alma konusunda her türlü nedene sahip olduğu anlamına geliyordu.
Koordineli bir komplo olduğu iddiasında bulunmadığını vurguladı. Aksine “güvenliğin gündeme getirilmesi, veri, altyapı, bilişim gücü ve pazara erişim elde etmiş şirketleri korumak için bir mekanizma olarak da işleyebilir”.
Daha temel tehlike ise sıradan yaşamın çok daha yakınına gelmişti dedi.
“En büyük tehlike sadece bize karşı dönen gelecekteki bir süper sistem değildir. İnsan yargısının algoritmaya kademeli teslimiyetidir” dedi.
Sorun, insanların kendi başlarına düşünmeye çalışmadan önce bir makineye sormaya alıştığı, kontrol etmeden kabul ettiği ve bir kararın sorumluluğunu almadan hareket ettiği noktada başlıyor diye savundu.
Bu durum onun “insan yargısının sömürgeleştirilmesi” olarak tanımladığı şeyi yaratıyor.
“Makinenin kendi bilincini kazanması bizimkini kısıtlaması için gerekli değil. Bizim şüphe etmeyi bırakmamız yeterli” dedi.
Hadjichristofis, gelişmiş yapay zekâ sistemlerinin az sayıda şirketin elinde yoğunlaşmasının riski daha da ciddi hale getirdiğini söyledi. Çünkü bu şirketler veri, bilişim gücü, modeller ve milyonlarca insanın bilgi aldığı, çalıştığı, yazdığı ve karar verdiği platformları kontrol ediyordu.
“Veri ve altyapıyı kontrol eden sadece bir pazarı kontrol etmez. Hangi yanıtların görüneceğini, hangi kaynakların önemli sayılacağını ve hangi gerçeklik versiyonunun görünür olacağını etkiler” dedi.
Ayrıca otomatik siber saldırılar, kötü niyetli biyolojik kullanımlar, dezenformasyon, kitlesel gözetim, işe alım ya da kredi verme süreçlerinde ayrımcılık, iş kayıpları ve yeterli insan kontrolü olmadan çalışan silah sistemleri de dahil olmak üzere daha acil tehlikelere işaret etti.
Bununla birlikte Hadjichristofis, yok oluş hakkındaki dramatik senaryoların, onun görüşüne göre eğitim, istihdam, demokrasi ve günlük karar alma süreçlerinde sessizce zaten yaşanıyor olabilecek zararlardan dikkat dağıtmasına izin verilmemesi konusunda uyarıda bulundu.
Ona göre varoluşsal tehdit bu nedenle bilim kurgu versiyonundan oldukça farklı görünebilir.
Bunun, makineye danışmadan karar vermeye kendisinin güvenmediği bir toplum biçiminde ortaya çıkabileceğini söyledi.
Yine de Hadjichristofis, harekete geçmek için geç olmadığını ancak “saflık için geç kaldığını” söyledi.
Yapay zekânın eğitim, iş, haber ve kamu yönetimine zaten entegre edildiğini söyledi. Bu da şimdi alınan kararların onun insan güçlendirmesi için bir araç mı yoksa bağımlılık ve yoğunlaşmış güç mekanizması mı olacağını şekillendireceği anlamına geliyordu.
Ona göre ilk yanıt eğitim yoluyla gelmeliydi.
Yapay zekâ okuryazarlığının güvenli kullanım talimatlarına ya da daha iyi istem nasıl yazılır derslerine indirgenemeyeceğini söyledi. Çocukların bir yanıtın nasıl üretildiğini, bir kaynağın nasıl kontrol edildiğini, belirsizliğin nasıl tanındığını, verinin kimin tarafından seçildiğini ve otomatik bir karardan kimin yararlandığını anlaması gerekiyordu.
Her şeyden önce “makineye düşünme üzerinde ilk hakkı vermemeyi öğrenmeleri gerekiyor” dedi.
Hadjichristofis ayrıca eleştirel düşünme, hayal gücü, hafıza, empati, diyalog, etik yargı ve sorumluluğun eğitimde merkezi kalması gerektiğini savundu.
Yapay zekâ bir çocuğun öğrenmesinden çaba, başarısızlık ve belirsizliği kaldırmak için kullanılırsa, eğitimin “düşüncenin olgunlaştığı süreçlerin tam olarak” kaldırılmış olacağı konusunda uyarıda bulundu.
Kurumsal düzeyde Hadjichristofis, en güçlü modellerin gerçekten bağımsız denetimini, ciddi olayların zorunlu bildirilmesini, düzenleyicilerin ve bağımsız araştırmacıların gerekli bilgilere erişimini, yüksek riskli kararlar için açık insan sorumluluğunu ve etkili cezaları talep etti.
Ayrıca rekabet politikaları, kamu dijital altyapısı ve veriler üzerinde daha fazla kontrol talep etti. Böylece bilgi ve eğitimin bir avuç teknoloji sağlayıcısının mülkü haline gelmemesi için.
Yapay Zekâ Yasası’nın, bağımsız, şeffaf ve yeterli kaynakla uygulanması halinde kontrolsüz kurumsal gücün üzerinde anlamlı bir fren sağlayabileceğini söyledi.
Bir yasanın şirketlerin davranışını düzenleyebileceğini ancak tek başına insan yargısını aktif tutamayacağını söyledi.
“Gerçek soru yapay zekâyı kullanıp kullanmayacağımız değil. Kullanacağız. Soru, onu insan düşüncesine hizmet eden bir araç olarak mı kullanacağımız yoksa kademeli olarak bizim için düşünme hakkından vazgeçtiğimiz bir otorite olarak mı kullanacağımızdır” diye sözlerini tamamladı.
