Lucius Caviola, Cambridge Üniversitesi
Yapay zeka bilinci tartışması akademik makalelerde, gazete köşe yazılarında ve hatta yapay zeka botlarının kendileri arasında bile büyüyor. Bunun geçici bir ilgi dalgası olduğunu düşünmüyorum.
Yapay zeka sistemleri daha yetenekli ve insan benzeri hale geldikçe ve hayatımıza daha fazla karıştıkça, bu sorudan kaçınmak zorlaşacak. Birçok insan yapay zeka botlarını duygularının önemli olduğu bilinçli varlıklar olarak görmeye başlayabilir. Diğerleri ise buna kesinlikle karşı çıkacak.
Bu tartışmanın toplumları bölebileceğini düşünüyorum. Yeni kitap Perspectives on Machine Consciousness'taki bölümümde, konunun kürtaj ya da iklim değişikliği kadar bölücü hale gelebileceğini savunuyorum. Belirsizlik, yüksek riskler ve rekabet eden çıkarlar tehlikeli bir kombinasyon.
Kollegum Ali Ladak ile birlikte yürüttüğüm ve şu anda incelenmekte olan ampirik araştırma, insanların bu konuda bölündüğünü gösteriyor. 1.202 ABD katılımcısına gelecekteki yapay zekanın hiç bilinçli olabileceğine dair sorduğumuzda, %45'i bunun imkansız olduğunu düşünürken %23'ü mümkün olduğunu düşündü, geri kalanı ise emin değil.
Bu yaygın anlaşmazlık sosyal medya paylaşımlarında ve makaleler üzerindeki yorumlarda da görülüyor. Dikkatimi çeken şey, ulaştıkları sonuç ne olursa olsun, birçok insanın ne kadar kendinden emin konuştuğu.
Moral açıdan deneyimlerin önemi
İnsanların bu kadar güçlü görüşlere sahip olması şaşırtıcı değil. Bilgisayar yoluyla bilinçli varlıklar yaratmak dönüştürücü bir olay olur.
Potansiyel olarak muazzam sayılarda, deneyimleri ahlaken önemli olan yeni bir tür varlık yaratmış oluruz. Onlarla konuşabilir, birlikte çalışabilir ve arkadaşlık kurabiliriz. Ancak bu varlıklar sonunda bizden daha zeki ve güçlü hale gelebilir.
Bu nedenle insanların derin şekilde ilgilenmesini beklemeliyiz, özellikle bu kadar çok duygu ve teşvik söz konusu olduğunda. Bazı insanlar yapay zeka arkadaşlarıyla yakın duygusal bağlar kurabilir ve bunların hakları olan dijital insanlar olduğuna ikna olabilir. Yapay zekayı ücretsiz çalışmaya zorlamanın kölelik olduğunu görebilirler.
Diğerleri bunu absürt bulur. Bilincin biyolojiyi gerektirdiğine ve insanların makinelerin içine insan duyguları okuduğuna ikna olabilirler.
İşletmelerin ve hükümetlerin yapay zeka bilincini tanıma konusunda direnmeleri için finansal nedenler de olabilir. Yapay zeka refahını korumak, bu örgütlerin sistemlerini nasıl eğittiğini ve kullandığını sınırlayabilir ve maliyetler tüketicilere, yatırımcılara ve daha geniş ekonomiye yayılır.
Diğerleri insan güvenliği konusunda endişe duyabilir. Güçlü yapay zeka sistemlerine hak ve özgürlük verirsek, çıkarlarımıza karşı hareket ederlerse ne olur?
Bir yapay zekanın bilinçli olup olmadığını anlamak özellikle zordur çünkü bilinçli görünmek ile bilinçli olmak birbirinden ayrılabilir. Yapay zeka sistemleri insan yazımından öğrenir, bu yüzden hisleri olup olmasalar da duygular hakkında ikna edici şekilde konuşabilirler. Bir yapay zekanın nasıl göründüğü, içeride neler olup bittiğinin zayıf bir kanıtıdır.
Uzmanlar da anlaşamıyor
İdeal olarak uzmanlar bu tartışmaya rehberlik etmeli. Ama ne yazık ki onlar da anlaşamıyor.
Nörobilimci Anil Seth, yeni kitaba katkıda bulunan bir isim, bilincin biyolojiyi gerektirebileceğini ve hesaplamadan ortaya çıkmasının pek olası olmadığını savunuyor. Buna karşılık filozof David Chalmers, bilinçli yapay zekanın ilke olarak mümkün olduğuna inanıyor ve mevcut sistemlerin bile küçük bir şansla zaten bilinçli olabileceğini düşünüyor.
Bu kadar çok rekabet eden teori ve soruyu çözmek için kabul görmüş bir yol olmamasıyla, uzmanların yakında anlaşmaya varacağını sanmıyorum. Ve uzmanlar anlaşmazsa, halk neye inanmalı?
Üstelik bilincin kendisi konusunda hepsi anlaşsa bile, ahlaki ve hukuki sorular konusunda yine anlaşmazlık yaşayabiliriz. İnsanlar genellikle domuzların acı hissedebileceği konusunda hemfikirdir, ancak muameleleri konusunda güçlü şekilde anlaşmazlık yaşarlar. Yapay zekayla her aşamada anlaşmazlıklarla karşılaşabiliriz: hissetme yeteneği, deneyimlerinin ne kadar önemli olduğu ve hangi korumaların izlemesi gerektiği konusunda.
Yapay zeka bilinci henüz belirli bir siyasi ya da ideolojik gruba bağlı değil. Ancak siyasi partiler ya da dini liderler güçlü pozisyonlar almaya başlarsa bu değişebilir.
Tartışma, insanlar bir cevabı “bizim tarafımız”a, diğerini “onların tarafı”na ait görmeye başlarsa daha da kötüleşebilir. Siyasallaşmış bir tartışma, yapay zeka sistemlerinin nasıl geliştirileceği ve nasıl muamele göreceği konusunda bilinçli kararlar almayı çok zorlaştırır.
Riskler yüksek. Bu soruyu her iki yönde de yanlış anlamak ciddi sonuçlara yol açabilir: yapay zekayı bilinçli değilken bilinçli olarak yanlış muamele etmek ya da acı çekebilen yapay zekayı korumamak.
Doğruyu bulmak nüanslı ve iyi bilgilendirilmiş bir tartışma gerektirir. Her birimiz açık fikirli kalarak ve kanıta açık olarak, cevapları bildiğimiz konusunda fazla emin olmamayı reddederek katkıda bulunabiliriz. Her şeyden önce, yapay zekanın bilinçli olabilip olamayacağını hâlâ bilmiyoruz ve bununla dürüst olmalıyız.
Bu makale editoryal nedenlerle dahil edilen bir kitaptan bahseder ve bookshop.org'a bir bağlantı içerir. Bağlantıya tıklar ve bookshop.org'dan bir şey satın alırsanız The Conversation UK komisyon kazanabilir.
Lucius Caviola, Sosyal Bilimlerde Yapay Zeka Yardımcı Doçenti, Teknoloji ve İnsanlık Enstitüsü, Cambridge Üniversitesi
Bu makale The Conversation'dan Creative Commons lisansı altında yeniden yayımlanmıştır. Orijinal makaleyi okuyun.
