Yapay zeka hakkındaki kamusal tartışmanın hâlâ aynı Prometheusçu soruda takılıp kaldığını fark ettim: Bir gün uyanıp bağlarını koparacak ve tıpkı Frankenstein'ın canavarı gibi onu inşa edenlere saldıracak mı?
Bu soru, hikaye anlatıcılığı kadar eski ve açıkçası biraz klişe. Ama bir öncül olarak asla sıkıcı olmuyor. Tıpkı eski mitlerin yaptığı gibi hayal gücümüzü, felsefemizi ve endişelerimizi besliyor. Ancak asıl merak ettiğim şey, bunun çok daha acil ve pratik bir tehlikeden dikkatimizi dağıtıp dağıtmadığı. On ya da yirmi yıl sonra bizi bekleyen bir şey değil. Şu anda, tam önümüzde olan bir şey.
Büyük dil modellerinin yoğun kullanımı, kendi zihnimizi kullanma biçimimizi yeniden şekillendiriyor. Daha az yazıyoruz. Daha az okuyoruz. Bir düşünceyi başından sonuna kadar nadiren takip ediyoruz. Bu yazı da dahil olmak üzere uzun bir metin artık yorucu geliyor. Gerçek bir kitap okumak, çoğumuzun artık sahip olmadığı bir tür eğitimli sabır gerektiriyor.
Bir gönderi, bir basın açıklaması, bir haber hikayesi ya da herhangi bir şey yapay zeka tarafından yazılmış gibi görünmeye başladığında, ilk birkaç "şüpheli" satırdan sonra hemen çıkıp gidiyoruz. Komik olan şu ki, bu endişe, kendimiz zaman ve emekten tasarruf etmek için kullandığımız anda buharlaşıveriyor.
Bu, vicdan azabı çekmeden teknolojiye devrettiğimiz birçok işlevden sadece biri. Mesela GPS'in mekansal hafızamızı ve yön duygumuzu sessizce yok ettiği gerçeğini ele alalım; kimse bundan rahatsız olmuş görünmüyor. "Birine yolu sor" artık neredeyse düşünülemez bile, tabii o biri cebinizdeki ikinci beyniniz haline gelmiş küçük cihaz değilse. Belki de birinci beyniniz.
Ondan önce hesap makineleri zihinsel aritmetiğimizi köreltti ve bu kasın eriyip gitmesine izin verdi. Bunun için uykumuz mu kaçtı? Psikoloji buna bilişsel devretme diyor, çalışan belleğin doğal bir uzantısı. Bu, yazının icadından abaküse kadar binlerce yıldır oluyor. Şimdi farklı olan şey, dil, hayal gücü ve muhakeme ile bağlantılı işlevleri dışarıya devrediyor olmamız. Yani, düşüncenin kendisinin asıl araçlarını.
Mike Judge'ın bilimkurgu komedisi Idiocracy (Aptallar Çağı) 2006'da vizyona girmişti. Hiç izlemediyseniz çok şey kaçırmış sayılmazsınız; insanlığın beynini kullanmayı bıraktığı için aptallığa gömüldüğü bir gelecek dünyasını hayal ediyor. Film gişede batmıştı. On yıl sonra, Trump'ın ilk seçiminin ardından kült statüsüne kavuştu. Bugün ise kehanete yakın bir şey olarak görülüyor, bilişsel çürümenin erken gelen bir hicvi.
Antik Yunan miti, "kontrolden çıkan teknoloji" diye bir şey anlam ifade etmeden çok önce bununla boğuşmuştu. Prometheus, ateşin yanı sıra insanlığa teknolojiyi, madde üzerindeki hakimiyeti ve söndürülemez merak ile yaratıcılık kıvılcımını da vermişti. Bu, ilahi kökenli ve ölçülemez güçte bir kuvvettir ve insan türü onu evcilleştirmekle baş başa kalmıştır. Daedalus kanatları yaptı ama İkarus'un onları doğru kullanmak için ölçülülüğe ve bilgeliğe ihtiyacı vardı. Sınırsızca kullanılan bir araç, olmayı bekleyen bir felakettir.
K dergisinde Stephen Fry ile yaptığı bir röportajı okudum; kendisinin Odysseia yorumu vesilesiyle yapılmıştı. Röportajda Fry, aynı ateşin bir makineye devredilmesi halinde Yunan mitindeki eski döngünün tekrarlanabileceğinden endişe ediyor: yaratıcıların kendi yarattıkları tarafından devrilmesi.
Büyük dil modellerinin hiçbir zaman kendi zihinlerini geliştirip geliştirmeyeceğini bilmiyorum. Ama belki de yanlış soru bu. Asıl soru, medeniyetimizi yüzyıllar boyunca inşa eden alışkanlıkları ve yetenekleri kaybedersek ne olacağı olabilir. Kitap okumayı bırakırsak, teknolojik bir destek olmadan yazmayı bırakırsak, hazır bir cevaba uzanmadan önce zor bir fikirle boğuşmayı bırakırsak ne olur?
Geçtiğimiz Mayıs ayında, ilk genelgesi Magnifica Humanitas'ta yeni Papa XIV. Leo, yapay zekayı ne bir şeytan ne de bir kurtarıcı olarak ele aldı. Bunun yerine farklı bir soru sordu: Zekanın otomatik pilota bağlanmış gibi göründüğü bir çağda insan onurunu nasıl koruruz?
Belki de yapay zekanın beklenmedik bir hediyesi, bizi en temel soruyla yüzleşmeye zorlamasıdır: Biz kimiz? GPS ve hesap makinelerinde olduğu gibi, bazı temel işlevleri makineye devredip kendi yeteneklerimizin ve değerlerimizin başka yerlere kaydığını izlememiz tamamen mümkün. İdeal olarak deneyime, empatiye, anlam yaratmaya, sorumluluğa doğru. Bu güzel olurdu ama nefesimi tutmuyorum.
Ütopik hayalleri bir kenara bırakıp bir ciddi riski daha işaretleyelim. Büyük dil modellerinin mevcut metinlerle, insan düşüncesinin birikmiş kalıntılarıyla eğitildiğini ve kendi geleneğimizden alınan desenleri yeniden birleştirdiğini biliyoruz. Peki birkaç yıl içinde, bu metinlerin büyük bir kısmı bizzat yapay zeka tarafından ya da yapay zeka gibi yazan insanlar tarafından yazıldığında ne olacak?
Model "otofajisi", yani modellerin kendi çıktılarıyla beslenmesi şimdiden kendini gösteriyor. Bilgi kendini geri dönüştürüyor, çeşitlilik azalıyor, fikirler tahmin edilebilir bir düzleşmeye uğruyor. Kopyanın kopyayı beslemesi: yıkıcı bir döngü. Ama biz insanlar özgün düşünce üretmeyi bırakırsak, kuyu da kurur. Ve sadece biz aptallaşmakla kalmayız. Zekamızın yerini alması amaçlanan aracın kendisi de aptallaşır. Bunun anlamı her neyse.
Açıkçası cevap, ateşi tanrılara geri vermek değil. Gerçekten kullanışlı, tartışmasız devrim niteliğinde ve bizi olağanüstü bir yere götürebilecek bir araçtan bahsediyoruz. Ama hangi insan yeteneklerini otomasyonun saf rahatlığından korumaya değer olduğuna karar vermemiz gerekebilir, hem de yakında. Nasıl yaparsak yapalım, asıl görev merakı, yazmayı, okumayı, eleştirel düşünceyi ve yaratıcılığı canlı ve diri tutmak olacak. Aksi takdirde, batmak için bir makine ayaklanmasına bile ihtiyacımız olmaz. Bunu kendimiz başarırız.
