HAYATIN GELECEĞİ Enstitüsü'nün yapay zeka çalışmalarına altı ay ara verilmesi çağrısında bulunan bildirisi, Elon Musk dahil, binlerce yüksek profilli isim tarafından imzalandı. İmzacılar, yapay zeka (AI) laboratuvarlarının, yaratıcıları dahil hiç kimsenin tahmin ve kontrol edemeyeceği düzeyde güçlü sistemler geliştirmek ve dağıtmak üzere "kör bir yarışa kilitlendikleri" yönünde kritik bir endişeyi dile getiriyor.

Belirli bir seçkinler topluluğu arasında oluşan bu panik, nasıl anlaşılabilir? Kontrol ve düzenleme bu panik hikayesinin merkezinde duruyor. Peki ama bu kontrol ve düzenlemeyi kim yapacak? Yapay zekanın üreteceği risklerin değerlendirileceği bu altı aylık zaman diliminde kimler insanlığın yanında yer alacak? Çin, Hindistan ve Rusya'daki yapay zeka laboratuvarlarının çalışmalarına (belki de gizlice) devam edecekleri düşünülürse, konuyla ilgili sağlıklı bir küresel kamuoyu tartışması pek mümkün görünmüyor.

Yine de burada yapay zeka teknolojileri bağlamında neyin tehlikede olduğunu düşünmek gerek. Tarihçi Yuval Harari, 2015 tarihli Homo Deus: Yarının Kısa Bir Tarihi adlı kitabında, yapay zekanın insan toplumu içinde sınıfsal bölünmeden çok daha güçlü ve radikal bir bölünmeye yol açacağı öngörüsünde bulundu. Çok yakında, biyoteknoloji ve bilgisayar algoritmaları "bedenleri, beyinleri ve zihinleri" üretmek için güçlerini birleştirecekler. Ve sonuçta yapay zeka rekabeti, "vücut ve beyin mühendisliğini bilenlerle bilmeyenler arasında" büyüyen bir uçurumla finale girecek. Böyle bir dünyada, "ilerleme trenine binenler kutsal bir yaratma ve yok etme yeteneğiyle donanırken, geriye kalanlar yok olma tehlikesiyle karşı karşıya kalacak."

Yapay zeka bildirisine yansıyan panik, "ilerleme treni" üzerinde olanların bile onu yönetemeyecekleri korkusundan kaynaklanıyor. Mevcut dijital feodal efendilerimiz korkuyor. Ancak istedikleri şey, kamusal bir tartışma değil, daha çok, hükümetler ve teknoloji şirketleri arasındaki gücün ait olduğu yerde kalması için bir anlaşma yapmak.

Yapay zeka teknolojisinin genişletilmesi, yapay zekayı geliştiren, sahip olan ve kontrol edenler de dahil olmak üzere "iktidardakiler" için ciddi bir tehdit. Kendi kendini yeniden üretebilecek ve dolayısıyla insan müdahalesine giderek daha az ihtiyaç duyacak olan bir yapay zeka sistemi olasılığı, bildiğimiz kapitalizmin sonundan başka bir şey değil (algoritmik piyasa ticareti, bu yönde atılan ilk adımdır). Bu noktada insanlara düşen şey, sadece yeni bir komünizm formu ile kontrol edilemez bir kaos arasında seçim yapmak olacak.

Yeni sohbet robotları, pek çok yalnız (ya da o kadar da yalnız olmayan) insana filmler, kitaplar, gastronomi ya da politika hakkında bitmeyen diyalog imkanları sunacak. Dolayısıyla insanların satın alacağı şey, kafeinsiz kahvenin veya şekersiz gazozun yapay zeka versiyonu olacak. Kanı, canı olmayan dost canlısı, dijital bir komşu, kendini sizin ihtiyaçlarınıza göre ayarlayacak. Burada bir fetişist inkar yapısı var: “Gerçek bir insanla konuşmadığımdan eminim, ama yine de öyleymişim gibi geliyor.”

Her halükarda, yapay zeka bildirisine yakından bakıldığında, bunun bir imkansızı yasaklamaya yönelik yeni bir girişim olduğu görülüyor. Bu eski bir paradoks: Birer insan olarak bizim, insan sonrası bir geleceğe dahil olmamız imkansız, bu yüzden onun gelişimini yasaklamalıyız. Kendimizi bu teknolojiler etrafında yönlendirmek için, Lenin'in eski sorusunu sormalıyız: Kimin için ve ne için özgürlük? Daha önce hangi anlamda özgürdük? Fark ettiğimizden çok daha fazla kontrol altında değil miydik? Gelecekte özgürlüğümüze ve onurumuza yönelik tehditten şikayet etmek yerine, belki de şimdi öncelikle özgürlüğün ne anlama geldiğini düşünmeliyiz. 

Fütürist Ray Kurzweil’e göre, teknolojik ilerlemenin doğası gereği, yakında insan zekasını aşan "ruhsal" makinelerle uğraşmak zorunda kalacağız. Ancak bu "insan-sonrası" durumu, doğa üzerinde tam bir teknolojik tahakküm kurmaya yönelik modern meşguliyetle karıştırmamak gerek. Zira burada karşı karşıya olduğumuz şey, sürecin diyalektik bir tersine çevriminden ibaret.

Bugünün "insan sonrası" bilimleri artık tahakkümle ilgili değil. Yapay zeka modelleri ne tür olası özellikler edinebilir? Kimse bilmiyor ve tüm girişimin heyecanı (ya da sıradanlığı) tam olarak burada yatıyor.

Bu nedenle, bu yüzyılın başlarında, Fransız filozof-mühendis Jean-Pierre Dupuy, yeni robot biliminde, genetikte, nanoteknolojide, yapay yaşamda ve yapay zekada, teknolojinin mümkün kıldığı geleneksel insan-merkezci kibrin garip bir tersine dönüş yaşadığına dikkat çekti:

"Bilimin, bugün insan hayatına yönelik temel bir tehdide dönüşecek kadar 'riskli' bir faaliyet haline gelişini nasıl açıklayacağız? Bazıları bu soruya, Descartes düşüncesinden hareketle cevap veriyor: “İnsanlığın ‘doğanın efendisi ve sahibi olma’ rüyası kabusa dönüştü. Ve şimdi acilen "ustalığın hakimiyetine" dönülmesi gerekir.” Bu fikri savunanlar aslında hiçbir şeyi anlamıyor. Tüm disiplinlerin birbirine 'yakınlaşması'yla ufkumuzu kuşatma altına alan teknolojinin aslında insanlığın ustalaşmasını engellediğini göremiyorlar. Yarının mühendisi, ihmali veya cehaleti nedeniyle değil, kendi seçimiyle büyücü çırağı olacak."

İnsanlık kendi tanrısını ya da şeytanını yaratıyor. Sonuç tahmin edilemez olsa da aslında kesin olan bir şey var: "Post-insanlık" durumu, somut ve kolektif bir gerçek olarak ortaya çıktığında, dünya görüşümüz üç temel bileşenini kaybedecek: İnsanlık, doğa ve ilahiyat. İnsan kimliğimiz ancak arka planda doğanın bulunduğu bir zeminde var olabilir. Ancak hayat bütünüyle teknoloji tarafından manipüle edilebilir bir hal alacak olursa, "doğal" karakterini kaybedecektir. Tamamıyla kontrol ve manipüle edilebilen bir hayat, tesadüf ve mucize bir tarafa, anlamını kaybeden bir hayattır.

Aynı şey, hayatın ilahi boyutu için de geçerli. İnsanın "tanrı" deneyimi, yalnızca insanın sonluluğu ve faniliği açısından anlam taşır. İnsan, Homo Deus’a dönüştüğünde ve eski insani bakış açısından "doğaüstü" özellikler yarattığında, bildiğimiz şekliyle "Tanrı" ortadan kaybolacaktır. O zaman soru, “eğer ortada tanrısal bir şey kalırsa, o nasıl bir tanrısallık olacaktır? Yarattığımız yapay zekalara mı tapacağız mesela?

İnsan sonrası bir dünyaya dair geliştirilen tekno-gnostik vizyonların, aslında bizi bekleyen uçurumu örten ideolojik fanteziler olduğunu ifade etmek mümkün. Kestirmeden söyleyelim, çok da uzak olmayan bir gelecekte insanların alakasız ve hayatlarının anlamsız hale gelmemesi için altı aydan daha fazla bir araya ihtiyaç var.


Bu yazı 7 Nisan 2023 tarihinde Project Syndicate’te “The post-human desert” başlığıyla yayınlandı. Çeviride editoryal düzenleme yapılmıştır.