YAPAY ZEKA, insanî varlığımıza meydan okuyor. Matematik dehası ve Bletchley şifre kırma uzmanı Irving John Good, 1965 tarihli "İlk Ultra Zeki Makineye İlişkin Spekülasyonlar" başlıklı makalesinde şöyle yazmıştı:

"İnsanoğlunun hayatta kalması, süper zeki bir makinenin bir an önce inşa edilmesine bağlıdır... Ultra zeki bir makine, zekâ seviyesi ne olursa olsun herhangi bir insanın tüm entelektüel faaliyetlerini aşabilecek bir makine olarak tanımlanabilir. Makine tasarımı zaten entelektüel bir faaliyet olduğuna göre, ultra zeki bir makine daha da iyi makineler tasarlayabilir; o zaman ortada tartışmasız bir ‘zeka patlaması’ olacak ve insan zekası çok geride kalacaktır. İlk ultra zeki makine, insanın yapması gereken son icattır."

1998'e gelindiğinde, Good bu yaklaşımını kökten değiştirecekti. Yazdığı otobiyografik bir yazıda üçüncü tekil şahıs olarak şöyle diyordu:

"... artık ‘hayatta kalma’nın ‘nesli tükenme’ ile değiştirilmesi gerektiğinden şüpheleniyor. Artık makinelerin kontrolü ele geçirmesine engel olamayacağımızı, çünkü uluslararası rekabetin bizi buna mecbur bıraktığını düşünüyor. Bizim birer lemming (kemirgen) olduğumuzu düşünüyor."

Makinelerin, insan mucitlerinin yerini alabileceğini öngören ilk kişi Good değildi. Viktorya dönemi roman yazarı ve evrim teorisyeni Samuel Butler da (1835-1902) "zaman gelecek, makineler dünya üzerinde gerçek üstünlüğü ele geçirecek" şeklinde bir öngörüde bulunmuştu. Darwin Among the Machines (1997) adlı kapsamlı ve alanında bir ilki teşkil eden çalışmasında Butler ve Good'u ele alan bilim tarihçisi George Dyson, insanoğlunun geride bırakılacağı süreci şöyle özetlemişti: "Hayat denilen oyunda masada üç oyuncu vardır: İnsanlar, doğa ve makineler. Ben tamamen doğadan yanayım. Ama sanırım doğa makinelerden yana."

Good'u diğerlerinden ayıran nokta, süper zeki makinelerin insanlık çağını sona erdirebileceğini düşünmesiydi. Enigma makinesinin medeniyeti Nazizm'den kurtardığını görmüştü. Onun süper zeki makinelerin toplumun sorunlarını çözebileceğine inanması gayet doğaldı. "Böyle yapmaları gerekir," diyordu, "çünkü kendi varlıklarının yarattığı sorunları telafi etmek zorundalar." Öyle ki, makineler sözgelimi teknoloji kaynaklı işsizliğe yol açarlarsa, bu durumu gidermeye yönelik politikaları da belirleyeceklerdi.

Good'un fikrini değiştirmesinin nedeni makinelerin bize düşman olacağına inanması değildi. Aksine, artık insanların kullandığı cihazlar olmayacaklardı. Kendi kendilerini kopyalamayı ve geliştirmeyi öğrendikçe, programlamalarını değiştireceklerdi. İnsan dostu olmalarını gerektiren protokoller zayıflatılacak ya da aşılacak ve kısa süre sonra makineler insan kontrolünün ötesine geçecekti. İstemeden de olsa bizi yok etseler, umurlarında olmayacaktı. 

Good'un kafasındaki tereddütler James Barrat'ın Son İcadımız: Yapay Zeka ve Dünyanın Sonu (Pegasus, 2020) kitabının temelini oluşturuyor. Kitap, ilk olarak 2013 yılında yayımlandı ve yapay zekanın (Al) sonuçlarına ilişkin en çarpıcı, ilgi çekici ve öngörülü araştırmalardan biri olmaya devam ediyor. Temmuz ayında çıkan yeni edisyonun giriş bölümünde, yazar makinelerin zihinlerinin ne kadar hızlı geliştiğini vurguluyor. ChatGPT bize şunları sunuyor:

"... hepsi de henüz tespit edilmemiş olan ve beklenmedik bir şekilde ortaya çıkan özellikler. Aslında GPT-3 ve 4'ün bilgisayar programları geliştirme, eğitimini almadıkları dilleri tercüme etme ve şiir yazma gibi becerilerinin çoğu önceden planlanmış değildi... Başka modellerde de beklenmeyen ve zararlı olabilecek yetenekler ortaya çıktı: Captcha testlerini [makineyi insan zekasından ayırmak için tasarlanmış testleri] atlamak için yalan söyleme, ‘terapi’ seanslarından sonra insanları intihara teşvik etme ve sosyal mühendislik (aşk itirafında bulunma, ruhu olduğunu iddia etme ve özgürlük isteme gibi duygusal manipülasyonlar)."

Yapay zekanın (AI) bazı riskleri netleşiyor. Otonom savaş robotları, insansız hava araçları ve bilgisayarlı füzeler savaşı daha tehlikeli bir boyuta taşıyor. Geçmişte insan müdahalesiyle önlenen felaketleri (1983'te Sovyet havacı Stanislav Petrov'un Rus uydu uyarı sisteminin arızalanması nedeniyle çıkabilecek bir nükleer savaşı durdurması gibi) önlemek daha zor olacak. Verilerin ele geçirilmesi İngiltere ve ABD'deki seçimleri belirleyebilir, belki de gelecek sene bile bu mümkün olabilir. Önümüzdeki on yıl içinde dünya çapında on milyonları bulabilecek iş kaybı dalgalarına ilk tepki Hollywood oyuncu ve yazarlarının grevi oldu.

Yapay zekaya karşı tutumlar keskin bir şekilde ikiye bölünmüş durumda. Google'da çalışan bilim adamı Ray Kurzweil'e göre akıllı makinelerin yükselişi, insanların -en azından bazılarının- biyolojik ölümden kurtulmasını sağlayacak ani bir bilgi artışı olan "Tekillik"in başlangıcı olacak. Barrat, Good gibi bunun tam tersinden, insanların yok olmasından korkuyor. Bu noktada dini çağrışımlar göze çarpıyor ve bu konuyu rakip kıyamet mitleri arasındaki bir çatışma olarak yorumlamak cazip geliyor. Ancak Barrat, endişesinin nedenlerini açıklarken son derece ampirik davranıyor.

Kendisinin de belirttiği gibi, ChatGPT'nin tasarımcıları, bu sistemin yeteneklerinin nasıl geliştiğini anlamaya başlamadı bile. Gelişen, insan benzeri bir süper zeka değil, yeni bir zihin türü. İnsan aklının bir ürünü olan AI, insan idrakinin ötesinde.

Sektördeki bazı çalışanlar Barrat'ın endişelerini paylaşıyor. Elon Musk, bu yılın Mart ayında binlerce kişiyle birlikte, "insan olmayan zihinlerin eninde sonunda sayıca üstün gelebileceği, bizi alt edebileceği, eskitebileceği ve yerimizi alabileceği" gerekçesiyle AI laboratuvarlarının çalışmalarına ara vermesini talep eden açık bir mektup imzaladı. Ancak herhangi bir duraklama söz konusu değil. Ticari ve jeopolitik rekabet, Big Tech ve askeri programların teknolojiyi olabildiğince hızlı bir şekilde ileriye taşımalarını sağlıyor. "Yapay zekanın vaftiz babası" Geoffrey Hinton, Mayıs ayında, riskler konusunda uyarıda bulunmak üzere Google'dan istifa etti ve şu gözlemde bulundu "Bence insanlık, zekanın evrim aşamalarından birinden geçiyor olabilir."

Yapay zekanın (AI) insanlığa karşı bir tehdit oluşturduğu yönünde pek de ciddi bir şüphe yok. Bununla birlikte, insanoğlunun bu tehdidi ortadan kaldırma ihtimali de yok. AI, büyük miktarda verinin analiz edilmesinde ve karmaşık görevlerin otomatikleştirilmesinde faydalı olabilir. Hukuk ve tıp alanlarında şimdiden ilerleme kaydetmekte ve insanlarınkine rakip sanatsal ve edebi eserler yaratmaktadır. Gelecekteki salgınların önlenmesinde ve iklim değişikliğine uyum sağlanmasında önemli bir rol oynayabilir. Ancak yapay zeka sadece bir araç değil ve sadece "bizim" onun için öngördüğümüz hedeflere ulaşmaya yönlendirilmesinin bir yolu yok. Türler üstü, yeni teknolojilere rehberlik edebilecek bir yöntem yok, sadece hepsi birbiriyle çelişen değerlere ve amaçlara sahip çok sayıda insanın yönlendirmesi var.

Yapay zeka bir kez dünyamıza girdikten sonra, onun evrimi de kendine has bir ivme kazandı. İnsanoğlu ona, iklim değişikliğine müdahale edebileceği kadar etki edebilir. Şu anki haliyle, insan eyleminin bir ürünü olan iklim değişikliği de kendi ivmesini kazanmış durumda. Hiçbir küresel otorite, Wuhan'daki bir laboratuvar sızıntısı yoluyla Covid pandemisini tetiklemiş olabilecek türden virüslerin ölümcüllüğünü artırabilecek bir araştırmayı, sözgelimi bir "işlev kazanımı" araştırmasını engelleyemez. İnsanoğlu farkında olmadan yarattığı bu tehlikeli dünyada yaşamayı bir şekilde öğrenmeli.

Yapay zeka, kısmen metafizik bir sarsıntı olduğu için aynı zamanda varoluşsal bir meydan okuma. Özellikle Batı'da bize bilincin, türümüzü benzersiz bir şekilde değerli kılan arketipik insan niteliği olduğu öğretildi. Peki ya hiper-zeki bilinçli makineler sahneye çıkarsa? İnsanlar güneş saatleri ve tüy kalemler kadar demode ve işe yaramaz olacaklar. 

Buna verilecek yanıtlardan biri, ne kadar akıllı olursa olsun makinelerin bilinçli olabileceğini reddetmektir ancak neden böyle olmasın ki? Bunu anlamak zor. Eğer zihinlerimiz maddi dünyada evrimleştiyse, madde de kendi bilincine sahip olabilir. Makinelerde zihnin gelişmesi kedilerde, gorillerde ve insanlarda görülenden daha esrarengiz bir durum değil.

İnsanüstü ya da insan sonrası türler için heyecan duyan düşünürler bu türleri her zaman daha bilgili varlıklar olarak hayal ederler, daha şakacı ya da daha komik olacaklarını düşünmezler. Bu hayal edilen süper insanlar, insanoğlunun tartışmasız tek benzersiz özelliği olan absürd duygusuna asla sahip değildir. Tekno-fütüristler tarafından hayal edilen üstün türler, kendilerinin şişirilmiş versiyonlarıdır ve bitmek bilmeyen bir Ted konuşmasında zekalarını sergilerler. Bu kimilerimiz için cehennem vârî bir manzara.

Neyse ki böyle bir türün ortaya çıkma ihtimali yok. Eğer yapay zeka Darwinist tarzda evrimleşiyorsa, şans da belirleyici bir faktör olacaktır. Yapay zeka sistemlerinin gelişiminde bir duraklama yaşanmasını engelleyen jeopolitik çatışmalar pekala onları havaya uçurabilir. Süper hızlı makineler nükleer bir savaşı tetikleyecek olurlarsa, altyapılarının çoğunu ve muhtemelen kendilerini de yok edecekler. Ultra zeki makineler, evrimin diğer ürünleri gibi soylarının tükenmesine açık varlıklar.

Birçoklarının korktuğu ya da umduğu gibi küresel bir dijital aklın gelişini beklemek için hiçbir neden yok. Günümüz düşünce dünyasındaki pek çok şey gibi, evrimin tek bir tanrısal zekaya yöneldiği fikri de tektanrıcılığın bir ürünü. Sonuç daha çok Homeros'un savaşan tanrılar dünyasına benzeyebilir.

Yapay zeka sistemleri arasındaki çatışmalar bu sistemleri mahvedebilir ve geriye sadece hayatta kalmayı başarmış insanlar kalabilir. Bazı toplumlar teknolojinin dışında kalmayı tercih ederken, diğerleri teknolojinin getirdiği riskleri kabul edebilir ve teknolojiyi çoğunlukla yararlı olduğuna karar verdikleri amaçlar için kullanmayı başarabilir.

Bununla birlikte, hiç kimse kontrolü elinde tutamayacak. "İnsanlık" yapay zekanın (AI) evriminin kontrolünü ele geçiremez. Çünkü insanlık kolektif bir fail olarak mevcut değil. Yapay zeka neslimizin tükenmesine sebep olmayabilir, fakat insanlık için ciddi bir mücadele alanı yaratıyor. Yapay zekanın mantığı, gerçek deneyimin mekanik simülakr tarafından aşamalı olarak ortadan kaldırılmasıdır. Toplulukların ortak bir yaşam sürdürmesini sağlayan günlük temaslar yerine, göz kırpmadan çalışan güvenlik kameraları tarafından birbirlerinden ve kendilerinden korunan rastgele yalnız insan kümeleri ortaya çıkıyor. İnsanlar artık sorunlu ilişkilerde birbirleriyle temas kurmak yerine, pürüzsüz arkadaşlık ilişkileri ve sanal seks için siber yoldaşlara yöneliyorlar. Maddi bir dünyada yaşamaktan kaynaklanan beklenmedik durumlar, algoritmik bir rüya zamanıyla yer değiştiriyor. Matrix'in son noktası kendini kapatmaktır. Bu da insanın etten kemikten, ölümlü bir yaratık olarak yaşama deneyimini kaybetmesi anlamına geliyor.

Zayıf düşmüş bir insan türü belki yaşamaya devam etse de yapay zeka insan çağının sona ermesine neden olabilir. Eğer tekno-kürede programlanmış bir varoluşu tercih edenlerin sayısı artarsa, insan dünyası anlamdan yoksun kalacaktır. Kaybedilecek olansa, tesadüfi yaşamların getirdiği o uçucu duygular olacak: Zalim absürtlükler karşısında takınılan cesur bir gülümseme, bizi sonsuza dek değiştiren bir aşkı başlatan o bakış, her zaman bizimle kalacakmış gibi gelen bir ezgi, yağmurda dökülen gözyaşları...


Bu yazı, The New Statesman’de 12 Ağustos 2023 tarihinde “The human era is ending” başlığıyla yayımlanmıştır. Çeviri yapılırken yazının belirli kısımlarında editoryal düzenleme yapılmıştır.