YATIRIMCILARIN YAPAY zekayla ilgili girişimlere milyarlarca dolar akıtmasıyla birlikte yapay zeka çılgınlığı, 1630'ların Hollanda lale çılgınlığına ve 18. yüzyılın başlarındaki Güney Denizi Balonu'na benzeyen spekülatif bir balona dönüşmeye başladı. Tam da bu spekülatif çılgınlıklara benzer şekilde, yapay zeka patlaması da kaçınılmaz bir çöküşe doğru gidiyor gibi görünüyor. Zira bu patlama, yeni varlıklar yaratmak yerine, küresel toplumu geride yalnızca borç dağları bırakmakla tehdit ediyor.

Günümüzün yapay zeka aldatmacası, OpenAI'nin yeni piyasaya sürülen GPT-4'ü gibi büyük dil modellerinin, insanlar tarafından üretilen çıktıdan neredeyse ayırt edilemeyecek düzeyde içerikler üretebileceği inancından besleniyor. Yatırımcılar, gelişmiş yapay zeka sistemlerinin akla gelebilecek her türlü formatta metin, müzik, resim ve videoyu zahmetsizce ve kullanıcı istemlerine uygun şekilde oluşturabileceği üzerine bahse giriyor.

Bununla birlikte, yapay zekaya yönelik artan coşkunun orta yerinde, yapay zekanın işgücü piyasası üzerindeki potansiyel etkisine ilişkin artan endişeler var. Goldman Sachs'ın yapay zekanın ekonomi üzerindeki "potansiyel olarak büyük" etkilerine ilişkin yakın tarihli bir raporu, birçok vasıflı ve beyaz yakalı iş kolu da dahil olmak üzere 300 milyon kadar işin otomatikleşme riski altında olduğunu öngörüyor.

Elbette, yapay zekanın yükselişiyle bağlantılı vaatlerin ve tehlikelerin çoğu hala ufukta bekliyor. Çoğu insanın zeka anlayışıyla uyumlu, bilinçli karar verme kapasitesi ve öz-farkındalık düzeyine sahip makineler henüz geliştirilmiş değil. Bu nedenle birçok teknoloji uzmanı, yapay zeka sistemlerinin insan yeteneklerini aşmadan önce "ahlaki kurallar"la biçimlendirilmesi gerektiğini savunuyor.

Ancak asıl tehlike, birçok teknoloji liderinin bizi inandırmak için uğraştığı gibi yapay zekanın özerk hale gelmesi değil, yapay zekanın insan özerkliğini baltalamak için kullanılması. Görevleri insanlardan daha verimli bir şekilde yerine getirebilen hem “dar” hem de “genel amaçlı” yapay zeka sistemleri, insan davranışları üzerinde daha fazla kontrol sağlamak isteyen hükümetler ve şirketler için dikkate değer fırsatlar sunuyor.

Shoshana Zuboff'un 2019 tarihli The Age of Surveillance Capitalism adlı kitabında belirttiği gibi, dijital teknolojilerin evrimi "insan deneyimini, çıkarım, öngörü ve satış gibi ticari uygulamalar için bedava hammadde olarak talep eden yeni bir ekonomik düzenin" ortaya çıkmasına yol açabilir.” Zuboff’a göre, devlet ve şirketlerin gözetim uygulamaları arasında giderek artan simbiyotik ilişki, kısmen "11 Eylül saldırılarıyla harekete geçen”, insanların davranışları ve kişisel hayatları hakkında "kapsamlı bir bilgi" elde etme teknolojilerini beslemeye ve kendine mal etmeye yönelen bir ulusal güvenlik aygıtının sonucu.

Milyarder yatırımcı Peter Thiel tarafından ortaklaşa kurulan veri analizi şirketi Palantir buna bir örnektir. Cumhuriyetçilerin önde gelen bağışçılarından biri olan Thiel'in, eski ABD Başkanı Donald Trump yönetimini, askeri kullanıma özel, yapay zeka sistemleri geliştirmek için Palantir şirketine büyük ihaleler vermeye ikna ettiği bildiriliyor. Bu ihale sözleşmeleri karşılığında Palantir, ABD hükümetine ve dünyadaki diğer casus teşkilatlarına istihbarat hizmetleri sağlıyor.

Jonathan Swift'in Gulliver'in Seyahatleri'nin üçüncü bölümü olan “Laputa'ya Yolculuk”ta Kaptan Gulliver, komploları ortaya çıkarmak için ustaca yöntemler geliştiren bilim adamları ve filozofların yaşadığı yüzen bir adaya rastlar. Bu yöntemlerden biri, "şüpheli isimlerin beslenme düzenlerinin" ve “dışkılarının” (rengi, kokusu, tadı, kıvamı, sindiriminin kabalığı veya olgunluğu" da dahil) yakından incelenmesini içerir. Modern devlet gözetim aygıtının da bedensel işlevler yerine e-postaları incelemeye odaklanırken, benzer bir amacı vardır: İnsanların zihinlerinin derinliklerine nüfuz ederek “kamu düzenine” veya “ulusal güvenliğe” karşı entrikaları ve komploları ortaya çıkarmak.

Ancak hükümetlerin vatandaşlarını ne ölçüde gözetleyebileceği, yalnızca mevcut teknolojilere değil, aynı zamanda siyasi sistem tarafından sağlanan kontrol ve dengelere de bağlı. Bu nedenle, yönetim sistemi açısından bütünüyle siyasi istikrarı korumaya ve “sosyalist değerleri” desteklemeye odaklanan Çin’in, dünyanın en yaygın elektronik devlet gözetimi sistemini kurabildiğini söylemek mümkün. Bu durum ayrıca, Çin'in yapay zekayı düzenlemede neden kendisini bir dünya lideri olarak konumlandırmaya istekli olduğunu açıklamaya da yardımcı olur. 

Buna karşılık, Avrupa Birliği'nin düzenleme perspektifi, kişisel haysiyet, mahremiyet, ayrımcılığa uğramama özgürlüğü ve ifade özgürlüğü gibi temel insan hakları etrafında şekilleniyor. Bu yaklaşımın düzenleyici çerçeveleri gizlilik, tüketici koruması, ürün güvenliği ve içerik denetimini vurgular. ABD tüketici çıkarlarını korumak için rekabete bel bağlarken, AB'nin bu yılın sonlarında tamamlanması beklenen Yapay Zeka Yasası, kullanıcı tarafından oluşturulan verilerin "sosyal puanlama" için kullanılmasını açıkça yasaklıyor.

Batı'nın yapay zekayı düzenlemeye yönelik, bireylerin zarar görmesini önleyen “insan merkezli” yaklaşımı, Çin'in otoriter modeliyle keskin bir tezat oluşturuyor. Ancak ikisinin eninde sonunda yakınlaşacağına dair açık ve aynı zamanda yakın bir tehlike var. Bu yakın tehdit, Batı'nın bireysel haklara olan bağlılığı ile ulusal güvenlik gerekçesi arasındaki açık çatışmadan kaynaklanıyor. Zira artan jeopolitik gerilim ortamında ulusal güvenlikle ilgili zorunluluklar sivil özgürlüklerden öncelikli olma eğilimi sergiliyor. Örneğin Yapay Zeka Yasasının mevcut versiyonu, Avrupa Komisyonu'na önleyici uygulamalar için ancak ulusal güvenlik, savunma ve askeri kullanımlar gerekçesiyle izin veriyor.

Teknolojik üstünlük için kıyasıya rekabetin ortasında, hükümetlerin müdahaleci teknolojileri geliştirme ve uygulama becerisi, yalnızca şirketler ve siyasi rejimler için değil, tüm ülkeler için bir tehdit oluşturuyor. Bu korkunç dinamik, yapay zekanın "tüm endüstriler ve sosyal faaliyetler için çok çeşitli ekonomik ve toplumsal faydalar" sağlayacağına dair iyimser tahminlerle taban tabana zıt duruyor.

Ne yazık ki, Batılı liberal demokrasilerde gücü dengeleyecek mekanizmaların ve hükümet eylemleri üzerindeki anayasal sınırların kademeli olarak aşınması, otoriter rejimlerin işine geliyor. George Orwell'in ileri görüşlü bir şekilde gözlemlediği gibi, sürekli bir savaş durumu, hatta bunun yanılsaması, teknolojik bir distopyanın ortaya çıkması için ideal bir ortam yaratıyor.


Bu yazı 25 Mayıs 2023’te Project Syndicate’te “Creeping Toward Dystopia” başlığıyla yayınlandı. Çeviride editoryal düzenleme yapılmıştır.