Yazının ilk kısmında da değindiğim gibi Harari, kitabında bilgiyi sadece gerçekliğin bir temsili olarak değil, insan topluluklarının işleyişinde ve tarihsel gelişmelerinde çok yönlü bir role sahip, karmaşık ve dinamik bir olgu olarak ele alıyor. Kitap, bilginin potansiyelini ve tehlikelerini; hem toplumsal düzenin kurulmasında hem de gerçeklik arayışındaki kilit rolünü ele alarak inceliyor. Yapay zekâ çağı için bilginin kurucu rolünün son derece önemli olduğuna dikkat çekiyor. Zira yapay zekâ, bilgiyi üretme, işleme ve yayma konusunda insan kapasitesini kolaylıkla aşma potansiyeline sahip. Üstelik bu durum, toplumsal düzenin ve gerçeklik arayışının yeni ve beklenmedik yollarla yeniden şekillenmesine yol açabilir. Ancak Harari yapay zekâ konusuna geçmeden, kitapta bilginin toplumsal yayılımını irdeleyebilmek adına iki karşıt yönetim sistemini ele alıyor.
Neksus, demokrasi ve totaliter rejimlerin bilgi ağları üzerindeki etkilerini ayrıntılı şekilde inceliyor. Demokrasiler ve totaliter rejimler kendi içlerinde farklı açmazlar barındırır. Demokrasiler, bilginin özgürce akmasına ve insanların gerçekleri keşfetmesine teorik olarak imkân tanımaktadır. Ancak bu özgürlük, toplumsal düzeni korumak için gereken kurmacaları tehdit edebilir. Totaliter rejimler ise bilgiyi tek bir merkezde toplayarak toplumsal düzeni korumaya çalışırken gerçeklerin keşfedilmesini engellerler.
Metin boyunca Harari, demokrasilerin ve totaliter rejimlerin bilgi ağlarını nasıl kullandığını karşılaştırıyor. Bu iki sistemin avantajları ve dezavantajlarını ortaya koyuyor. Demokrasiler, gerçekleri keşfetme konusunda daha başarılı olabilirken, totaliter rejimler toplumsal düzeni koruma konusunda en azından bir süre daha etkili olabiliyor.
Harari, demokrasilerin bilgiyi işleme ve yayma konusunda daha esnek olduğunu belirtir. Örneğin, ABD Anayasası gibi demokratik sistemler, bilginin bağımsız kanallar üzerinden özgürce akmasına izin verir. Bu, insanların gerçekleri keşfetmesini ve toplumsal düzeni sorgulamasını mümkün kılar. Bu sistemde, bilgi çeşitli kaynaklardan gelir ve insanlar bu bilgileri sorgulayarak kendi kararlarını verir. Demokrasiler, bilginin çoğulcu bir şekilde yayılmasını teşvik eder ve bu sayede toplumun farklı kesimleri arasında diyalog ve uzlaşma sağlanır.
Demokrasilerin bir diğer önemli özelliği ise bilginin denetlenmesi ve düzeltilmesi için telafi mekanizmaları sunmasıdır. Ki burası hayati bir noktadır. Demokrasiyi sadece sandığa indirgeyen otoriter rejimlerle gerçek demokrasi arasındaki fark telafi mekanizmalarının bağımsızlığı ve etkililiğinden kaynaklanmaktadır. Örneğin bağımsız mahkemeler, medya ve akademik kurumlar, bilginin doğruluğunu sorgulayarak toplumsal düzeni korumaya çalışır. Bu mekanizmalar, bilginin yanlış kullanılmasını engellemeye ve toplumsal düzeni sağlamaya yardımcı olur. Yönetimin, sandığı tek meşru dayanak olarak görme arzusuna rağmen, bu mekanizmalar aynı zamanda demokratik bir kültürün doğmasını ve içselleştirilmesini sağlar.
Demokrasi ve diktatörlük taban tabana zıt olgulardan ziyade kesintisiz süreçlerdir. Sürecin demokrasiye mi yoksa diktatörlüğe mi daha yakın olduğuna karar vermek için Harari bilginin ağda nasıl aktığına ve politik diyaloğu neyin şekillendirdiğine bakılması gerektiğini söylüyor. Bu yüzden demokrasi karmaşık bir rejim, tabiri caizse birçok girinti ve çıkıntısı var. Basitlik, merkezi yönetimin her şeyi kontrol ettiği ve herkesin sessizce boyun eğdiği diktatoryal bilgi ağlarının özelliğidir.
Harari diktatörlüğü, güçlü telafi mekanizmalarından yoksun merkezi bir bilgi ağı olarak tanımlamakta. Hitler ve Stalin gibi liderlerin uyguladığı baskıcı diktatörlüğe totalitarizm adını verebiliyoruz. Ancak her diktatörlük totaliter özellikleri barındırmıyor. Teknik sorunlar diktatörlerin istedikleri gibi totaliterleşmesine engel oluyor. Mesela bir Roma İmparatorunun elinde en ücra köyleri bile kontrol edebilecek teknoloji yoktu. Dolayısıyla totalitarizmin son kertede modern bir olgu olduğunu söyleyebiliriz.
Harari okuyucusuna tüm diktatörlerin öyle ya da böyle demokratik bir rejimden neşet ettiklerini anlatıp bunun klasik yöntemlerini de sıralıyor. Diktatörlerin en sık başvurdukları yöntem yargı ve medyadan başlayarak tüm telafi mekanizmalarını birer birer kendi güdümüne almak. Yargı organları hükümetin gücünü yasal yollarla denetleyemediğinde ve medya da hükümetin görüşlerini papağan gibi tekrarlamaya başladığında, hükümete karşı çıkmaya cesaret eden tüm kurumlar ve vatandaşlar hain, suçlu veya dış güçlerin ajanı olarak yaftalanıp eziyet görmeye başlar. Harari bu senaryonun yirminci yüzyıl boyunca tekrarlandığı ülkelerden örnekler veriyor. Aslan payını ise elbette merkezi otoritesi, etkileme gücü ve görece uzun ömrüyle Sovyetler Birliği alıyor.
Kitlesel demokrasi ve kitlesel totalitarizm için gelişmiş kitle iletişim araçları olmazsa olmaz. Modern teknoloji, büyük ölçekli demokrasileri mümkün kıldığı gibi büyük ölçekli totaliter rejimleri de ortaya çıkarmıştır. Neron gibi otokratik yöneticiler kendilerini rahatsız eden bir şey yapan herkesi idam edebilirken, aslında imparatorluğundaki çoğu insanın ne yaptığını ve söylediğini bilemezdi. Neron, teoride hesap vermeden her türlü cezayı verebilecekken, herkesi kontrol edebileceği araçlardan mahrumdu. Ancak Nazi Almanya’sı ve Sovyetler gibi modern totaliter rejimler seleflerini kıskandıracak imkânlara sahiptiler. Gelişmiş bürokrasi, kontrol edilebilir geniş bir ağa sahip yazılı basın, telgraf ve radyo gibi bilgi teknolojileri tüm devlet birimleri ve geniş kitlelerle hızlı iletişim kurmayı ve onları denetlemeyi daha önce olmadığı şekilde kolaylaştırmıştır. Güç, bilgi akışını merkezileştirme ve sıkı kontrol etmekten gelmektedir.
Bolşevikler 1917 Devrimi’nin ardından iktidara geldiklerinde işte bu sınırsız gücün peşindeydiler. Zira kuracakları sistemin barış ve refah vadettiğine iyimserlikle inanıyorlardı. Tüm baskıları kaldırıp adil bir toplum yaratacaklardı. Bu yüzden amaç ve yöntemlerini sorgulayabilecek herhangi bir özdenetim ve telafi mekanizmasına müsamaha göstermediler. Dolayısıyla seçimler, bağımsız mahkemeler, özgür basın ve muhalefet partileri gereksizdi. Tüm bilgi akışını kimseyle paylaşmadan kontrol edecek, hedefe hızla yürüyen tek bir parti ve onun bürokratik kadroları yeterliydi. Tüm muhalif isimler bir bir öldürüldü. Stalin 1939 yılına gelindiğinde 2,5 milyon Parti üyesi, 1,5 milyon sivil memur, 2 milyon asker, gizli polisi, yüzbinlerce muhbiriyle eşi benzeri görülmemiş bir kontrol sistemi kurmuştu. Tüm işletmeler, gazeteler, radyo istasyonları, üniversiteler, okullar, gençlik grupları, tüm hastaneler, klinikler, gönüllü kuruluşlar, spor ve bilim kulüpleri, tüm parklar, müzeler, sinemalar, tiyatrolar Parti’nin sıkı denetimi altında ideolojik aygıtlarıydı. Özellikle tarımı kolektifleştirme çalışmalarının doğurduğu kıtlık, ailelere kadar inen muhbir ağı ve rejimin düşman yaftalama gayreti yüzünden yüzbinlerce Sovyet vatandaşı hayatını kaybetmişti.
Harari, bilgi ağlarını kullanım yönünden farklılaşan iki sistemin rekabetinde, Totaliter Sovyetlerin, ekonomik yönden sürdürülemez noktaya gelmesi ve yeni bilgi teknolojilerinin sahaya girmesiyle kaybettiğini, ancak arkada çok ağır bir bilanço bıraktığını bir kez daha hatırlattıktan sonra yapay zekânın benzer senaryolara kapı aralaması ihtimaline geçiyor.
Harari’ye göre yapay zekâ devrimi hakkında korkutucu olan şey, yalnızca sohbet robotlarından gelen yanlış bilgilere boğulmamız veya güç sahiplerinin bunu özel hayatlarımızla ilgili verileri analiz etmek için kullanması değil, kitaplar ve radyolar gibi önceki teknolojilerin aksine yapay zekâ, kendi başına kararlar alabilen ve fikirler üretebilen bir algoritmaya sahip. Bunun erken uyarısını, kullanıcı etkileşimini en üst düzeye çıkarmakla görevli Facebook algoritmalarının Myanmar olaylarında gösterdiğini hatırlatıyor. En azından bu örnekte yapay zekâ için çıkan sonucun duygusal bir ağırlığı yok, önemli olan etkileşimi artırmak. Bu, ileride ortaya çıkacak olan süper zeki bilgisayarların Makyavelist bakış açısının yol açabileceği tehlikeleri gösteriyor. Verilen hedefe ulaşabilmek için izlenecek yolun anlamsızlığı…
Yapay zekâ ortaya çıkmadan önce kurumsal dinler ve iktidarlar gibi tüm bilgi ağı zincirlerinin vazgeçilmez halkaları insanlardı. Bazı zincirler sadece insanlardan oluşuyor, bazıları ise insan-belge-insan ortaklığıyla ilerliyordu. Ancak merkezi konumda hep insan vardı. Hiçbir kağıt belge kendi başına başka bir belge üretememişti. Ancak tarihte ilk defa, bilgisayar ağlarıyla oluşan zincirde, artık döngünün içinde insan olmasına gerek yok. Bir bilgisayar yalan haber üretebilip onu sosyal medyadan paylaşabilir. Ancak başka bir bilgisayar hızla bu haberin sahte olduğunu tespit edip paylaşımı silebilir. Yani ileride bu oluşacak ağın içinde insana hiç yer olmayabilir. Ancak bunun sonuçlarından elbette en çok yine insan etkilenir. Neksus, birçok ikna edici örnekle bunun olası sonuçları üstüne düşünüyor
Harari tarihi anlamanın, bugünün teknolojik, ekonomik ve kültürel yapısını daha iyi kavramaya ve siyasi önceliklerimizi acilen değiştirmemiz gerektiğine yardımcı olabileceğine inanıyor. Bu iyimser görüş siyasetin büyük oranda öncelikler meselesi olması gerçeğine dayanıyor. Kaynağı nereye ayıracağınız, savunma harcamalarını kesip sağlık veya eğitim bütçesini artırmak politik bir tercihtir. Ancak siyasileri bu tercihleri yapmaya kamuoyu, çıkar grupları ve iş dünyası zorlayabilir. Siyasetçi kendi politik pozisyonunun bekası için bu baskıya uyar ya da uymaz. Onun temel motivasyonu kişisel ikbalidir.
Harari’nin de vurguladığı gibi matbaa devrimi beraberinde sadece bilimsel keşifleri getirmedi, cadı avlarını ve din savaşlarını da mümkün kıldı. Sanayi Devrimi’ne uyum sağlamak ve ona uygun bir düzen kurabilmek emperyalizm ve Nazizm gibi süreçleri doğurdu. Gazete ve radyo istasyonları demokrasiler kadar, totaliter rejimler tarafından da istismar edildi. Yapay zekâ devrimi de bizi benzer deneyimlere sürüklediğinde sonucun maliyetlerinin çok daha büyük olma potansiyeli var. Yapay zekânın icadı, potansiyel olarak matbaanın, telgrafın hatta yazının icadından çok farklı bir seviye, zira bu yeni teknoloji kendi başına karar verip, kendi düşüncelerini üretebiliyor. Üstelik henüz emekleme aşamasında. Gelecekte ordulardan dinlere kadar tüm ağlar, verileri insanlardan farklı şekilde işleyecek farklı yapay zekâlarla muhatap olacak. Bu durum istesek de istemesek de, aileden iş örgütlerine, devletlerden kurumsal dinlere kadar tüm organizasyon yapılarını baştan aşağı değiştirecek…
O zaman en başta Harari’nin sorduğu sorulara dönme zamanı. Bilge insan denilen Homo Sapiens neden bu tanımlamanın içini bir türlü dolduramıyor? Keşiflerimiz, icatlarımız ve destansı fetihlerimize rağmen niçin devamlı bir varoluş krizinin içinde kendimizi buluyoruz? Neden acı çekiyor ve çektiriyoruz? Birçok konuda bilgi sahibi olduğumuz halde niçin bir türlü bilge olamıyoruz? Ve neden insan toplulukları merhamet, sevgi, alçakgönüllülük gibi grubu bir arada tutan duygulara fazlasıyla sahipken gücü daima aralarındaki en kötülere teslim etmekte? Harari burada suçu insan doğasına değil, onun kurduğu ve çok fazla güç ancak çok az bilgelik üreten bilgi ağlarına yüklüyor.
Harari’nin ve yapay zekâ konusunda kötümser olanların en büyük korkusu, ileride de hala bu soruları soruyor olmamız. Ya da belki gelecekte soracak kimselerin kalmayacak olması… Dört milyar yıl boyunca, karmaşık mutasyonlar ve sayısız telafi mekanizmalarıyla canlı hayatı nihayetinde insan evrimine yol açmıştı. Şimdi, üstelik sicili hiç temiz olmayan o insan, tarihte ilk defa inorganik bir zekâ yarattı. Bunun bir hata mı yoksa yaşamın evriminde umut dolu yeni bir safha mı olduğunu belirleyecek olan da yine kendisi olacak.
Bu son önerme, büyük korkunun kaynağını sanırım açıkça ortaya koyuyor.