Simülasyon Teorisi 8 - Ahlaksızlık
Önceki bölümde hiçbir uygarlığın simülasyon yapacak seviyeye gelememe ihtimalini ve bir ara bölüm ile de Great Filter kavramını konuşmuştuk. Bu bölümde ise Bostrom'un 2. seçeneğinden devam ederek, işin sebep ve ahlak boyutuna giriyoruz.
"Belki de bilinç simülasyonu yapabilecek uygarlıklar var ama bunu yapmamayı tercih ediyorlar" -Bostrom
Neden Simülasyon?
“Neden tercih etmezler”den önce “neden edebilirler”i, yani işi gücü bırakıp bizi simüle etmekle uğraşmalarının olası sebeplerini düşünelim. Üstüme rahat bir şeyler giydim ve fantezilerimi listeliyorum:
Hayvanlı. Demek istediğim, bir sanal hayvanat bahçesindeyiz. Fermi Paradoksu’nda, uzaylıları görmeme sebeplerinden biri, tüm gezegenimizin bir tür doğal park veya sit alanı ilan edilmiş olma ihtimaliydi. Bunu simülasyona uyarlarsak, belki biz, başka bir yıldız sisteminde bir sanal ortamdayız ve gelen geçen uzaylılar bize bakıp fıstık atıyorlar.
Komşu uygarlığın, işgal hazırlığı için kullandığı bir askeri simülasyonuz. İşgali minimum kayıpla atlatmak veya sonrasında bizi daha iyi asimile edebilmek için böyle bir ön çalışma yapıyorlar. Dolayısıyla biz aslında gerçek insanlarla aynı değiliz, sadece onların birer yakınsamasıyız.
İşgal senaryosunun bir versiyonu, bu simülasyonun bir test oluşu. The Day the Earth Stood Still filminin yeni halini düşünün: Belki yaşam çok nadir ve biz gezegenin yaşamı destekleme kapasitesini ne kadar bozacağız, güvenli bir sanal ortamda bunu test ediyor “tanrılarımız”. Bizim için binlerce senelik bir tarih, onlar için hızlandırılmış bir simülasyon, yani zaman anlayışımızın üstündeler. Eğer testi geçemezsek, ebediyen cezalandırılacak mıyız? Hayır, sadece gerçek gezegendeki gerçek medeniyetimiz yok edilecek.
Ata simülasyonlarından bahsetmiştik: Kendi geleceğimizdeki bir tarih öğrencisinin doktora teziyiz (dönem tarihi araştırıyor) veya bir psikoloji öğrencisinin teziyiz (kişiye özel simülasyonla sadece bizim bilincimizi araştırıyor, kalan her bilinç düşük kaliteli simülasyon).
Bir sosyoloğun "TED konuşması" da olabiliriz, dinleyiciler hayatımızı hızlandırılmış biçimde algılıyorlardır.
Bu bir reality show ve milletin bizi izlemekten başka yapacak işi yok. Öyle sıkıcı bir gelecek var.
Interaktif bir oyundayız. Bir sürü zaman dilimi var, istediğine girip çıkabiliyor "gerçek" insanlar, Sim'ler ise figüranlar ve felsefi zombiler.
Teokratik bir rejimin karma veya tekamül simülasyonuyuz. Bu hayatta başarılı olursak (başarı artık neyse o kültüre göre), daha iyi bir simülasyona geçiyoruz, yoksa daha kötüsüne.
Uzaylılar gelmedi (Fermi Paradoksu halen ayakta yani) ama insanlık, yapay zekaya "evrildi". Şimdi de milyarlarca yıllık yalnızlığından sıkılıp bizi simüle ediyor. Başka ne yapacak? Verimsiz tartışmalara giremeyen, her şeyi kusursuz biçimde hatırlayan, kusursuz biçimde akıl yürüten ve fikir ayrılıklarına düşemeyen bir medeniyet, ömrünü nasıl tüketir başka? “Uzayı keşfetmek” diyeceğiz ama o keşifin de belki %99.9’u boş boş beklemek.
Bizi bir yapay zeka simüle ediyor ama amaçsız ve bilinçsiz bir zeka bu. Bir simülasyon programının bozulması sonucu, tüm sistem kaynakları bizimki gibi milyonlarca simülasyon için harcanmış. Ortada bunu yöneten -yapay veya organik- bir bilinç yok. Belki o bilinçler haftasonu tatilindeler, belki de milyonlarca yıl önce öldürüldüler. Kaynaklar tükenene kadar böyle gidecek. Eğer kaynaklar yenilenebilir ise, bulundukları sistem tümden çökene kadar, entropi yüzünden böyle gidecek (tabii o evrende entropi varsa).
Önemli Olan Boyu Değil Süresi
Bu sebepler saçma olabilirler. Ama onları yapabilecek uygarlık sayısı arttıkça illa ki gerçekleşecekler. Yani Fermi Paradoksu'nda bahsettiğimiz gibi, galakside birkaç tane değil de binlerce uygarlık varsa, %99'u için saçma olan bir sebep kalan %1'i için geçerli olabilir.
Dolayısıyla Bostrom'un 2. ihtimalini şu şekilde değiştirirsek daha ilginç olur:
"Bilinç simülasyonu yapabilecek uygarlıklar var ama bunu yeterince uzun süre yapmamayı tercih ediyorlar"
Bu değişiklik önemli, çünkü simülasyon olma ihtimalimizi asıl belirleyen şey makul sebeplerin sayısı değil, o sebeplerin başlattığı simülasyon çağının uzunluğu. Bu gözle, yukarda saydığım maddelere tekrar bakın, aslında hepsi geçici sebepler. İşgaller biter, hayvanat bahçeleri kapanır, eğlencenin şekli de değişir. Westworld’e benzeyen ama sanal olan bir eğlencenin modası ne kadar sürebilir ki? Böyle bir uygarlık, çok daha doğrudan zevk sağlayan eğlence metodlarına geçmez mi? Daha da önemlisi, zevkin ve eğlencenin ötesine geçmez mi?
Aynı şekilde, tıpkı eğlence gibi, o bilimsel araştırmaların ve doktora tezlerinin manası da yitebilir bir gün. Andromeda galaksisindeki ileri bir uygarlık, atalarını simüle etse, bu sonsuza kadar sürmeyecek değil mi, belki 100 sene içinde öğreneceklerini öğrenip fişi çekecekler.
Bu noktada, serinin başında bahsettiğim ve son zamanlarda Elon Musk’ın da gündeme taşıdığı o basit olasılık hesabı biraz tepetaklak oluyor. Yani evet, bir simülasyon mümkünse, Andromeda’daki uygarlık katrilyonlarca sanal bilinç üretilebilir ama süresi kısa olur. Öte yanda, Bandromeda galaksisindeki ilkel bir uygarlık ise, hiçbir zaman simülasyon teknolojisine ulaşamayıp, en az dört çocuk yapa yapa çoğalacak ve milyonlarlarca yıl boyunca trilyonluk bir nüfusta seyredecekler. Ve bu seviyedeki bir sürü tür galaksiye dağılmış olabilir. Bizim şimdi hangi zaman diliminde ve hangi galakside olmamız daha olası? Bunu hesap etmek için, tüm zamanlardaki toplamı düşünmek gerekir. İntegraller fora!
Acı Yok Rocky
Bir simülasyonun süresini kısıtlayacak veya onu baştan engelleyecek sebepleri düşünüyorsak, sıkıntıya veya ilgisizliğe kıyasla daha ilginç bir yaklaşım ahlaki gerekçeler olmalı.
Bugün garajınızda zeki bir robot yarattığınızı ve birkaç dakika içinde robotun bunalıma girdiğini düşünün. Bunu gördükten sonra, ikinci bir robot yaratır mısınız?
Bizim yaygın dinlerimize bakarsak, Tanrılarımız da bu seçimle yüzleştiler ve acı çekebilen insanlara bakıp, "en iyisi bunlardan 108 milyar tane daha yaratayım" dediler. 108 milyar, şu ana kadar hayata gelmiş tahmini insan bilinci sayısı. Üstelik 2100'e kadar fazladan bir 50 milyar daha ekleyecekler.
Kıdemli bir takipçiyseniz, zaten şıp diye bunun Kötülük Problemi ile alakalı olduğunu görmüşsünüzdür. Eğer ben bir simülasyon yaratıyor olsaydım, içindekileri farkındalık ve qualia sahibi yapmazdım. Felsefi zombilerden oluşan bir simülasyon yapar, bu sayede onları sonsuza kadar istediğim şekilde kullanabilirdim. Farkındalık gerektiren simülasyonlarda da acı hissi bir tabu olmalı. İleri bir uygarlık için, günün %99'ında zevk ve sadece %1'inde acı duyan bir varlık yaratmak bile kabul edilemez olacaktır diye düşünüyorum. Bir başka deyişle, bizim mevcut Tanrılarımızı gayet "ahlaksız" bulabilirler ve onlardan daha iyi davranmaya çalışırlar.
Zevk de Yok Rocky
Bu madalyonun öteki yüzü de mutlak bir hedonizm. Yani belki %100 zevk dolu bir simülasyon yaratmak da ahlaksız sayılacaktır. Bunu düşünmek biraz daha zor, o yüzden ağırdan alalım:
Çok etkili bir uyuşturucu hayal edin. Bunları kullanmayı genelde pratik sonuçları yüzünden ahlaksız buluyoruz. Yani bir eroinmanın sağlıksız görüntüsüne, işinden atılmasına, ailesinden para çalmasına, hapislerde çürümesine bakıyoruz. Ama duyduğu saf zevkin kendisinde bir sorun görmüyoruz. Tam da bu sebeple, uyuşturucuyu simülasyonla değiştirmek de pek çekici gelmeyecektir, çünkü bedeninizi bir köşede hayat destek ünitesine bağlıyken hayal edeceksiniz, hayattan çekiliş içeren bir tablo bu ve içgüdüsel olarak bir rahatsızlık yaratıyor. O zaman size bir senaryo:
Başka hiçbir şey içermeyen bir simülasyonda sadece safi zevk tecrübe edecek bir Sim yaratır mısınız? İş, güç, para, aile, sorumluluk, görev, hiçbiri yok. Sadece bir bilincin varoluşu ve herhangi bir uyuşturucunun verebileceğinin binlerce katı bir zevk var. Nedir cevabınız?
Benim tahminim, bu ikinci tip senaryolar da bir süre sonra yasaklanacaktır. Çünkü bir Sim'e acı çektirirken elimizde olan kontrolün aynısı, bu durumda da var. Yani ahlaksız olarak görülecek şey, mutlak kontrol kavramının kendisi aslında.
Sanal İntihar Hakkı
Rick and Morty'deki o "tereyağı robotu", amacının manasızlığını anlayınca bunalıma giriyor ve bu bir çıkış yolu göremiyordu. Kontrol sahibi değil. Tıpkı bizim gibi.
- What is my purpose?
- You pass butter.
- ....Oh my God!
- Yeah, welcome to the club, pal.
İntihar bir çıkış yolu mu peki? Yani en azından o şekilde kontrol sahibi olabilir miyiz?
Öncelikle bu pek pratik değil, çünkü evrim sürecinde kendi kendini yok etmemeye programlanmışız. Ola ki bu programlamayı aştık, o zaman ne oluyor? Serinin başlarına dönersek, bu dinlere göre büyük günah, yani "cehennem" denen daha da acı verici bir gerçekliğe transfer oluyoruz. Reenkarnasyon inancı da kurtarmıyor, çünkü o zaman da intihar sonrası aynı gerçekliğe daha kötü bir seviyeden tekrar başlıyoruz (bir bilgisayar oyununda ölünce önceki level'a geri dönmek gibi). İki durumda da bir çıkış yok. Zaten dinlerin bunu bu kadar tabu haline getirmeleri de, yani kültürün bu şekilde gelişmesi de, bizim biyolojik programımızın bir uzantısı.
Velhasıl, bir simülasyonda intihar edecek olan bir Sim'in de kaderi benzer. Yok olması mümkün değil; bilinci hafızada depolanmış olacak. Belki de genel simülasyona dönmeden önce bir debugging programında yeniden canlandırılacak -sanal bir psikoloğa gitmek gibi.
Toparlarsak, ileri bir uygarlığın ahlakına göre, acının veya zevkin varlığı kadar, intihar hakkı da önemli olabilir. Ölmeye iznimiz olmalı.
"When Gotham is ashes... then you have my permission to die"
--Bane
Fişi Çekmek
Bu sorunların aynadaki aksi, simülasyonu bir gün kapatacak zorunda olmamız. Yani simülasyondakilerin kontrolü olmaması bir yana, simülasyon ne kadar oto pilotta giderse gitsin, günün birinde fişini çekecek olmak demek, oradaki bilinçler üstünde sonsuz kontrol sahibi olmak demek. Başta da dediğim gibi, bir noktada o sanal eğlencemiz veya deneyimiz bitecek ve yarattığımız Simler ölecekler. Hem de tek tek değil, tüm kültürleriyle, yani tüm geçmiş nesillerinin toplam birikimiyle beraber yok olacaklar.
Biz daha şimdiden şempanze haklarını mahkemelerde tartışıyoruz. Efendime söyleyeyim, Suudi Arabistan -reklam için de olsa- dandik robotlara vatandaşlık veriyor (bunu eleştiren bir yazı), bunların çok daha ayrıntılı versiyonlarını, ilerde yaratacağımız simülasyonlardaki bilinçler için de yapacağımız kesin gibi. Koca bir sanal gezegenin fişini çekebilir misiniz deney bitti diye?
Bunu yapabilirsek, gerçek hayatın değeri de azalacaktır bence. Farkındalık sahibi Sim'lerin trilyonlarcası çat diye ölebiliyorlarsa, o bilincin bir benzerine sahip “gerçek” insanları öldürmek de bir tabu olmaz.
Hatta eminim, kendi gerçekliklerinin de acilen kapatılması gereken bir simülasyondan ibaret olduğunu savunan dini kültler ortaya çıkar, takipçilerini intihara veya katliama teşvik ederler. Onların inanışına göre ancak dini bir törenle ölen Sim'ler baz gerçekliğe ulaşacak, yaratıcılarıyla yüzleşecek ve gerçek bir ruh ile ödüllendirileceklerdir mesela. Jonestown'da topluca intihar eden 918 kişi gibi özgürleşmek isteyecekler. Simülasyonların fişini çekmek bir kere normalleşti mi, bu tip senaryoların sonu gelmez.
***
Aslen çocuk yapma kararımız da, fişi geciktirmeli olarak çekmek bir nevi.
Az veya çok, bir şekilde acı çekeceğini bildiğimiz, hadi onu geçelim, günün birinde kesin olarak öleceğini bildiğimiz bir bilinci hayata getiriyoruz. Benim açımdan, evrim açısından önemli olan bilincin devamı değil genlerin devamı, bilinç o genleri yayan fiziksel sistemin bir parçası sadece, ki çok gerekli bir parçası dahi değil. Ama bu yan etki o kadar gelişmiş ki, çocuklarının da eninde sonunda ölecekleri gerçeğini fark ediyor ve şu anda, bunun muhasebesini yapıyor. Günü geldiğinde, onları da benzer bir kararla yüzleştirmek doğru mu? Yani sadece kendilerinin değil, çocuklarının da bir gün öleceğini bile bile bu döngüye devam etmek.
Belki de bunun bir çözümü olmadığını gören her ileri uygarlık, "çocukları" olarak gördükleri Simleri bu korkunçlukla yüzleştirmeyi ahlaksız bularak, tüm simülasyonlara genel bir yasak getirdi.
İşkence
Şu ana kadarki sorunlar "normal operasyon parametreleri" içinde olan sorunlardı. Bir de gerçekten sorunlu simülasyonları düşünün.
Yıl 2050, torunumuzun bilgisayarında 1 trilyon Sim yaşıyor, hepsinin bir dereceye kadar özgür iradesi, hisleri, planları var. Sonra bu gerzek torun, Yeni Nijerya gezegeninde zengin bir general olduğunu iddia eden birinden gelen bir emaile tıklıyor ve bir virüs indiriyor. Bu virüsün ilk versiyonları bilgisayarı veya simülasyonu yok ediyordu ama yeni versiyonları çok daha tehlikeli: Sim içindeki bilinçlere maksimum işkence çektirmeye programlı. Belki bu virüsü yazanlar bir grup psikopat, belki de Simlere karşı “ırkçılık” yapan bir organik bilinç yanlısı militan grubu, belki de simülasyonu Tanrıya şirk koşmak olarak gören dini fanatikler.
Amaçları ne olursa olsun, eylemin sonucu tahmin bile edilemeyecek bir acı. Zira acı dediğimiz şey beyinde olduğu için, onu manipüle ederek, günlük hayatta karşılaşabileceğimiz acının yüzlerce katını yaşatabiliriz bir Sim'e. 23 sene boyunca komadayken bilinci açık olan adam aklıma geliyor. Simülasyonun zaman ayarını yavaşlatarak, herkesi buna benzer zindanlarda milyonlarca sene yaşatmak mümkün. İşin içine fiziksel acı hissinin girmesine bile gerek yok.
Dolayısıyla bu işin kırılganlığı fazla: İlk kesintide, ilk kod hatasında, ilk virüs saldırısında koca bir sanal soykırıma veya dayanılmaz işkencelere uğraması olası trilyonlarca bilinçten söz ediyorsak, %0.000001'lik bir risk bile fazla gelecekttir. Sırf bu gerçek bile, gelişmiş ırkları, simülasyon yaratmaktan alıkoyabilir.
***
Ahlakın ve Yasakların Evrenselliği
Tabii tüm bunları, bir ahlak anlayışının varlığı önkabulü üstüne inşa ediyoruz. Matematiğin evrenselliği bile tartışma konusuyken ahlakın evrenselliğini varsaymak sıkıntılı. Ben ahlakın insanla sınırlı olduğunu düşünmüyorum, zira Ahlakın Temelleri nde belli bir ahlak anlayışının hayvanlarda da olduğundan bahsetmiştik. Ama simülasyon kabiliyeti olan bir tür, artık kötünün ve iyinin ötesinde olabilir. Kendi ufak tarihimizde bile ahlak anlayışımız bu kadar değişim geçirmişken, aramızda milyonlarca yıl ve galaktik mesafeler bulunan türlerin bu soruları aynı şekilde tartışacaklarını sanmıyorum.
Her ileri uygarlığın benzer bir ahlak anlayışı olsa bile, herhangi bir simülasyon yasağını pratikte uygulayabilmek için iki şart var:
Simülasyon çok masraflı bir teknoloji olmalı.
Merkeziyetçi bir ekonomik ve siyasi yapı olmalı.
Örneğin bugün insan klonlamak hemen her yerde yasak. Peki bu yasakların delinmeden sonsuza kadar sürebileceğine ne kadar ihtimal veriyorsunuz? Önümüzdeki 50 sene boyunca hiç insan klonlanmayacağına bahse giriyor musunuz mesela?
Eğer herkes kendi garajında bilinç simülasyonu yapabilirse, en sıkı ahlaki engeller ve kanuni yasaklar bile %100 uygulanamaz. Ve nasıl ki tek bir yeraltı sığınağında Dünya'yı yok edecek kadar kitle imha silahı üretilebilir, tek bir sunucu odasında da sonsuz sayıda bilinç yaratılabilir. Dolayısıyla bizim de Sim olma ihtimalimiz de artar. Bu nedenle simülasyon teknolojisinin ucuzlamaması şart.
Hatta kaynakların ve karar mekanizmalarının tek elde toplanması bile gerekebilir. Nitekim bugün çok pahalı olan bir teknoloji düşünün (nükleer silahlar, AI, vs). Bunları yapabilecek aktör sayısı aslında epey fazla. Yüzlerce devlet, yerel hükümet ve uluslararası şirket var. Bill Gates istese, hobi olarak, bir muz cumhuriyetine gidip kitle imha silahları geliştirebilir mesela.
Bu nedenle, herhangi bir ahlaki normu %100 uygulayabilmenin tek gerçekçi yolu, %100 totaliter bir rejimden geçiyor. Star Trek'teki Borg'lar gibi bir sürü aklı (hive mind) veya bir süper yapay zeka (ASI) bu tarife uyuyor. Belki de her ileri uygarlık, ister istemez totaliterizme kayıyordur zamanla.
Resistance is futile
Evren Simülasyonu ve "Hayat Oyunu"
Bu ahlaki muhasebelerin ve pratik engellerin ötesinde, benim aklıma epey yatan bir senaryo var: Evren simülasyonları.
Bunu baştaki listeye bilerek eklememiştim, burada açıklayayım. Bostrom, ancestor simulation fikriyle kendini fazla kısıtlıyor. Niye sadece atalarımızı veya bildiğimiz ırkları simüle ediyor olalım ki? Simülasyonun hedefi bilinçler veya kültürler değil, çok daha temel seviyede olabilir. Sadece fizik kanunlarını ve matematiksel sabitleri belirleyip 15 milyar yıl süren bir galaksi simülasyonu yapılmıştır mesela. Biz de bu basit kurallardan doğan karmaşık yan sanayi ürünleri gibiyiz ve kendimiz dışında, kimsenin umrunda değiliz.
***
"Basit kurallar sonucu doğan karmaşık sonuçlar"a en klasik örneği, Conway'in yarattığı Game of Life. Aşağıdaki videoda değişik versiyonlarının bir kolajı var (benim gibi aşırı epik müziklere karşı alerjiniz varsa sesi kısın). Örüntüler giderek karmaşıklaşıyor ama sadece 4 kural var:
Her piksel canlı bir hücre.
İkiden az canlı komşuya sahip her hücre yalnızlıktan ölüyor.
Üçten fazla komşuya sahip canlı hücrelerse aşırı kalabalıktan ölüyor.
İki ya da üç canlı komşuya sahip pikseller üreme yoluyla canlanıyorlar.
Başlangıc şartlarına bağlı olarak, kısa sürede, sanki bir mühendis tarafından tasarlanmış gibi duran karmaşık yapılar ortaya çıkıyor. Zaten Kaos Teorisi gereği, sistem başlangıç şartlarına fazla hassas ise, sonuçları önceden tahmin etmek imkansıza yakın. Yani yeterince kapsamlı her simülasyon, bizim gibi sürprizlerle dolu olmalı (Hayat Oyunu'nun biraz daha somut bir versiyonu için, 25 yıl öncesinden selam veren şu Evolved Virtual Creature'lara bakın)
Dolayısıyla rastgele ortaya çıkmış milyonlarca uygarlıktan biri olabiliriz. Yani birilerinin bizi yaratması için, kültürümüzü ve biyolojimizi en ince ayrıntısına kadar hesaplamış olmasına gerek yok. Bizden bir şey beklemelerine de. Galaksilerdeki figüranlar, log dosyalarındaki detaylarız belki de. Herhangi bir ahlaki engel, böyle bir projeye kalkışanlara ya çok yabancı kalacak ya da olası bilimsel buluşların değeri karşısında önemsiz görülecektir.
Bence bu tip bir evren simülasyonunda olma ihtimalimiz, "türümüze özel" bir simülasyonda olma ihtimalinden çok daha fazla. Çünkü benzer evren simülasyonlarının yan ürünü olan milyonlarca zeki ırk, bizim şu anda yaptığımız muhabbeti yapacaklar. Diyelim ki bunların arasından 100 tanesi kendi simülasyonlarını yapmak istesin. 90'ı ancak ancestor simulation yapabilecek seviyeye gelecek ama kalan 10 tanesi de kendi evren simülasyonlarını yapabilecek kadar ilerleyecekler. Ve onların yarattıkları Simler, diğer uygarlıkların yarattıkları Simlerden katbekat fazla olacaktır.
Simülasyon içinde simülasyon oluştukça, kullanılacak sistem kaynakları azaldığından, her seviyedeki detay seviyesi düşecektir. Belki de biz gayet düşük çözünürlüklü böyle bir simülasyondayız.
Gelecek bölümde, ahlak muhasebesi ve olasılık hesapları yapmayı bırakıp, Bostrom’un üçüncü seçeneğine, yani “kesin bir simülasyondayız” ihtimaline odaklanıyoruz. Eğer durum öyleyse, bunu nasıl anlayabiliriz. Bir simülasyonda olduğumuzun sağlamasını somut yollardan nasıl ararız. Elle tutulur bilimsel kanıtlarımız var mı?
