Simülasyon Teorisi 8 - Ahlaksızlık

Simülasyon Teorisi 8 - Ahlaksızlık

Önceki bölümde hiçbir uygarlığın simülasyon yapacak seviyeye gelememe ihtimalini ve bir ara bölüm ile de Great Filter kavramını konuşmuştuk. Bu bölümde ise Bostrom'un 2. seçeneğinden devam ederek, işin sebep ve ahlak boyutuna giriyoruz.


Serinin Tüm Bölümleri

  1. Öykücü Hayvan
  2. Antik Felsefede ve Dinlerde "Yalan Dünya" İnancı
  3. Kant, Algı ve Kuantum Harikalar Diyarı
  4. Bilimkurgu Tarihi
  5. Baudrillard'ın Simülakrası ve Matrix
  6. Putnam ve Kavanozdaki Beyin
  7. Bostrom ve Bilgisayardaki Beyin  (7.5: Fermi Paradoksu: Herkes Nerede?)
  8. Ahlaksızlık
  9. Bilimsel Kanıtlar
  10. Anlamsızlık

Neden Simülasyon?

"Belki de bilinç simülasyonu yapabilecek uygarlıklar var ama bunu yapmamayı tercih ediyorlar" -Bostrom


Torunlarımız veya uzaylılar neden işi gücü bırakıp bizi simüle etmekle uğraşsınlar? Üstüme rahat bir şeyler giydim ve fantezilerimi listeliyorum:

  • Hayvanlı. Pardon, yani bir sanal hayvanat bahçesindeyiz. Belki türdaşlarımız kendi gezegenlerinde yaşamaya devam ediyorlar ama biz, başka bir yıldız sistemindeki bir sanal ortamdayız ve gelen geçen uzaylılar bize bakıp fıstık atıyorlar.
     
  • Komşu uygarlığın, işgal hazırlığı için kullandığı bir askeri simülasyonuz. İşgalden sonra bizi daha iyi asimile edebilmek için bir ön çalışma yapıyorlar.
     
  • MS 2200'deki bir tarih öğrencisinin doktora teziyiz (dönem tarihi araştırıyor).
     
  • MS 2200'deki bir psikoloji öğrencisinin doktora teziyiz (kişiye özel simülasyonla sadece bizim bilincimizi araştırıyor, kalan her bilinç düşük kaliteli simülasyon).
     
  • Bir sosyoloğun "TED konuşması" da olabiliriz, dinleyiciler hayatımızı hızlandırılmış biçimde algılıyorlardır. 
     
  • Bu bir reality show ve milletin bizi izlemekten başka yapacak işi yok.
     
  • Interaktif bir oyundayız. Bir sürü zaman dilimi var, istediğine girip çıkabiliyor "gerçek" insanlar, Sim'ler ise figüran.
     
  • Dini bir rejimin karma veya tekamül simülasyonuyuz. Bu hayatta başarılı olursak (başarı artık neyse o dine göre), daha iyi bir simülasyona geçiyoruz, yoksa daha kötüsüne.
     
  • Uzaylılar gelmedi (Fermi Paradoksu halen ayakta yani) ama insanlık, yapay zekaya "evrildi". Şimdi de milyarlarca yıllık yalnızlığından sıkılıp bizi simüle ediyor.
     
  • Bizi bir yapay zeka simüle ediyor ama amaçsız ve bilinçsiz bir zeka bu. Bir simülasyon programının bozulması sonucu, tüm sistem kaynakları bizimki gibi milyonlarca simülasyon için harcanmış ama ortada bunu yöneten -yapay veya organik- bir bilinç yok. Belki o bilinçler haftasonu tatilindeler, belki de milyonlarca yıl önce o "aptal" yapay zeka tarafından öldürüldüler. Kaynaklar tükenene kadar böyle gidecek.


 

Önemli Olan Boyu Değil Süresi

Bu sebepler ne kadar saçma olursa olsunlar, uygarlık sayısı arttıkça veya simülasyon masrafı azaldıkça, illa ki gerçekleşecekler. Yani Fermi Paradoksu'nda bahsettiğimiz gibi, düzinelerce değil de binlerce uygarlık varsa, %99'u için saçma olan bir sebep, kalan %1'i için harika olabilir.
 

bostrom1.jpg


Dolayısıyla Bostrom'un 2. ihtimalini şu şekilde değiştirirsek daha ilginç olur: 

"Bilinç simülasyonu yapabilecek uygarlıklar var ama bunu uzun süreler boyunca yapmamayı tercih ediyorlar"

Bu değişiklik önemli, çünkü simülasyon olma ihtimalimizi asıl belirleyen şey makul sebeplerin sayısı değil, o sebeplerin neden olduğu simülasyon çağının uzunluğu. Bu gözle, yukarda saydığım maddelere tekrar bakın, hepsi geçici sebepler. İşgaller biter, hayvanat bahçeleri kapanır, eğlencenin şekli de değişir. Düşünün, Westworld tarzı bir simülasyon, bir uygarlığı ne kadar süre eğlendirebilir ki?

Şimdi bile her şeyin modası en fazla 5-10 senede geçiyor. Klasik müzik diye dinlediğimiz bestelerin çoğu en fazla 300 senelik. İleri bir uygarlık, muhtemelen eğlence için çok daha direkt metodlar bulacaktır (saf zevk veren nörokimyasallar veya bilinci sanal ortama aktarıp, o zevki 1000 katına çıkarabilecek bir sanal uyarıcı).

Aynı şekilde bilimsel deneyler de bir gün sona erer. Diyelim Andromeda galaksisindeki ileri uygarlık atalarını simüle etti, bir milyon sene içinde de öğreneceğini öğrenip fişi çekti. Bandromeda galaksisindeki ilkeller ise en az dört çocuk yapa yapa çoğaldılar, 500 trilyon nüfusa ulaştılar. Bizim şimdi hangi zaman diliminde ve hangi galakside olmamız daha olası? Bunu hesap etmek için, tüm zamanlardaki toplamı düşünmek gerekir. İntegraller fora!
 

popcount.jpg

     

    Acı Yok Rocky

    Bir simülasyonun süresini kısıtlayacak veya onu baştan engelleyecek en ilginç sebep ahlaki gerekçeler olmalı.

    Bugün garajınızda zeki bir robot yarattığınızı ve birkaç dakika içinde robotun bunalıma girdiğini düşünün. Bunu gördükten sonra, ikinci bir robot yaratır mısınız? Tanrılarımız da bu seçimle yüzleştiler. Ve acı çekebilen insanlara bakıp, "en iyisi bunlardan 108 milyar tane daha yaratayım" dediler. Üstelik 2100'e kadar fazladan bir 50 milyar daha ekleyecekler. 

    Kötülük Problemi ile alakalı bir konu bu. Eğer ben bir simülasyon yaratıyor olsaydım, içindekileri farkındalık ve qualia sahibi yapmazdım. Bu sayede onları sonsuza kadar istediğim şekilde kullanabilirdim. Black Mirror'ın USS Callister bölümünü hatırlayın: Gemideki aktörlerin gerçek bilinçler yerine, Turing Testi'ni geçebilen sanal bilinçler olmaları çok daha sorunsuz olurdu.

    Farkındalık ve qualia gerektiren simülasyonlarda dahi, gerek fiziksel gerekse ruhsal acı hissi bir tabu olmalı. İleri bir uygarlık için, günün %99'ında zevk ve sadece %1'inde acı duyan bir varlık yaratmak bile kabul edilemez olabilir. Bir başka deyişle, bizim Tanrılarımızı "ahlaksız" bulabilirler.

     

    Zevk de Yok Rocky

    Bu madalyonun öteki yüzü de mutlak bir hedonizm. Yani belki %100 zevk ve huzur dolu bir simülasyon yaratmak da ahlaksız sayılacaktır.

    Biz uyuşturucu kullanmayı, genelde pratik sonuçları yüzünden ahlaksız buluyoruz. Yani bir eroinmanın sağlıksız görüntüsüne, işinden atılmasıa, ailesinden para çalmasına, hapislerde çürümesine bakıyoruz. Ama duyduğu saf zevkin kendisinde bir sorun görmüyoruz. O zaman size iki katlı bir senaryo:

    1. Kendinizi zevk dolu bir simülasyona bağlar mısınız, bedeniniz bir köşede hayat destek ünitesine bağlıyken? Bu tablo size pek çekici gelmeyecektir muhtemelen, çünkü hayattan çekiliş içeriyor. Bir şeyleri yapmayı bırakıp, sadece onu tecrübe etmeye odaklanıyor.
       
    2. Peki bir simülasyon içinde sadece safi zevk tecrübe edecek bir Sim yaratır mısınız? Bu senaryoda iş güç para manasız şeyler zaten. Sadece bir bilincin varoluşu ve herhangi bir uyuşturucunun verebileceğinin binlerce katı bir zevk var. 

    Benim tahminim, bu ikinci tip senaryolar da bir süre sonra yasaklanacaktır. Çünkü bir Sim'e acı çektirirken elimizde olan kontrolün aynısı, bu durumda da var. Yani ahlaksız olarak görülecek şey, mutlak kontrol kavramının kendisi.

     

    İntihar Hakkı

    Kontrol kavramından devam edelim. Rick and Morty'deki "tereyağı robotu"nun tek derdi bunalıma girip acı çekmesi değil. Asıl kötüsü, bu bunalımdan çıkamayacağını anlıyor. İpler elinde değil. Tıpkı bizim gibi.

    - What is my purpose?
    - You pass butter.
    - ....Oh my God!
    - Yeah, welcome to the club, pal.

    İntihar pratik bir çözüm değil, çünkü evrim sürecinde kendi kendini yoketmemeye programlanmışız. Ola ki bu programlamayı aşıp intihar ettik, bu İslam'a göre büyük günah, yani "cehennem" denen daha da acı verici bir gerçekliğe transfer oluyoruz. Reenkarnasyon inancına göreyse, intihar sonrası aynı gerçekliğe daha kötü bir seviyeden tekrar başlıyoruz (bir bilgisayar oyununda ölünce önceki level'a geri dönmek gibi). İki durumda da kaçış yok.

    Bir bilgisayar simülasyonunda intihar eden bir Sim'in de kaderi benzer. Yokolması mümkün değil, zira bilinci hafızada depolanmış olacak. Belki de bir debugging programında yeniden canlandırılacak -sanal bir psikoloğa gitmek gibi- ve orada daha fazla bunalıma girecek.

    İleri bir uygarlığın ahlakına göre, acının veya zevkin varlığı kadar, intihar hakkı da önemli olabilir. Ölmeye iznimiz olmalı.
     

    bane.jpg

    "When Gotham is ashes... then you have my permission to die"

    --Bane

     

    Fişi Çekmek

    Bu sorunların aynadaki aksi, simülasyonu bir gün kapatacak zorunda olmamız. Bir noktada eğlencemiz veya deneyimiz bitecek ve yarattığımız Simler ölecekler. Tek tek değil, tüm kültürleriyle beraber yokolacaklar.

    Daha şimdiden şempanze haklarını mahkemelerde tartışıyoruz, Suudi Arabistan reklam için de olsa dandik robotlara vatandaşlık veriyor (bunu eleştiren bir yazı), bunların aynılarını simülasyonlardaki bilinçler için de yapacağız. Koca bir sanal gezegenin fişini çekebilir misiniz deney bitti diye?

    Bunu yapabilirsek, gerçek hayatın değeri de azalmaz mı? Farkındalık sahibi Sim'lerin trilyonlarcası çat diye ölebiliyorlarsa, o bilincin aynısına sahip gerçek insanları öldürmek de bir tabu olmaz. 

    Hatta eminim, kendi gerçekliklerinin de acilen kapatılması gerken bir simülasyon olduğunu savunan dinler ortaya çıkar, takipçilerini intihara veya katliama teşvik ederler. Ancak dini bir törenle ölen ve öldürülen Sim'ler gerçeğe ulaşacak, gerçek bir ruh ile ödüllendirileceklerdir mesela. Jonestown'da topluca intihar eden 918 kişi gibi özgürleşmek isteyecekler. Fişi çekmek bir kere normalleşti mi, bu tip senaryoların sonu gelmez.

    ***

    Çocuk yapma kararı da, fişi geciktirmeli olarak çekmek değil mi? 

    Düşünün, bir ihtimal acı çekeceğini, kesin olarak da öleceğini bile bile, bir bilinç meydana getiriyorsunuz. Evrim açısından önemli olan bilincin devamı değil genlerin devamı, bilinç o genleri yayan sistemin bir yan etkisi sadece. Ama bu yan etki o kadar gelişmiş ki, çocuklarımız da eninde sonunda ölecekleri gerçeğini farkedecekler ve bir sonraki nesil için aynı seçimle yüzleşecekler. Onları bu kararla yüzleştirmek doğru mu?

    Belki bizi simüle edenler, bu korkunçluğu azaltmak için simülasyona dinleri ve ahiret inancını soktular. Ve bunun uzun vadede çözüm olmadığını gören her ileri uygarlık, "çocukları" olarak gördükleri Simleri bu korkunçlukla yüzleştirmeyi ahlaksız bularak, tüm simülasyonlara genel bir yasak getirdi.
     

     

    İşkence

    Şu ana kadarki sorunlar "normal operasyon parametreleri" içinde olan sorunlardı. Bir de gerçekten sorunlu simülasyonları düşünün.

    Yıl 2050, torunumuzun bilgisayarında 1 trilyon Sim yaşıyor, hepsinin bir dereceye kadar özgür iradesi, hisleri, planları var. Sonra bu gerzek torun, çükünü 5 santim büyüteceğini iddia eden bir emaile tıklıyor ve bir virüs indiriyor. Bu, özel bir virüs. Bilgisayarı veya simülasyonu yoketmiyor. Onun yerine, içindeki Simlere maksimum işkence çektirmeye programlı. Belki bu virüsü yazanlar bir grup psikopat. Belki de simülasyon karşıtı dini fanatikler.

    Acı dediğimiz şey beyinde olduğu için, onu manipüle ederek, günlük hayatta karşılaşabileceğimiz acının yüzlerce katını yaşatabiliriz bir Sim'e.  23 sene boyunca komadayken bilinci açık olan adam aklıma geliyor. Simülasyonun zaman ayarını yavaşlatarak, herkesi böyle bir zindanda milyonlarca sene yaşatmak mümkün. İşin içine fiziksel acı hissinin girmesine bile gerek yok.

    İlk elektrik kesintisinde, ilk kod hatasında, ilk virüs saldırısında  sanal soykırıma veya işkencelere uğrayacak trilyonlarca hayat varken, %0.000001'lik bir risk bile fazla. Sırf bu gerçek, gelişmiş ırkları simülasyon yaratmaktan alıkoyabilir.


    ***
     

    Ahlakın Evrenselliği

    Herhangi bir yasağın uygulanması için ne gerekiyor? Öncelikle ahlak kavramı gerekiyor.

    Eğer günün birinde zeki uzaylılarla karşılaşırsak, iletişim kurmak için kullanacağımız en iyi yolun matematik olacağında muhtemelen hemfikiriz. Buna rağmen matematiğin evrenselliği bir tartışma konusu.

    Matematiğin durumu buyken, ahlak gibi, insanın şartlarına çok daha bağlı bir olgunun, başka canlılar tarafından da paylaşılacağını düşünmek bence safça. Onlar kötünün ve iyinin ötesinde olabilirler. 

    Kendi ufak tarihimizde bile ahlak anlayışımız bu kadar değişim geçirmişken, aramızda milyonlarca yıl ve galaktik mesafeler bulunan türlerin bu soruları aynı şekilde tartışacaklarını sanmıyorum.

     

    Garajımdaki Ejderha Simülasyonu

    Her uygarlığın benzer bir ahlak anlayışı olsa bile, bir simülasyon yasağını uygulayabilmek için iki şart var:

    1. Simülasyon çok masraflı bir teknoloji olmalı.
    2. Aşırı merkeziyetçi bir ekonomik ve siyasi yapı olmalı.

    Örneğin bugün insan klonlamak hemen her yerde yasak. Peki bu yasakların delinmeden sonsuza kadar sürebileceğine ne kadar ihtimal veriyorsunuz? Önümüzdeki 50 sene boyunca hiç insan klonlanmayacağına bahse giriyor musunuz mesela?

    Eğer herkes garajında bilinç simülasyonu yapabilirse, en sıkı ahlaki engeller ve kanuni yasaklar bile %100 uygulanamaz. Ve nasıl ki tek bir yeraltı sığınağında Dünya'yı yokedecek kadar kitle imha silahı üretilebilir, tek bir sunucu odasında da sonsuz sayıda bilinç yaratılabilir ve bizim de Sim olma ihtimalimiz de artar. Bu nedenle simülasyon teknolojisinin ucuzlamaması şart.

    ***

    Daha kesin bir çözüm olarak, kaynakların ve karar mekanizmalarının tek elde toplanması bile gerekebilir. Nitekim bugün çok pahalı olan bir teknoloji düşünün (nükleer silahlar, AI, vs). Bunları yapabilecek aktör sayısı fazla. Yüzlerce devlet, yerel hükümet ve uluslararası şirket var. Bill Gates hobi olarak, dandik bir muz cumhuriyetine gidip kitle imha silahları geliştirebilir mesela.

    Bu nedenle, herhangi bir ahlaki normu %100 uygulayabilmenin tek gerçekçi yolu, %100 totaliter bir rejimden geçiyor. Star Trek'teki Borg'lar gibi bir sürü aklı (hive mind) veya bir süper yapay zeka (ASI) bu tarife uyuyor. Belki de her ileri uygarlık, ister istemez totaliterizme kayıyordur zamanla.

    borg.jpg

    Resistance is futile

     


    Evren Simülasyonu ve "Hayat Oyunu" 

    Bu ahlaki engellerin ötesinde olan ve benim aklıma epey yatan bir senaryo var: Evren simülasyonları.

    Bunu baştaki listeye bilerek eklememiştim, burada açıklayayım. Bostrom, ancestor simulation fikriyle kendini fazla kısıtlıyor. Niye sadece atalarımızı veya bildiğimiz ırkları simüle ediyor olalım ki? Simülasyonun hedefi bilinçler veya kültürler değil, çok daha temel seviyede olabilir. Sadece fizik kanunlarını ve matematiksel sabitleri belirleyip 15 milyar yıl süren bir galaksi simülasyonu yapılmıştır mesela.

    ***

    "Basit kurallar sonucu doğan karmaşık sonuçlar"a en klasik örneği, Conway'in yarattığı Game of Life. Aşağıdaki videoda değişik versiyonlarının bir kolajı var (benim gibi aşırı epik müziklere karşı alerjiniz varsa sesi kısın). Örüntüler giderek karmaşıklaşıyor ama sadece 4 kural var:

    • Her piksel canlı bir hücre. 
    • İkiden az canlı komşuya sahip her hücre yalnızlıktan ölüyor.
    • Üçten fazla komşuya sahip canlı hücrelerse aşırı kalabalıktan ölüyor.
    • İki ya da üç canlı komşuya sahip pikseller üreme yoluyla canlanıyorlar.


    Başlangıc şartlarına bağlı olarak, kısa sürede, sanki bir mühendis tarafından tasarlanmış gibi duran karmaşık yapılar ortaya çıkıyor. Zaten Kaos Teorisi gereği, sistem başlangıç şartlarına fazla hassas ise, sonuçları önceden tahmin etmek imkansıza yakın. Yani yeterince kapsamlı her simülasyon, bizim gibi sürprizlerle dolu olmalı (Hayat Oyunu'nun biraz daha somut bir versiyonu için, 25 yıl öncesinden selam veren şu Evolved Virtual Creature'lara bakın)

    Dolayısıyla rastgele ortaya çıkmış milyonlarca uygarlıktan biri olabiliriz. Yani birilerinin bizi yaratması için, kültürümüzü ve biyolojimizi en ince ayrıntısına kadar hesaplamış olmasına gerek yok. Bizden bir şey beklemelerine de. Galaksilerdeki figüranlar, log dosyalarındaki detaylarız belki de. Herhangi bir ahlaki engel, böyle bir projeye kalkışanlara ya çok yabancı kalacak ya da olası bilimsel buluşların değeri karşısında önemsiz görülecektir.

    Bence bu tip bir evren simülasyonunda olma ihtimalimiz, "türümüze özel" bir simülasyonda olma ihtimalinden çok daha fazla. Çünkü benzer evren simülasyonlarının yan ürünü olan milyonlarca zeki ırk, bizim şu anda yaptığımız muhabbeti yapacaklar. Diyelim ki bunların arasından 100 tanesi kendi simülasyonlarını yapmak istesin. 90'ı ancak ancestor simulation yapabilecek ama kalan 10 tanesi de kendi evren simülasyonlarını yapabilecek. Ve onların yarattıkları Simler, diğer 90 uygarlığın Sim sayısından katbekat fazla olacaktır.

    Muhtemelen şu anda böyle bir evren simülasyonundayız.
     

    time2.jpg



    Gelecek bölümde, ahlak muhasebesi ve olasılık hesabı yapmayı bırakıp, bir simülasyonda olduğumuzun sağlamasını somut yollardan arayacağız. Elle tutulur bilimsel kanıtlarımız var mı?


    Simülasyon Teorisi 9 - Bilimsel Kanıtlar

    Simülasyon Teorisi 9 - Bilimsel Kanıtlar

    Fermi Paradoksu: Herkes Nerede?

    Fermi Paradoksu: Herkes Nerede?