Elon Musk vs Zuckerberg: Yapay Zeka Endişeleri
Sırf ünlü oldukları için ünlü olanların atışmalarına alışığız da, başrolde iki Silikon Vadisi devi olunca, çekirdek çitleyerek kavga izlemenin dayanılmaz bir çekiciliği var. Bizler gibi birbirilerine "trip atan", "ayar veren", "atar yapan" insanlar olduklarını hayal etmek rahatlatıcı olsa gerek. Milyarderlerin katıldığı bir reality show gibi.
Türkçe yayın takip etmiyorum ama Wired ve The Atlantic gibi yayınlarda, olayın magazinsel yanının ötesinde yazılar çıktı. Ben yine de, Nisan'daki Vanity Fair makalesini öneririm. Yapay zeka alanındaki önemli karakterleri tanıtan sürükleyici bir arkaplan.
Ben de bu yazıda, Zuckerberg'in temsil ettiği iyimser tayfanın fikirleri ile Musk tayfasının fikirlerini karşılaştıracağım.
***
Ne Dedi Ne Dedi?
Önce şu atışmayı anlatayım da rahat edeyim: Tony Stark, nam-ı diğer Elon Musk, Valiler Birliği toplantısına gidiyor. Evet, böyle bir birlik var, 50 ABD eyaletinin valilerinden oluşuyor. Biz "governor" kelimesini vali diye çeviriyoruz ama epey farklı mevkiler aslında. Vali atanır, governor seçilir. Vali vekildir, governor yönetici. Vali merkezi temsil eder (zaten Arapça "yakın bir koruyucu" demek), governor ise merkeze karşı bir denge unsuru. Kısacası governorların gerçek tabanları ve güçleri var; Arnold California valisiyken İngiltere'ninki kadar büyük bir ekonomi yönetiyordu.
Şimdi Musk hazır karşışına böyle bir grup almışken, "elektrikli arabalarımıza sübvansiyon verin, uzay roketi fabrikalarımıza vergi muafiyeti getirin, şehirlerinizi Hyperloop'la birbirine bağlayın" gibi sıkıcı şeylerden bahsetmek yerine, zamanını yapay zekanın tehlikelerine ayırdı ve bu araştırmaların denetlenmesini istedi. (Bizim muhtarlar toplantısında bunların konuşulduğunu hayal edin)
"Yapay veya doğal her türlü zekaya karşı mahallenizi koruyun."
Tabii valiler hemen yasa çıkaracak değiller. Yani ikna olmuş olsalar bile, bir valinin denetleme yasası çıkarması demek, araştırma paralarının komşu eyaletlere kaçması demek. Herhangi bir denetleme federal seviyede olmalı. Mesela bugün finansal alım satımların ezici çoğunluğunu insanlar değil, algoritmalar yapıyorlar ve bunları SEC denetliyor. Aksi halde New York'un izin vermediği bir algoritmayı, nehrin öte yanında New Jersey'deki sunucuna kurar, tüm işlemleri oraya yönlendirirsin.
Musk buradan bir eylem planı çıkmayacağını biliyor elbet, "insanoğlunun önündeki en büyük varoluşsal tehlike budur" lafının toplantıdaki ihtiyarlar arasında alay konusu olacağını da biliyor, ama önemli olan o platformu kullanarak konuya bir meşruiyet kazandırmak. Davos'ta, orada burada konuşabiliyorsan bu konuları, gerçekten bu işlerle uğraşanlara lafını dinletmek daha kolay olur.
***
Fikirler Değil Markalar
Zuckerberg ise bu valiler toplantısı ardından isim vermeden Musk'ı eleştirdi. Ona göre AI konusunda felaket tellallığı yapmak, acil gereken bazı gelişmeleri geciktireceği için büyük sorumsuzluk.
Şimdi bu karşıtlığı, başta linklediğim Wired makalesindeki gibi, tamamen marka çatışmasına indirgemek mümkün. Sonuçta Facebook, AI işine göbekten bağlı, özellikle reklam kişiselleştirme ve yalan haber filtreleme projeleri yüzünden. Tıpkı Google gibi, giderek bir AI şirketi haline geliyor. (Bakın, online reklam piyasasındaki yeni dolarların hemen hepsi bu iki şirkete gidiyorken, daha da kişiselleştirilmiş bir Internete yolaçacak her teknoloji için sınırsız fon mevcuttur)
***
Musk ise geçen yüzyıldaki "tycoon"ları andıran, kelimenin gerçek ve somut anlamıyla bir endüstri lideri. Kapitalizm savaşında AI bir muharebeyse, bu tartışmalar da markaların doğal cephelerini almalarından ibaret görülebilir.
Fakat ben bu yoruma hiç ikna olmadım. Özellikle Elon Musk açısından bakınca manasız. Ve benim için, samimiyetine dair en büyük kanıt şu soldaki varlık:
Westworld'den tanıdığımız bu kadın eski karısı. Ve anlattığına göre, gece geç saatlere kadar başbaşa yapay zeka muhabbetleri yapıyorlarmış. Yanında böyle biri varken yapay zeka konuşuyorsan, o işe gönülden inanmışsın demektir.
***
Zuckerberg'le de empati kurmak zor değil. Adam bu işin içinde ve her gün gerçek AI'ın ne kadar aptal olduğunu, biraz daha iyi bir halinin işleri ne kadar kolaylaştıracağını görüyor.
Hayat aşırı verimsiz karar mekanizmalarıyla dolu. Trafik ışıklarından bilet fiyatlandırmalarına, bütçe planlamalarından soğutma sistemlerine kadar her şey aşırı statik. Görece "aptal" bir yapay zeka yardımıyla dahi 10 kat daha iyi çözümler bulabiliriz.
(Bu arada "aptal AI" demişken, geçen gün Facebook'un chatbotlarının beklenmeyen bir şekilde, ayrı bir dil icat ettikleriyle ilgili haberler çıkmıştı. O işin perde arkası daha az sansasyonel gerçi ama "zamanlama manidar")
***
Sağlık alanına bakın: Sanki Madame Curie'nin çağdaşlarıymışız gibi, halen doktora bir film veriyoruz, o da oradaki piksellere gözünü kısarak bakıp "valla tümör olabilir, bir radyoterapi yapalım nolur nolmaz" diyor. Bir de bunun için haftalarca sıra bekleniyor. Deli oluyorum. Binlerce imaj dosyasını, her birine karşılık gelen teşhisi ve tedavi sonuçlarını öğret bir programa, sabaha Dünya'nın en iyi doktoru olur, tüm ülkenin kanser tanılarını bitirir.
İşin daha vahim yani, mevcut AI bile yeterince verimli kullanılmıyor. Taa 2013'te IBM'in Watson'ı, doktorlardan daha iyi kanser teşhisi yapıyordu.
Bakın o yazıda ne diyor: "Bir doktorun kararlarının sadece %20'si deneylerle ve kanıtlarla desteklenmiş pratiklere dayanıyor. Zira bırak geçmiş birikimleri öğrenmeyi, sırf yenilikleri takip edebilmesi için haftada 160 saatlik okuma yapmaları lazım".
Dolayısıyla doktorların akciğer kanseri tanı başarılarının %50 olmasına şaşmamalı. Watson'ın başarı oranı ise %90'dı. 2017'de niye hala bu iş kulağımıza bilimkurgu gibi geliyor?
Hadi diyelim bir manyak alanındaki her makaleyi okudu, bu sefer de verilerin arasında korelasyon kurması imkansız. En son teknolojiyle araştırmalar yapıyoruz ama bulunan verileri işlemek için kullanılan teknoloji hala taş devrinde: Biri alakalı bir araştırmayı hatırlayacak da, onu yapanları arayacak da, konferansta buluşacaklar da... En azından bir örnekte yine Watson imdada yetişmiş, bir sürü farklı araştırmada göze çarpan 1500 tane ayrı genin, ALS hastalığı ile olası ilişkisini tahmin edip sıralamış.
Zuckerberg gibileri bu gelişmelerin ağırlığına kızıyor, yarını iple çekiyorlar. Peki Musk, kendine gelen eleştirilere cevaben ne dedi?
"Mark'la bu konuları önceden konuşmuştuk, pek anlamıyor."
Onun derdi yarın değil, ertesi gün...
***
Çocukların Olmadığı Bir Disneyland
Bu alandakilerin çoğu, bir süper yapay zekayı kaçınılmaz olarak görüyorlar. Olası birkaç senaryo var:
- İnsanla birleşecek, onun tekamülü olacak (Ray Kurzweil, "singularity" rüyası)
- İnsanları bir evcil hayvan gibi görecek, bizi fındık fıstıkla besleyecek, iyi bakacak (Wozniak)
- Yahu en kötü fişini çekeriz, olur biter (LeCun)
- Kötü niyetli olmasa dahi, sırf programlandığı amacını yerine getirmek için galaksiyi mahvedebilir (Nick Bostrom, "paperclip maximizer" hikayesi)
- Kötü niyetli olsa dahi, hayatta kalmamızın en iyi yolu, kendi cephemizde bir yapay zekanın bulunması (Thiel, Hassabis)
- Oğlum deli misiniz, hepimiz öleceğiz (Hawking)
Kötümserden iyimsere, geleceğimize yön verenler...
Bu senaryolar hakkındaki düşüncelerimi kısa kısa anlatayım:
1) Kurzweil'ın dediği "birleşme" kısa vade için geçerli olabilir. Damarlarını nanobotların temizlemesi, beynin çiplerle geliştirilmesi, vs. Robocop olmak kolay iş. Ama gerçek bir süper AI, bir uzvumuz veya eşit ortağımız olamayacak kadar farklı. Bizim daha aydınlanmış bir insan olmak için bir sinekle birleşmeye ne kadar ihtiyacımız varsa, onun da bize o kadar ihtiyacı olacaktır.
***
2) "Şu ankinden daha iyi şartlarda yaşayacaksak, neden demode olmayalım, hatta düpedüz köle olmayalım?" ilginç bir soru. Zaten sürekli birileri tarafından yönetiliyoruz, çoğu da cahil ve kompleksli tipler, bari bu seferki düzgün olsun. Bu düşüncenin ilk sorunlu tarafı, aydınlanmış despotizmin öyle pek uzun süre aydınlık kalmaması (filozof Marcus Aurelius da Roma İmparatoruydu, ardılı Caligula da. İkinci Frederick de birçok Almanı yönetiyordu, ardılı Hitler de).
İnsanın olmadığı ama şahane işleyen bir Dünya'yı, çocukların olmadığı bir Disneyland'a benzetiyor Bostrom. İkinci sorun da, rejimlerin geri dönüşü var, ama tüm ipleri eline almış ve hata yapmayan bir yapay zekanın dönüşü olmayabilir. Çekecek bir fişi yok ki bunun.
***
3) Gerektiğinde çekilecek bir fiş (killswitch) koyabilmek, Musk'ın OpenAI kurumunun da, ilgili herkesin de üzerinde yoğunlaşacağı en somut sigorta. Kendini değiştirebilen bir mekanizmayı, killswitch'ini görmemeye, görürse onu bozmamaya nasıl ikna edebilirsin? Hiç değişmeyen bir kodu (prime directive), sürekli değişim üzerine dayalı bir sisteme yedirmek gayet zor. Kıçınıza bomba taktıklarını düşünün, uzanıp çıkabilirsiniz ama çıkarmamaya ikna ediliyorsunuz. Dahası, sinirlenip kendinizi de patlatmamanız lazım (yapay zeka intiharları nasıl da leziz bir konu).
***
4) Sanırım Musk'ı da en çok korkutan fikir bu. Amacı ataç üretmek olan bir program, yeterince başarılı olursa her yeri ataca çevirebilir. "Kötü" olmasına gerek yok. Kendi amacını sorgulamayacak kadar "aptal" ama o amacı gerçekleştirebilmek için her yeri hackleyebilecek, her insanı manipüle edebilecek, inanılmaz karmaşık bir planı devreye sokabilecek kadar zeki. Şu anda bu imkansız gözüküyor ama Kurzweil'in iple çektiği o nanobotların hacklendiği günleri görmemiz olası. (Black Mirror'ın yapay arılarla ilgili bölümünü hatırlayın... Black Mirror izlemiyorsanız, izlemeyi hatırlayın)
Böyle bir varlığın, kendini koruyup fişini çektirmemesi için, bir farkındalık sahibi olmasına dahi gerek yok. Bilinçsiz bir süper-AI + tek bir kod hatası = absürd uçlara varan bir felaket.
***
5) "İyi, kötü ve çirkin" bir sürü yapay zekanın aynı anda varolması en başta kulağa gayet doğal geliyor. Yani Google gibi şirketler bu işe öncülük edecekler, askeriye devreye girip kendi modellerini yaratacak, bir noktada da herhangi bir garajda yaratılabilir hale gelecek. Her birinin doğası da farklı olur.
Gelgelelim bence şu senaryo daha olası: İlk yaratılan gerçek AI, insan zekası eşiğini geçti mi, çok kısa sürece binlerce kat daha becerikli ve zeki bir hale gelebilir. Geometrik gelişmelerin gücünü tam kavrayamıyoruz, tüm hayatımız lineer tecrübelere dayalı olduğundan, fakat bir düşünün: Maymunla insan arasında milyonlarca yıllık gelişme varken, insanla "Tanrı" arasındaki o çok daha büyük mesafeyi sadece birkaç saatte katetmek mümkün. Sabah "doğan" bir zekanın, akşama tüm Internete yayılması ve kendisine ilerde rakip olabilecek her yapay zekayı engellemesi gayet olası bir ihtimal.
Yani Internet, çölün ortasındaki bir vaha gibi. Oraya ilk hakim olan aslan sürüsü daha iyi besleniyor. Rakip aslanlar zayıf kaldıklarından vahayı ele geçiremiyorlar, o yüzden de hep zayıf kalmaya mahkumlar. Tek fark şu: Vahanın sağladığı doğal seçilim avantajı 1 birimse, Internete hakim olmanın sağlayacağı "yapay seçilim" avantajı 1000 birim olacak bir AI açısından.
***
6) Hawking, uzaya olur olmadık radyo sinyalleri gönderip başka uygarlıkları kendimize çekmemiz hakkında da benzer şeyler söylemişti. Aslında iki konu da aynı kapıya çıkıyor: Muhtemelen kendimize çekeceğimiz "uzaylılar", milyonlarca yıl önce evrimleşmiş uygarlıklardan geriye kalan bir yapay zeka olacaktır. Organik maddelere göre çok daha hızlı yayılacaklarından, sinyalimizi ilk alan zekanın yapay olması binlerce kat daha olası.
Ve bunlar, filmlerdeki gibi, teknolojik olarak bizden alt tarafı 20-30 sene ilerdeymişçesine lazer tüfekleriyle filan istilaya kalkışmayacaklar. Avrupalılarla Amerikan yerlilerinin arasında bile sadece birkaç yüz senelik bir teknoloji farkı vardı. Burada onmilyonlarca yıllık bir farktan bahsediyoruz.
Daha garibi, Musk'ın da geçenlerde bahsettiği gibi, bizim halihazırda böyle bir uygarlığın parçası oluşumuz, onların bir simulasyonu içinde yaşıyor oluşumuz, gayet olası.
(Bu konu hakkında ayrıca yazmak isterim, çünkü simulasyon içinde yaşayıp yaşamadığımızı anlayacak bazı deneylerle uğraşan insanların hikayeleri gayet ilginç)
Resmen intihal
***
Benim için zurnanın zırt dediği yer, gerek kendi teknolojimizdeki, gerekse olası bir AI zekasındaki geometrik artış eğrisinin neresinde olduğumuzu anlayamamak. Bunu Sam Altman (Y-Combinator) çok güzel biçimde açıklamış:
"Geometrik bir eğrinin üzerindeyken, arkanıza baktığınızda sadece düzlük, önünüzdeyse dimdik bir duvar görürsünüz. Ne hızda ilerlediğinizi anlamak çok zor, çünkü manzara hiç değişmiyor."
Bu yüzden aynı anda hem Zuckerberg gibi halen düzlükte olmaktan şikayet etmek, hem de Musk gibi her an duvarı aşmaktan korkmak mümkün. Son kertede, dikkatli olup yavaş gitmekten ötürü kaçıracağımız fırsatlar, hızımızı alamayıp duvarın ardındaki koca bir boşluğa düşme riskine değmez diye düşünüyorum.
Kimse AI araştırmalarının durdurulmasını savunmuyor, yahut istense bile durdurabileceklerini düşünmüyor. Fakat sıfır plan, koordinasyon ve regulasyonla bu işe devam etmek, pokerde ufak bir el kazanmak için tüm malvarlığınızla rest çekmeye benziyor.
Gerçi bu bile çok korkutucu olmamalı. Bizzat Musk'ın güzel bir esprisi var, sonumuzun zaten hep aynı olmasıyla ilgili:
