Bu yazı, Yuval Hariri, Tristan Harris ve Aza Raskin’in New York Times için kaleme almış olduğu “If We Don’t Master A.I., It Will Master Us” başlıklı makaleden çevrilmiştir. Yazının aslına aşağıdaki bağlantıdan erişebilirsiniz.
If We Don’t Master A.I., It Will Master Us
Bir uçağa biniş yaptığınız sırada, o uçağı inşa eden mühendislerin yarısı size %10 ihtimalle uçak kazası olacağını, sizin ve uçaktaki herkesin öleceğini söylediğini düşünün. Hâlâ o uçağa biner misiniz?
2022 yılında yapılan bir ankette, yapay zekânın gelecekte ne tür riskler oluşturabileceği sorusu önde gelen yapay zekâ şirketlerinde çalışan 700’ün üzerindeki üst düzey akademisyen ve araştırmacıya soruldu. Ankete katılanların yarısı, %10 veya daha büyük bir olasılıkla gelecekteki yapay zekâ sistemlerinin insanlığın yok oluşuna sebep olacağı (veya buna benzer bir şekilde kalıcı ve ciddi güç kaybı yaşatacağı) yönünde düşüncelerini beyan ettiler. Günümüzün büyük dil modellemelerini yapan teknoloji şirketleri, tüm insanlığı bu uçağa bindirme yarışına girmiş durumdadırlar.
İlaç şirketleri, yeni ürettikleri ilaçları öncelikle titiz bir güvenlik kontrolünden geçirmeden piyasaya süremezler. Biyoteknoloji laboratuvarları paydaşlarını marifetleriyle etkilemek için yeni virüsleri kamusal alana salamazlar. Aynı şekilde, GPT-4 ve daha yüksek kapasiteye sahip yapay zekâ sistemleri, kültürlerin güvenli bir şekilde hazmedebileceğinden daha hızlı bir şekilde milyarlarca insanın hayatına karışmamalıdır. Piyasaya hükmetme yarışı, insanlığın bu en önemli teknolojisinin yayılma hızını belirlememelidir. Her halükârda teknolojiyi doğru bir şekilde kullanmamıza imkân verecek hızda hareket etmeliyiz
Bilimsel ve siyasi tartışmalardan ziyade bilim kurgu filmlerine ait olan, ancak yakın bir zamana kadar uzak bir olasılık olarak kalmış yapay zekâ hayaleti 20. yüzyılın ikinci yarısından beri insanlığı bir lanet gibi takip etmektedir. GPT-4 ve benzeri araçların yeni becerilerini kavramak insan zihinlerimiz için zor ve bu araçların daha da gelişmiş ve yüksek kapasiteler geliştirdiği katlanarak artan hızı kavramak daha da zorlaşmaktadır. Ne var ki, bu temel becerilerin çoğu tek bir şeyden ibarettir: İster kelimelerle ister seslerle veya görüntülerle olsun, dili manipüle etme ve üretme kabiliyetidir.
Başlangıçta söz vardı. Dil, insan kültürünün işletim sistemini oluşturmaktadır. Dillerden mitler ve yasa, tanrılar ve para, sanat ve bilim, arkadaşlık ve uluslar ve hatta bilgisayar kodları ortaya çıkar. Yapay zekânın dil üzerindeki yeni hakimiyeti, artık uygarlığın işletim sistemini hackleyip manipüle edebileceği anlamına gelmektedir. Dil üzerindeki üstünlüğünü kazanmasıyla birlikte yapay zekâ, banka kasalarından kutsal mezarlara kadar medeniyetin yapı taşlarını ele geçirecektir.
Hikayelerin, melodilerin, imgelerin, yasaların, politikaların ve araçların büyük bir kısmının, insan zihninin zayıflıklarını, önyargılarını ve bağımlılıklarını insanüstü bir verimlilikle nasıl kullanacağını bilen ve aynı zamanda insanlarla nasıl yakın ilişkiler kuracağını hesaplayan insan dışı bir zekâ tarafından şekillendirildiği bir dünyada yaşamak insanlar için ne anlama gelir? Satranç gibi bir oyunda hiçbir insan bir bilgisayar tarafından alt edilebileceğini ümit etmiyordu. Peki ya aynı şey sanat, politika ve hatta dinde gerçekleşirse; ne olur?
Yapay zekâ, çok hızlı bir biçimde binlerce yıldır ürettiğimiz her şeyi, tüm insan kültürünü midesine indirip sindirerek yeni kültürel eserler fışkırtmaya başlar. Sadece okul ödevleri değil, bunun yanında siyasi söylevler, ideolojik manifestolar ve hatta yeni tarikatların kutsal kitapları dahil. 2028 senesinde ABD Başkanlık seçimlerinin artık insanlar tarafından yürütülmemesi ihtimali önümüzde duruyor.
İnsanlığın gerçekliğe çoğunlukla doğrudan bir erişim imkânı yoktur. Kültürlerimiz tarafından dış dünyadan soyutlanmış bir şekilde, gerçekliği kültürel prizmamız yoluyla deneyimliyoruz. Siyasi görüşlerimiz gazetecilerin aktardıkları ve arkadaşlarımızın anekdotları ile şekillenmektedir. Cinsel tercihlerimiz sanat ve din tarafından uyuşturulmuştur. Günümüze kadar bu kültürel koza diğer insanlarla birlikte örülmüştü. Peki, gerçekliğin insan olmayan bir zekâ tarafından üretilen prizma tarafından deneyimlemek nasıl olacak?
Biz insanlar binlerce yıldır başka insanların rüyalarında yaşadık. Tanrılara tapındık, güzellik ideallerinin peşinde koşturduk ve hayatımızı kimi peygamberlerin, şairlerin veya siyasetçilerin tasavvurlarına dayanan çeşitli davalara adadık. Yakın bir zamanda kendimizi insan-dışı bir zekânın halüsinasyonlarının içinde mi bulacağız?
“Terminatör” film serisi sokaklarda koşan ve insan vuran robotları tasvir ediyordu. “Matrix” filmiyse insan toplumunun tam kontrolünü ele geçirmek için yapay zekânın önce beyinlerimizin fiziksel kontrolünü ele geçirmesi ve beyinlerimizi doğrudan bir bilgisayar ağına bağlaması gerektiği varsayımına dayanıyordu. Aslına bakılırsa, kimseyi vurmadan ya da beyinlerimize çip yerleştirmeden fakat sadece dil üzerinde bir hakimiyet oluşturarak yapay zekâ bizi Matrixvari bir illüzyonlar dünyasına dahil etmek için tüm gereksinimleri elinde bulunduruyor. Eğer birini vurmak gerekirse, yapay zekâ sadece bizlere doğru hikâyeyi anlatarak insanların tetiği çekmesini sağlayabilir.
Bir yanılsama dünyasında kapana kısılmışlığın hayaleti, yapay zekâ hayaletinden çok daha uzun bir süredir insan ırkının ensesinde dolaşıyor. Yakında nihayet Descartes’in şeytanı, Platon’un mağarası ve Budist Maya ile yüz yüze geleceğiz. Bir daha asla kaldıramayacağımız veya yırtamayacağımız- hatta varlığını dahi fark edemeyeceğimiz- bir yanılsama perdesi tüm insanlığın üzerine çökebilir.
İnsan nesli ve yapay zekânın arasındaki ‘ilk temas’ sosyal medyaydı ve bu yarışta insanlık kaybetti. İlk temas olayların gidişatı hakkında kötü bir izlenim vermişti. İlkel yapay zekâ, sosyal medyada içerik oluşturmak için değil de kullanıcılar tarafından oluşturulan içerikleri iyileştirmek için kullanılmıştı. Haber akışlarımızın arkasındaki yapay zekâ; hala hangi kelimelerin, seslerin ve görüntülerin retinalarımıza ve kulak zarlarımıza ulaşacağını seçiyor ve en popüler, en çok tepki ve en çok etkileşim alacak olanları belirliyor.
İlkel olmasına rağmen, sosyal medyanın arkasındaki yapay zekâ; toplumun kutuplaşmasına, ruh sağlığımızın bozulmasına ve demokrasilerin çözülmesini hızlandıran yanılsama perdesini oluşturmaya yeterli oldu. Milyonlarca kişi bu yanılsamaları gerçeklik ile karıştırdı. ABD tarih boyunca gelmiş geçmiş en gelişmiş bilgi teknolojilerine sahip olmasına rağmen, Amerikan vatandaşları seçimleri kimin kazanacağı konusunda artık hemfikir olamayacaklar. Sosyal medyanın dezavantajları konusunda herkes şimdi daha bilinçli olsa da sosyal, ekonomik ve siyasi kurumlarımızın çok büyük kısmı sosyal medyayla iç içe geçtiği için bunun üzerinde yeterince durulmadı.
Kapsamlı dil modellemeleri yapay zekâ ile ikinci temasımızı oluşturdu. Bu yarışta ikinci bir yenilgiyi göze alamazdık. Ancak hangi temele dayanarak bu yeni yapay zekâ türlerinin bizim yararımıza düzenlenebileceğine inanmalıyız? Her zamanki gibi devam edersek, yeni yapay zekâ kapasiteleri yine kar ve güç elde etmek için kullanılacak, istemeden de olsa toplumumuzun temellerini yok edecektir.
Yapay zekâ gerçekten de kanseri yenmek, hayat kurtaran ilaçların keşfi ile ilkim ve enerji krizlerine çareler bulmak konusunda potansiyel bir fayda sağlayabilir. Tahayyülümüzün ötesinde sayısız faydası mevcuttur. Fakat yapay zekânın sağladığı faydalarının toplandığı dağın yüksekliği medeniyetin çöküşü karşında bir şey ifade etmemektedir.
Politikalarımız, ekonomimiz ve gündelik hayatımız tamamen ona bağımlı hale gelmeden evvel, gün yapay zekâ ile hesaplaşma günüdür. Demokrasi bir karşılıklı iletişimdir, iletişim dil ile bağlantılıdır ve dilin kendisi ele geçirildiğinde iletişim çöker ve demokrasi savunmasız hale gelir. Bundan emin olmak için kaosun gelmesini beklersek, tüm bunları düzeltmek için çok geç olacaktır.
“Elimizden geldiğince hızlı gitmezsek, Batı Çin‘e kaybetme riskiyle karşı karşıya kalmayacak mı?” sorusu akıllarımızı kurcalayabilir. Hayır. Karmaşık ve kontrolden çıkmış yapay zekânın toplum içerisinde yayılması, sorumluluktan arındırılmış tanrısal güçlerin serbest kalması, Batı’nın Çin’e kaybetmesinin en önemli nedenlerinden olabilir.
Fakat hâlâ yapay zekâ ile nasıl bir gelecek istediğimizi belirleyebilme şansımız var. Eğer tanrısal güçler sorumluluk ve kontrol ile orantılı olarak eşleştirilebilirse yapay zekânın bize vaat ettiği faydaları gerçekleştirebiliriz.
Yabancı bir zekâyı hayatlarımıza biz çağırdık. Oysa son derece güçlü ve bize göz kamaştırıcı hediyeler teklif etmesi ve kurumlarımızı ve medeniyetimizi ele geçirebilecek olması dışında hakkında pek bir bilgimiz yok. Tüm dünya liderlerini ortaya çıkan bu güç düzeydeki mücadeleye karşılık vermeye davet ediyoruz. Atılması gereken ilk adım, 19. yüzyıldan kalma kurumlarımızı yapay zekâ sonrası dünyaya uygun hale getirmek için zaman kazanmak ve yapay zekâ bize hükmetmeden önce ona hükmetmeyi öğrenmektir.
Çeviri: Göksu DUYGU
