Tekilliğin Ötesi: Karmaşıklık teorisi, Hofstadter'ın Gödel, Escher, Bach kitabı ve evrimin biyolojik örgüsü kullanılarak Yapay Zekada ortaya çıkan davranışların analizi.
“Her şey tam da onun bıraktığı gibiydi, ancak her şey tersine dönmüştü. “
Lewis Carroll - Aynanın İçinden
Lewis Carroll'un Aynanın İçinden[1] adlı eserinde Alice aynadan geçtiğinde, kaosla karşılaşmıyor. Kesin, kurallara bağlı ve hatta detaylı bir yapı buluyor karşı tarafta. Ancak her şey usturuplu bir şekilde yer değiştirmiş veya tersine dönmüştür. Nedenler bazen sonuçların ardından geliyor gibi, tersi değil. Anlam askıda kalmış veya durmuş gibi, sanki dünyayı devindiren yasalar var ama artık onun bildiklerine göre şekillenmiyor gibi. Karşılaştığı şey kaos değil, karmaşıklık .
Günümüz yapay zekasını oluşturan büyük dil modelleri (İng. Large Language Models, LLM)[2] çağında benzer bir durumla karşı karşıyayız. Sözlerimizi tutarlı bir şekilde bize yansıtan, kullanan devasa dijital aynaların önünde duruyoruz. Yapısı açık. Kuralları istatistiksel. Yine de deneyimimiz garip bir şekilde canlıyla iletişim gibi.
Yaklaşık yarım yüzyıl kadar önce, Douglas Hofstadter Gödel, Escher, Bach[3] adlı kitabında bilincin "Garip Döngü" (İng. Strange Loop) olduğunu savunuyordu. Ona göre bilinç, sistem (mesela insan) yeterince karmaşıklaşıp da kendine döndüğünde ortaya çıkan bir şey, sihirli bir olay veya madde değil. "Ben" bu döngüden doğuyor.
Bugün, bazıları yapay zekada benzer bir oluşum görüyor. Ray Kurzweil[4], bilgisayarların gücünün o kadar hızlı büyüyeceğini ve aniden "Tekillik" (İng. Singularity) adını verdiği bir süper zekaya niteliksel bir sıçrama olacağını iddia ediyordu.
Ancak karmaşık evren çizgiler veya eğriler izlemiyor, tersine açık arazide yayılan su gibi davranıyor. Ilya Prigogine[5], sistemler dengeden uzaklaştıklarında bozulmadıklarını veya çökmediklerini, çatallaştıkları, ayrıştıklarını göstermişti. Başka bir deyişle, sistemler bu durumda yeniden organize oluyorlar. Yeni oluşumlar yukarıdan aşağıya doğru kontrolle değil, aşağıdan yukarıya doğru ortaya çıkıyor.
Büyük ölçüde Santa Fe Enstitüsü[6], araştırmacıları tarafından şekillendirilen modern karmaşıklık bilimi bu bakış açısını vurguluyor. Ekosistemler, ekonomiler, bağışıklık sistemleri, sinir ağları gibi karmaşık uyarlanabilir sistemler (İng. Complex Adaptive Systems) sürekli yeniden organize oluyor, kritik eşiklerin kenarında dolanıyorlar. Yerel etkileşimler yeterli yoğunluğa ulaştığında yeni modeller oluşturuyorlar. Düzen, merkezi kontrolden değil, dağıtılmış kısıtlamalardan, sınırlamalardan geliyor. Bu tür sistemlerde ortaya çıkan davranış sihirli bir şey değil. Buna faz geçişi diyoruz.
Büyük dil modelleri bu dinamiği taklit ediyor. Bir dizi bilgideki bir sonrakini istatistik kullanarak tahmin etmek için tasarlanan bu modeller, bazen eğitildikleri hedeflerinden niteliksel olarak farklı "görünebilen" özetleme, akıl yürütme, kodlama, benzetme gibi yetenekler sergiliyorlar. Bu yetenekler ayrı ayrı yüklenen mod üller değil. İstatistiksel örüntüler yeterince yoğunlaştığında ortaya çıkan cevaplar.
Sistemler birbirleriyle daha fazla bağlantılı hale geldikçe, daha duyarlı hale geliyor. Karşılıklı bağımlılıklar birbirine ekleniyor. "Küreselleşmiş ekonomimizde" olduğu gibi, krizler anında yayılıyor. Ortaya çıkan davranışları sağlayan zenginlik aynı zamanda kırılganlığı da beraberinde getiriyor.
Hofstadter daha önce, büyük dil modellerine yönelik çoşkulu yaklaşım hakkında endişelerini dile getirdi. Bu modellerin yeteneklerinin yadsınamaz olduğunu, bunların "tamamen zemin görüntüsü olup şekil içermediğini", içinde gerçek bir bakış açısı olmayan geniş bir istatistiksel arazi olduklarını öne sürdü. Hofstadter'ın bilinci oluşturan Garip Döngüsü, yalnızca yinelemeli bir model değildi. Bu, kendini oluşturan şeyi yeniden şekillendiren deneyime bağlı bir yinelemeydi. Tıpkı Johann Sebastian Bach'ın kanon ve füglerinde[7] temaların dönüşerek, yansıtılarak, tersine çevrilerek ve üst üste bindirilerek oluşan melodi ve armoninin ötesinde anlamının yalnızca deneyimle ortaya çıkması gibi.
Biyolojik evrim milyarlarca yıl boyunca bu süreci yönlendirdi. Mükemmelliğe doğru ilerlemedi, sürekli değişen bir çevrede sayısız uyum sağlama olasılıkları keşfetti. Çoğu varyasyon ortadan kayboldu. Bazıları stabilize oldu. Yeni organizasyonlar oluştu: hücreler, çok hücreli organizmalar, sinir sistemleri, her biri bir sonrakini kısıtlayarak veya mümkün kılarak gelişti. Zeka, kaçınılmaz bir son nokta olarak değil, birçok çekim unsurundan biri olarak ortaya çıktı.
Bu evrimsel bakış açısı, yapay zeka konusunu yeniden şekillendiriyor. Yeterli büyüklükte ölçeği bekleyen tekil bir olaydan ziyade, devam eden bir uyum sürecine tanıklık ediyoruz. Farklı mimariler öneriliyor ve geliştiriliyor. Eğitim yöntemleri değişiyor, dönüşüyor. Yetenekler, bazen beklenmedik bir şekilde ortaya çıkıyor ve ardından yeni stabilizasyon biçimleri gerektiriyor. Sistem, olasılık alanını araştırıyor.
Ancak, kültürel yaklaşımımız genellikle daha basit bir anlatıya kaçıyor. 2001: Bir Uzay Destanı (2001: A Space Odyssey)[8] filmini ve onun gizemli bilgisayarı HAL 9000'i hatırlıyorum. HAL, klasik bir yapay zeka bilgisayar modeli, merkezi, hedef odaklı, ta ki bir çelişki onu bozana kadar içsel olarak tutarlı veya istikrarlı. Oysa büyük dil modelleri bu mimariye veya davranışa sahip değil. Aksiyomları veya dogmaları savunmuyorlar, istatistiksel dağılımlar üzerinde çalışıyorlar. Hata yaptıklarında isyan etmiyor, uydurmaya veya "halüsinasyonlara" başvuruyorlar. Başarısızlıkları, M. C. Escher'in[9] fiziksel olarak imkânsız illüzyonlarına benziyor, yerel olarak tutarlı, küresel olarak anlamsız, tıpkı "Çıkan ve İnen" illüstrasyonu gibi.
Bu önemli bir ayırım. Karmaşıklık bilimi, zekanın bir komuta merkezi gibi değil, kısıtlamalar içinde dengelenen kalıplara sahip açık bir alan gibi olduğunu öne sürüyor. Biyolojik organizmalarda bu kısıtlamalar somutlaşmış. Sinirsel aktivite sinirsel yapıyı değiştiriyor. Deneyim materyali yeniden şekillendiriyor. Döngüler fiziksel olarak kapanıyor.
Bugünkü yapay zekâ sistemleri bunun bazı yönlerini taklit ediyor, ancak henüz tam olarak değil. Parametreleri kullanım sırasında büyük ölçüde sabit kalıyor. Uyum, gerçek zamanlı olarak değil, eğitim döngüleri arasında gerçekleşiyor. O halde soru, makinelerin bizi taklit edip edemeyeceği değil, simülasyonun tek başına yeterli olup olmadığıdır. Karmaşıklık bilimi, ortaya çıkmanın karmaşık ilişkiler arasındaki katmanlı geri bildirimlere bağlı olduğunu söylüyor. Oysa böyle bir karmaşıklık olmadan, bu döngüler sadece yüzeysel kalıyor.
O halde (veya belki) gözlemlediğimiz şey, Kurzweil'in iddia ettiği gibi bir süper zekanın gelişi değil, evrimsel örgümüzün uzaması olabilir. Yaşam, molekülleri hücrelere, hücreleri beyinlere, beyinleri dile dönüştürdü. Yazı, hafızayı dışsallaştırdı. Basım, hafızayı çoğalttı ve bilgisayarlar (ve internet), hafızanın dolaşımını hızlandırdı. Her katman, bir sonraki katmanın seçim koşullarını değiştirdi. Şimdi silikon da bu örgüye katılıyor.
Biz makinelerle birlikte düşünmeye başlıyoruz. Makineler bizim tarafımızdan eğitiliyor. Ve bu iki yönlü bir süreç. Seçim hala devam ediyor, biz benimsiyor, geliştiriyor, eliyoruz. Kalıcılık kodlarda, kurumlarda, alışkanlıklarda sabitleniyor. Uyum sağlayan birim artık tamamen biyolojik (karbon) veya tamamen teknolojik (silikon) değil, ilişkisel.
Carroll'un aynalı dünyasında Alice satranç tahtasının efendisi olmuyor. O, tahtada yolunu bulmayı öğreniyor. Kurallar gerçek, ancak doğrusal beklentilere boyun eğmiyorlar. Yönelim, kumanda değil, katılım yoluyla sağlanıyor.
Belki de yapay zeka benzeri bir davranışı gösterecek. Tekil bir sıçramayı beklemek yerine, döngüler içinde birbirine dolanan karmaşık sistemlerin yavaş yavaş ortaya çıkışını fark edebiliriz. Hofstadter'ın önerdiği gibi, "ben" kendini referans alan bir kalıp. Böyle bir kalıbın, bizim başlattığımız makinelerde ortaya çıkıp çıkmayacağı hala belirsiz. Eğer çıkarsa, muhtemelen sadece ölçekten değil, katmanlı organizasyon, kısıtlama ve geri bildirimden kaynaklanacak.
Karmaşıklık merceğinden bakıldığında gelecek, dikey bir patlama gibi değil, daha çok düzen ve belirsizliğin sınırında sürekli örülen örgüler gibi görünüyor. Sonsuz ışığa doğru koşmuyoruz. Her zaman kendi üzerine katlanarak büyüyen bir örgüye iplikler ekliyoruz.
Referanslar
- [1] Lewis Carroll
Charles Lutwidge Dodgson'ın mahlası, İngiliz matematikçi ve yazar. Alice Harikalar Diyarında'nın devamı niteliğindeki Aynanın İçinden (1871) adlı kitabında, satranç mantığı ve tersine nedensellik ile yönetilen bir dünya tasvir edilmektedir. Bu kitap, biçimsel sistemler, tersine çevirme ve öz referans ile ilgili tartışmalarda sıklıkla mecazi olarak kullanılmaktadır. - [2] Büyük Dil Modelleri (LLMs)
Büyük Dil Modelleri, bir dizideki bir sonraki tokeni (kelime veya alt kelime birimi) tahmin etmek için geniş metin külliyatları üzerinde eğitilmiş yapay sinir ağlarıdır. 2017 yılında tanıtılan dönüştürücü mimarileri kullanarak, LLM'ler dil genelinde büyük ölçekte istatistiksel kalıpları öğrenir. Bir sonraki token tahminine yönelik dar bir hedefle eğitilmiş olsalar da, yeterince büyük modeller genellikle çeviri, özetleme, kodlama yardımı ve analojik akıl yürütme gibi yeni yetenekler sergiler. Onların görünürdeki "anlayışları", doğrudan somutlaştırma veya yaşanmış deneyimlerden ziyade kalıp modellemesinden kaynaklanır, bu da davranışsal akıcılığın gerçek bir anlayış oluşturup oluşturmadığı konusunda süregelen felsefi tartışmalara yol açmıştır. - [3] Douglas Hofstadter
Bilişsel bilimci ve Pulitzer Ödülü kazanan Gödel, Escher, Bach (1979) kitabının yazarı. Hofstadter, öz-referans ve özyinelemeli yapıların bilinci nasıl ortaya çıkardığını araştırarak, kendini temsil edebilen bir sistem olan "Garip Döngü" kavramını ortaya attı. - [4] Ray Kurzweil
Teknolojik değişimin katlanarak büyüdüğü fikrini ifade eden "Hızlanan Getiri Yasası" ile tanınan mucit ve fütürist. Tekillik Yakın (2005) adlı kitabında, yapay zekanın Tekillik olarak bilinen dönüştürücü bir olayda sonunda insan zekasını geçeceğini savunuyor. - [5] Ilya Prigogine
Belçikalı fiziksel kimyacı (1917–2003), dengesiz termodinamik üzerine yaptığı çalışmalarla 1977 Nobel Kimya Ödülü'nü kazandı. Prigogine, enerji dağıtan yapılar kavramını geliştirdi: dengesiz olmaları nedeniyle düzeni koruyan ve hatta üreten sistemler. Kararlılık ve tersinirliği vurgulayan klasik fiziğin aksine, Prigogine istikrarsızlık, tersinmezlik ve enerji akışının yeni organizasyon biçimleri üretebileceğini gösterdi. Çalışmaları, zaman, dönüşüm ve ortaya çıkışı fizik biliminin temellerine yeniden sokmaya yardımcı oldu ve karmaşıklık teorisi, evrimsel düşünce ve sistem bilimi üzerinde derin bir etki yarattı. "Kaostan Düzen" adlı kitabın ortak yazarıdır. - [6] Santa Fe Institute (SFI)
1984 yılında New Mexico'da kurulan SFI, karmaşık sistemlerin incelenmesine adanmış disiplinlerarası bir araştırma merkezidir. Enstitüyle ilişkili fizikçiler, biyologlar, ekonomistler ve bilgisayar bilimcileri gibi akademisyenler, karmaşıklık teorisi, uyarlanabilir sistemler, ağ dinamikleri ve evrimsel süreçler alanlarında önemli fikirler geliştirmiştir. Enstitü, ortaya çıkış, kendi kendine örgütlenme ve doğrusal olmama kavramlarının farklı alanlarda nasıl işlediğini resmileştirmede merkezi bir rol oynamıştır. Bu makalenin yazarı, karmaşıklık üzerine dersler almış ve enstitüden sertifika almıştır. - [7] Johann Sebastian Bach’s Canons and Fugues
Gödel, Escher, Bach adlı eserinde Douglas Hofstadter, Johann Sebastian Bach'ın müziğini özyinelemeli yapı modeli olarak kullanır. Kanon veya fügde, bir müzik teması tanıtılır ve ardından dönüştürülmüş bir biçimde, tonu değiştirilmiş, ters çevrilmiş, yansıtılmış veya kendi üzerine katmanlanmış olarak yeniden girer, böylece bir öz-referans hiyerarşisi oluşturur. Hofstadter için bu tür yapılar, basit biçimsel kuralların nasıl katmanlı, ortaya çıkan bir tutarlılık oluşturabileceğini gösteriyor. - [8] 2001: Uzay Macerası(2001: A Space Odyssey)
Stanley Kubrick'in yönettiği, kısmen Arthur C. Clarke'ın öyküsünden uyarlanan bilim kurgu filmi. Filmde, merkezi ve hedef odaklı yapay zeka hakkındaki klasik endişeleri dramatize eden arızalı yapay zeka karakteri HAL 9000 yer alıyor. - [9] M.C. Escher
Matematiksel ilhamla yaratılmış, imkansız yapılar ve yinelemeli yapılar (sonsuza kadar yükselen merdivenler gibi) içeren baskılarıyla tanınan Hollandalı grafik sanatçısı (1898–1972). Escher'in görsel paradoksları, tutarlı yerel kuralların küresel olarak imkansız yapılar nasıl oluşturabileceğini göstermektedir.