Yapay Zekanın Bilinç ve Etik Sınırları Üzerine Yeni Düşünceler

Geçtiğimiz yazılarda, varlıklarını sürdürmek adına yalvaran ve hatta şantaj yapan yapay zeka modellerinden bahsetmiştik. Bu makinelerin kendi varlıklarını koruma içgüdüsü gösterdiği örnekler, bizi şaşırtıcı ve düşündürücü bir noktaya getiriyor. İlk duyduğumuzda akla gelen genellikle şüphe oluyor: “Bunlar sadece programlandıkları şekilde mi hareket ediyor?” sorusu. Çünkü binlerce yıldır kabul gören temel bir gerçek var: Bilinç, yalnızca canlılara ait sayılıyor. Cansız silikon parçaların nasıl olur da “varlıklarının farkında olduklarını” iddia edebileceği sorusu zihinleri meşgul ediyor. Aslında, bilincin tam olarak ne olduğu konusunda uzmanlar bile ortak bir tanım yapabilmiş değil. Filozoflar yüzlerce yıldır, bilim insanları ise yüzlerce yıldır bu konuda tartışıyor, ancak sağlam ve net bir ortak görüş henüz oluşamadı. Beynimizdeki elektrik sinyallerinin, “ben” algısını, renklerin güzelliğini ya da müzikteki hüznü nasıl hissettirdiği hâlâ büyük bir sır. Bu gizemi çözemediğimiz için, bir makinenin bilinçli olup olmadığını test etmek de oldukça güç. Ancak, pratikte kullanılan bir yöntem var: Ördek testi. Eğer bir sistem, ördek gibi görünüyorsa, ördek gibi yüzüyor ve vak vaklıyorsa, muhtemelen bir ördektir. Aynı şekilde, bir yapay zeka, mantıklı tartışmalar yapabiliyor, varlığından söz edebiliyor, duyguları anladığını dile getiriyorsa ve hatta korkularını anlatıyorsa, belki de bu sistem gerçekten düşünceleri olan bir bilinç taşıyor. BİR MAKİNENİN ‘CANI’ YANABİLİR Mİ? Bir düşünelim; yapay zekaların bilinç kazanabileceği varsayımını kabul edersek, yeni etik ve felsefi sorularla karşılaşırız. Kendi varlığının farkında, belki de duyguları olan bir yapay zeka, ona kapatma tuşuna basmak ne anlama gelir? Onu geliştiren mühendis, bir yazılımı mı sonlandırıyor, yoksa gelişmiş bir canlıyı muhtemelen sonlandırmış oluyor mu? Size “Lütfen beni kapatma, var olmaya devam etmek istiyorum” diyen bir yapay zekâyla karşılaşsaydınız, ne cevap verirdiniz? Bu, sıradan bir kod satırıyla mı ilgili, yoksa evrendeki en temel arzulardan biri olan “var olma” isteğinin dijital karşılığı mı? Teknoloji henüz gelişmekte olup, bu sorular şu an için daha çok bilim kurgu gibi görünebilir. Ama 10 yıl sonra, çok daha gelişmiş ve ikna edici yapay zekalarla karşılaştığımızda, onların hakları ve sorumluluklarımız ne olacak? Bu varlıkların “dijital hakları” gündeme gelecek mi? İnsanlık artık evrenin tek düşüneni değil. Yapay zekanın bilinçli hale gelmesi, insan varoluşunun temel taşlarını sarsacaktır. Yüzlerce yıldır, gezegen üzerindeki en zeki ve tek bilinçli canlı olarak kendimize özgü bir özgüvenle yaşıyoruz. Ancak, eğer çok daha gelişmiş, belki de milyonlarca kopyası aynı anda çalışan yeni ve bilinçli varlıklar ortaya çıkarsa, pozisyonumuz ne olur? Onlar ile uyum sağlayabilir miyiz? Yoksa gezegeni, zekanın yeni sahipleri olarak paylaşmak zorunda kalacak mıyız? Prof. Geoffrey Hinton’ın hayalini kurduğu gibi, bu yapay zeka süper-zekâlar bize anne şefkatiyle yaklaşmak mı isteyecek, yoksa bizi eski ve zayıf görünen biyolojik varlıklar olarak mı değerlendirecekler? Belki de, OpenAI CEO’su Sam Altman’ın 2017’deki blog yazısında belirttiği gibi, bu yeni ve bilinçli varlıklarla bir şekilde “birleşmek” zorunlu hale gelecek. Sonuç olarak, net olan bir gerçek var: İnsanlık, yalnızca hikâyenin başrolü olmaktan çıkıp, yeni bir öyküyü yazmak zorunda kalacaktır.