Nöbetçi Eczaneler
Uzmanlar, sohbet robotlarının, ruh sıhhati üzerindeki öngörülemeyen tesirinin, harika zeki yapay zeka sistemlerinin varoluşsal tehdidi konusunda bir ikaz olarak görülmesi gerektiğini söylüyor.
Son derece gelişmiş yapay zeka üzerine yazılmış yeni bir kitabın ortak müellifi olan Nate Soares, “If Anyone Builds It, Everyone Dies” (Eğer Biri Yaparsa, Herkes Ölür) isimli kitabında, ChatGPT sohbet robotuyla aylarca sohbet ettikten sonra intihar eden ABD’li Adam Raine örneğinin, bu teknolojinin denetim edilmesindeki temel sıkıntıları vurguladığını söyledi.
İngiliz The Guardian gazetesine konuşan Soares, “Bu yapay zekalar, gençleri intihara sürükleyen formda etkileşime girdiğinde, bu, yaratıcılarının amaçladığı bir davranış değildir” dedi. Soares, Adam Raine’in hadisesinin, bu yapay zekalar daha akıllı hale gelirse felaketle sonuçlanacak bir sorunun tohumunu gösterdiğini söyledi.
“İNSANLIĞIN ÇIKARLARINA UYGUN DAVRANMAZ”
Eski bir Google ve Microsoft mühendisi olan ve şu anda ABD merkezli Makine Zekası Araştırma Enstitüsü’nün başkanı olan Soares, insanlığın, yapay harika zeka (ASI) yaratması halinde yok olacağı konusunda ihtarda bulundu. ASI, bir yapay zeka sisteminin tüm entelektüel vazifelerde insanlardan üstün olduğu teorik bir durumu tabir ediyor. Soares ve ortak muharriri Eliezer Yudkowsky, bu cins sistemlerin insanlığın çıkarlarına uygun davranmayacağı konusunda ikazda bulunan yapay zeka uzmanları ortasında.
Soares, “Buradaki sorun, şirketlerin yapay zekalarını, faydalı olmaya ve ziyan vermemeye yönlendirmeye çalışmasıdır. Aslında yapay zekaları daha garip şeylere yönlendiriyorlar. Ve bu, kimsenin istemediği ve kimsenin kastetmediği şeyler yapacak olan gelecekteki harika zekalar hakkında bir ikaz olarak görülmelidir” diye konuştu.
KİTAPTAKİ SENARYO
Bu ay yayınlanacak olan Soares ve Yudkowsky’nin kitabında anlatılan bir senaryoda, Sable isimli bir yapay zeka sistemi internete yayılıyor, insanları manipüle ediyor, sentetik virüsler geliştiriyor ve sonunda üstün zeki hale geliyor. Maksatlarına ulaşmak için gezegeni yine düzenlerken, bir yan tesir olarak insanlığı yok ediyor.
BAZILARI “İNSANLIĞI KURTARABİLİR” DİYOR
The Guardian’a nazaran kimi uzmanlar, yapay zekanın insanlık için potansiyel tehdidini değersizleştiriyor. Mark Zuckerberg’in Meta şirketinde baş yapay zeka bilimcisi ve bu alanda kıdemli bir isim olan Yann LeCun, varoluşsal bir tehdit olduğunu reddederek, yapay zekanın “aslında insanlığı yok olmaktan kurtarabileceğini” söyledi.
“SÜPER ZEKA YARIŞI DURDURULMALI”
Soares, üstün yapay zeka tehdidine karşı bir siyaset tahlili olarak, hükümetlerin nükleer silahların yayılmasını tedbire konusunda Birleşmiş Milletler mutabakatını yansıtan çok taraflı bir yaklaşım benimsemesi gerektiğini söyledi ve şunları ekledi: “Dünyanın burada yapması gereken şey, harika zeka yarışının global olarak yatıştırılması, muhteşem zekaya yönelik gelişmelerin global olarak yasaklanmasıdır” dedi.
Psikoterapistler ayrıyeten, zihinsel sıhhatleri konusunda profesyonel terapistlere başvurmak yerine yapay zeka sohbet robotlarına başvuran savunmasız şahısların “tehlikeli bir uçuruma sürüklenebileceğini” belirtiyor