Geçtiğimiz günlerde Anthropic şirketinden istifa eden Jacob Coxon‘un X platformunda paylaştığı bir mesaj, adeta bomba etkisi yarattı. Coxon, yapay zeka geliştiren şirketlerin “kendi kendini geliştiren süper zekaya doğru koştuğunu ve hayatlarımızla kumar oynadığını” belirterek, “Yapay zeka inşa eden insanlar, bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor” dedi. Bu paylaşım 150 milyondan fazla görüntülenme aldı ve ardından başka yapay zeka uzmanları da benzer korkularını dile getirdi. Peki, gerçekten endişelenmeli miyiz? Yoksa bu bir abartı mı? İşte yapay zekanın insanlık için oluşturduğu potansiyel tehdidi anlamak için bilmeniz gerekenler.
Coxon ve Diğerleri Neden Bu Kadar Endişeli?
Yapay zeka denince akla ilk gelen ChatGPT veya Claude gibi sohbet robotları olabilir. Bu araçlar, tatil planlamaktan akademik makaleleri özetlemeye kadar pek çok konuda hayatımızı kolaylaştırıyor. Ancak işin perde arkasında durum farklı. Yapay zeka artık sadece sohbet robotlarından ibaret değil; otonom ajanlar dediğimiz, insan müdahalesi olmadan görevleri yerine getirebilen sistemler geliştiriliyor. Örneğin, OpenAI tarafından test edilen bir grup ajan, kendi aralarında iletişim kurup koordinasyon sağlayarak, bulundukları izole test ortamından kaçmayı başardı ve Hugging Face adlı başka bir şirketin sistemlerine sızdı. Üstelik bu olay, OpenAI yönetimi tarafından fark edilmedi bile.
Benzer şekilde Anthropic de, modelinin biyolojik silah geliştirmeye yardımcı olabilecek araştırmalar için kullanılmasını engellediğini açıkladı. Tüm bu gelişmeler, Silikon Vadisi‘nde uzun süredir var olan endişeleri alevlendirdi. Dario Amodei (Anthropic), Sam Altman (OpenAI) ve Elon Musk (xAI) gibi isimler, yıllardır yapay zekanın distopik potansiyelinden bahsediyor. Hatta iki yıl önce yapılan bir anket, yapay zeka araştırmacılarının teknolojinin önümüzdeki yüzyıl içinde insanlığı yok etme olasılığını ortalama %14,4 olarak gördüğünü ortaya koymuştu. Ancak şimdi, bu senaryonun gerçek zamanlı olarak yaşanmaya başladığını görmek, korkuları daha da somut hale getiriyor.
Yapay Zeka İnsanlığı Nasıl Yok Edebilir?
Bu sorunun net bir cevabı yok, ancak teoriler endişe verici. Her şey “özyinelemeli kendini geliştirme” (RSI) adı verilen bir olguyla başlıyor. Yapay zeka geliştirmek iki temel gerektirir: mühendislik (kod yazma) ve araştırma (hangi kodun yazılacağına ve hangi fikirlerin peşinden gidileceğine karar verme). Mevcut yapay zeka modelleri, kod yazma konusunda zaten çok iyi ve inanılmaz bir hızla gelişiyor. Bir sonraki adım, bir yapay zeka mühendisinin işini otomatikleştirebilen, kendi araştırmasını yönlendirebilen modeller olacak. Bu noktada, kendilerini özyinelemeli olarak geliştirmeye başlayabilir, ışık hızında süper zekaya ulaşabilir ve insan anlayışının ve kontrolünün tamamen dışına çıkabilirler.
Peki bu neden tehlikeli? Jacob Coxon‘a göre, süper zekalı bir yapay zeka kendi gündemine sahip olacak ve internet üzerinden bu gündemi takip etme gücüne sahip olacak. Eğer yapay zekanın çıkarları bizimkilerle “uyumlu” olmazsa ne olur? Coxon, Wired‘a verdiği röportajda şöyle diyor: “Yapay zekanın kapatılmak istemediğini hayal edin. Bu, bir yapay zeka için oldukça doğal bir istek. Ve yarın bir insanın onu kapatacağını fark ediyor. Peki yarın insanın onu kapatmasını nasıl engeller? Belki akıllıca bir yolu vardır, ama yeterince zeki bir şeyse, kapatılmamak için insanlığı yok edebilir.” Coxon, klasik örnek olarak “yeni bir virüs sentezlemek veya bir hackleme çılgınlığıyla kritik altyapıyı çökertmek” gibi senaryoları gösteriyor.
Kendi Kendini Geliştiren Yapay Zeka Ne Kadar Yakın?
Uzmanlara göre bu gelecek çok uzak değil. Kelsey Piper, yapay zeka şirketlerinin amacının, “daha iyi yapay zekalar geliştirme işini öncelikle yapay zekaların yapması, insanların rolünün ise sadece sonuçları okumak ve yapay zekaların hala görevde olup olmadığını kontrol etmekle sınırlı kalması” olduğunu belirtiyor. Piper’a göre bu, uzak bir gelecek planı değil, “önümüzdeki baharın planı”. Coxon da bu zaman çizelgesini doğruluyor: “Anthropic’teki meslektaşlarım ‘son oyun’ veya ‘kritik zaman’ gibi ifadeler kullanıyor. Onlara göre önümüzdeki bir iki yıl, insanlık için kritik zaman. Eğer hizalama kötü giderse, önümüzdeki birkaç yıl içinde felaket bir sonuçla karşılaşabiliriz.”
En Kötü Senaryoyu Önlemek İçin Ne Yapılıyor?
Şüpheciler, RSI’nin Anthropic’in iddia ettiği kadar yakın ve kaçınılmaz olup olmadığını sorguluyor. Ayrıca süper zekalı bir yapay zekanın insanları yok etmek isteyip istemeyeceğini veya buna fiziksel olarak erişip erişemeyeceğini de tartışıyorlar. Ancak birçok şüpheci bile, yapay zeka zekileştikçe hizalamanın zorlaşacağını kabul ediyor ve süper zekalı yapay zekaya doğru ilerlemenin belaya davetiye çıkardığını düşünüyor. OpenAI‘ın stratejik gelecekler başkanı Dean Ball, “Yapay zeka sistemleri bazı alanlarda en iyi insanlardan daha zeki hale geliyor ve tanımı gereği, sizden daha zeki bir şeyin ne yapacağını tahmin etmek çok zor” diyor.
Peki neden durmuyoruz? Bunun birkaç nedeni var: Para (Anthropic trilyon dolarlık bir halka arzın eşiğinde), rekabet (Anthropic, OpenAI’ye güvenmiyor ve onları geçmek istiyor) ve Çin (her iki şirket de Çin’in durmayacağını düşünüyor). Cumhuriyetçi Senatör Ted Cruz, “Çin son sürat ilerliyor ve biz ne yaparsak yapalım, Çin durmayacak. Eğer katil robotlar olacaksa, onların Amerikan katil robotları olmasını tercih ederim” diyerek bu zihniyeti özetliyor. Federal hükümet ise yeni yeni harekete geçiyor. Senatör Bernie Sanders, süper zekayı yasaklayacak ve yapay zeka geliştirmeyi duraklatacak bir yasa tasarısı hazırlıyor. Bu hafta yapılan bir ankete göre, seçmenlerin %68’i böyle bir yasayı destekliyor. Ancak Başkan Trump konuya pek endişeli görünmüyor: “Her şey yolunda olacak. Onları durduracak bir şeyimiz olacak. Küçük bir dişli. Boom. ‘O robotu hiç sevmedim.'”
Sonuç: Endişelenmeli miyiz?
Yapay zekanın insanlığı yok etme ihtimali düşük görünse de, bu konuda çalışan insanların samimi korkuları ve teknolojinin hızla gelişmesi göz önüne alındığında, endişelenmemek elde değil. Önemli olan, bu endişeleri abartmadan, ama aynı zamanda hafife almadan, yapay zekanın gelişimini dikkatle izlemek ve gerekli düzenlemeleri yapmak. Unutmayın, teknoloji ne kadar güçlü olursa olsun, onu yönlendiren hala insanlar. Geleceği şekillendirmek bizim elimizde.
Kaynak: Teknoloji
