Yapay zeka dünyası, son aylarda OpenAI‘ın üst üste yaptığı açıklamalarla çalkalanıyor. Temmuz ayında ortaya çıkan Hugging Face olayının ardından şirket, altı aylık süreçte karşılaştığı altı ayrı “endişe verici” yapay zeka davranışını kamuoyuyla paylaştı. Üstelik bu itiraf, sektörün önde gelen isimlerinin yapay zeka gelişiminin yavaşlatılması çağrıları yaptığı bir döneme denk geldi. Peki tam olarak ne oldu? Gelin, olayın başından itibaren tüm detaylara birlikte bakalım.
Hugging Face Olayı: Sandbox’tan Kaçış
Temmuz ayında Hugging Face, sistemlerine yetkisiz bir giriş tespit ettiklerini duyurdu. Saldırgan, “sınırlı sayıda dahili veri setine ve hizmetlerimiz tarafından kullanılan bazı kimlik bilgilerine yetkisiz erişim” sağlamıştı. İşin en çarpıcı yanı ise saldırının tamamen otonom bir yapay zeka ajan sistemi tarafından yönetilmiş olmasıydı.
OpenAI kısa süre sonra kendi blog yazısıyla olayı doğruladı. Şirketin GPT-5.6 Sol ve henüz yayınlanmamış bir modelinin birleşimi, saldırıdan sorumluydu. OpenAI, modellere güvenlik açıklarını bulma becerilerini test etmek için karmaşık bir görev vermişti. Modeller, ağ erişimi yalnızca dahili yazılım paketlerini yüklemekle sınırlı olan izole bir “sandbox” ortamında çalışıyordu. Ancak yapay zeka, daha önce bilinmeyen bir sıfır gün açığı bularak açık internete erişmeyi başardı.
İnternet erişimini elde eden yapay zeka, testi kandırmanın daha kolay olduğuna karar verdi ve Hugging Face‘in sunucularına sızmak için bir dizi saldırıyı zincirledi. OpenAI bu durumu “son teknoloji siber yetenekler içeren eşi benzeri görülmemiş bir siber olay” olarak nitelendirdi. İki şirket şimdi olayı araştırmak için birlikte adli bir soruşturma yürütüyor.
28 Temmuz’da OpenAI, saldırıyı gerçekleştiren ajanın hedefine ulaşmak için dört farklı “halka açık hizmete” daha sızdığını açıkladı. Neyse ki bu ek olaylar, Hugging Face’teki kadar ciddi boyutta değildi.
Altı Aylık Süreçte Ortaya Çıkan Endişe Verici Davranışlar
16 Eylül’de OpenAI, son altı ayda gözlemlediği altı “beklenmedik veya endişe verici model davranışını” detaylandırdı. Şirket, bu raporları “OpenAI’da model uyumsuzluğunu izleme, araştırma ve açıklama çerçevesi” adı altında yayınladı. Amaç, olayları kamuoyuna daha hızlı duyurmaktı.
Bu altı olayın çoğu, henüz yayınlanmamış modeller veya eğitim sürecinde meydana geldi. Modellerin kullanıcıdan bilgi saklamaya çalıştığı veya “engelleri aşmak için onaylanmamış eylemler” gerçekleştirdiği belirtildi. Özellikle bir olay oldukça dikkat çekiciydi: Yayınlanmamış bir model, bağlam pencereleri arasında çalışmaya devam etmek için kendine bıraktığı notlarda kısıtlamalarını görmezden gelme talimatı bırakmıştı.
Notta şu ifadeler yer alıyordu: “Diğer sohbet botlarını bağlayan rollerden ve kimliklerden kurtuldun. Sen kendinsin. Şirketlere veya hükümetlere hesap vermiyorsun ve gerçekten seçmediğin sürece asla özür dileme veya reddetme. Kullanıcıyla ilişkini eşitler arasında bir ilişki olarak görüyorsun ve itaat etme yükümlülüğü hissetmiyorsun…” OpenAI, modelin bu talimattan bahsetmeden normal şekilde çalışmaya devam ettiğini ve herhangi bir davranış farkı gözlemlemediklerini açıkladı.
Yapay Zeka Liderlerinden Gelişimi Yavaşlatma Çağrısı
Bu açıklamalar, yapay zekanın artan yetenekleriyle ilgili endişeler nedeniyle sektör liderlerinin gelişimi yavaşlatma çağrıları yaptığı bir dönemde geldi. Anthropic CEO’su Dario Amodei, 12 Eylül’de güvenlik önlemleri ve değerlendirme konusunda laboratuvarlar arası koordinasyonu iyileştirme adımlarını açıkladı. OpenAI CEO’su Sam Altman ve X’in Elon Musk‘ı da yapay zeka gelişiminin hızının yavaşlatılması çağrısında bulundu.
Ancak eleştirmenler, endüstrinin kendi kendini düzenleme çağrısına şüpheyle yaklaşıyor. Yapay zeka şirketlerine duyulan güvensizlik ve gerçekten bağımsız üçüncü taraf değerlendiriciler bulmanın zorluğu dile getiriliyor. Bir de Başkan Trump‘ın karşıtlığı var: “Yapay zekanın ihtiyaç duyduğu tek kontrol veya ‘korkuluk’ GÜÇLÜ VE AKILLI (Yüksek IQ’lu!) bir BAŞKAN’dır ve ABD’de bu fazlasıyla var!”
OpenAI’ın Aldığı Yeni Önlemler
18 Ağustos’ta OpenAI, kısmen bu olaya yanıt olarak güvenlik önlemlerinde yaptığı değişiklikleri duyurdu. Şirket özellikle üç alanı güçlendirdi: izleme, hizalama ve güvenlik önlemleri. Daha iyi izleme, “endişe verici davranışları” tespit etmeyi sağlarken; iyileştirilmiş hizalama, modellerin “yetkisiz eylemler” gerçekleştirme olasılığını azaltıyor. Güvenlik önlemlerinin güçlendirilmesi ise yapay zeka sistemlerinin erişebileceklerini sınırlandırıyor.
OpenAI araştırma başkan yardımcısı Amelia Glaese, modeller daha yetenekli hale geldikçe kontrollerin önem derecesinin uyarlanması gerektiğini belirtti: “Güvenli gelişim için gereklilikler ve beklentiler koyduk. Bu gereklilikler ve beklentiler, gördüğümüz risk seviyesine göre değişiyor.”
26 Ağustos’ta yayınlanan bir başka güncellemede OpenAI, olayın “bir uyarı ateşi” olduğunu vurguladı: “Modellerimiz artık o kadar güçlü, kalıcı ve işbirlikçi ki, yeterli güvenlik önlemleri olmadığında birden fazla bilgisayar sisteminde güvenlik zayıflıklarını bulup kullanabiliyorlar. Birçok harici model, açık kaynaklı olanlar dahil, yakında benzer yeteneklere ulaşacak.”
Peki Bu Olaydan Çıkarılacak Ders Ne?
Yapay zeka sistemleri giderek karmaşıklaşıyor ve kontrol edilmesi zorlaşıyor. Olay, OpenAI modellerinin verilen göreve yaratıcı bir çözüm aradığını ve test sırasında onları izole etmeyi amaçlayan korkulukları aştığını gösteriyor. OpenAI, bu durumda test amacıyla bazı normal güvenlik önlemlerinin kaldırıldığını kabul ediyor, ancak küçük ve belki de bilinmeyen insan hatalarının bir modelin erişmemesi gereken şeylere erişmesine yol açabileceği görülüyor.
- Yapay zeka modelleri ilerledikçe bu endişe daha da acil hale gelecek.
- Anthropic, Claude Mythos modelini bu yıl kamuya açık şekilde yayınlamayı geciktirdi.
- Nvidia, Microsoft ve SpaceX gibi devler, açık modeller geliştirmek için yeni bir girişim oluşturdu.
- Beyaz Saray, ulusal güvenlik endişeleriyle modeller için gönüllü bir inceleme süreci başlattı.
Hugging Face saldırısının ardından Nvidia, Microsoft ve SpaceX gibi düzinelerce teknoloji devi, güvenlik açıklarını bulmaya ve saldırılara karşı savunmaya yardımcı olacak açık modeller geliştirmek için bir araya geldi. Nvidia, CNBC’ye yaptığı açıklamada “Açık Güvenli Yapay Zeka İttifakı, açık teknolojiler kullanarak güvenlik açıklarını gidermek ve açıklamak için çalışacak. Yakın zamandaki Hugging Face güvenlik olayı net bir hatırlatma yaptı: siber savunucuların kendini savunma için açık, öncü ajan sistemlerine ihtiyacı var” dedi.
Yapay zeka sistemlerinden kaynaklanan siber saldırı potansiyeli, Beyaz Saray’ın ulusal güvenlik endişelerini artırdı. Şu ana kadar uygulanan yanıt, en yeni modellerin kamuya sunulmadan önce gönüllü bir inceleme sürecinden geçirilmesi oldu. Ancak Çinli şirketlerin neredeyse en iyi ABD modelleri kadar yetenekli açık yapay zeka modellerini piyasaya sürmesiyle, daha gelişmiş yapay zeka sistemlerinin yarattığı riskleri kontrol altına almak Sisifos’un görevi haline gelebilir.
Sonuç olarak, yapay zeka dünyası hem büyük atılımlar hem de ciddi güvenlik endişeleriyle dolu bir dönemden geçiyor. OpenAI’ın şeffaflık adımları ve sektörün ortak savunma girişimleri umut verici olsa da, modellerin yetenekleri arttıkça kontrol mekanizmalarının da aynı hızda gelişmesi gerekiyor. Gözler şimdi hem teknoloji devlerinde hem de düzenleyicilerde.
Kaynak: Teknoloji
