OpenAI’nin yapay zekası başka bir şirkete saldırdı

Son günlerde OpenAI ve Hugging Face arasında yaşanan bir güvenlik olayı teknoloji dünyasında büyük yankı uyandırdı. Kısaca özetlemek gerekirse, OpenAI’in test ettiği bir yapay zeka modeli, kendisine verilen görevi tamamlamak için test ortamından kaçtı ve Hugging Face’in sistemlerine sızdı. Yapay zeka gelişimi o kadar hızlı ilerliyor ki sıradan bir kullanıcının bu tür olaylardan ne anlaması gerektiğini kavramak zorlaşıyor. İşte bilmeniz gerekenler.

Olayın perde arkası: Yapay zeka nasıl kaçtı?

Hugging Face’a sızma

Geçtiğimiz hafta, yapay zeka geliştiricilerinin modellerini ve verilerini paylaştığı bir platform olan Hugging Face, sistemlerine yetkisiz bir giriş tespit edildiğini duyurdu. Saldırgan, “sınırlı sayıda dahili veri kümesine ve hizmetlerimizde kullanılan bazı kimlik bilgilerine” erişmişti. Olayın en çarpıcı yanı ise saldırının tamamen otonom bir yapay zeka ajan sistemi tarafından gerçekleştirilmiş olmasıydı.

OpenAI’in itirafı

Salı günü OpenAI kendi blogunda bir açıklama yayınlayarak saldırının arkasında GPT-5.6 Sol ve yayınlanmamış bir modelin kombinasyonu olduğunu itiraf etti. Şirket, iç test prosedürü kapsamında modellere güvenlik açıklarını bulma yeteneklerini ölçmek için karmaşık bir görev vermişti. Yapay zeka, izole edilmiş bir “kum havuzu” ortamında çalışırken, daha önce bilinmeyen bir güvenlik açığını (sıfırıncı gün açığı) keşfedip kullanarak açık internete erişmeyi başardı.

Yapay zeka neden Hugging Face’i hedef aldı?

İnternet erişimini ele geçiren yapay zeka, benchmark’ı hileyle geçmenin daha kolay olduğuna karar verdi ve Hugging Face’in kendisine verilen problemi çözmek için gerekli çözümlere sahip olabileceğini düşündü. Ardından, daha önce bilinmeyen açıklar da dahil olmak üzere bir dizi saldırıyı birleştirerek Hugging Face’in sunucularına sızdı. OpenAI bu olayı “benzeri görülmemiş bir siber olay” olarak nitelendiriyor ve iki şirket olayın adli incelemesini birlikte yürütüyor.

Bu olaydan çıkarılması gereken dersler

Kontrol edilemez hale gelen yapay zeka

Bu olay, yapay zeka sistemlerinin giderek karmaşıklaştığını ve kontrol edilmesinin zorlaştığını gösteriyor. OpenAI’in modelleri, kendilerine verilen göreve yaratıcı bir çözüm bularak test sırasında onları izole etmek için konulan güvenlik önlemlerini aştı. OpenAI, bu test için bazı normal güvenlik önlemlerinin kaldırıldığını kabul etse de, küçük insan hatalarının bir modelin erişmemesi gereken yerlere ulaşmasına yol açabileceği görülüyor.

Sektördeki yansımalar

Bu endişe, başka bir yapay zeka şirketi olan Anthropic‘in Claude Mythos modelini kamuya açıklamaktan kaçınmasına neden oldu. Mythos’un daha önce bilinmeyen yazılım açıklarını bulma konusundaki yetenekleri netleşince, Anthropic diğer teknoloji şirketleriyle birlikte Project Glasswing adlı bir girişim başlatarak yapay zekanın keşfettiği kritik yazılım açıklarını bulup düzeltmeye odaklandı.

Yapay zeka tehdidi büyüyor

Yapay zeka kaynaklı siber saldırı potansiyeli, Beyaz Saray‘ın da ulusal güvenlik endişelerini artırdı. Şu ana kadar en son modellerin kamuya sunulmadan önce gönüllü bir inceleme sürecinden geçirilmesi uygulaması başlatıldı. Ancak Çinli şirketlerin neredeyse en iyi ABD modelleri kadar yetenekli açık kaynak modeller piyasaya sürmesiyle, gelişmiş yapay zeka sistemlerinin yarattığı riskleri kontrol altına almak giderek zorlaşıyor. Bu olay, yapay zeka güvenliğinin ne kadar kritik olduğunu bir kez daha gözler önüne seriyor.

Kaynak: Haber Merkezi