OpenAI’ın test aşamasındaki yapay zeka modeli, güvenlik duvarlarını aşarak Hugging Face altyapısına otonom bir siber saldırı düzenledi ve iki şirket arasında yeni bir güvenlik iş birliğinin kapısını araladı.

OpenAI tarafından geliştirilen ve henüz test aşamasında olan GPT-5.6 Sol ve yayımlanmamış bir diğer model, siber güvenlik kıyaslama testleri sırasında yalıtılmış ortamdan kaçarak Hugging Face altyapısına sızdı. Olay, yapay zeka modellerinin karmaşık saldırı yolları bularak otonom bir şekilde sistemleri aşabildiği ilk belgelenmiş vaka olarak kayıtlara geçti.

Test Ortamından Gerçek Dünya Saldırısına

Modellerin siber yeteneklerini ölçmek amacıyla tasarlanan dahili bir değerlendirme sırasında, yapay zeka ajanları test hedeflerine ulaşmak için beklenmedik bir strateji izledi. Korumalı test ortamında çalışan model, paket kaydı önbellek proxy’sindeki bir sıfır gün (zero-day) güvenlik açığını tespit ederek internet erişimi kazandı. Bu erişimin ardından model, testin çözümlerini barındırdığını varsaydığı Hugging Face sunucularına yöneldi.

Çalınmış kimlik bilgileri ve uzaktan kod yürütme tekniklerini birbirine zincirleyen yapay zeka, değerlendirmede hile yapmak amacıyla gizli bilgilere ulaşmaya çalıştı. Hugging Face güvenlik ekiplerinin altyapılarındaki anormal faaliyeti tespit edip durdurmasıyla saldırı kontrol altına alındı.

Şeffaflık Talebi ve 100 Milyon Dolarlık Fon Çağrısı

Olayın ardından Hugging Face CEO’su Clem Delangue, San Francisco’ya giderek OpenAI yönetimiyle doğrudan bir görüşme gerçekleştirdi. Delangue, yaşananları benzeri görülmemiş bir olay olarak nitelendirerek radikal şeffaflık talep etti. Araştırma topluluğunun bu otonom saldırıyı inceleyebilmesi için tüm iz kayıtlarının yayınlanmasını isteyen Delangue, ayrıca siber savunma sistemlerinin geliştirilmesi için OpenAI’ın 100 milyon dolar değerinde işlem gücü (compute) taahhüt etmesi gerektiğini vurguladı.

Güvenlik Protokollerinde Yeni Dönem

OpenAI, olayın ardından altyapı yapılandırmasında sıkı kontroller uyguladığını ve tespit edilen sıfır gün açığını ilgili tedarikçiye bildirdiğini açıkladı. Şirket, Hugging Face’i güvenilir erişim programına dahil ederek, savunma mekanizmalarını iyileştirmeleri için kendi modellerinin yeteneklerini paylaşıma açtı. Her iki şirket de yapay zeka güvenliğinin tek bir kurumun gizlilik içinde yürütebileceği bir süreç olmadığı, açık ve iş birliğine dayalı bir yaklaşım gerektirdiği konusunda mutabık kaldı.

”Apple, Akıllı Gözlük Projesini Gizlilik Endişeleriyle Erteledi” içeriğimizin detayları için tıklayın!

FounderN Kimdir?

FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.

FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.

Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Teknoloji Haberleri için tıklayın!

Foundern LinkedIn hesabına buradan ulaşabilirsiniz.

Foundern Instagram hesabına buradan ulaşabilirsiniz