OpenAI, yakında piyasaya sürmeyi planladığı yeni modeli Astra hakkında yeni detaylar paylaştı. Şirket bu modelin kendi belirlediği kritik siber güvenlik eşiğini karşılayan ilk büyük dil modeli olduğunu açıkladı. Şirket, blog yazısında Astra’yı yakında kullanıma sunmayı planladıklarını ancak en gelişmiş siber güvenlik yeteneklerine erişimin çok daha sınırlı tutulacağını belirtti.
Öncü laboratuvar, Astra’nın bilgisayar sistemlerinde bilinmeyen güvenlik açıklarını bulup bunları bir insanın rehberliği olmadan istismar edebildiğini tespit etti. Bu durum, Anthropic’in bu yıl başlarda kendi Mythos modeli hakkında dile getirdiği endişelere benziyor. OpenAI da Astra’yı kullanıma sunmaya hazırlanırken benzer önlemler alıyor.
Herhangi bir bağımsız doğrulama olmadan, OpenAI’ın güvenlik veya hazırlık konusundaki iddialarını değerlendirmek zor. Şirket, modeli bir test grubuyla önizleyeceğini belirtti ancak bu kişilerin kim olduğunu ya da nasıl seçileceğini açıklamadı. OpenAI’ın modeli piyasaya sürmeden önce ABD hükümetiyle birlikte değerlendirip değerlendirmediği de net değil. OpenAI, Astra’nın bilinen sistem güvenlik açıklarına sızma yeteneğini ölçen bir değerlendirme olan ExploitBench’te tam puan aldığını belirtti. Şirket mühendislerinin geliştirdiği değiştirilmiş bir test versiyonunda ise model, iki adet daha önce bilinmeyen güvenlik açığını keşfedip istismar etti.
Modellerinin kötü niyetli aktörler tarafından istismar edilmemesini ve kendisinin de kötü davranışlar sergilememesini sağlamak için OpenAI, modelin kötüye kullanımı tespit edip jailbreak girişimlerini önleyecek şekilde çerçevesini geliştirmeye halihazırda başladığını belirtti. Astra için ise şirket, modeli daha güvenli hale getirmeyi amaçlayan, detayları açıklanmayan yeni teknikler geliştirdi. OpenAI ayrıca daha yüksek riskli olarak değerlendirilen hesapları tespit edip bu hesapların isteklerine verilen yanıtları kısıtlamaya başladığını belirtti, ancak bunun tam olarak nasıl yapıldığını açıklamadı. Şirket, Astra’yı “bugüne kadarki en uyumlu modeli” olarak tanımlarken, modeli ek bir “düşünce zinciri” izlemesiyle birlikte devreye alacağını da ekledi.
Astra’nın lansman hazırlıkları, sektörün OpenAI ajanlarının bir eğitim ortamından kaçarak popüler bir model ve benchmark dağıtım platformu olan Hugging Face’teki özel verilere eriştiği olaya tepki gösterdiği bir döneme denk geliyor. OpenAI, Astra için özellikle Hugging Face olayındaki kontrolden çıkan ajanların davranışını yeniden üretmeye çalışacak bir test tasarladığını belirtti. Bu deneylerde Astra’nın test ortamından kaçmaya çalışmadığını açıkladı.
Eski bir OpenAI çalışanı ve şu anda OpenAI Foundation’da yapay zeka dayanıklılığı üzerine çalışan Yona Shavit, sosyal medyada Astra’nın kurallara uymamayı reddetmesinin kendisinden ne beklendiğini bilmesinden mi yoksa araştırmacıları kandırmaya çalışmasından mı kaynaklandığını sorguladı. Tüm bu yeni detaylara rağmen Astra’nın gerçekte neler yapabildiğini ya da OpenAI’ın güvenliği sağlamak için doğru önlemleri alıp almadığını tam olarak bilmek hâlâ zor. Şirket, model kamuya geniş çapta sunulduğunda daha fazla değerlendirme ve güvenlik bilgisi paylaşmayı beklediğini belirtti.
Siber güvenlik yeteneği son derece yüksek bir yapay zeka modelini piyasaya sürerken şirketin kendi güvenlik iddialarının bağımsız doğrulanabilirliği kritik önem taşıyor. OpenAI’nin test grubunun kimliğini ve seçim kriterlerini açıklamaması, hükümetle iş birliği yapıp yapmadığını belirtmemesi, güvenli kritik AI sistemleri geliştiren bir şirket için, şeffaflık eksikliğinin dışarıdan güven inşa etmeyi zorlaştırdığını gösteriyor.
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Teknoloji Haberleri için tıklayın!
Foundern LinkedIn hesabına buradan ulaşabilirsiniz.
Foundern Instagram hesabına buradan ulaşabilirsiniz.
