Meta CEO’su Mark Zuckerberg, gelecekte insan zekâsına yakın seviyede yeteneklere sahip olan Yapay Genel Zekâ’yı (AGI) açık bir şekilde erişilebilir hâle getirmeyi planladığını söylüyor. Ancak Meta’nın yeni yayımladığı “Frontier AI Framework” adlı politika belgesine göre, şirket bazı durumlarda geliştirdiği yapay zekâ sistemlerini kamuya sunmamayı tercih edebilir.
Bu belgeye göre, Meta “yüksek riskli” ve “kritik riskli” olarak tanımladığı iki tür yapay zekâ sistemi geliştirebilir. Bu sistemler özellikle siber güvenlik açıklarını kullanarak saldırılar düzenleyebilecek veya kimyasal ve biyolojik tehditler oluşturabilecek kapasitede olabilir.
Yüksek Risk Ve Kritik Risk Nedir?
Meta’ya göre “yüksek riskli” sistemler, kötü niyetli kişilere saldırı düzenlemekte yardımcı olabilir ancak bu saldırıların başarılı olup olmayacağı kesin değildir. “Kritik riskli” sistemler ise, şirketin tanımına göre, kontrol edilemez ve doğrudan felakete yol açabilecek kapasitede olabilir. Örneğin, bir yapay zekâ sistemi tamamen korunaklı bir kurumsal ağın otomatik olarak ele geçirilmesine veya biyolojik silahların yayılmasına neden olabilecek şekilde geliştirildiyse, bu sistem “kritik riskli” olarak değerlendirilebilir.
Meta, bir sistemin risk seviyesini belirlerken herhangi bir kesin bilimsel teste dayanmadığını, bunun yerine iç ve dış araştırmacıların değerlendirmeleriyle karar verildiğini belirtiyor. Şirket, mevcut değerlendirme yöntemlerinin henüz yeterince kesin sonuçlar vermediğini düşünüyor.
Riskli Yapay Zekâ Sistemleri İçin Ne Yapılacak?
Meta, yüksek riskli olarak sınıflandırılan bir sistemin erişimini kısıtlayacak ve ancak risk seviyesi makul düzeye indirildiğinde kamuya açacak. Kritik riskli bir sistemde ise geliştirme tamamen durdurulacak ve sistemin ele geçirilmesini önlemek için ek güvenlik önlemleri alınacak.
Bu politika değişikliği, Meta’nın açık kaynak yerine “açık erişim” yaklaşımını benimsemesiyle ilgili eleştirilere bir yanıt olarak da görülebilir. Meta’nın yapay zekâ modelleri, özellikle Llama serisi, milyonlarca kez indirildi. Ancak bu modellerin kötüye kullanıldığına dair örnekler de var. Örneğin, ABD’ye karşı bir savunma amaçlı sohbet botu geliştirilirken Llama’nın kullanıldığı iddia ediliyor.
Meta’nın bu yeni çerçeveyi, Fransa’da düzenlenecek AI Action Summit öncesinde duyurması da dikkat çekici. Şirketin amacı, yapay zekâyı hem açık erişilebilir kılmak hem de güvenlik risklerini dengelemek olarak özetlenebilir. Meta, bu yaklaşımıyla Çinli yapay zekâ şirketi DeepSeek’ten farklılaşmayı da hedefliyor. DeepSeek de sistemlerini açık şekilde sunuyor, ancak güvenlik önlemleri çok zayıf olduğu için zararlı içerikler üretmeye kolayca yönlendirilebiliyor.
Meta, yapay zekânın toplum için faydalı bir şekilde geliştirilmesi gerektiğini savunuyor ve hem riskleri hem de avantajları değerlendirerek ilerlemeyi planlıyor.
“Erdoğan Açıkladı: Sosyal Medyaya Yaş Sınırı Gelebilir!” haberimizin detaylarına buradan ulaşabilirsiniz!
FounderN Kimdir?
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Gündem Haberleri için tıklayın!
Foundern LinkedIn hesabına buradan ulaşabilirsiniz.
Foundern Instagram hesabına buradan ulaşabilirsiniz.
