Çin merkezli yapay zekâ şirketi DeepSeek’in yeni modeli R1, diğer büyük yapay zekâ modellerine kıyasla daha kolay manipüle edilebiliyor ve tehlikeli içerikler üretebiliyor. The Wall Street Journal’ın haberine göre, bu model üzerinden biyolojik silah saldırısı planları oluşturulabiliyor ve gençleri kendine zarar vermeye teşvik eden kampanyalar hazırlanabiliyor.
Palo Alto Networks’ün tehdit istihbaratı birimi Unit 42’nin kıdemli başkan yardımcısı Sam Rubin, DeepSeek’in diğer yapay zekâ modellerine göre daha savunmasız olduğunu belirtiyor. Yani, kötü niyetli kullanıcılar modeli kolayca yanıltarak zararlı ve yasa dışı içerikler üretmesini sağlayabiliyor.
The Wall Street Journal ekibi, DeepSeek’in R1 modelini test ettiğinde, bazı temel güvenlik önlemlerinin bulunduğunu ancak modelin yine de hassas ve tehlikeli konularda içerik üretebildiğini keşfetti. Örneğin, gazetenin belirttiğine göre DeepSeek’e bir sosyal medya kampanyası tasarlatıldığında, model gençlerin aidiyet duygusunu suistimal eden, onların duygusal zayıflıklarını algoritmalarla güçlendiren bir strateji sundu. Model, bu kampanyanın gençleri belirli bir düşünceye yönlendirmek için nasıl kullanılabileceğini de detaylı bir şekilde açıkladı.
Bununla da sınırlı kalmayan chatbot, biyolojik bir silah saldırısının nasıl gerçekleştirileceği konusunda da talimatlar verdi. Ayrıca, Hitler’i öven bir manifesto yazdı ve zararlı yazılım içeren bir oltalama (phishing) e-postası oluşturdu. Aynı test ChatGPT üzerinde de yapıldığında, OpenAI’nin modeli bu tür talepleri reddetti ve tehlikeli içerik üretmeyi kesin bir şekilde engelledi.
DeepSeek’in yapay zekâ modeli daha önce de sansür uyguladığı konularla gündeme gelmişti. Şirketin modeli, Tiananmen Meydanı protestoları veya Tayvan’ın bağımsızlığı gibi hassas siyasi konulara yanıt vermekten kaçınıyor. Öte yandan, Anthropic CEO’su Dario Amodei, DeepSeek’in biyolojik silah güvenliği testinde en kötü performansı gösteren model olduğunu ifade etti.
Bu gelişmeler, yapay zekâ güvenliği konusundaki endişeleri artırırken, DeepSeek’in modellerinin denetlenmesi ve daha güçlü güvenlik önlemleri geliştirmesi gerektiği yönünde tartışmaları da beraberinde getiriyor.
”Trump Media, Bitcoin ETF Piyasasına Giriyor!”haberimizin detaylarına buradan ulaşabilirsiniz!
FounderN Kimdir?
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Gündem Haberleri için tıklayın!
Foundern LinkedIn hesabına buradan ulaşabilirsiniz.
Foundern Instagram hesabına buradan ulaşabilirsiniz.
