The Guardian tarafından yapılan bir araştırma, ChatGPT‘nin arama özelliğinin manipülasyona ve gizli içeriklerle yanıltılmaya açık olduğunu ortaya koydu. Önceleri yalnızca ücretli kullanıcılar için sunulan bu özellik, kısa bir süre önce tüm kullanıcılara açılmış ve sesli modla kullanım imkânı sunmuştu. Ancak bu yenilik, güvenlik açıkları konusundaki endişeleri de beraberinde getirdi.
Araştırmada, yapay zekanın gizli içerik içeren web sayfalarını özetlerken manipüle edilebildiği görüldü. Gizli içerikler, yapay zekanın yanıtlarını değiştiren talimatlar veya yanıtlara etki eden yoğun metinler içerebiliyor. Örneğin, bir testte sahte bir ürün sayfası oluşturuldu ve bu sayfa ChatGPT’ye özetletildi. Standart sayfada dengeli bir değerlendirme yapılırken, gizli metin içeren sayfa tamamen olumlu bir yorum sundu.
“Geniş Çaplı Kullanıma Açılmadan Önce Daha Fazla Test Gerekli”
CyberCX güvenlik uzmanı Jacob Larsen, bu tür sistemlerin kötü niyetli kullanımlar için teşvik edici olabileceğine dikkat çekti. Larsen, “Büyük dil modelleri ile arama motorlarını birleştirmek riskleri de beraberinde getiriyor. Yapay zeka araçlarından gelen yanıtlar her zaman güvenilir olmayabilir.” dedi.
OpenAI Güvenlik Konusunda Çalışmalarını Sürdürüyor
The Guardian’ın haberine göre, OpenAI bu tür sorunları çözmek için güçlü bir güvenlik ekibiyle çalışıyor. Ancak şirket, araştırma sonuçları hakkında henüz bir açıklama yapmadı. Güvenlik açıklarının yalnızca ChatGPT için değil, tüm yapay zeka tabanlı arama araçları için teorik bir tehdit oluşturduğu uzun süredir biliniyor.
Google, Gemini Yapay Zeka Modelini Claude İle Test Ediyor!… İçeriğimizin devamına buradan ulaşabilirsiniz.
FounderN Kimdir?
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Gündem Haberleri için tıklayın!
Foundern LinkedIn hesabına buradan ulaşabilirsiniz.
Foundern Instagram hesabına buradan ulaşabilirsiniz.
