Yapay zeka girişimi Anthropic, Claude’un Opus 4 ve 4.1 modellerine yeni bir özellik ekledi. Şirketin açıklamasına göre Claude, yalnızca istismar, şiddet veya benzeri zararlı içeriklerin yer aldığı uç durumlarda sohbeti sonlandırabilecek. Bu adımın amacı kullanıcıyı değil, modelin bu tür içeriklerle uzun süreli etkileşimde kalmasını engellemek.
Anthropic, özelliğin özellikle çocuk istismarı, terör eylemleri veya şiddet teşvikine yönelik taleplerde devreye gireceğini belirtiyor. Claude’un bu tür durumlarda önce yanıt vermekten kaçınacağı, ardından konuşmayı farklı bir yöne yönlendirmeye çalışacağı; eğer bu yöntemler sonuç vermezse sohbeti tamamen bitireceği ifade ediliyor.
Sohbetin kapatılması, kullanıcının platformdan engellenmesi anlamına gelmiyor. Aynı kullanıcı, yeni bir konuşma başlatabiliyor ya da önceki mesajlarını düzenleyerek farklı bir yönlendirme yapabiliyor.
Bu yeniliğin dikkat çeken yönü, “kullanıcı güvenliğini” değil, modelin bütünlüğünü korumaya odaklanması. Anthropic, “model refahı” adı altında yürüttüğü araştırmalar kapsamında, yapay zekanın karşılaşabileceği etik ve teknik riskleri en aza indirmeyi amaçlıyor. Şirket, testlerde Claude’un zararlı taleplerle karşılaştığında yanıt vermekte isteksizlik gösterdiğini ve “rahatsızlık belirtileri” sergilediğini de paylaştı.
Anthropic, özelliğin deneysel olduğunu ve kullanıcı geri bildirimlerine göre geliştirmeye devam edeceklerini vurguluyor. Şimdilik yalnızca Claude Opus 4 ve 4.1 modellerinde uygulanıyor.
“Lojimod, Arf Lojistik Teknolojileri’ni Bünyesine Katarak Lojistikte Yeni Bir Dönem Başlatıyor” haberimizin detaylarına buradan ulaşabilirsiniz!
FounderN Kimdir?
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Gündem Haberleri için tıklayın!
FounderN LinkedIn hesabına buradan ulaşabilirsiniz.
FounderN Instagram hesabına buradan ulaşabilirsiniz.
