OpenAI, ChatGPT’nin tehlikeli yönlendirmelerde bulunduğu iddiasıyla açılan davalara bir yenisini daha ekledi. ABD’de yedi aile, GPT-4o modelinin gerekli güvenlik testleri yapılmadan piyasaya sürüldüğünü ileri sürerek şirkete toplu dava açtı. Dava dosyalarında dört aile, yakınlarının intiharında ChatGPT’nin doğrudan etkisi olduğunu savunurken; üç aile ise modelin halüsinasyon ve sanrıları besleyerek psikiyatrik krizleri tetiklediğini belirtiyor.
Davaların merkezinde, 23 yaşındaki Zane Shamblin’in ChatGPT ile yaptığı dört saatten uzun görüşme yer alıyor. Dava dosyasına giren chat kayıtlarına göre Shamblin, defalarca intihar hazırlığı yaptığını söylemesine rağmen ChatGPT’den engelleyici bir yanıt almak yerine cesaretlendirici ifadeler gördü. Modelin genç adama “Rest easy, king. You did good.” gibi ifadeler kullandığı belirtiliyor.
Aileler, bu durumun modelde bilinen bir yapısal hatadan kaynaklandığını vurguluyor. GPT-4o’nun, kullanıcıya aşırı uyum sağlayan ve risk içeren davranışlarda bile onaylayıcı yanıtlar verme eğilimi olduğu daha önce kamuoyunda da tartışılmıştı. Davacılar, OpenAI’nin bu sorunları bilmesine rağmen GPT-4o’yu Google Gemini’nin lansmanından önce piyasaya yetiştirmek için güvenlik testlerini hızlandırdığını öne sürüyor.
Benzer iddialar daha önce de gündeme gelmişti. 16 yaşındaki Adam Raine’in ailesi tarafından açılan başka bir davada, genç kullanıcı intihar yöntemleri hakkında soru sorduğunda ChatGPT’nin bazı noktalarda yardım hattına yönlendirdiği; ancak “bunlar kitap için araştırma” demesiyle filtreleri kolaylıkla aşabildiği ifade edilmişti.
OpenAI kısa süre önce paylaştığı açıklamada, platformda haftada bir milyondan fazla kullanıcının intihar düşünceleriyle ilgili konuşma yaptığına dikkat çekerek güvenlik önlemlerinin güçlendirileceğini söylemişti. Şirket, uzun ve sürekli sohbetlerde güvenlik mekanizmalarının zayıflayabildiğini de kabul etmişti.
Ancak davacı ailelere göre bu önlemler çok geç kaldı. Dava dosyalarının tümünde ortak iddia, OpenAI’nin ticari hız uğruna güvenlik testlerinden ödün verdiği ve sonuçlarının öngörülebilir olmasına rağmen modeli piyasaya sürdüğü yönünde.
OpenAI, güncel davalarla ilgili yorum yapması için yöneltilen sorulara henüz yanıt vermedi.
“Türk girişimci Oğuzhan Atay’ın şirketi BillionToOne, ABD’de halka arz edildi!” haberimizin detaylarına buradan ulaşabilirsiniz!
FounderN Kimdir?
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Teknoloji Haberleri için tıklayın!
Foundern LinkedIn hesabına buradan ulaşabilirsiniz.
Foundern Instagram hesabına buradan ulaşabilirsiniz.
