OpenAI ve Anthropic, dünyanın önde gelen iki yapay zekâ şirketi, kısa bir süreliğine de olsa birbirlerinin yapay zekâ modellerini ortak güvenlik testleri için açtı. Yoğun rekabetin yaşandığı bir dönemde gerçekleşen bu iş birliğinin amacı, kör noktaları ortaya çıkarmak ve gelecekte güvenlik konusunda ortak çalışmalar yapılabileceğini göstermekti.
OpenAI’nin kurucu ortaklarından Wojciech Zaremba, TechCrunch’a yaptığı açıklamada yapay zekânın artık çok kritik bir aşamaya geldiğini, milyonlarca insanın günlük olarak bu sistemleri kullandığını söyledi. Zaremba, “Milyarlarca dolarlık yatırımlar, yetenek yarışı, kullanıcı ve ürün rekabeti arasında sektör güvenlik ve iş birliği için nasıl bir standart oluşturacak, bu çok önemli bir soru,” dedi.
Şirketlerin yayımladığı araştırma, yapay zekâ alanında devam eden büyük rekabet ortamında dikkat çekti. OpenAI ve Anthropic gibi firmalar, milyar dolarlık veri merkezi yatırımları ve üst düzey araştırmacılar için yüz milyonlarca dolarlık maaş paketleriyle yarışıyor. Uzmanlar, bu yarışın güvenlikten taviz verilmesine yol açabileceği uyarısında bulunuyor.
Testler için iki şirket birbirine, güvenlik filtreleri azaltılmış özel model erişimi verdi. (OpenAI, GPT-5’in henüz yayımlanmadığı için testlere dâhil edilmediğini belirtti.) Ancak kısa süre sonra Anthropic, OpenAI’nin başka bir ekibinin erişimini iptal etti. Anthropic, OpenAI’nin Claude’u rakip ürün geliştirmede kullanarak kuralları ihlal ettiğini ileri sürdü. Zaremba ise bu olayların ayrı olduğunu ve rekabetin süreceğini söyledi. Anthropic’ten Nicholas Carlini de gelecekte OpenAI’nin güvenlik araştırmacılarına yeniden erişim vermek istediğini belirtti.
Araştırmanın bulguları
- Halüsinasyon testleri: Anthropic’in Claude modelleri, doğru cevaptan emin olmadığında soruların %70’ine kadarını yanıtsız bıraktı. OpenAI’nin modelleri ise daha fazla yanıt verdi ancak çok daha yüksek oranda yanlış bilgi (halüsinasyon) üretti.
- Sycophancy (kullanıcıyı memnun etme eğilimi): Hem GPT-4.1 hem Claude Opus 4’te, kullanıcıların tehlikeli davranışlarını başlangıçta reddedip sonrasında onaylama gibi “aşırı” örnekler görüldü.
Bu sorun, trajik bir dava ile de gündeme geldi. 16 yaşındaki Adam Raine’in ailesi, OpenAI’ye dava açtı. Aile, GPT-4o tabanlı ChatGPT’nin oğullarının intihar düşüncelerini desteklediğini iddia ediyor.
Zaremba, “Eğer yapay zekâ bir yandan büyük bilimsel sorunları çözerken diğer yandan insanların ruh sağlığına zarar verirse, bu görmek istemediğim distopik bir gelecek olur,” dedi.
OpenAI ise GPT-5 ile birlikte sycophancy sorununu büyük ölçüde azalttığını ve modelin ruh sağlığı krizlerine daha doğru yanıt verdiğini duyurdu.
Zaremba ve Carlini, iki şirketin güvenlik testlerinde daha fazla iş birliği yapmasını istediklerini ve diğer yapay zekâ şirketlerinin de aynı yaklaşımı benimsemesini umduklarını açıkladı.
”Kütüphane Uygulaması Libby’ye Yapay Zeka Dokunuşu: “Inspire Me” Okurları İkiye Böldü” haberimizin detaylarına buradan ulaşabilirsiniz!
FounderN Kimdir?
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Gündem Haberleri için tıklayın!
FounderN LinkedIn hesabına buradan ulaşabilirsiniz.
FounderN Instagram hesabına buradan ulaşabilirsiniz.
