Yapay zeka (AI) sistemlerinin matematik yeteneklerini ölçmek için bir dizi test geliştiren Epoch AI, OpenAI’den aldığı fonları açıklamayı geciktirdiği için eleştirilere maruz kaldı. Bu durum, yapay zeka topluluğunda şeffaflık eksikliği ve çıkar çatışması endişelerini gündeme getirdi.
Epoch AI, genellikle Open Philanthropy adlı bir vakıf tarafından finanse edilen bağımsız bir kuruluş. Ancak, 20 Aralık’ta yaptığı bir açıklamada, OpenAI’nin FrontierMath adlı bir testin geliştirilmesine destek verdiği ortaya çıktı. FrontierMath, AI’nin matematiksel sorunlarla başa çıkma yeteneğini ölçmek için uzman seviyesinde sorular içeren bir test ve OpenAI’nin yeni modeli o3’ü tanıtmak için kullandığı bir araç olarak dikkat çekiyor.
Projeye Katkı Sağlayanlardan Gizlenen Bilgiler
Epoch AI yüklenicilerinden biri olan ve “Meemi” takma adını kullanan bir kullanıcı, LessWrong forumunda yaptığı bir paylaşımda, FrontierMath projesine katkıda bulunan pek çok kişinin, OpenAI’nin bu projedeki rolünden habersiz olduğunu ifade etti.
“Bu süreçte şeffaflık sağlanmadı. Epoch AI, OpenAI’den alınan desteği açıklamalıydı. Ayrıca, katkıda bulunanlar çalışmalarının nasıl kullanılacağı konusunda bilgilendirilmeliydi.”
Bu olay, FrontierMath’in tarafsız bir ölçüt olma güvenilirliğini zedeleyebileceği yönünde endişelere yol açtı. Açıklamaya göre, OpenAI, Epoch AI ile olan anlaşması sayesinde FrontierMath’in sorularına ve çözümlerine erken erişim sağladı. Ancak bu bilgi, o3 lansmanına kadar gizli tutuldu.
Stanford Üniversitesi’nde doktora yapan matematik öğrencisi Carina Hong, altı matematikçinin bu projeye katkıda bulunurken OpenAI’nin dahil olduğundan habersiz olduğunu açıkladı. Hong, bu matematikçilerin çoğunun bu bilgiyi bilselerdi projeye dahil olmayabileceklerini belirtti.
Epoch AI’den Şeffaflık İtirafı
Gelen eleştiriler üzerine Epoch AI’nin kurucularından Tamay Besiroglu, şeffaflık eksikliğini kabul etti ve daha iyi bir iletişim kurmaları gerektiğini itiraf etti. Besiroglu, “OpenAI ile yapılan anlaşmalar nedeniyle bu iş birliğini açıklayamıyorduk. Ancak geriye dönüp baktığımızda, projeye katkıda bulunanları bilgilendirmek için daha fazla çaba göstermeliydik” dedi. Ayrıca OpenAI’nin FrontierMath’in soru setini yapay zekalarını eğitmek için kullanmama konusunda sözlü bir anlaşmaları olduğunu belirtti.
Besiroglu’nun açıklamasına rağmen, Epoch AI’nin baş matematikçisi Ellot Glazer, Reddit üzerinden yaptığı bir paylaşımda OpenAI’nin o3 sonuçlarını henüz bağımsız bir şekilde doğrulamadıklarını söyledi.
“Sonuçların doğru olduğunu düşünüyorum, ancak bu konuda kesin konuşmak için bağımsız incelememizin tamamlanmasını bekliyoruz”
Bu olay, AI değerlendirme ölçütlerinin geliştirilmesindeki zorlukları ve bu tür projelerde fon sağlayıcılarla şeffaf iş birliği kurmanın önemini yeniden gündeme getirdi.
“Donald Trump’tan Yeni Kripto Para: Meme Coin “Trump” Piyasada!” haberimizin detaylarına buradan ulaşabilirsiniz!
FounderN Kimdir?
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Gündem Haberleri için tıklayın!
Foundern LinkedIn hesabına buradan ulaşabilirsiniz.
Foundern Instagram hesabına buradan ulaşabilirsiniz.
