OpenAI, pazartesi günü yayımladığı blog yazısında, AB Yapay Zeka Yasası’na uyum sağlamak amacıyla ChatGPT ve Codex tarafından üretilen metinlere Avrupa Birliği’nde görünmez bir filigran ekleyeceğini duyurdu. 2 Ağustos’ta yürürlüğe giren AB Yapay Zeka Yasası’nın şeffaflık kuralları, yapay zeka şirketlerinin ürettikleri içeriği diğer sistemlerin tanımlayabileceği şekilde işaretlemesini zorunlu kılıyor.
Filigran, önümüzdeki haftalarda tüm planlardaki uygun ChatGPT ve Codex kullanıcılarına, ancak yalnızca AB’de kullanıma sunulacak. Dünyanın herhangi bir yerindeki OpenAI API geliştiricileri ise bugünden itibaren seçili modeller için filigranı açabilecek, özellik varsayılan olarak kapalı. OpenAI, metin filigranlamayı lansmanda küresel varsayılan haline getirmediğini vurguladı.
Filigran görünür bir sembol değil, modelin kelime seçimlerini ince şekilde yönlendirerek okuyucuların göremediği ama bir tespit aracının yakalayabildiği bir örüntü bırakıyor. Örüntü kelimelerin kendisinde yaşadığı için metin kopyalanıp yapıştırıldığında da onunla birlikte taşınıyor. OpenAI, filigranın kullanıcıyı tanımlamadığını ve etkinleştirildiğinde modellerin performansında anlamlı bir değişiklik görmediğini belirtti.
Şirket, “textGrain” adını verdiği yöntemin teknik raporunu da yayımladı. Rapor Pennsylvania ve Yale Üniversiteleri’nden araştırmacılarla birlikte yazıldı. Yöntemde, bir cümleyi tamamlamak için gizli bir anahtar kullanılarak bir sonraki kelime tahminleri sıralanıyor. Yüzlerce böyle küçük yönlendirme bir araya geldiğinde, tespit aracı yalnızca metne ve anahtara bakarak yapay zeka üretimi içeriği ayırt edebiliyor.
Filigranın düzenleme yoluyla kaldırılıp kaldırılamayacağı sorusunun yanıtı ise olumlu: OpenAI’nin testlerinde kelimelerin yüzde 10’unu eş anlamlılarıyla değiştirmek, tespit oranını yaklaşık yüzde 92’den yüzde 66’ya düşürdü. Şirket ayrıca kısa pasajların, matematik yanıtlarının ve çevrilmiş metinlerin tespit edilmesinin daha zor olduğunu belirtti. Bu sınırlılıklar nedeniyle OpenAI, tespit aracına ilk aşamada yalnızca onaylı araştırmacıların ve uzman kuruluşların erişmesine izin verecek. Şirket ayrıca filigranın bulunmamasının insan yazarlığını kanıtlamadığını, metnin çok kısa ya da çok fazla düzenlenmiş olabileceğini veya başka bir şirketin yapay zekasından gelmiş olabileceğini vurguladı.
Bu duyuru, Anthropic’in iki ay önce Claude tarafından üretilen metinleri filigranlayacağını açıklamasının ardından geldi. Anthropic bu uygulamayı yalnızca AB’de değil dünya genelinde devreye aldı. Bu karar, bazı Claude kullanıcılarından tepki çekmişti. Kullanıcılar, talimatları, bağlamı ve kararları kendilerinin sağladığını, Claude’un ise yalnızca bir araç olduğunu savunmuştu. OpenAI’nin daha önce de bir metin filigranı geliştirdiği, ancak kullanıcıların filigran eklemeyen rakiplere geçebileceği endişesiyle bunu yayımlamayı ertelediği, The Wall Street Journal tarafından 2024’te bildirilmişti. Anthropic, Google, Meta, Microsoft ve OpenAI, AB’nin yapay zeka tarafından üretilen içeriğe ilişkin uygulama kurallarına uymayı taahhüt eden şirketler arasında yer alıyor.
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Teknoloji Haberleri için tıklayın!
Foundern LinkedIn hesabına buradan ulaşabilirsiniz.
Foundern Instagram hesabına buradan ulaşabilirsiniz.
