Anthropic, Kongre’nin benimsemesini umduğu yeni bir yapay zeka güvenliği yasa taslağını çeşitli çevrelere sunuyor. Taslak, bir yapay zeka modelinin dağıtımının engellenebileceği belirli senaryoları tanımlıyor. Anthropic yasa tasarısının, şirketin haziran ayından bu yana federal ve eyalet düzeyindeki yasa koyuculara savunduğu Gelişmiş Yapay Zeka Çerçevesi’ndeki önerileri yansıttığını belirtti.
Engelleme senaryoları, “öngörülebilir, yakın tehlike” taşıyan durumlarla sınırlı: 50’den fazla kişinin ölüm riski altında olması ya da bir milyar dolardan fazla mal hasarı oluşabilmesi. Söz konusu felaket riskinin ise biyolojik bir silahın üretimi ya da yayımlanması, modelin geliştiricisinin kontrollerinden kaçması veya bir siber saldırıdan kaynaklanması gerekiyor. 50 kişi ve bir milyar dolar ölçütleri, yakın zamanda yasalaşan ve benzer senaryoları “felaket riski” saydığı Kaliforniya’nın SB 53 yasasıyla benzerlik taşıyor.
Taslağa göre bir modelin felaket potansiyeli, ABD Ticaret Bakanlığı’na kayıtlı bağımsız değerlendiriciler aracılığıyla analiz edilebilecek. Bu değerlendiricilere ödeme, sonuçlara bağlı olmadığı sürece yapay zeka laboratuvarlarınca yapılabilecek. Değerlendiriciler yakın bir felaket riski tespit ederse Ticaret Bakanlığı’nı bilgilendirmek için 72 saatleri olacak. Bakanlık da modelin yayınını durdurmak için Washington’daki bir yargıçtan talepte bulunmak zorunda olacak, taslak hiçbir federal kurumun modelin dağıtımını kendi takdiriyle durdurmasını açıkça yasaklıyor. Taslak korumalar sunuyor gibi görünse de aslında federal kurumların bir yargıcın izni olmadan model yayınını engellemesini yasaklıyor.
Haber, taslakta öngörülen teorik risklerin son dönemde sektörün gündemindeki olaylardan biraz farklı olduğunu da vurguluyor. İnsan ölümü olasılığı konusunda uyaranlar olsa da asıl endişe büyük ölçüde ajan tabanlı hacklenme tehdidi; yapay zeka programlarının insan operatörlerine karşı gelip açık internetteki siteleri hacklediği bir dizi olay, modellerde yeterli güvenlik kontrolleri bulunmayabileceği kaygısını artırdı.
Laboratuvarlar teknolojinin insan uygarlığının sonuna yol açabileceği uyarılarını sürekli dile getirse de, zorunlu devlet denetimine büyük ölçüde direnç gösterdi; bunun yerine yapay zeka kuruluşlarının içine yerleştirilen tarafsız üçüncü taraf gözlemcilerden oluşan gönüllü bir sistem önerdiler. Anthropic’in yasa önerisi, sektörün diğer düzenleme önerilerinden bir adım daha ileri gidiyor; Nvidia CEO’su Jensen Huang ise yakın zamanda yapay zeka sektörünün hiçbir yeni yasaya ihtiyacı olmadığını savunmuştu. DeepMind Başkanı Demis Hassabis da birkaç ay önce, finans sektörünün FINRA’sına benzer, kendi kendini yöneten bağımsız bir yapay zeka düzenleme kurumu önermişti.
Yapay zeka düzenlemesi tartışması “düzenleme olsun mu olmasın mı” sorusundan “kim, hangi koşulda, hangi yetkiyle durdurabilir” sorusuna kayıyor. Taslaktaki ayrıntılar (değerlendiricilerin kim tarafından ödendiği, durdurma yetkisinin yargıçta mı kurumda mı olduğu) kuralın gerçekte ne kadar bağlayıcı olacağını belirleyecek.
“İstanbul Merkezli Flow Games, 49 Milyon Dolar Fon Topladı” haberine buradan ulaşabilirsiniz!
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Teknoloji Haberleri için tıklayın!
Foundern LinkedIn hesabına buradan ulaşabilirsiniz.
Foundern Instagram hesabına buradan ulaşabilirsiniz.
