Yapay zeka araştırmacılarından gelen giderek daha karamsar uyarılar ve OpenAI CEO’su Sam Altman’ın yapay zeka gelişimini dengeleme zamanının gelmiş olabileceğine dair açıklamaları, sektörde yeni bir tartışmayı alevlendirmişti. Anthropic CEO’su Dario Amodei, kişisel blogunda yayımladığı yeni bir yazıda “sınırı hız kontrollü ilerletme” çağrısını yinelemekle kalmayıp, bunu nasıl uygulayacaklarına dair üç geniş strateji ortaya koydu ve Anthropic’in bu stratejilerden birine tek taraflı olarak bağlı kalacağını açıkladı; Altman da OpenAI’ın aynı yolu izleyeceğini belirtti.
Yapay zeka güvenliği ve uyum tartışması bu hafta yoğunlaştı. Araştırmacı Jacob Coxon, önde gelen yapay zeka şirketlerinin hayatlarımızla kumar oynadığını, bu teknolojiyi geliştirenlerin on yılın sonunda hepimizi öldürebileceğine içtenlikle inandığını belirterek Anthropic’ten istifa ettiğini yazmıştı. Bu iddia Anthropic’teki başka kişiler tarafından da tekrarlanmıştı.
Amodei’nin yazısı Coxon’un istifasına veya kaygılarına açıkça atıfta bulunmasa da CEO, yapay zeka gelişimine daha temkinli bir yaklaşım benimseme zamanının geldiğine kendisini ikna eden iki şeyi belirtti: OpenAI-Hugging Face hack olayı ve yapay zekanın son aylarda özellikle “bir sonraki nesil yapay zekayı inşa etme becerisi” konusunda son derece hızlı ilerlemesi. Amodei, yapay zeka modellerinin yeteneklerini geliştirme hızını yavaşlatmaları gerektiğini, ilerlemenin hâlâ hızlı görüneceğini ve kazandıkları zamanı akıllıca kullanmaları gerektiğini yazdı.
Diğer yapay zeka yöneticileri Amodei’nin yazısına olumlu tepki verdi. Altman, X üzerinden yaptığı paylaşımda Dario’ya katıldığını, sınırı hız kontrollü ilerletmeleri gerektiğini, bunun son haftalarda OpenAI’da yürüttükleri tartışmaların ana konusu olduğunu belirtti. SpaceX CEO’su Elon Musk ise “Dario haklı” şeklinde bir paylaşım yaptı.
Amodei’nin önerdiği ilk adım, METR gibi üçüncü taraf kuruluşlardan “gömülü değerlendiriciler” kullanmayı içeriyor. Bu değerlendiriciler, yapay zeka şirketlerinin hız ve güvenlik taahhütlerine gerçekten uyup uymadığını doğrulayabilecek ve güvenlik olaylarının bildirilmesini sağlayabilecek. Amodei bu değerlendiricileri, banka çalışanlarına gömülen düzenleyicilere benzeterek bunları içeri almanın Anthropic’in tek taraflı olarak taahhüt ettiği bir adım olduğunu ve hükümetleri diğer öncü şirketleri de buna uymaya zorlamaya çağırdığını belirtti. Altman da bunun iyi bir fikir olduğunu, OpenAI’ın da aynısını yapacağını söyledi.
Amodei ikinci olarak, “demokratik ülkelerdeki” öncü yapay zeka şirketlerinin, ortak güvenlik standartları ve denetimsiz yapay zeka ilerlemesine sınırlar koyma konusunda koordinasyon sağlamasına dikkat çekti. Amodei, Çin’in yapay zekada üstünlük kurma tehdidine de değinerek ABD hükümeti ve teknoloji şirketlerinin gelişmiş çip ve yarı iletken üretim ekipmanı satışını Çinli şirketlere kapatması ve model damıtma uygulamalarını sıkılaştırması gibi adımlarla Çin’in ilerlemesini önümüzdeki 3-5 yıl içinde önemli ölçüde yavaşlatabileceklerini belirtti.
Son olarak Amodei, ABD ve müttefiklerinin mümkün olduğu ölçüde otoriter hükümetlerle de koordinasyon sağlamaya çalışmasını içeren küresel koordinasyon çağrısında bulundu. Bunun Çin ile iş birliği anlamına geleceğini kabul eden Amodei, elde edilebileceklerin sert sınırları olduğunu itiraf etse de, biyolojik silah üretimi için yapay zeka kullanımını yasaklamak gibi dar ve açıkça tehlikeli kullanım alanlarında anlaşma fırsatları olabileceğini öne sürdü.
Amodei’nin geçmişte yapay zekanın potansiyel tehlikelerini kabul etme konusundaki isteği ve şirketin belirli düzenleme biçimlerine görece açıklığı nedeniyle, bazı yapay zeka destekçileri onu şimdiki AI karşıtı tepkiyi besleyen bir “kıyametçi” olarak eleştirdi. Amodei buna yanıt olarak dengeli bir perspektif sunmaya çalıştığını belirtti ve tepkinin temelde bir güven krizi olduğunu, insanların teknoloji şirketlerine, teknoloji sektörüne ve hükümete karşı şüpheci hale geldiğini savundu. Sektördeki eleştirmenler de bu kıyamet senaryolu uyarılara şüpheyle bakıyor. Bazıları bunların teknolojinin şimdiden yarattığı zarardan dikkat dağıtma amacı taşıdığını öne sürüyor. Gazeteci Brian Merchant, yapay zekanın kendi kendini geliştiren bir sistemden tüm insanlığı öldürmeye nasıl geçebileceğine dair güvenilir, adım adım bir belgeleme görmediğini yazdı. Amodei’ninkine benzer önerilerin büyük olasılıkla sadece Anthropic ve OpenAI’a hizmet edeceğini savundu.
Amodei yazısında, yapay zekanın insan yaşam kalitesini muazzam ölçüde iyileştirebileceğine inanmayı sürdürdüğünü belirtti. Bu faydaları elde etme isteğinin azalmadığını, ancak bu faydaların yalnızca teknoloji doğru şekilde inşa edilirse elde edilebileceğini, kazanılan zamanı iyi kullandıkları sürece bunu doğru yapmak için alışılmadık derecede dikkatli olmaya değer olduğunu vurguladı.
Sektördeki en büyük iki AI laboratuvarının eş zamanlı olarak “hızı kontrollü ilerletme” çağrısı yapması, güvenlik söyleminin sektör çapında bir koordinasyon çabasına dönüştüğünü gösteriyor. Ancak bu çağrıların aynı zamanda düzenleyici ele geçirme olarak eleştirilmesi, AI güvenliği alanında “sorumlu yavaşlama” söyleminin nasıl algılanacağının, konuşan tarafın pazar konumundan bağımsız değerlendirilemeyeceğini gösteriyor.
“Sam Altman 2026’da OpenAI’ın Halka Açılmasını İstemiyor” haberimize buradan ulaşabilirsiniz!
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Teknoloji Haberleri için tıklayın!
Foundern LinkedIn hesabına buradan ulaşabilirsiniz.
Foundern Instagram hesabına buradan ulaşabilirsiniz.
