apay zekâ modellerinin inference maliyetini düşürmeye odaklanan çip girişimi Etched, Jane Street liderliğindeki yeni yatırım turunda 700 milyon dolar topladı ve değerlemesini 21 milyar dolara çıkardı.
Etched, yeni yatırım turunda 700 milyon dolar yatırım aldı. Jane Street liderliğinde gerçekleşen turla birlikte şirketin değerlemesi 21 milyar dolara yükseldi.
Şirket, geçtiğimiz temmuz ayında 10,3 milyar dolar değerleme üzerinden 300 milyon dolar yatırım almıştı. Böylece kısa süre içinde değerlemesini iki kattan fazla artırarak yapay zekâ donanımı yarışındaki en dikkat çekici oyunculardan biri haline geldi.
Yeni kaynak; inference sistemlerinin geliştirilmesi, üretim kapasitesinin artırılması ve veri merkezlerindeki dağıtımın genişletilmesi için kullanılacak.
2022 yılında Gavin Uberti, Chris Zhu ve Robert Wachen tarafından kurulan girişim, yapay zekâ modellerinin kullanıcıya yanıt üretirken gerçekleştirdiği inference sürecini hızlandırmak için özel çipler ve sistemler geliştiriyor.
Hedef: Yapay zekâ inference maliyetini aşağı çekmek
Büyük yapay zekâ modellerinde maliyet yalnızca eğitim aşamasında ortaya çıkmıyor. Modellerin milyonlarca kullanıcıya yanıt verdiği inference, giderek daha büyük bir enerji ve donanım maliyeti oluşturuyor.
Etched, bu problemi doğrudan donanım seviyesinde çözmeye odaklanıyor.
Şirketin geliştirdiği sistem, inference sürecindeki iki temel aşamayı hızlandırıyor: prefill ve decode.
Prefill aşamasında model, kullanıcının gönderdiği komutu ve ilgili bağlamı analiz ediyor. Decode aşamasında ise yanıtı token token oluşturarak kullanıcıya iletiyor.
İlk aşamayı hızlandırmak için daha düşük voltajla çalışan ve daha fazla transistörü daha düşük ısı üretimiyle kullanabilen özel bir çip geliştirildi. Decode tarafında ise birden fazla çipin aynı bellek havuzuna düşük gecikmeyle erişebilmesini sağlayan yeni bir bağlantı ve bellek mimarisi kullanılıyor.
Bu yapı sayesinde daha yüksek işlem kapasitesi sunulması ve büyük modellerin çalıştırılma maliyetinin düşürülmesi hedefleniyor.
Veri merkezlerinde yeni bir AI donanım yarışı
Etched, teknolojisini yalnızca tek başına bir çip olarak değil, “frontier inference clusters” adı verilen tam sistemler halinde sunuyor. Bu yaklaşım, şirketi yalnızca yarı iletken üreticisi olmaktan çıkarıp doğrudan veri merkezi altyapısı sağlayıcısı konumuna taşıyor.
Yapay zekâ kullanımının hızla artmasıyla birlikte inference tarafındaki maliyetler, sektörün en kritik darboğazlarından biri haline geliyor. Bu nedenle yeni nesil AI çip şirketleri artık yalnızca daha güçlü işlemci üretmek değil; aynı modeli daha düşük enerji ve daha düşük maliyetle çalıştırmak için yarışıyor.
Etched’in 21 milyar dolarlık yeni değerlemesi de yatırımcıların bu alandaki büyüme beklentisini ortaya koyuyor.
Etched Nedir?
Etched, yapay zekâ modellerinin inference süreçlerini hızlandırmak için özel çipler ve veri merkezi sistemleri geliştiren ABD merkezli bir teknoloji girişimidir. Şirket, özellikle büyük modellerin prefill ve decode aşamalarını optimize ederek daha yüksek performans ve daha düşük inference maliyeti sunmayı hedefliyor.
FounderN, Türkiye’nin girişim ve teknoloji haber platformudur.
LinkedIn | Instagram | FounderN 09:13 Bülteni | FounderN Daily | FounderN AI Daily
