Meta, yeni nesil özel AI çiplerinin daha güçlü olacağına ve sıralama modellerini çok daha hızlı eğitebileceğine söz veriyor.
Meta Eğitim ve Çıkarım Hızlandırıcısı (MTIA), Meta'nın sıralama ve öneri modelleriyle en iyi şekilde çalışacak şekilde tasarlanmıştır. Çipler, eğitimin daha verimli hale getirilmesine ve çıkarımın (diğer bir deyişle gerçek akıl yürütme görevinin) daha kolay hale getirilmesine yardımcı olabilir.
Şirket, bir blog yazısında MTIA'nın, yapay zekayı hizmetlerinde nasıl kullandığına ilişkin altyapı oluşturma yönündeki uzun vadeli planının büyük bir parçası olduğunu söyledi. Çiplerini mevcut teknoloji altyapısı ve GPU'larda gelecekteki gelişmelerle çalışacak şekilde tasarlamak istiyor.
Meta, gönderisinde, "Özel silikonumuza yönelik hedeflerimizi karşılamak, yalnızca bilgi işlem silikonuna değil aynı zamanda bellek bant genişliğine, ağ bağlantısına ve kapasitenin yanı sıra diğer yeni nesil donanım sistemlerine de yatırım yapmak anlamına geliyor" dedi.
Meta , Mayıs 2023'te bu çipleri veri merkezlerine sağlamaya odaklanan MTIA v1'i duyurdu. Yeni nesil MTIA çipi muhtemelen veri merkezlerini de hedef alacak. MTIA v1'in 2025 yılına kadar piyasaya sürülmesi beklenmiyordu ancak Meta, her iki MTIA yongasının da artık üretimde olduğunu söyledi.
Şu anda MTIA esas olarak sıralama ve öneri algoritmalarını eğitiyor ancak Meta, hedefin sonunda çipin yeteneklerini genişleterek Lama dil modelleri gibi üretken yapay zekayı eğitmeye başlamak olduğunu söyledi.
Meta, yeni MTIA çipinin "temel olarak bilgi işlem, bellek bant genişliği ve bellek kapasitesi arasında doğru dengeyi sağlamaya odaklandığını" söyledi. Bu çip, v1'in 128MB ve 800GHz'ine kıyasla 1,3GHz'lik 256MB'lık çip üzerinde belleğe sahip olacak. Meta'nın ilk test sonuçları, şirketin değerlendirdiği dört modelde yeni çipin birinci nesil versiyona göre üç kat daha iyi performans gösterdiğini gösterdi.
Meta bir süredir MTIA v2 üzerinde çalışıyor. Projenin dahili adı Artemis'ti ve daha önce yalnızca çıkarımlara odaklandığı bildirilmişti.
Yapay zeka kullanımıyla birlikte bilgi işlem gücüne olan talebin artması nedeniyle diğer yapay zeka şirketleri de kendi çiplerini üretmenin yollarını arıyor. Google, 2017 yılında yeni TPU çiplerini piyasaya sürerken Microsoft , Maia 100 çiplerini duyurdu . Amazon ayrıca temel modelleri önceki versiyona göre dört kat daha hızlı eğiten Trainium 2 çipine de sahip .
Güçlü çipler satın alma rekabeti, yapay zeka modellerini çalıştırmak için özel çiplere sahip olma ihtiyacının altını çizdi. Çiplere olan talep o kadar arttı ki, şu anda yapay zeka çip pazarını domine eden Nvidia'nın değeri 2 trilyon dolar seviyesinde .