Yapay zeka (AI) çip pazarında yüzde 75 ile yüzde 90 arasında bir paya sahip olan Nvidia’ya karşı büyük teknoloji şirketleri ve bulut hizmet sağlayıcıları kendi donanımlarını geliştirerek bu dominasyonu kırmayı hedefliyor. Microsoft da bu doğrultuda kendi özel AI çipini tanıtarak rekabete dahil olmuştu. Ve şimdi Microsoft, yapay zeka alanındaki ilk özel çipi olan Maia 100‘ü bu yılki Hot Chips konferansında detaylandırdı. Yazılım devi Maia 100’ü geçtiğimiz yıl zaten tanıtmıştı. Microsoft Maia 100 detaylandı
Maia 100, Microsoft’un Azure veri merkezlerinde OpenAI modellerini çalıştırmak için tasarlanmış bir AI hızlandırıcı olarak öne çıkıyor. TSMC‘nin 5nm üretim süreci üzerine inşa edilen bu çip, 500 watt‘lık bir güç tüketimine sahip olmasına rağmen, 700 watt’a kadar destek sunabiliyor. 820mm² büyüklüğünde bir çip olan Maia 100, TSMC’nin COWOS-S interposer teknolojisiyle üretiliyor.
Çip, Nvidia’nın H100 modelindeki 80GB HBM2E belleğine kıyasla 64GB HBM2E bellek sunuyor. Bu bellekler 1,8 terabayt bant genişliği sağlıyor. Bellek miktarı bakımından birkaç adım geri gibi görünse de, Microsoft, Maia 100’ün genel performansı ve verimliliği ile iddialı olduğunu belirtiyor. Bu iddianın doğruluğunu gerçek dünya koşulları bize gösterecek. Ancak Nvidia, 192 GB HBM3E’li Blackwell çiplerini de hazırlıyor. Bellek miktarının yapay zeka iş yükleri için çok önemli olduğunu da belirtelim. Öte yandan Microsoft’un maliyet ve verimlilik vurgusu yaptığının da altını çizelim. Maia 100, yüksek hızlı bir tensor birimi (16xRx16) ile donatılmış olup, düşük hassasiyetli veri türleri de dahil olmak üzere geniş bir veri yelpazesini destekliyor. FP32 ve BF16 dahil olmak üzere veri türlerini desteklemek için özel ISA ile oluşturulmuş bir vektör işlemcisi de bulunuyor. Microsoft, geliştiricilere Maia 100 için özel olarak tasarlanmış bir yazılım geliştirme kiti (SDK) de sunuyor. Bu kit, Pytorch ve Triton ile daha önce yazılmış modellerin hızla port edilmesine olanak tanıyan araçlar içeriyor.
Bir yanıt bırakın