• Meta ve Oracle yapay zeka veri merkezleri için... Meta ve Oracle yapay zeka veri merkezleri için NVIDIA SpectrumX'i seçti (artificialintelligence-news.com)
    by AI News            0 Yorum       



  • Meta ve Oracle, yapay zeka veri merkezleri için NVIDIA Spectrum-X'i seçti



    Özet


    Meta ve Oracle, yapay zeka sistemlerinin performansını artırmak için NVIDIA'nın Spectrum-X Ethernet ağ anahtarlarını kullanmaya başlıyor. Bu teknoloji, büyük ölçekli yapay zeka modellerinin eğitimi için gerekli olan yüksek bant genişliği ve düşük gecikme süresi sağlıyor. Her iki şirket de Spectrum-X'i, yapay zeka sistemlerini daha verimli hale getirecek açık bir ağ çerçevesinin parçası olarak benimsiyor. Oracle, Spectrum-X'i büyük yapay zeka fabrikaları kurmak için Vera Rubin mimarisiyle kullanmayı planlarken, Meta mevcut yapay zeka altyapısını genişletmek için FBOSS'a entegre ediyor. Bu gelişmeler, yapay zeka sistemlerinin daha esnek ve ölçeklenebilir olmasını sağlayarak, trilyon parametreli modellerin eğitimini desteklemeyi hedefliyor.




    Meta ve Oracle, yapay zeka veri merkezlerini NVIDIA'nın Spectrum-X Ethernet ağ anahtarlarıyla yükseltiyor. Bu teknoloji, büyük ölçekli yapay zeka sistemlerinin artan taleplerini karşılamak için tasarlandı. Her iki şirket de, yapay zeka eğitimi verimliliğini artırmak ve devasa hesaplama kümelerinde dağıtımı hızlandırmak için tasarlanan açık bir ağ çerçevesinin parçası olarak Spectrum-X'i benimsiyor.

    NVIDIA'nın kurucusu ve CEO'su Jensen Huang, trilyon parametreli modellerin veri merkezlerini "giga ölçekli yapay zeka fabrikalarına" dönüştürdüğünü söyledi ve Spectrum-X'in milyonlarca GPU'yu şimdiye kadar oluşturulmuş en büyük modelleri eğitmek için bağlayan "sinir sistemi" görevi gördüğünü ekledi.

    Oracle, büyük ölçekli yapay zeka fabrikaları kurmak için Spectrum-X Ethernet'i Vera Rubin mimarisi ile kullanmayı planlıyor. Oracle Cloud Infrastructure'ın başkan yardımcısı Mahesh Thiagarajan, yeni kurulumun şirketin milyonlarca GPU'yu daha verimli bir şekilde bağlamasına olanak sağlayacağını ve müşterilerin yeni yapay zeka modellerini daha hızlı eğitmesine ve dağıtmasına yardımcı olacağını söyledi.

    Bu arada Meta, Spectrum-X Ethernet anahtarlarını, ağ anahtarlarını ölçekte yönetmek için dahili platformu olan Facebook Açık Anahtarlama Sistemi'ne (FBOSS) entegre ederek yapay zeka altyapısını genişletiyor. Meta'nın ağ mühendisliğinden sorumlu başkan yardımcısı Gaya Nagarajan'a göre, şirketin yeni nesil ağının, giderek büyüyen yapay zeka modellerini desteklemek ve milyarlarca kullanıcıya hizmet sunmak için açık ve verimli olması gerekiyor.

    Esnek Yapay Zeka Sistemleri Oluşturmak

    NVIDIA'nın Veri Merkezi için Hızlandırılmış Hesaplama Çözümü Portföyünü yöneten Joe DeLaere'ye göre, veri merkezleri daha karmaşık hale geldikçe esneklik çok önemli. NVIDIA'nın MGX sisteminin, ortakların farklı CPU'lar, GPU'lar, depolama ve ağ bileşenlerini gerektiği gibi birleştirmelerine olanak tanıyan modüler, yapı taşı tasarım sunduğunu açıkladı.

    Sistem ayrıca birlikte çalışabilirliği teşvik ederek, kuruluşların donanımın birden fazla neslinde aynı tasarımı kullanmasına olanak tanır. DeLaere medyaya "Esneklik, pazara daha hızlı giriş ve geleceğe hazırlık sunuyor" dedi.

    Yapay zeka modelleri büyüdükçe, güç verimliliği veri merkezleri için merkezi bir zorluk haline geldi. DeLaere, NVIDIA'nın enerji kullanımını ve ölçeklenebilirliği iyileştirmek için "çipten ızgaraya" kadar çalıştığını, watt başına performansı en üst düzeye çıkarmak için güç ve soğutma tedarikçileriyle yakın işbirliği yaptığını söyledi.

    Bir örnek, ısı kaybını azaltan ve verimliliği artıran 800 voltluk DC güç dağıtımına geçiştir. Şirket ayrıca, elektrik şebekesindeki ani yükselmeleri azaltmak için güç düzleştirme teknolojisini de tanıtıyor; bu yaklaşım, aynı alanda daha fazla hesaplama kapasitesine olanak tanıyarak maksimum güç ihtiyacını %30'a kadar azaltabiliyor.

    Yukarı, Dışarı ve Karşı Ölçekleme

    NVIDIA'nın MGX sistemi aynı zamanda veri merkezlerinin nasıl ölçeklendirildiğinde de rol oynuyor. Şirketin ağdan sorumlu kıdemli başkan yardımcısı Gilad Shainer, medyaya MGX raflarının hem hesaplama hem de anahtarlama bileşenlerine ev sahipliği yaptığını, yukarı ölçeklenebilirlik için NVLink'i ve dışarı ölçekleme için Spectrum-X Ethernet'i desteklediğini söyledi.

    Ayrıca MGX'in birden fazla yapay zeka veri merkezini birleşik bir sistem olarak birbirine bağlayabileceğini ekledi.