NVIDIA Tedarik Zincirinde Palantir Foundry ve cuOpt Dönemi



Özet


NVIDIA, karmaşık donanım tedarik zinciri süreçlerini ve üretim tesislerindeki tahsis kararlarını otomatize etmek için Palantir Foundry ve cuOpt teknolojilerini kullanıyor. Şirket, çip üretiminden veri merkezindeki ilk token aşamasına kadar geçen süreci hem nakliye hem de altyapı hazır bulunuşluğu üzerinden titizlikle ölçüyor. Özellikle NVL72 ve Vera Rubin gibi devasa bileşen ağlarının yönetiminde karşılaşılan tedarik kısıtlamalarını aşmak için fabrikaları haftalık periyotlarla sürekli yeniden düzenliyor. Bu operasyonel süreçte, "Dijital Tedarik Zinciri Zekası" komuta merkezi aracılığıyla tesisler, stoklar ve hedefler birbirine bağlı bir modelle sunulurken, cuOpt kütüphanesi üzerinden GPU hızlandırmalı optimizasyonlar gerçekleştiriliyor.



NVIDIA, küresel üretim tesislerinde donanım tedarik zinciri tahsis kararlarını otomatize etmek için Palantir Foundry ve cuOpt kullanıyor.

Şirket, operasyonel teslimatı "wafer-out" (çip üretimden çıkış) aşamasından "ilk token" aşamasına kadar ölçüyor. Bu süreç iki kısma ayrılıyor: "time-to-rack" (üretim tesisinden çıkıştan veri merkezi sistemine montajına kadar geçen nakliye süresi) ve "time-to-token" (güç, soğutma, ağ ve ilk gün yazılım hazır bulunuşluğunu kapsayan süreç).

NVL72 ve Vera Rubin bileşen akışının yönetilmesi

Donanım ölçeklendirmesi, tedarik kısıtlamalarını daha da büyüttü. Bir NVIDIA Grace Blackwell NVL72 ünitesi 18 adet hesaplama tepsisi içeriyor; her bir tepsi ise binlerce tedarikçi, OEM ve sözleşmeli tasarım ortağından temin edilen iki Grace CPU, dört Blackwell GPU ve 32 HBM3e bellek paketine ihtiyaç duyuyor.

NVIDIA’nın Vera Rubin mimarisi için inşa edilen gelecek tedarik zinciri, Grace Blackwell'i destekleyen ağın iki katı büyüklükte olacak.

Üç belirli kanaldan (doğrudan envanter, emanet stok ve harici tedarikçiler) parçalar gelmeden montaj işlemi devam edemiyor. Erken sevkiyatlar, geciken parçaların beklenmek zorunda kaldığı için NVIDIA’nın "Time of Ownership" (bir tesisin malzemeleri aldığı an ile bitmiş alt montajların ayrıldığı an arasındaki süre) metriğini uzatıyor.

Fabrika tahsisleri; parça uygunluğu, işleme kapasitesi sınırları ve müşteri sipariş takvimlerini çözmek için sürekli iki çeyreklik periyotlar üzerinden haftalık olarak yeniden düzenleniyor.

cuOpt üzerinden karma tam sayılı lineer programlama

Bu bağımlılıkları koordine etmek için NVIDIA operasyon ekibi, Palantir Foundry kullanarak "Dijital Tedarik Zinciri Zekası" komuta merkezini kurdu. Foundry; tesisleri, tedarikçi taahhütlerini, bileşen stoklarını ve üretim hedeflerini birbirine bağlı nesneler ve bağlantılar olarak modelleyen bir Ontoloji sunuyor.

GPU hızlandırmalı karar optimizasyonu için açık kaynaklı bir kütüphane olan NVIDIA cuOpt, bu operasyonel katmanı doğrudan okuyor. Dağıtımı, TOO (Time of Ownership) süresini minimize etmek için tasarlanmış bir karma tam sayılı lineer program olarak formüle eden çözümleyici, malzeme listesinin (BOM) her kademesindeki parça kısıtlamalarını değerlendiriyor.

cuOpt, yalnızca haftalık teslimat takvimlerini üretmekle kalmıyor; aynı zamanda bölgesel montaj kapasitesi sınırları ile ham bellek uygunluğu gibi aktif fabrika kısıtlamalarını da tespit ediyor.

Nemotron'un nitel operasyonel kayıtlar üzerinde eğitilmesi

Matematiksel optimizasyon tek başına, insan planlamacıların gözlemlediği yapılandırılmamış operasyonel değişkenleri (tedarikçi görüşme dökümleri, bölgesel hava durumu tahminleri, ortaklarla yapılan e-posta yazışmaları ve jeopolitik olaylar gibi) yakalamakta yetersiz kaldı.

NVIDIA bu sorunu, toplam 30 milyar parametreye ve her ileri geçişte yaklaşık üç milyar aktif parametreye sahip açık ağırlıklı bir "mixture-of-experts" (uzmanların karışımı) modeli olan Nemotron 3.5 Lightning'i eğitimden sonra (post-training) optimize ederek çözdü.

Mühendislik hattı; hassas operasyonel alanları gizlemek için NeMo Anonymizer'dan, eğitim örneklerini sentetik kapasite bozulma senaryolarıyla dengelemek için NeMo Data Designer'dan ve temel model ağırlıklarını dondururken düşük dereceli uyarlama (LoRA) parametrelerini uygulamak için NeMo AutoModel'den geçerek geçmiş kayıtları işliyor. Palantir Autopilot ise veri soy ağacını ve model eğitimini yönetiyor.