Huawei, bağımsız kararlar veren aracı yapay zeka sistemlerini nasıl oluşturuyor?
Özet
Conch Group'un çimento fabrikasında, Huawei altyapısı üzerine kurulu ajan AI sistemi, klinkerin mukavemetini yüksek doğrulukla tahmin ediyor ve kömür tüketimini azaltıyor. Bu sistem, bağımsız planlama ve karar verme yeteneğiyle, daha önce insan uzmanlığı gerektiren işlemleri otonom olarak gerçekleştiriyor. Huawei, bu başarıyı, AI altyapısı, temel modeller ve özel araçları içeren kapsamlı bir stratejiyle elde etti. Bu yaklaşım, geleneksel AI'dan farklı olarak, kurumsal operasyonlarda özerklik sağlayarak "uygulamalarda ve hesaplamada büyük bir değişiklik" yaratıyor. Ajan AI'nin artan hesaplama talepleri, yeni bilişim mimarilerini ve hibrit hesaplama sistemlerini zorunlu hale getiriyor.
Conch Group tarafından işletilen bir çimento fabrikasında, Huawei altyapısı üzerine kurulu ajan AI sistemi, artık klinkerin mukavemetini %90'ın üzerinde bir doğrulukla tahmin ediyor ve kömür tüketimini %1 oranında azaltmak için kalsinasyon parametrelerini otonom olarak ayarlıyor; bu kararlar daha önce onlarca yıllık insan uzmanlığı gerektiriyordu.
Bu durum, Huawei'nin basit komut-yanıt etkileşimlerinin ötesine geçerek, bağımsız planlama, karar verme ve yürütme yeteneğine sahip platformlar geliştirdiğini örneklendiriyor.
Huawei'nin bu ajan AI sistemlerini oluşturma yaklaşımı, AI altyapısı, temel modeller, özel araçlar ve ajan platformlarını kapsayan kapsamlı bir stratejiye odaklanmaktadır.
Huawei Cloud CTO'su Zhang Yuxin, bu çerçeveyi, finans, nakliye limanları, kimyasal üretim, sağlık hizmetleri ve otonom sürüş alanlarındaki pratik uygulamaların 1.000'den fazla siyaset, iş dünyası ve teknoloji lideri tarafından incelendiği, Şanghay'daki son Huawei Cloud AI Zirvesi'nde özetledi.
Bu ayrım önemlidir, çünkü geleneksel AI uygulamaları, sabit süreçler içinde kullanıcı komutlarına yanıt verirken, ajan AI sistemleri, kurumsal operasyonlardaki rollerini temelden değiştiren bir özerklikle çalışır.
Zhang bunu, bu sistemlerin bağımsız olarak karar vermesi ve dinamik olarak uyum sağlaması ve bilişim sistemlerinin etkileşim ve kaynak tahsisini yeniden şekillendirmesi nedeniyle "uygulamalarda ve hesaplamada büyük bir değişiklik" olarak nitelendirdi. Kurumlar için soru şu hale geliyor: Bu düzeyde otonom operasyonu destekleyebilecek altyapı ve platformlar nasıl oluşturulur?
Altyapı zorlukları yeni bilişim mimarilerini yönlendiriyor
Ajan AI sistemlerinin hesaplama talepleri, özellikle temel model eğitimi ve çıkarım gereksinimleri arttıkça, geleneksel bulut mimarilerindeki sınırlamaları ortaya çıkardı.
Huawei Cloud'un yanıtı, genel amaçlı ve akıllı hesaplama yeteneklerini birleştiren esnek bir hibrit hesaplama sistemi olarak tanımladığı, yüksek hızlı bir MatrixLink ağı aracılığıyla bağlanan CloudMatrix384 süper düğümlerini içeriyor.
Mimari, özellikle uzman paralellik çıkarımı yoluyla Uzmanların Karışımı (MoE) modellerindeki darboğazları ele alarak, veri aktarımları sırasında NPU boşta kalma süresini azaltır. Şirketin teknik özelliklerine göre, bu yaklaşım, diğer popüler modellere kıyasla tek-PU çıkarım hızını 4-5 kat artırır.
Sistem ayrıca, hem eğitim hem de çıkarım verimliliğini artırmayı amaçlayan, tipik AI görevleri için tasarlanmış, bellek merkezli AI-Yerel Depolama'yı da içerir. Genel amaçlı AI ve cihaz zekası konusunda uzmanlaşmış bir şirket olan ModelBest, bu altyapının pratik uygulamalarını gösterdi.
ModelBest'in kurucu ortağı ve CEO'su Li Dahai, temel modeller, çok modlu yetenekler ve tam modlu entegrasyonu kapsayan MiniCPM serilerinin, eğitim enerji verimliliğinde %20 iyileşme ve endüstri standartlarına göre %10 performans artışı elde etmek için Huawei Cloud AI Hesaplama Hizmeti ile nasıl entegre edildiğini detaylandırdı.