钛媒体App 7月27日消息，近日，华为云基于CloudMatrix384超节点的新一代昇腾AI云服务在乌兰察布正式上线。华为云CloudMatrix384超节点首创将384颗昇腾NPU通过全新高速网络对等互联，打破传统AI服务器边界，形成一台超级“AI服务器”，可提供高达300PFLOPs的算力，从根本上解决传统架构的瓶颈。与和林格尔、贵安、芜湖等地相比，此次乌兰察布上线的CloudMatrix384超节点，具有多项显著优势，其单卡推理吞吐量达2300Tokens/s，较传统架构提升近4倍，甚至超越英伟达H100，实现了性能倍增、以存强算、MoE亲和、长稳可靠、朝推夜训、即开即用六大特性。同时依托百TB级带宽的光纤骨干网，乌兰察布覆盖京津冀10ms时延圈，全国主要流量高地城市都能在30毫秒之内访问超节点资源，为用户提供低延迟、高效率的算力服务。（内蒙古日报）