《AI算力软件生态：难以突破吗？》探讨AI芯片软件生态相关问题。2024H2国内AI芯片厂商产品密集迭代，软件生态成核心竞争要素，兼容CUDA路线的海光信息和自成体系路线的华为昇腾进展快且用户体验佳。AI开发框架中Pytorch、Tensorflow双寡头且逐渐与AI芯片解耦，GPU编程平台方面英伟达CUDA有先发优势形成生态壁垒，其他厂商竞争方式有兼容CUDA（如AMD、海光信息）和自成体系（如华为昇腾、寒武纪）。软件工具是AI芯片的“大管家”，包括开发框架、GPU编程平台等多个层次。训练端后进入者竞争CUDA有两类方式，兼容CUDA又分两种途径且各有优劣，AMD通过ROCm及相关工具实现兼容，海光信息共享ROCm生态但完全兼容有困难，华为昇腾则打造自栈生态且算子适配进展快，寒武纪拥有完整软件堆栈且与Pytorch适配较好。推理端ONNX是“中间人”，软件生态百花齐放，不同推理框架各有优劣适用于不同场景。还介绍了相关公司情况，同时指出AI芯片软件生态发展面临挑战，如CUDA生态壁垒受开发框架解耦影响逐渐瓦解，但GPU编程平台学习成本和针对性优化仍需积累，不过国产厂商已有进展,,,,,,,,,,,,,。
以下为报告节选内容