跳到正文
Zyphra Research·· 16 天前AI 评分58

Zyphra 发布第二轮推理优化:MI355X 上 MoE 与长上下文服务提速

Zyphra Inference Wave 2: Faster MoE and Long-Context Serving on MI355X

AI 导读

Zyphra 公布 Zyphra Optimization Engine(ZOE)第二轮推理优化,针对 AMD Instinct MI355X 编写自定义 HIP 内核并集成进 vLLM 与 SGLang 的生产分支。

来源:Zyphra Research · zyphra.com