Zyphra Research·· 16 天前AI 评分58
Zyphra 发布第二轮推理优化:MI355X 上 MoE 与长上下文服务提速
Zyphra Inference Wave 2: Faster MoE and Long-Context Serving on MI355X
AI 导读
Zyphra 公布 Zyphra Optimization Engine(ZOE)第二轮推理优化,针对 AMD Instinct MI355X 编写自定义 HIP 内核并集成进 vLLM 与 SGLang 的生产分支。
来源:Zyphra Research · zyphra.com