跳到正文
MarkTechPost· Michal Sutter·· 2 天前AI 评分58

qwenGPU 将 45 层编译 GPU 写入 Qwen3.5-2B 权重并运行 CUDA

Meet qwenGPU: Qwen3.5-2B With 45 Compiled GPU Layers That Run CUDA

AI 导读

开发者 Vixhal 在 GitHub 以 MIT 协议发布 qwenGPU,把一台 4-lane SIMT GPU 编译成 45 个未训练层,接在 Qwen3.5-2B 自身 24 层之前,共 69 层,模型在前向传播中运行编译到 NVIDIA PTX 的真实 CUDA。

来源:MarkTechPost · marktechpost.com