跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

6 条精选近 30 天 5 条共收录 44 条

更新

部署工程的精选

10月29日周四第 1–6 条
  1. GitHub Blog71

    GitHub Universe 2026 发布 Copilot 应用与多模型编排 Copilot Fusion

    GitHub 在 Universe 2026 上发布 GitHub Copilot 应用,并推出多模型编排 Copilot Fusion、跨仓库并行运行的 Copilot projects、跨端延续的 Session continuity 和可自我改进的 Copilot automations。

    推荐理由:GitHub 一次性公布 Copilot 应用、多模型编排与计费方式调整,可据此判断智能体开发工作流的变化。

10月28日周三
  1. NVIDIA Blog60

    NVIDIA RTX Spark 笔记本更新:新增 Nemotron 3.5 Transcribe、LFM3 与智能体资源管理

    NVIDIA 为 RTX Spark Windows 笔记本带来一批新模型与工具更新,包括开放权重的语音模型 Nemotron 3.5 Transcribe、Liquid AI 的 LFM3 系列,以及 NVIDIA App 中在前后台应用与后台智能体之间分配 GPU 资源的控制项。

    推荐理由:原文列出 RTX Spark 笔记本在语音模型、GPU 资源分配和游戏支持上的具体更新,可据此判断本地智能体工作流的变化。

10月24日周六
  1. Google Research62

    Google Research 在 IDWeek 2026 分享用基础模型推动结核病筛查落地

    Google Research 在 IDWeek 2026 上分享了将健康 AI 研究推向现实的路径:从胸片结核筛查算法,到与 Nexus AI 合作取得 CE MDR class IIb 认证并在六个国家约 40 家医疗机构部署,累计评估超过 25,000 张胸片,周转时间从数周缩短到 45 秒以内。

    推荐理由:Google Research 梳理了从胸片算法到 CE 认证工具、再到开放基础模型的完整落地路径,可看医疗 AI 如何跨过转化鸿沟。

10月22日周四
  1. NVIDIA Blog60

    NVIDIA 发布 Minerva,为 AI 工厂提供端到端可观测性

    NVIDIA 发布 AIOps 平台 Minerva,汇聚基础设施与 AI 工作负载的遥测数据,用专用 AI 模型把数据转成可执行的洞察。平台跨 GPU、网络、存储、调度器和工作负载构建动态知识图谱,每小时分析数十亿数据点,可预测故障并把大量告警聚合成单一事件。

    推荐理由:原文交代了 Minerva 如何把 GPU、网络与作业信号关联成动态知识图谱,读者可据此判断 AI 工厂运维的形态变化。

10月8日周四
  1. Microsoft Research76

    微软研究院开源 Agent Lightning v1.0:约 3500 行的轻量智能体强化学习框架

    微软研究院开源 Agent Lightning v1.0,这是一个约 3500 行代码的轻量智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与训练,无需在训练框架内重写智能体。

    推荐理由:微软研究院开源 Agent Lightning v1.0,用约 3500 行代码把真实 harness 接入强化学习训练,并给出可复现的编码智能体训练结果。

7月29日周三