FEATURED / 01
EDITORIAL / 2026
资讯动态
聚合赛事动态、行业观察与专业观点,为每一次阅读提供更清晰的信息入口。
FEATURED / 01
单用户解码快44%,批量64时只剩15%
SGLang 0.5.23 于 2026 年 11 月 2 日发布,包含来自 257 位贡献者的 1007 个 PR。这一版最受关注的内容,是一个需要手动开启的「低延迟模式」:NVIDIA megakernel 插件和 AMD monokernel 插件,把解码过程作为融合的持久化内核来运行。 发布说明给出的数字是:在 GB300 上,DeepSeek-V4.1-Flash 的单用户解码最高快 4
EDITORIAL NOTE
阅读全文
ARCHIVE / 02
CONTENTS / {分页总数}
最新资讯
STAY INFORMED / 03
下载APP