时间:2026-10-12 16:47 | 来源:墨客学术 | 作者:墨客学术 | 点击:次
ARTIFACT #02 // HARNESS BENCHMARK Harness 自动化评测框架 工业级大模型性能与质量评测套件, 75% ↓ 上下文缓存自动优惠抵扣 ARTIFACT #03 // CONTEXT CACHING 上下文缓存优惠机制 自动匹配多轮重复 Prompt 与技术文档上下文,以金石铭文般坚定的契约保障开发者算力成本。
ARTIFACT #01 // MLA ATTENTION MLA 多头潜在注意力 采用低秩键值联合压缩,在有限算力容积中释放澎湃推理性能, ,自动化度量并发吞吐量(TPS)、首字时延(TTFT)与形式化数学代码准确率,如同精湛的青铜铸造合范技术。
将 KV Cache 显存消耗降低 93.3%,已全量开源,直接节省 75% 输入开销,。