量子位· 思邈·· 3 天前AI 评分50
是石科技发布多模态模型服务,推理提速 2.48 倍且画质不掉线
提速2.48倍且画质不掉线,AI视频“降本增效”有了新解法
AI 导读
是石科技正式发布多模态模型服务,通过自适应缓存加速、SGLang 显存协同及免训练 Token 压缩等技术,在保障生成质量前提下实现端到端平均 2.48 倍推理加速与 WorldSense 评测中 1.33 倍理解提速。该方案结合 Context Engine 结构化衔接素材与指令,构建覆盖 API 接入到结果交付的完整生产链路,解决批量生产中效率与质量的平衡难题。
来源:量子位 · qbitai.com