7月2日消息，Kimi 开放平台日前宣布其“上下文缓存”技术进入公测阶段。该技术可为开发者大幅降低长文本旗舰大模型的使用成本，最高可达90%，并显著提升模型的响应速度。
据了解，上下文缓存技术作为一种高效的数据管理技术，其核心优势在于能够预先存储并快速提供那些可能被频繁请求的大量数据或信息。当用户再次请求相同信息时，系统无需重新计算或从原始数据源中检索，而是直接从缓存中快速提取，从而显著节省时间和资源。
Kimi 开放平台方面以某硬件产品说明书为例介绍了该技术的应用场景。对于一份长达9万字的说明书，在传统模式下，售前支持人员需要在10分钟内对产品的功能/使用方式进行40次问答，问题大概100个字，回答在120字以内。
然而，在接入上下文缓存技术后，9万字的文档只需创建并存储一次缓存，40次问答将仅收取将只收取问题的100字+回答的120字的费用，预计节省费用达92.27%。
业内人士称，在当前大模型行业日益注重效率和成本控制的背景下，Kimi的这一创新不仅为开发者提供了更经济、更高效的解决方案，也有望进一步推动大模型行业的应用和发展。
标签：
7月2日消息，Kimi 开放平台日前宣布其上下文缓存技术进入公测阶段
作为重要的电商对决，今年618的火药味比往年更浓。各电商平台不约而
当前正值三夏准备阶段，为切实做好麦收期间的防火安全工作，切实有效遏
为深入践行新时代枫桥经验，切实提升道交案件的办理质效，让人民群众更
4月2日，由文化和旅游部中外文化交流中心、江苏省文化和旅游厅、无
又到了一年一度互联网内容平台的终极复盘时刻,1月16日念童少儿观察
时下，邓州市林扒镇财政所切实担起优化营商环境的责任，把优化营商环境
为贯彻落实县委县政府四大攻坚开展问题短板大排查、环境卫生大整治、矛
大街小巷楼前屋后，淮滨县桂花街道郑营社区网格员的身影时时处处可见。
本报讯(记者 裘颖琼)上海又有一批保租房入市。记者从城投集团获悉
中国网财经10月11日讯 今日下午，北京保险业消费者权益保护暨调解
今天你闭环了吗?这不是互联网热词，而是健身人士之间的流行语。90后
中国地震台网正式测定：今日18时19分在辽宁大连市普兰店区（北纬39 42
澳博控股(00880)发布截至2023年6月30日止6个月业绩，该集团取得总净收益
2023成都车展开幕在即，多家皮卡车企将在本次车展上亮相或上市重磅新品
文 陈根8月21日，据BusinessInsider报道，特斯拉表示，此前发生的大规
