为深入贯彻落实国务院《关于深入实施“人工智能+”行动的意见》部署,更好服务人工智能企业,推动大模型推理基础设施提质增效和国产算力规模化应用。7月29日,北京市通用人工智能产业创新伙伴计划工作组赴北京趋境科技有限责任公司开展调研。

会上,伙伴计划工作组介绍人工智能伙伴计划工作机制,并就局此前算力券、数据券补贴政策进行宣贯。随后,参会方围绕大模型分布式推理、高质量Token规模化生产、国产算力异构适配、开源生态建设等展开交流。北京趋境科技有限责任公司介绍了企业发展情况。公司成立于2023年12月,源自清华大学高性能计算研究团队,定位为高效能AI Token生产服务商,重点建设ATaaS平台,为大模型企业和行业客户提供推理基础设施及Token生产服务。公司围绕异构算力调度、KV Cache管理、跨节点数据传输和弹性扩容等方向开展技术研发,依托KTransformers(KT)等开源项目提升不同算力资源的协同效率,并参与Mooncake等开源项目的生态协作。针对国产芯片适配周期长、异构算力协同难、算力向稳定Token产能转化效率不足,以及应用场景拓展和资本支持等方面的问题,企业提出了相关发展诉求。工作组逐项回应,并邀约企业加入伙伴计划。
下一步,伙伴计划工作组将持续常态化政企联动,协助其用好算力券、数据券及模型应用类政策工具,助力企业降本增效。依托伙伴计划平台开展投融资对接、供需匹配、场景开放、政策推介、技术交流等多元化服务,推动企业技术、产品与市场需求精准衔接,加快成果落地和规模化应用,助力北京人工智能产业生态建设。