中国移动推出 AI 模型平台,拥有 300+ 项集成,令代币成本降低 30%

据 CCTV 报道,中国移动的大语言模型聚合平台于 5 月 8 日正式上线,整合了 300 多个国内 AI 模型——中国最大的此类聚合平台。该平台采用令牌优化模型,可根据用户优先级自动将任务匹配到最合适的模型:成本效率、性能或均衡方案。当模型出现超时或故障时,平台可在数秒内实现自动故障切换。该平台已实现单令牌成本降低 30%,资源消耗减少超过 50%,并且日均处理超过 1 万亿次调用。

© 版权声明
THE END
喜欢就支持一下吧
分享