据 CCTV 报道,中国移动的大语言模型聚合平台于 5 月 8 日正式上线,整合了 300 多个国内 AI 模型——中国最大的此类聚合平台。该平台采用令牌优化模型,可根据用户优先级自动将任务匹配到最合适的模型:成本效率、性能或均衡方案。当模型出现超时或故障时,平台可在数秒内实现自动故障切换。该平台已实现单令牌成本降低 30%,资源消耗减少超过 50%,并且日均处理超过 1 万亿次调用。
© 版权声明
免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复
THE END



