(资料图片)
据公众号“雷军”消息,小米雷军表示,小米做大模型的思路和很多公司不太一样,选择主力突破的是轻量化和本地部署。目前小米自研的13亿参数的端侧模型已经在手机端跑通,部分场景效果媲美60亿模型在云端的运算结果。与早些时候市场上放出的手机端大模型的方案相比,小米会调整模型结构和参数大小,适配各种芯片在内存和算力上的特点,致力于达到功耗、推理速度和生成效果的最佳平衡。
(来源同花顺,以上信息为南都·湾财社AI大数据自动生成)
关键词:
2023-08-25 14:55:07 来源:南方都市报
(资料图片)
据公众号“雷军”消息,小米雷军表示,小米做大模型的思路和很多公司不太一样,选择主力突破的是轻量化和本地部署。目前小米自研的13亿参数的端侧模型已经在手机端跑通,部分场景效果媲美60亿模型在云端的运算结果。与早些时候市场上放出的手机端大模型的方案相比,小米会调整模型结构和参数大小,适配各种芯片在内存和算力上的特点,致力于达到功耗、推理速度和生成效果的最佳平衡。
(来源同花顺,以上信息为南都·湾财社AI大数据自动生成)
关键词: