大模型跑在手机上还有多远？

例如在运行时，GPU内存限制在6GB以下，训练成本控制在九个小时以内，在这些条件限制下，图像识别精准度还要达到95%以上，在1分钟之内完成几千张图片推理的效果。“投入时间比较短，参赛也很从容，比赛的课题就是我们日常的工作”，参加挑战的支付宝xNN引擎工程师王世豪道。 通过xNN团队在技术实践上的探索，我们也能够一窥当前AI在终端落地方面的最新进展：从1.0跨越到2.0，目前端侧AI技术已经攀登到一个“小高峰”，“又好又快”成为技术抵达的主逻辑。 2016年深度学习刚刚爆发，2017年基于计算机视觉的“扫五福”就正式应用在支付宝APP里上线，这也成为了xNN技术团队组建的起点。“扫福活动最早在云端测试，即在服务端上用AI能力识别福字，但最终发现成本和效果都差强人意，这才转向了端上去做”，周大江表示。“扫五福”这个动作，经过了扫描、识别、判断

来源：TOOM舆情监测

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！