3月28日,“阿里AI将接入各类安卓手机”话题登上微博热搜。当日,阿里云与智能手机芯片厂商MediaTek(下称“联发科”)宣布达成深度合作,双方成功在天玑9300等旗舰芯片上部署通义千问大模型,可实现离线状态下即时且精准的多轮人机对话问答,首次实现大模型在手机芯片端深度适配。
“端侧AI是大模型应用落地的重要场景之一,但面临软硬件难适配、开发环境不完备等诸多挑战。”阿里巴巴通义实验室业务负责人徐栋对《证券日报》记者表示,此次合作真正把大模型“装进”手机芯片中,标志着Model-on-Chip(芯片上模型)的探索正式从验证走向商业化落地新阶段。
具体来看,联发科是全球智能手机芯片出货量最高的半导体公司,2023年第四季度出货超1.17亿部,高于苹果的7800万部和高通的6900万部。目前,联发科的天玑9300芯片已在国外实现支持Meta Llama 2的70亿参数大模型应用,国内已在vivo X100系列手机上落地端侧70亿参数大语言模型。