品玩5月24日讯,据高通官方消息,在MicrosoftBuild 2023开发者大会期间,高通技术公司展示了公司最新的终端侧AI研发进展,包括在骁龙计算平台上运行生成式AI,以及开发者在采用骁龙平台的Windows 11 PC上创建应用的新路径。
高通和微软确认达成合作关系,将面向消费级和企业级终端、以及工业设备,规模化扩展AI能力。高通表示,未来几个月内,包括大语言模型(LLM)在内的参数高达100亿的模型将有望在终端侧运行。
据介绍,终端侧生成式AI解决方案将查询和推理转移到PC和手机等边缘终端。