高通和微软在Microsoft Build开发者大会上携手推动终端侧AI规模化扩展 _ 量子位
2023年5月23日，西雅图——在Microsoft Build 2023开发者大会期间，高通技术公司展示了公司最新的终端侧AI创新，包括在骁龙?计算平台上运行生成式AI，以及开发者在采用骁龙平台的Windows 11 PC上创建应用的新路径。
高通技术公司产品管理高级副总裁Ziad Asghar表示：“为了让生成式AI真正为更多人所接受和使用，许多推理工作需要在边缘终端上处理。我们拥有行业领先的AI硬件和软件，可以赋能开发者充分利用我们强大的AI能力，在搭载骁龙平台的笔记本电脑、手机和其他终端上打造令人惊艳的全新用户体验。”
AI的未来既需要终端侧AI，也需要云端AI。在终端侧运行AI应用可提升成本效益、增强隐私性、个性化并降低时延。与仅在CPU或GPU上进行AI工作负载处理比较，骁龙平台集成专用的高通AI引擎，处理AI工作负载可以更加高效，让小巧轻薄的设备也能支持终端侧AI。
在Microsoft Build期间，高通技术公司将带来技术演示，并带来能够支持在下一代Windows 11 PC上开发生成式AI的工具。Stable Diffusion作为一款文本生成图像的生成式AI模型，参数超过10亿，目前已经能够完全在终端侧运行。高通技术公司表示，未来几个月内，包括大语言模型(LLM)在内的参数高达100亿的模型将有望在终端侧运行。为了增强高通AI软件栈并帮助开发者打造下一代终端侧AI体验，高通AI引擎Direct SDK将在Microsoft Build上首次面向公众推出。借助ONNX Runtime和高通AI软件栈，如今用户在使用5G版Surface Pro 9和联想ThinkPad x13s的时候就可以在其搭载的第三代骁龙8cx平台上的AI引擎运行AI工作负载。
微软Windows芯片和系统集成公司副总裁Pavan Davuluri表示：“为了在广泛的终端和应用领域扩展AI，云端和终端侧处理缺一不可。通过将微软在云端AI上的领先优势以及Windows平台的能力与高通技术公司的终端侧AI专长相结合，我们将加速由生成式AI体验所带来的发展机遇。”
高通技术公司还将在大会期间展示为骁龙平台原生编译热门应用可带来的显著性能提升，并上线全新的开发者门户网站，便于从统一的入口集中获取骁龙本开发所需的关键工具、资源和支持。
欲了解高通技术公司在Microsoft Build开发者大会上的更多信息，请访问https://build.microsoft.com/en-US/partners/24488a42-2828-4baf-8e10-28e51938ac6e?source=partners。