高通AI Hub现已面向中国开发者开放
高通技术公司今日宣布，高通® AI Hub现已面向中国开发者开放，为开发者提供用于构建和部署终端侧AI的平台。高通AI Hub集高通AI Hub Models、高通AI Hub Workbench、高通AI Hub Apps以及面向终端侧生成式AI推理的GenieX于一体，这些工具能够帮助开发者进行模型探索、模型优化并实现应用集成，以及在智能手机、PC、物联网设备和其他形态上的终端侧部署。全新高通AI Hub中国版提供超过230个并持续扩展的预优化模型库。开发者可以浏览模型、比较模型在支持的设备及运行时上的性能指标，并下载模型以集成至应用中。面向中国市场的高通AI Hub Models能够充分利用高通® AI引擎中CPU、GPU和NPU的硬件加速能力，优化模型在终端侧的性能、内存利用和能效。
高通AI Hub Workbench允许开发者导入自有模型，在真实的云托管设备上进行优化、量化、编译、性能分析和验证。开发者可以选择偏好的骁龙® 以及高通跃龙™平台和运行时，评估模型性能，并生成经过优化的资源，以集成至终端侧应用中。它还支持使用高通AI引擎Direct SDK的部署工作流，有助于缩短产品上市时间，发挥终端侧AI部署的诸多优势，比如即时性、可靠性、隐私、个性化和成本优势。
高通AI Hub Apps提供示例应用和参考代码，助力开发者学习如何将高通AI Hub Models集成至应用中，配置支持的运行时，并实现优化的端侧性能。针对生成式AI开发，GenieX是一款终端侧生成式AI推理运行时，可通过命令行、Python和Java API等开发者接口，让开发者在NPU、GPU和CPU上本地运行并集成模型。开发者可根据模型、应用和部署需求，单独使用或组合使用上述工具。
页:
[1]