高通AI Hub在MWC 2024发布在您的设备上运行AI模型

在 MWC 2024 上，高通终于推出了 AI Hub，可在多种设备上提供端上 AI 体验。这家芯片制造商表示，其人工智能引擎足够强大，可以在从智能手机到个人电脑的所有平台上提供智能计算。

Qualcomm AI Hub 拥有完全优化的 AI 模型库，您可以下载并在设备上本地运行。它还支持许多流行的人工智能框架，例如谷歌的 TensorFlow 和 Meta AI 的 PyTorch，作为高通人工智能堆栈的一部分。

Qualcomm AI Hub已优化超过75个AI模型

高通表示，其 AI Hub 拥有超过 75 个优化的 AI 模型，支持的 AI 推理能力比竞争对手高出 4 倍。您可以使用这些 AI 模型执行各种任务，包括图像分割、图像生成、文本生成、低光增强、超分辨率、语音识别等。与此同时，高通 AI Hub 可以为可以在本地看到、听到和说话的多模式 AI 模型提供支持。

这家芯片巨头提到，它可以在 Android 设备本地运行具有 7B+ 参数的多模态 AI 模型。它可以运行 LLaVa 等模型，并支持文本、语音和图像输出。整个软件堆栈经过优化，可在消耗最低功耗的同时提供最佳的人工智能性能。由于一切都在本地完成，因此您的隐私得到保护，并且还解锁了个性化的人工智能体验。

即使在运行即将推出的Snapdragon X Elite芯片组的 Windows 笔记本电脑上，您也可以输入语音，它可以对语音进行推理并立即生成输出。高通还采用了一种名为LoRA(低阶适应)的技术，在设备上本地使用稳定扩散生成 AI 图像。它可以运行具有 1B+ 参数的稳定扩散模型。

为了进一步证明Snapdragon X Elite强大的设备端AI能力，高通使用Stable Diffusion插件在GIMP上进行了图像生成测试。搭载 Snapdragon X Elite 的笔记本电脑只需7.25 秒即可生成人工智能图像，而最新的 x86 搭载的英特尔酷睿 UItra 处理器则需要 22.26 秒。

值得注意的是，英特尔推出了带有各种计算模块的Meteor Lake 架构(为 Core Ultra CPU 提供动力)，其中 NPU 模块(基于 Intel 4 节点构建)专为设备上的 AI 任务而设计。尽管如此，ARM 驱动的 Snapdragon X Elite 的AI 性能提高了 3 倍，这主要是因为其 NPU 单独即可执行 45 TOPS。当与 CPU、GPU 和 NPU 结合使用时，其计算性能高达 75 TOPS。