ASUS发布 UGen300 USB AI 加速器

华硕今日发布了 UGen300 USB AI 加速器——华硕首款 AI USB 设备,可将推理性能直接引入任何设备。同时,M.2 版本也已上市。

这款纤薄的 AI 加速器尺寸仅为 105 x 50 x 18 毫米,搭载 Hailo-10H AI 处理器,可提供 40 AI TOPS 的专用运算能力,支持 LLM、VLM 等大型语言模型。UGen300 配备 8GB LPDDR4 专用内存,并通过 USB-C® 接口与其他设备连接,在典型工作负载下功耗仅为 2.5 瓦。便捷的即插即用设计确保了与 Windows、Linux 和 Android 等跨平台的兼容性。UGen300 还开箱即用,支持 TensorFlow、PyTorch 和 ONNX 等主流 AI 框架。

“通过将 Hailo-10H 集成到这款随处可见的 USB 设备中,华硕让每个人都能体验到 AI 和生成式 AI 的强大功能,”Hailo 首席营收官 Max Glover 表示。“我们非常期待看到我们的开发者社区如何利用这款即插即用的加速器来拓展设备端 AI 的边界。这正是 Hailo 对未来 AI 的愿景:易于使用、价格亲民,并且旨在让每个人都能轻松上手。”

无与伦比的边缘生成式 AI 性能

华硕 UGen300 USB AI 加速器内置 Hailo-10H AI 处理器,可提供 40 TOPS 的专用 AI 性能,并针对生成式 AI 工作负载进行了优化,包括 LLM 推理和视觉语言任务。它可补充主机设备的 CPU 和 NPU,并提供 AI 加速,从而释放系统资源,实现无需依赖云计算的设备端生成式 AI 推理。

与云端 AI 相比,UGen300 用户无需支付月费,体验零延迟,并享有无与伦比的可靠性和隐私保护。UGen300 可运行要求苛刻的下一代 AI 应用,例如文本生成、视频摘要、事件触发、语音交互和实时感知。其低功耗设计仅消耗 2.5 瓦的功率,可在边缘实现高效、高性能的 AI 应用。

8GB LPDDR4 内存

华硕 UGen300 集成了 8GB LPDDR4 专用内存,可稳定运行 AI 计算和大型模型。它能够帮助缺乏 AI 功能的主机系统高效运行 AI 工具,承担繁重的 AI 工作负载,从而确保系统性能的最佳平衡,同时最大限度地提高效率和多任务处理能力。与共享系统内存的传统 NPU 不同,UGen300 的专用内存架构可避免瓶颈,确保开发人员和专业人士在运行复杂的 AI 流水线时获得稳定的吞吐量。

即插即用

USB 3.1 Gen 2 Type-C® 接口提供即插即用的便利,打造真正跨平台的边缘 AI 加速器,兼容消费级和工业级设备。华硕 UGen300 支持 Windows、Linux 和 Android 生态系统,并广泛兼容 TensorFlow、PyTorch 和 ONNX 等主流 AI 框架。 UGen300 是开发者、教育工作者和嵌入式解决方案提供商的理想之选,满足他们对可扩展、便携计算能力的需求。

UGen300 由一个精简的生态系统提供支持,旨在加速 AI 开发。即将推出的 UGen Utility 将提供超过 100 个预训练模型,方便用户快速验证,轻松上手。用户还可以连接到 Hailo 开发者社区,获取教程、参考设计和经验分享,帮助开发者更快地构建和部署边缘 AI 应用。

上市信息及价格

华硕 UGen300 系列将于 2026 年第二季度起在全球范围内上市。马来西亚的上市日期和价格将另行公布。