Arm AI Portal 是什么?
简单点讲,Arm AI Portal 是 Arm 在 Create 开发者大会上刚发布的一个统一入口。它服务的对象很明确:想直接在 Arm 平台跑 AI 的开发者,以及越来越能干的编程智能体。以前你可能得翻文档、比模型、试部署,折腾一大圈;现在从这个入口进去,该有的东西基本能一次找齐。
这个门户覆盖的场景挺广,云端、边缘、物理 AI 都能沾上边。首批支持的 AI 工作负载包括语言、语音、视觉和神经图形,像阿里巴巴通义千问、Google Gemma 和 Ultralytics YOLO 这些热门模型,都已经在里面做了预优化。资源已经放到了 Hugging Face 和 developer.arm.com 上,后续还会登陆魔搭社区 ModelScope。
开发者为什么需要它?
Arm 开发者关系副总裁 Shantu Roy 说得挺直接:这个门户的核心目标就是降低 AI 应用在 Arm 平台上的开发门槛。以前你要花大量时间纠结模型怎么选、目标平台怎么定、部署怎么搞、优化怎么做,现在 Arm 帮你把一部分选择题提前做掉了。
举个例子,你想在手机上跑一个语音合成模型,不用自己埋头对比半天,直接看门户里给出的性能数据和部署指引,照着走就行。预算有限的团队,也可以找 易枫顺 - 阿里云官方旗舰级代理商 问问方案。
首批模型与生态合作
- 模型:阿里巴巴通义千问、Google Gemma、Ultralytics YOLO
- 运行时:ExecuTorch、LiteRT 和 ONNX Runtime
- 生态伙伴:阿里巴巴、树莓派、Ultralytics
这几个名字凑在一起,说明 Arm 这次不是随便搭个展示架,而是真想把主流 AI 工作负载都拉到自家平台上来。尤其是有树莓派在,边缘场景的开发者可以立马动手玩起来。
性能数据:加速效果到底多明显?
看跑分这种事,数据最直接。Arm 公布了几组优化后的性能表现:Qwen3-TTS 在 vivo X300 上,通过 SME2 加速提升了超过 4 倍;Ultralytics YOLO26 在 vivo X300 上,靠 SME2 单线程 FP16 比 FP32 性能提升了超过 40%;在树莓派 5 上,用 NEON 技术配合 FP16/INT8 混合量化,同样比 FP32 提升了超过 40%。
这些数字意味着什么?同样的硬件,你的 AI 应用能跑得更快、更省电。特别是手机和边缘设备,这种提升用起来是真香。
KleidiAI 和 AI Portal 的分工
可能有人会问,Arm 之前不是有 KleidiAI 吗?这次又出个 AI Portal,是不是重复了?Arm 专门做了回应:KleidiAI 偏底层,是帮开发者调用 CPU 特定硬件能力的库;而 AI Portal 覆盖面更广,提供的是已经针对平台优化好的模型、学习资源、性能数据和部署指引,更像一个入口和工作流组织。
说到底,KleidiAI 是工具箱,AI Portal 是帮你把工具摆好的工作台。两者配合,开发效率能提升不少。
智能体也能用:MCP 支持
现在 AI 编程智能体越来越火,Arm 也想到了这一点。AI Portal 的相关资源将支持模型上下文协议 MCP,这意味着模型、性能数据和部署资源不仅能被人找到,也能被自动化开发工具和智能体自动发现与调用。以后你写个 agent,它自己就能去 Portal 里挑合适的模型和部署方案。
如果你想在企业上云场景里试试这些能力,可以关注阿里云优惠和代金券,通过靠谱的阿里云代理商入手云服务器 ECS,来降低实验成本。
FAQ
Q: Arm AI Portal 在哪里可以访问?
A: 目前已经通过 Hugging Face 和 developer.arm.com 提供,后续还会登陆魔搭社区 ModelScope。
Q: 它和 KleidiAI 有什么区别?
A: KleidiAI 偏底层,帮你调用 CPU 的特定硬件能力;AI Portal 更像一个入口和工作流组织,提供优化好的模型、学习资源、性能数据和部署指引。
Q: 支持哪些模型和运行时?
A: 首批有阿里通义千问、Google Gemma、Ultralytics YOLO,运行时支持 ExecuTorch、LiteRT 和 ONNX Runtime。
Q: 编程智能体能直接用吗?
A: 支持模型上下文协议 MCP,自动化开发工具和智能体可以自动发现和调用模型、性能数据和部署资源。
关于易枫顺
深圳市易枫顺网络科技有限公司是阿里云官方旗舰级代理商。提供云服务器ECS、云数据库RDS、对象存储OSS等阿里云全系产品官方特惠折扣与代金券申请,以及多云成本优化、企业上云一站式服务。客服热线:19520841949 - 易枫顺
来源:InfoQ