返回列表 发布新帖回复

搭载华为ModelBox AI应用开发框架 打通端边云边界

335 0
发表于 2023-10-2 11:50:42 | 查看全部 阅读模式
开屏广告        
此次合作搭载的华为云ModelBox AI应用开发框架,有三大创新能力:

高性能并发调度引擎提升推理性能 2-10倍
客流分析需要在单个边缘设备上完成多路视频流、多个算法的实时分析计算,对性能要求很高。如果单位时间内处理的视频帧数不够,会严重影响跟踪、Reid等算法效果。相较传统AI应用串行的运行方式,ModelBox应用中所有任务以功能单元形式封装,内置的并发调度引擎实现数据计算和资源管理的精细化智能调度,同时集成了特别优化过的硬件加速单元,可以实现推理性能大幅提升,保证客流分析的实时性。

自适应异构计算组件缩短跨平台开发周期80%
客流分析中的多个模型是在云上GPU服务器中训练,部署到边缘设备的过程中面临芯片、操作系统、推理框架等软硬件的切换,开发人员需要学习边缘侧底层API的使用,适配周期较长。ModelBox预置了丰富的应用编排异构计算组件,覆盖主流芯片、操作系统、推理框架,让开发者只需关注业务逻辑的实现,不必学习平台的软硬件差异,可以明显缩短开发周期。此次改造好的算法,也可以轻松适配到其他端边云设备上,实现一次开发,全场景部署。

端边云AI协同单元降低运维成本30%
线下门店分布在全国各地,传统方案需要运维人员出差到门店现场做安装部署、故障排查、迭代更新等,运维成本很高。ModelBox框架中提供的端边云AI协同单元让开发者快速生成格式统一的AI应用,结合应用场景一键部署到端边云不同的设备上运行。利用华为云管理平台,可以实现对算法的远程更新,以及告警、日志等精细化管理,降低运维成本。


216158

回复

avatar
您需要登录后才可以回帖 登录 | 立即注册 wechat_login1  qq_login

本版积分规则

投诉/建议联系

admin@discuz.vip

未经授权禁止转载,复制和建立镜像,
如有违反,追究法律责任
  • ewm_b关注公众号
  • ewm_a添加微信客服
Copyright © 2001-2025 运城社区 版权所有 All Rights Reserved. 晋ICP备16004466号-2
关灯 在本版发帖
ewm_a扫一扫添加微信客服
QQ客服返回顶部
快速回复 返回顶部 返回列表