高性能跨平台边端AI推理部署框架的应用与实践_2024年7月全球软件研发技术大会演讲视频-CSDN在线视频培训

高可用与高性能

高性能跨平台边端AI推理部署框架的应用与实践

课时介绍

简介：在美团诸多业务场景中，从不同业务需求，硬件成本等方面考量，需要在不同硬件上部署各类AI算法。为将算法与底层硬件隔离，使得算法可一键部署到任意硬件，我们设计开发了一款支持多硬件，灵活易用的高性能边端AI推理部署框架，可极大提高了算法部署效率，同时具有高度可扩展性，可持续新增新硬件和推理后端。目前框架支持已支持分类、检测、分割、关键点、OCR等主流视觉任务的AI模型，支持的硬件有：瑞芯微RV1106/RV1126/RK3588，爱芯AX620U/AX650N，全志V851，Android Arm等7大类常见硬件。

课程介绍

随着信息革命的飞速发展，软件已深入人类生活的方方面面，深刻而彻底地改造了人类世界。秉承“全球专家、卓越智慧”的宗旨，我们特邀50+全球软件领域的技术领袖以及一线实战专家，融合主题演讲、互动研讨、案例分享、高端培训等多种形式，共同探讨软件领域的前沿发展、最佳实践和创新应用，共同打造大师智慧+实践干货的技术盛宴。