谢吉兵-LLM在eBay云原生模型推理平台的工程化落地_2025 4月全球机器学习技术大会-上海站-CSDN在线视频培训

分会场-D

谢吉兵-LLM在eBay云原生模型推理平台的工程化落地

课时介绍

eBay机器学习平台软件开发工程师
大纲：
业务背景与平台挑战
LLM的推理服务与推理引擎
LLM service的auto scale
LLM self-service benchmark工具
未来与展望

课程介绍

自1936年阿兰· 图灵提出「图灵机」以及机器具备「思维」的可能性以来，以机器学习为代表的人工智能经过飞速发展，深刻地改变着我们的世界。CSDN & Boolan 秉承“全球专家，卓越智慧”的宗旨，特邀近50位技术领袖和行业应用专家，与1000+来自电商、金融、汽车、智能制造、通信、工业互联网、医疗、教育等众多行业的精英参会听众，共同探讨人工智能领域的前沿发展和行业最佳实践。