LLM应用可观测解决方案探索与实践_2024年7月全球软件研发技术大会演讲视频-CSDN在线视频培训

课时介绍

随着生成式AI概念的火爆，以ChatGPT，通义大模型为代表，市场上涌现了一系列商用或者开源的大模型，同时基于大语言模型以及AI生态技术栈构建的应用以及业务场景也越来越多，大规模的模型训练以及模型推理场景也催生了MLOps、LLMOps等相关的岗位需求。如何监控并保障大模型应用上线的性能以及用户体验？如何支持复杂拓扑场景下LLM应用领域的链路可视化分析以及问题根因定位？需要从成本以及效果等方面获得线上实际表现，辅助选择、分析、评估以及优化迭代大语言模型等。基于上述需求以及问题背景，面向LLM应用技术栈的可观测能力解决方案也成为了日益重要的话题。

课程介绍

随着信息革命的飞速发展，软件已深入人类生活的方方面面，深刻而彻底地改造了人类世界。秉承“全球专家、卓越智慧”的宗旨，我们特邀50+全球软件领域的技术领袖以及一线实战专家，融合主题演讲、互动研讨、案例分享、高端培训等多种形式，共同探讨软件领域的前沿发展、最佳实践和创新应用，共同打造大师智慧+实践干货的技术盛宴。