EAS推出LLM智能路由以增强LLM推理服务效率。此功能可提高资源利用率并帮助客户降低成本和提升效能。适用于构建LLM驱动应用如智能客服或内容生成等。

EAS服务实例健康检查功能升级，提供即时故障检测和自动化恢复，保障AIGC、AI推理及模型在线服务的高可用性。借助Kubernetes技术，系统能自动识别并修复异常容器，确保企业级推理服务稳定运行。

EAS平台推出了GPU资源共享功能，优化模型部署效率，降低用户资源成本，提高资源利用率。此更新主要针对AIGC应用、AI推理任务和在线模型服务提供商，允许他们按GPU计算能力和显存大小精细化划分资源，支持同一GPU卡上的多实例共享模式。

EAS智能部署新升级，推出一键式高效模型服务部署功能，简化流程，支持多种平台，提升部署效率并节省时间。