通过 CloudWatch SageMaker 详细指标与 Insights 面板监控调试生成式 AI 推理

Amazon SageMaker AI 提供完全托管的机器学习模型实时推理服务，将模型部署到由计算实例支持的端点即可自动完成配置和扩展。本文重点介绍生成式 AI 可观测性最相关的两种架构：单模型端点（SME）和推理组件（IC）端点。