Amazon SageMaker Inference支持英伟达MIG多实例GPU分区

SageMaker Inference now supports Multi-Instance GPU to maximize GPU utilization for model endpoints AWS 宣布 Amazon SageMaker Inference 正式支持英伟达 Multi-Instance GPU（MIG）硬件分区技术。该功能允许开发者将单块 GPU 在物理隔离层面划分为多个独立实例，通过两个新增 API 字段实现每个分区部署不同模型或按需分配新加速卡算力，以提升 GPU 综合利用率。