会懂网AI资讯，9月29日，近日，亚马逊推出SageMaker HyperPod Inference Gateway，这是一个Kubernetes原生的GPU感知路由层，以单个EKS托管插件形式部署，无需改动任何应用代码即可为大模型推理...