1.5.6　推理/預測

訓練完模型后，下一步是在集群中提供模型服務，這樣它就可以處理預測請求。Kubeflow讓數據科學家可以輕松地在生產環境中大規模部署機器學習模型。目前，Kubeflow除了現有的TensorFlow Serving和Seldon Core等解決方案外，還提供了一個用于模型服務的多框架組件：KFServing。

在Kubeflow上提供模型服務是相當直接的。在大多數情況下，你不需要自己構建或定制一個容器，只需將Kubeflow指向模型的存儲位置，服務器就會準備好服務請求。

一旦模型提供服務，就需要對其性能進行監控，并可能需要對其進行更新。這種監控和更新是通過Kubeflow的云原生設計實現的，詳見第8章。