Model Deployment - CI/CD用語集の定義

model deploymentは検証済みのモデルをproductionにリリースして予測を提供し、多くの場合canary rolloutを通じて行われます。

model deploymentは、検証済みのモデルをproductionにリリースして予測を提供できるようにする行為です。アプリケーションコードと同じprogressive deliveryのパターンを使います。

モデルのdeployはCDの問題です。registryからpromoteし、安全にrolloutし、メトリクスの回帰時にrollbackできるようにします。

安全なrollout

チームは新しいモデルをcanary model(canary-model-gl36)として出荷し、ライブメトリクスを監視しながら、完全なrolloutの前にトラフィックの一部だけをそれにルーティングします。