OpenShift AIのパイプラインにスケジュール設定してみた

1 はじめに
2 パイプラインのスケジュールについて
3 パイプラインのスケジュール実装例
4 最後に
5 参考

はじめに

こんにちはサイオステクノロジーの小野です。前回はOpenShift AIのデータサイエンスパイプラインを実装して実行しました。今回はそのパイプラインをスケジュール設定により、定期実行する方法を解説します。MLOpsにおいて重要な設定なので、ぜひ覚えて帰ってください。

パイプラインのスケジュールについて

OpenShift AIではパイプラインのスケジュール設定を行うことが可能です。パイプラインの定期実行により、常に最新のモデルAPIを利用することができます。

パイプラインのスケジュール実装例

モデルのデータ対応

今回は２つの画像データを用いて、スケジュールによるモデルの更新を確認します。

A画像
- 今まで利用してきたMNIST画像です。今までの記事で作成したモデルはこのA画像に対応したモデルになります。
B画像
- A画像の色を反転させた画像です。

今回用いるデータ。A画像は今まで利用してきた画像。B画像はA画像の色を反転させた画像。モデルAPIをA画像に対応したモデルからB画像に対応したモデルに更新する。

A画像に対応しているモデルAPIをパイプラインのスケジュールによる自動更新により、B画像に対応したモデルに更新します。

パイプライン構成図

今回スケジュール設定を行うパイプラインは前回実行したものと同じになります。詳しくは前回の記事を参照して下さい。（URL）

その構成図を再掲すると以下になります：

パイプラインの構成図

このS3内の画像データをA画像からB画像に変更することで自動的にB画像に対応したモデルが作成され、デプロイされます。

前提条件

OpenShift AI：2.13
以前の記事のモデルサービングを実行済み（OpenShift AIのモデルサービング機能について）
- すでにA画像で学習したモデルがデプロイされている状態になります。
以前の記事のパイプラインを実行済み（OpenShift AIのデータサイエンスパイプラインについて）
- サービスアカウントの設定を行って、モデルの更新ができる状態にしてください。
今回利用するプログラムは以下のリンクからダウンロードしてください。
- MLschedule

モデル更新前動作確認

モデル更新前：A画像によるAPIリクエスト実施

JupyterLab上で5_test-api.ipynbを実行してください。なお実行時はコード内のエンドポイントやAPIのトークンのシークレットを各自設定した値に変更してください。

モデル更新前はA画像によって学習が行われたモデルAPIなので、A画像に対して正しい推論が行われていることが確認できます。

モデル更新前のA画像に対する推論結果。推論と実際の結果が一致しているのが確認できる。

以前の記事でデプロイしたモデルはA画像で学習している。したがって、A画像の推論はうまくいく。

モデル更新前：B画像によるAPIリクエスト実施

JupyterLab上で6_test-api-inv.ipynbを実行してください。なお実行時はコード内のエンドポイントやAPIのトークンのシークレットを各自設定した値に変更してください。このプログラムは色が反転したB画像をモデルAPIに送信しています。

モデルAPIはB画像を学習していないので、推論した画像の数字と実際の画像の数字が一致しないことが確認できます。

モデル更新前のB画像に対する推論結果。推論と実際の結果が一致していないのが確認できる。

デプロイされているモデルはA画像でしか学習していないのでB画像の推論はうまくいかない。

スケジュール設定

パイプラインのエクスポート

JupyterLab上で4_pipeline-demo.pipelineファイルを開いてください。このパイプラインファイルをKubeflow Pipelines形式のyamlファイルにエクスポートしてください。詳しくは前回の記事を参照してください。（URL）

エクスポートしたyamlの一部が以下になります。デフォルトだとパイプラインのキャッシング機能がオンになっていますが、今回構築したパイプラインはキャッシング機能がついていると毎回の実行が省略されてしまいます。スケジュール設定によって毎回実行してほしいのでキャッシング機能をオフにします。そのためにenableCacheをfalseに設定します。

root:
  dag:
    tasks:
      run-a-file:
        cachingOptions:
          enableCache: false # enableCacheをfalseに変更する
        componentRef:
          name: comp-run-a-file
        taskInfo:
          name: 1_dataprocessed
      run-a-file-2:
        cachingOptions:
          enableCache: false # enableCacheをfalseに変更する
        componentRef:
          name: comp-run-a-file-2
        dependentTasks:
        - run-a-file
        taskInfo:
          name: 2_training
      run-a-file-3:
        cachingOptions:
          enableCache: false # enableCacheをfalseに変更する
        componentRef:
          name: comp-run-a-file-3
        dependentTasks:
        - run-a-file-2
        taskInfo:
          name: 3_modeldeploy
schemaVersion: 2.1.0
sdkVersion: kfp-2.8.0