埋め込みスコアリング
埋め込みスコアリングとは、訓練された予測モデル(スコアリングアルゴリズム)を、外部の独立したサービスとして実行するのではなく、アプリケーションの運用ワークフローまたはユーザーインターフェースに直接統合するプロセスを指します。専用のAPIエンドポイントにスコアを問い合わせる代わりに、ロジックまたは軽量なモデルアーティファクトがアプリケーションコード自体と並行してデプロイされます。
埋め込みスコアリングの主な価値は、レイテンシの削減です。アプリケーションとリモートのスコアリングサービス間のネットワークホップを排除することにより、意思決定を瞬時に行うことができます。これは、不正検出、チェックアウト時のパーソナライズされたレコメンデーション、動的コンテンツランキングなど、ミリ秒が重要なリアルタイムアプリケーションにとって極めて重要です。
このプロセスにはいくつかの重要なステップが含まれます。まず、履歴データを使用してモデルを訓練します。次に、このモデルを最適化し、シリアル化します(例:ONNXまたは軽量ライブラリ形式)。第三に、このシリアル化されたモデルをパッケージ化し、アプリケーション環境(例:マイクロサービス内またはクライアントサイドロジック内)に直接デプロイします。イベントが発生すると、アプリケーションは必要な入力特徴を直接埋め込みモデルにフィードし、モデルは即座にスコアを計算して返します。
埋め込みスコアリングは、さまざまな業界で非常に汎用性が高いです。
この概念は、モデルデプロイメント、エッジコンピューティング(クライアントデバイスにデプロイされる場合)、およびマイクロサービスアーキテクチャ(スコアリングロジックが分離されているがサービスに密接に結合している場合)と密接に関連しています。