ローカルフレームワーク
ローカルフレームワークとは、機械学習モデルやアプリケーションロジックなどの複雑な計算を、リモートサーバーやクラウドインフラストラクチャに依存するのではなく、エンドユーザーのデバイス上で完全に実行するように設計されたソフトウェア構造またはライブラリ群を指します。これは、データ処理のために送信する必要があるクラウドベースのソリューションとは対照的です。
ローカルフレームワークへの移行は、プライバシー、レイテンシの削減、運用上の回復力に対する重要なニーズによって推進されています。データをローカルで処理することにより、アプリケーションはインターネット接続が悪い、または利用できない場合でも機能することができます。さらに、機密データをデバイス上に保持することは、送信中のデータ露出を最小限に抑えることで、ユーザーのプライバシーを大幅に強化します。
これらのフレームワークは通常、大規模でリソース集約的なモデルが制約されたハードウェア（モバイルCPUや専用NPUなど）で効率的に実行できるように、モデルの量子化と最適化を伴います。このフレームワークは、モデルのライフサイクル（ロード、推論実行、結果処理）をローカルアプリケーション環境内で管理します。
ローカルフレームワークは、リアルタイムアプリケーションに理想的です。例としては、拡張現実のためのオンデバイス画像認識、クラウド依存なしのリアルタイム音声文字起こし、オフラインで動作するパーソナライズされたレコメンデーションエンジンなどがあります。
主な障害はハードウェアの制約に関係しています。モデルはメモリと計算能力に対して集中的に最適化される必要があります。フレームワークとモデルを多様なOSバージョンやデバイスアーキテクチャ全体でバンドルおよび保守する必要があるため、デプロイの複雑さも増します。
関連する概念には、エッジAI（ローカル実行を含む）、TinyML（極めて低電力のマイクロコントローラに焦点を当てる）、およびフェデレーテッドラーニング（ローカル計算を使用するが、生データを共有せずに洞察を中央で集約する）があります。
