【OSS】機械学習モデルWebサービス展開プラットフォーム「Cortex」---「TensorFlow」「PyTorch」「scikit-learn」などをサポート

「Cortex」とは

Cortexは、機械学習モデルを運用Webサービスとして展開するためのオープンソースプラットフォーム。

→cortex.dev

主な特徴

マルチフレームワーク

「TensorFlow」「PyTorch」「scikit-learn」「XGBoost」などをサポートしている。

自動スケーリング

APIを自動的にスケーリングして実稼働ワークロードを処理できる。

CPU/GPUのサポート

CPUまたはGPUインフラストラクチャで推論を実行できる。

スポットインスタンス

EC2スポットインスタンスをサポートしている。

ローリング更新

ダウンタイムなしでデプロイされたAPIを更新できる。

ログストリーミング

デプロイされたモデルからCLIにログをストリーミングする。

予測監視

ネットワークメトリックを監視し予測を追跡する。

ユースケース

センチメント分析

Cortexを使用したセンチメント分析用BERTモデルの展開

画像分類

Intexモデルを展開して、Cortexを使用して画像を分類

以上、下記URLからの要約
https://www.marktechpost.com/2019/12/23/cortex-an-open-source-platform-for-deploying-machine-learning-models-as-production-web-services/