本番で、簡単に機械学習モデル運用ーTensorflow Servingの紹介 - GMOインターネットグループ グループ研究開発本部

こんにちは、次世代システム研究室のA.Zです。 機械学習モデルを作成した後、どうすれば本番で、簡単に誰でも利用できるかお悩みある方もいると思います。モデルを利用したい時、何かしらプログラムを実行し、そのあと結果を確認する時が多いと思います。また、外部システムと連携するときに、接続するためのコミュニケーションやテストなども以外と工数がかかります。 今回は機械学習モデルのサービング(serving)フレームワーク、Tensorflow Servingについて、簡単に紹介したいと思います。 はじめに Tensorflow(TF) Servingとは学習済の機械学習モデルサービングするためのフレームワークです。 TF ServingではREST APIとgRPCインターフェスが提供されているので、こちらのフレームワークを使えば、学習済モデルが簡単に他のシステムやだれでも利用できます。 名前がTen