こんにちは！エンジニアの@tik-son, @ikemonnとMLエンジニアの@nichimuです。 本日ついに待望のGKE Autopilotがリリースされましたね！ この記事では、GKE Autopilot上で動いているリアルタイム推論基盤でなぜ我々がGKE Autopilotを利用することにしたのかについてお話しします。 MLリアルタイム推論基盤とは リアルタイム推論基盤とは、機械学習のモデルを使用して、リアルタイムに推論が行える基盤のことです。 このリアルタイム推論基盤を用いることで、 エンドユーザーがsession内で電話するかを予測する エンドユーザーが会員登録を行ったsession内で資料請求をするか予測する のように数秒-数分後にエンドユーザーが…
Yuta Nishimura
こんにちは。エンジニアの@ikemonnです。 2019/11/13にDatadog Summit Tokyoで「マルチクラウドな大規模サービスKARTEを支えるDatadog」というテーマで登壇してきました。 (イベント終了後にブログを書いた気でいましたが、書いていなかったのでその振り返りです。) KARTEは下記のような特徴のサービスです。 マルチテナント低レイテンシ―/高負荷大規模システムマルチクラウド構成こういった特徴のKARTEをどのように運用コストを抑えて監視しているかについて話しました。 Datadogを例として話していますが、他の監視ツールを使っていても活かせる内容だと考えていますので、ぜひご覧ください！ 概要KARTEは下記の特性を持った低レイテンシ―/…
Daiki Matsui
こんにちは、SREの @ikemonnです。 先日開催された builderscon tokyo 2018で、KARTEにSpinnakerを本番導入して得られた知見について発表させていただきました！ 「Spinnaker」とは、Netflixが開発したマルチクラウド環境へのCD(Continuous Delivery)ツールです。 利用企業としては、Wazeやmercari等が有名です。 Waze: Google Cloud Next '18でWazeのSpinnakerのセッションを聞いてきました! mercari: SpinnakerによるContinuous Delivery KARTEでも2018年の1月からSpinnakerを本番環境で導入しており、S…
Daiki Matsui
こんにちは！SREの@ikemonnです。 7/24-26@San Franciscoで行われたGoogle Cloud Next '18に参加してきました。 いくつかのセッションを聞いてきたのですが、今回はKARTEのデプロイでも利用しているSpinnakerのセッション、Large-Scale Continuous Delivery at Netflix and Waze Using Spinnaker (Cloud Next '18) が面白かったのでご紹介します。 概要 WazeでのSpinnakerの使い方 Googleがリソースを割いてなぜSpinnakerを開発しているのか Spinnakerのroadmap まとめ WazeでのSpinnakerの使…
Daiki Matsui
こんにちは！プレイドの@ikemonnです。 前回はAWSとGCPをVPNで接続した話をしました。 今回はGCPでの検証を行った際の進め方について説明していきます。 インフラを作り込みすぎずに検証したことで、早めに想定外のボトルネックに気づくことができ、予定していなかったインフラ構成の変更が必要であることが確認できました。 マルチクラウドインフラを構築する際には「小さく始めて、検証できる環境を作る」ことがポイントになります。 目次 小さく始める 検証する まとめ 小さく始める 最初に検証するサーバの選定 今回は下記の3点を基準にどのサーバをまずGCPへ移行するかを選定しました。 お客様への影響が少ないサーバ GCPへ移行のメリットが大きいサーバ(パフォーマンス…
Daiki Matsui