あえて手動アップグレードを選ぶ〜マネージドサービス(GKE)で手作業による対応をした話〜 - MonotaRO Tech Blog
こんにちは。データ基盤グループ データエンジニアリングチームの宮口です。 この記事ではGoogle Cloud Platform（以下、GCP）のサービスの1つであるGoogle Kubernetes Engine（以下、GKE）のクラスタを手動アップグレードした話を紹介します。 私が所属するデータエンジニアリングチームでは、社内システムに保存されたデータをGCPのBigQueryにニアリアルタイムで同期するシステムや、BigQueryに保存されている大容量のデータを低レイテンシなAPIとして提供するシステムなど、モノタロウのビジネスを裏側で支えるシステムの管理を行っています。それらのシステムは全てのコンポーネントをコンテナ化しており、その実行環境としてGKEを採用しています。 また、それとは別に社内でGKE共通環境と呼んでいる、マルチテナント方式のクラスタによるアプリケーション実行基盤を
KubernetesのPodを事前にスケールアウトする仕組みをCronJobで実装し、ジョブの処理遅延を低減した話 - ANDPAD Tech Blog
1. はじめに こんにちは、SWEのあかりです。 今回は、SREの角井さん（@cass7ius）と一緒に、Kubernetes(以降、K8sと表記)のPodを事前にスケールアウトする仕組みをK8sのCronJobで構築したので、その実装背景・技術選定・実装方法について実例を紹介します。 この記事を読んで得られるものは以下の3点です。 Podを事前にスケールアウトさせて、ジョブの遅延を低減した実例 技術選定時に行った定性分析の実例 Podからkubectlコマンドを実行する実装例 2. 前提の説明 掲題の実装対象は施工管理サービスであり、これは社内で最も古くから稼働しているモノリシックなRailsアプリケーションです。施工管理サービスのおおよそのインフラ・技術構成は下図の通りになっています。 施工管理サービスのインフラ構成図 上図の通り、施工管理サービスはEKSクラスター上で稼働しており、お
コンテナ内のアプリが複数種類のログを出力する場合の収集方法 - Taste of Tech Topics
こんにちは。アキバです。 この記事は、Elastic Stack (Elasticsearch) Advent Calendar 2020 - Qiita の12日目です。 qiita.com 当社ではリモートワークに移行し始めて9～10か月になろうかというこの頃ですが、リモートワークをされている皆さんはどのような工夫をされているでしょうか？ 私はiPad Proを日常的に使って、社内のホワイトボードでやっているような手書き体験の共有をしています。 最近、新しいペーパーライクフィルムを使用することになったのですが、これまでのペーパーライクと触感がガラリと変わり、慣れるまでちょっとぎこちない感じです。 今日は、そんな手書き体験の話とは全く関係ない、ログ収集に関する話です。 何の話か？ 定期的に起きる質問 今の時代、アプリケーションをDocker／Kubernetesなどのコンテナ上で動作させ
SkaffoldのFile sync機能を使えばイメージのビルドなしにコンテナに反映できて捗る - Qiita
Skaffoldはローカルで開発する際、ソースコードの変更を検出して、自動的にビルド、プッシュ、デプロイを行ってくれ大変便利です。 しかしソースコードに量が多くなってくるとビルドに時間がかかってきます。 そんなときは、SkaffoldのFile sync機能を使えばイメージのリビルド、リデプロイ、リスタートなしに、sync対象のファイルのなかで変更があったファイルのみをコンテナに直接反映できます。 syncには2種類のモードがあります。 inferモード Dockerfileをもとにsync先を推定するモードです 例えば以下のようなDockerfileがあり、 FROM hugo ADD .filebaserc /etc/ ADD assets assets/ COPY static-html static/ COPY content/en content/t
コンテナオーケストレーションとGoogle Kubernetes Engine（GKE）の特徴とその活用 | gihyo.jp
本連載は、Google Cloudのアプリ開発とDBプロダクトにおけるスペシャリスト達が、Google Cloudプロダクトを利用した、クラウドネイティブな開発を実践する方法を解説しています。 第2回では、Google Cloudが提供するフルマネージドなKubernetesプラットフォームであるGoogle Kubernetes Engineのアーキテクチャや特徴を紹介します。この記事を読むことでGoogle Kubernetes Engineのユースケースや利点について理解できます。 対象となる読者として、クラウドを利用したアプリケーションプラットフォームを開発/運用するエンジニア、またそのプラットフォーム上でアプリケーションを開発するエンジニアを想定しています。 Kubernetesとは KubernetesはOSSのコンテナオーケストレーションシステムです。 Google内部で利用
OSSでオブザーバビリティを実現する (Elastic Stack x OpenTelemetry on Kubernetes) - RAKUS Developers Blog | ラクス エンジニアブログ
こんにちは。インフラエンジニアの gumamon です！ 最近はSRE的なことも ちょこちょこ やらせて頂いています。 NewRelic、Datadog、モダンな監視(オブザーバビリティ)って良いですよね。 弊社もKubernetes(k8s)等を利用した環境が増えてきた折、そろそろ必要になってきた(と思っている)のですが、NewRelic、Datadog等のクラウドサービスはランニングコストが安くない。 そこで内製できないかやってみよう！ということになり、試行錯誤をした結果どうにか表題の構成で作ることができたのでご紹介をしたいと思います！ この記事では、k8sを観測対象とし、オブザーバビリティを実現した際のアーキテクチャ構成、並びに四苦八苦する中で得た観測の勘所(私見)についてご紹介します。 目次 目次 オブザーバビリティとは オブザーバビリティ(OSS)の実現事例 全体構成 Elast
大規模Kubernetesクラスタにおけるコンテナレジストリの高速化 - Cybozu Inside Out | サイボウズエンジニアのブログ
こんにちは。サマーインターンシップ2023のKubernetes基盤開発コースに参加した、高橋 (TAK848) と花田 (hanapedia) です。 Necoチーム では現在コンテナレジストリの可用性を高めるため、コンテナレジストリミラーをクラスタ内にデプロイしています。 しかし、クラスタが数百台程度まで大きくなり、レジストリミラーからコンテナイメージを同時に大量にPullするようになりました。 そのため、イメージの取得に数十分もの時間がかかってしまう問題が起きました。 この問題に対処するため、Spegel というステートレスなレジストリミラーの動作検証を行い、PodのイメージのPullのタイミングを制御するカスタムコントローラー cat-gate を開発・検証しました。 その成果を紹介します。 課題 KubernetesではPodを起動する際、コンテナイメージを取得する必要があります
Kubernetesクラスタ内に大量のServiceリソースがあるとNginxコンテナが起動しなくなる - Pepabo Tech Portal
こんにちは、技術部プラットフォームグループのそめやポチです。最近はpng形式の画像をjpeg形式に変換する仕事をしています。 この記事では、私が社内のKubernetesクラスタのお世話をしているときに出会ったトラブルとその解決方法、またトラブルが起こった原因について説明します。トラブルの原因についてはKubernetes, Nginx, Linuxの3つのプロダクトについて、コードリーディングをしながら解説します。 直面した事象 急にKubernetesクラスタ内のNginxコンテナが起動しなくなりました。 GMOペパボが提供しているサービスの一つであるminneでは、検証用のKubernetesクラスタを利用しています。本番環境で使用しているKubernetesクラスタを模倣した、開発・検証のための環境です。そのクラスタ内でトラブルが起きていました。 トラブルの説明をするために、まずこ
Kubernetesソースコードリーディング入門
Kubernetes Novice Tokyo #27 で発表した資料です。 https://k8s-novice-jp.connpass.com/event/293144/ 発表のライブ配信はこちら。 TODO スライドで紹介した参考リンク集: https://bells17.medium.com/things-you-should-know-about-reading-kubernetes-codes-933b0ee6181d https://www.amazon.co.jp/dp/4297104385/ https://www.amazon.co.jp/dp/4297118378/ https://go.dev/tour/welcome/1 https://gopherdojo.org/studyroom/ https://www.amazon.co.jp/dp/4621300253
Skaffold File Syncを試す - Qiita
Skaffoldをこよなく愛する貴殿におかれましては、$ skaffold dev -f ./xxxx.yaml とかしてファイルに変更があったらリビルドされて開発しているかと思います。 Buildkitとかがあるにせよ、まいどまいどリビルドされていては堪忍ならん、これではdocker-composeでボリュームマウントのほうがよいではないか！？と常日頃からイライラしていませんか。 Skaffold様にはファイルの変更があった際にコピーだけしてくれる便利な機能があるようで、その名をFile Syncというようです。(そのまんまやんけ) 結局のところ、File Sync beta で SkaffoldのFile sync機能を使えばイメージのビルドなしにコンテナに反映できて捗る ってことなのですが、こちらの機能を試してみました。 TL;DR 適当なファイルを作ってSkaffoldのinfer
【レポート】 『アサルトリリィ Last Bullet』大規模プロジェクトにおけるKubernetes利用事例 #CEDEC2021 #classmethod_game | DevelopersIO
こんにちは！ゲームソリューション部の岡本です。 2021年08月24日から08月26日の間に開催されているCEDEC2021に参加していました。 参加したセッション『アサルトリリィ Last Bullet』大規模プロジェクトにおけるKubernetes利用事例についてレポートします。 セッション概要 スピーカー 髙田 広 氏 株式会社ポケラボ ゲーム事業本部 エンジニアマネージャー 資料 CEDiLにて配布 2021年1月20日に配信開始したソーシャルゲームアプリ「アサルトリリィ Last Bullet」では、Kubernetesを導入しています 本セッションではゲーム開発でのKubernetes利用事例を以下流れで紹介いたします 1. 導入経緯 2. 開発フェーズ 〜工夫した点と、起きた課題/解決方法〜 3. 運用フェーズ 〜工夫した点と、起きた課題/解決方法〜 4. これからの改修/導
EKSコンテナ移行のトラブル事例：推測するな計測せよ -CoreDNS暴走編- - MonotaRO Tech Blog
こんにちは、モノタロウの SRE グループ・コンテナ化推進チームの田中です。 現在、私たちはシステムモダナイゼーションのプロジェクトの一環として、200以上のエンドポイントを持つモノリスのバックエンド API を EC2 上から Kubernetes マネージドサービスの EKS（Elastic Kubernetes Service）に移行しています。ノードは Fargate を使用し、監視には Datadog と Sentry を導入しています。 今回、EC2 に流れているリクエストを全て EKS に振り分けを行おうとしておりました。その際に外部（DB、 サービス）への疎通ができないといった内容の Sentry のエラーが大量に発生し、切り戻しをせざるを得ない状況に陥ったのです。エラー内容を詳しくみたところ名前解決に関するものであり、今回私たちは CoreDNS の設定を行うことで解決し
Helm とは？: 概要、Kubernetes プロジェクト管理、ユースケース
この Helm 完全ガイドでは、Helm の概要とユースケースに加え、Kubernetes プロジェクトに Helm を導入するメリットなどを詳しく解説します。 Helm とは？ Helm とは、Kubernetes 設定ファイルを 1 つの再利用可能なパッケージにまとめて、Kubernetes アプリケーションの作成、パッケージ化、構成、デプロイを自動化するツールです。 マイクロサービスアーキテクチャでは、アプリケーションが成長するほどマイクロサービスの数が増え、管理が難しくなっていきます。オープンソースの コンテナオーケストレーション テクノロジーである Kubernetes を使うと、複数のマイクロサービスを 1 つのデプロイにまとめて、プロセスを簡素化できます。しかし、開発ライフサイクルを通じて Kubernetes アプリケーションを管理する際にも、バージョン管理、リソース割り当
Discover 3 advantages of Podman over Docker | Red Hat Developer
Many think of Podman to be a replacement for Docker (if they have heard of Podman at all). But, this is not the case, as Podman is another option that provides better security and developer features. Podman is a cloud-native, daemonless tool that helps developers manage their Linux containers. Podman is all about security, but also minimizing the friction between your local development environment
Kubernetes アプリケーションの公開 Part 1: Service と Ingress リソース | Amazon Web Services
Amazon Web Services ブログ Kubernetes アプリケーションの公開 Part 1: Service と Ingress リソース この記事は Exposing Kubernetes Applications, Part 1: Service and Ingress Resources (記事公開日: 2022 年 11 月 22 日) を翻訳したものです。 はじめに 連載「Kubernetes アプリケーションの公開」では、Kubernetes クラスターで実行されているアプリケーションを、外部からのアクセスのために公開する方法に焦点を当てます。 連載の Part 1 では、Kubernetes クラスターでインバウンドトラフィックの制御を定義する 2 つの方法である Service と Ingress リソースタイプについて探ります。Service コントローラ
エッジでKubernetesを実装する新しいプラットフォームをIntelとSpectro Cloudが紹介
KubeCon Europe 2023の共催イベントEdge Dayから、IntelとSpectro Cloudが実装した新しいプラットフォームを紹介する。 Kubernetesがサーバーサイドのコンテナオーケストレーションだとすれば、若干取り残されている感があるのが、エッジのプラットフォームだろう。エッジで使われるOS、プラットフォームは物理的に小さなフォームファクターで、メモリーやプロセッサなどのリソースに制限がある中でさまざまな使われ方が存在する。オープンソースソフトウェアだけでもLinux Foundation配下のYocto、LF Edgeが推進するAkraino、EdgeX Foundry、車載向けのAGL（Automotive Grade Linux）、医療やエネルギーなどセキュリティが重視される領域を想定したELISAから、コマーシャルベースだとRed Hatが発表したRe
KubeVirt を試してみた
下準備 今回検証に使った Kubernetes クラスターは Hyper-V 環境上の仮想マシンなので、あらかじめ Nested Virtualizaiton をオンにしておきます。 Set-VMProcessor -VMName dualstack_k8s_worker -ExposeVirtualizationExtensions $true Get-VMProcessor -VMName dualstack_k8s_worker | Format-List VMName,ExposeVirtualizationExtensions VMName : dualstack_k8s_worker ExposeVirtualizationExtensions : True $ export RELEASE=$(curl https://storage.googleapis.com/kubev
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
コンテナ技術における最新の研究動向
1,800万人が利用する『家族アルバム みてね』におけるK8s基盤のアップグレード戦略と継続的改善 / FamilyAlbum's upgrade strategy and continuous improvement for K8s infrastructure
GitHub - kubero-dev/kubero: A free and self-hosted Heroku PaaS alternative for Kubernetes that implements GitOps
