UbieでSREをしているdekokunです。この記事は Ubie Engineering Advent Calendar 2023 の 21 日目の記事です。 導入 Kubernetes (k8s) のワンショットのJobにサイドカーを組み合わせると、様々な問題が生じることがあります。Ubie社には、複数の言語で書かれた多数のマイクロサービスが存在します。そしてご多分にもれず、複数マイクロサービスの共通課題をインフラレイヤで管理するためにIstioやCloud SQL Proxy、AlloyDB Auth Proxyなどを使用しています。 この記事では、それらサイドカーをJobと共に使用する際に直面する問題と、世の中でよく語られている解決策、および条件付きながら私たちがどのようにこれらの問題を解決しているのかについて解説します。 k8s Job + サイドカーで発生する問題 かつての私は

ここ数ヶ月、そんなに規模は大きくはないが複数人が関わるプロジェクト管理的な仕事をしていた。計画から実施まで。非常に楽しくやらせてもらっていた(先日終わった)。 それをやっていく上で私の目指す生き方がだいぶ言語化できるようになってきた気がするのでここに書いてみる。正直全然まとまっていなくて、現時点での思考のスナップショット的な内容である。 プロジェクト管理、やればやるほど最終的には、ゴールを決め(表の目標は与えられることもあるが裏目標は自分で考えられる)、ゴールを変えた方が良くはないかというのを考え、ゴール達成に向けてのリスクの大きいところはどこか、というのを探し、リスクの大きいものをなるべく早めに省コストに潰し続けながらプロジェクト全体を進捗させていく、というものなのだろうな、これを人々はプロジェクト管理と呼んでいるんだろうな、みたいな気持ちになっている(PMBOKとか全然読んだことないの

AWSのDB、Auroraを使っているみなさま元気でしょうか。Auroraに限らずSaaS的なサービスを使っていると"このバージョンはEOLだ"と言ってバージョンアップが必要になる場合があります。みなさまも覚えがあるのではないでしょうか。 問題はどのようにバージョンアップを行うかです。 今回は、Aurora MySQL (not serverless)でマイナーバージョンアップを行う際にどういう手法があるかを、AWSのドキュメントや実際にやってみた経験をもとに考えたいと思います。Aurora PostgreSQLも同様かもしれませんがそちらは調べていません。 目次 目次 考えられる方法2つ そもそもRDSのブルーグリーンデプロイメント機能とは？ それぞれの嬉しい点、使いづらい点 インプレースアップグレード(ゼロダウンタイムパッチ適用を狙いつつ) 嬉しい点 使いづらい点 ブルーグリーンデプロ

こちらははてなエンジニア Advent Calendar 2022 - Hatena Developer Blogの46日目です。1/15日の分なのですがフライングでの投稿です(日付を間違えてた)。 昨日は Perlでテーブル駆動テストを書くのにハマっている - NaaN日記でしたね。テーブル駆動テストのことを知ったのは私は数年前にGo言語のテストを書き始めてからですが、いつ頃から流行り始めたのかがちょっと気になる今日この頃です。このエントリにもLambdaのテストについて書いてありますが、このテストコードもテーブル駆動で書いています。テーブル駆動テスト大好きです。 やりたかったこと 色々なチームが相乗りしているAWSアカウントのGuardDutyの検知を、自分のチームに関係のあるイベントだけ通知する、というのを実装したかった。 検知結果を自分のチーム専用にいい感じにフィルタして通知したい

これは、k8sクラスタを個人で運用する際に行った構成要素の技術選定の記録である。 技術選定の理由を書くのも見るのも楽しい、という心情のもとにここに公開する。 前提知識 以前、こんなエントリを書いた。 bitcoinのfull nodeをAWSでなるべく安く運用してみる - でこてっくろぐ ねお 上記の通り、個人でbitcoinのfull nodeという、状態をバリバリもつサービスを、AWSでのコスト面で最安を狙って作り運用を行っていた。 しかしその後、Oracle Cloudで運用したほうが安くなることに気づいたため引っ越した。 Oracle CloudではARMのVMが4台無料で使えて複数台構成が組め、AWSやGCP同様k8sのマネージドサービスもあり、また仕事でk8sを扱う部署に異動したのもあり、勉強のためk8sクラスタ上で運用することにした。 構成要素 以下の構成要素を選択している。

2ヶ月くらいかけて毎日盆栽のようにちょっとずつ手を入れていたツールがまぁいい感じになってきたかなと判断したので、紹介エントリです。 2020/11/07 追記 このエントリを書いた2日後に、以下AWSの新機能が出て、以下私がこのツールを作った理由として述べている部分は、AWSの機能で代替可能となりました。まぁ、このエントリを読むと分かる通り、AWSがそこを実装していることを前提として、"捨てやすくする"という方針で開発したツールではあるので狙いどおりではあるんですが、ちょっと悔しい気持ちもありますね。捨てやすくする以前に使わなくてよくなった、的な。 AWS Fargate for Amazon ECS launches features focused on configuration and metrics CDKにもこの機能が来ましたので、もうなんでもできます。ecs: secret

ISUCONでRustで参加する同胞達や、Rustの参考実装を書く人の参考に少しでもなればとこのエントリを書いてます。（いや実際全然わからないのでもっといいの教えて！ってのもあります。はい。） 今年のISUCONはRustで戦います。 なぜなら、私はRustが好きだからです。 ISUCON、Trust Rustというチーム名で参加登録しました。Rustを信じろ！！！！！！！！！！！！— でこくん (@dekokun) July 10, 2020 しかし、私含めてチームメンバー全員がRustでWebアプリを書いたことがなかったため、毎週ミーティングを行いRustの勉強としてやることを宣言して1週間後に進捗報告をしまたやることを宣伝する、ということを繰り返しています。 ただそれだけではチーム全員で動くISUCONの訓練としては弱いので、ISUCONを模したリハーサルをしてみました。 お題 お題

このエントリは RecoChoku Tech Night 5社合同 AWS re:Invent 2019 参加報告会 - connpass での発表内容、及びはてなエンジニア Advent Calendar 2019の20日目のブログ(若干フライングで投稿しています！)です。 AWS re:Inventのセッションの一つである SVS323-R1 - REPEAT 1 Mastering AWS Lambda streaming event sources を元ネタに、re:Invent 2019直前に出たKinesis Data Streamsの新機能の解説をします。 基本的な用語説明 Kinesis + Lambdaの活用事例 Kinesis + Lambdaのスループットが思ったように出ない時、及びその対処方法 シャードを増やすのは万能なのか？他の手はないのか？新機能のご紹介 シャー

dekolife.hatenablog.com 上記エントリを書いたりしたあと、無事に会社によってAWS re:Inventに行かせていただけることになりまして、上記から更に英語修行を重ねつつre:Invent行ったわけなんですけども、英語がびっくりするほど聞き取れなくてびっくりしました。 体調や話者による、聞き取れる聞き取れないの差がめちゃくちゃ激しい ネイティブ同士での会話は全く聞き取れない 適当なメンバーでチームを組んで半日くらいISUCONみたいなやつをやるイベント(AWS GameDay)に参加して、ネイティブ3人とチームを組んだのですが、本当に何も聞き取れなくてかなり衝撃を受けた 以下、当時の会社のslackの私の悲痛なつぶやき。 英語ネイティブ３人に囲まれ最初に「えいごにがてだぜ」と言ってはおいたが完全に置いてかれて現状がわからないまま「何ができる」と話して何度か仕事をもらい

閾値 どっちでもいいのだけど、私は自分が聞き取りやすいので "しきいち" を好んで使います。 以上、自転車置き場の議論でした。

最近Atcoderのコンテストによく参加してるのですが、優先度付きキューにお世話になることが異常に多く、内部をちゃんと知っておきたいという気持ちから自前実装することにした。実装は以下です。ほぼ初めてRustでまっとうなものを書いたという感じなので、なんか指摘とかしてほしい。 https://github.com/dekokun/atcoder-rust/blob/master/abc141_d/src/main.rs#L25-L141 Rustの標準ライブラリの優先度付きキュー(BinaryHeap)はfloatが扱えない(BinaryHeapはOrdを要求するが、floatはNaNの存在のためOrdではなくPartialOrdとなるため)というのもあって競プロ的には使いづらいのでそこも使いやすくしたいという思いもあった。 (この目的だけだったらNaNが入らないようなOrdなfloatをつ

私は経済学部出身でWeb系エンジニアをやっているわけだが、コンピュータ・サイエンスはずっと学びたいと思っていた。 そんな中、Turing Complete FMというpodcastに出会ってその気持ちが更に強くなり、ここ1年くらい、子育ての合間にコツコツコツコツとコンピュータ・サイエンス周りのことを学んでいた。このエントリでは、学んでいたこと、及び子育ての合間にどうやって時間を捻出しているのかをまとめた。 目次： やっている/やったこと コンピュータサイエンス系のPodcastを聞く コンパイラを書く(ペンディング中) OSの作り方を学ぶ RustでOSを書く(ペンディング中) Rustを学ぶ プログラミングコンテスト系のサービスをやってみる LeetCode Atcoder 計算理論の初歩を学ぶ 白と黒の扉を読む 大学の教科書で使われているような書籍で学ぶ システムのパフォーマンスについ

rust.connpass.com での発表内容です。 自己紹介 id: dekokun (twitter, hatena) dekokun icon SREやってます CDNのDはdekokunのD って最近ずっと言ってます。これからCDN周りに力を入れていくぞという思い。詳しくは以下エントリに書いてます。 dekotech.dekokun.info Fastlyのedge computing環境 Terrariumの紹介 そもそもedge computingとは コンピューティングリソースを利用者の端末に近いネットワークの周縁部（エッジ）に配置することにより、低遅延応答、分散処理、トラフィック最適化などを実現するものと言える (参照： https://www.icr.co.jp/newsletter/wtr348-20180329-sadaka.html ) この発表では、特にCDNの

私とCDNとedge computing 最近、CDN各種に続々とedge computing周りの機能が入っており1、現在においてCDNでどこまで何ができるのかみたいなことをよく考えており、仕事でもやっていきたいな、と考えている。 以下発表で フルCDNアーキテクチャ の提言をしてから3年が経ち、今ではフルCDNはかなり当たり前の選択肢としてそこにある、というかマイクロサービス間の通信もCDNを通すようなことまで行われる世界になっており純粋にすごいなと感じている(そもそも フルCDNとはなにか というのは私の中でも確たるものがあるわけではないが、イメージ的には動的なサービスにおいてもすべてのエンドポイントをCDN経由で返し、ある程度柔軟なキャッシュのPurgeを行うようなものを想像している2 3)。 speakerdeck.com 上記、私は提言するだけしたが、その後そこに強く取り組もう

結論 特に設定しないとproxy_passで設定するupstreamのmax_failsは1 proxy_next_upstreamに指定したstatus codeが出ると失敗扱いになってmax_failsに達すると一時的にそのupstreamは使えなくなる 検証 ポート30000, 30001で、常にHTTPステータス503を返すエンドポイントを適当にMac上で動かして こんなnginx.confを作って $ cat /tmp/nginx.conf user nginx; worker_processes 1; error_log /var/log/nginx/error_log info; pid /var/run/nginx.pid; events { worker_connections 1024; } http { include /etc/nginx/mime.types; d

低レイヤを知りたい人のための Cコンパイラ作成入門、こちら、日々更新されている書籍(?)なのですが、現在書かれている部分まで完了した。 コードは以下。Docker上で開発していて、Travis CIでのテストもしている。 github.com よくわからなかったところ 全部のコードが載っているわけではないので、 "動くには動いているが本当にこれでいいんだろうか？" という部分がいくつかあった。 mulやexpr内で自分の読めない文字の判定 以下のように、mulの最初でひたすらmulの扱わない文字を弾いていっているのだけど、(更に言うとexprの最初でも同様のことをやっているんだけど)、もっとエレガントな方法はないのだろうか、このままでは記号は増えるごとにこの条件が増えていくぞ…？と考えている。 https://github.com/dekokun/9cc/blob/955ec5aa6c44

世間ではLambdaをデプロイするのにapexを使うのがいいかcloudformationを使ってデプロイするのがいいか、みたいな話があると思いますので、cloudformationでのデプロイ方法をここに書くことでその判断の一助になれば、及び、世間ではcloudformation packageコマンドの認知度が低い感じがするのでそれについてももっと知らしめたいという感じでこのエントリ書いてます。 公式ドキュメント package — AWS CLI 1.15.10 Command Reference 簡単な例での解説 ファイルの準備 以下のディレクトリ構造だったとします ├── template.yml // cloudformationのyamlファイル ├── build └── lambda-go // `$ GOARCH=amd64 GOOS=linux go build` と

以前 AWSで作業する時は今後はずっとCloudFormationだけ使っていこうと思った - でこてっくろぐ ねお というエントリを書きましたが、最近はAWS SAMを使って色々作っており、これはめっちゃ便利だな、しかも思ってたよりも柔軟性が高い、という気持ちになったのでこのエントリを書いている。 (と思ったけど、DynamoDBは細かい制御が効かなかったので、以下は主にLambda + IAMについて書いていると考えてください) めっちゃ便利 CloudFormationと比較してとにかく記述量が圧倒的に少ない、圧倒的に読みやすい CloudFormationと比較して、IAM Role周りの設定がある程度隠蔽されていて嬉しい。IAM Role周りはいつも何を付与すればいいかが難しいし、後から見ても難しい AWS SAM Localが使えて簡単に手元で動作確認ができる これは小さいもの

はてなエンジニア Advent Calendar 2017の16日目です。 昨日は、id:cockscomb さんによる 三点リーダーの位置をOpenTypeフォントでいい感じにする…… - cockscomblog? でした。 最近、各種スマートスピーカーが日本に上陸してきており、私もAmazon Echo DotとGoogle Home Mini を購入しました。 大変便利なので、自分でも色々スキルの開発をしたいな、ついでに最近話題のAWSのSAMとやらも一緒に試してみたいな、と思ってこのエントリを書いてます。 結論 github.com をREADMEの通りに実行することでバババッとlambda functionが完成するので、後は以下エントリ等参照しながら、amazonの開発者ツールからlambdaのarnを登録すると自分のEchoにスキルを登録できてデバッグ等ができるようになりま

このエントリで伝えたいこと CloudFormationのスタックポリシーでUpdate:*をDenyしてても安心はできない。消える時は消える 上記はある程度皆知ってるかもしれませんが、一応試してみた、及び考えられる削除に対する保護の方法を考えるという感じのエントリ スタックポリシーについて CloudFormationにおいて、一度作成したリソースが変更されたり削除されたり置換されたりするのを防ぐ方法があります。 スタックポリシーですね。例えば、以下のようなJSONをhoge_policy.json というファイルに保存し aws cloudformation set-stack-policy --stack-name hoge-stack --stack-policy-body=file://./hoge_policy.json のようなコマンドで適用すると、CloudFormatio