den8のブックマーク (477)

  • Sidekiqのjobの信頼性向上方法と Sidekiq Proの検討について - selmertsxの素振り日記

    自分のための覚書 TL;DR sidekiq proでは、server processが死んでも jobの復活がサポートされる sidekiq proにおいて、redis が死んでも、1000件程度のジョブならclientが保持し続けて、redisが復活したタイミングでenqueue してくれる ↑の状況において、client processが死ねば、蓄積された1000件のジョブは全て消える sidekiq enterpriseでは、unique な jobになるように諸々やってくれるが、完全に保証してくれるものでは無いので、そこんところを考えたjob設計にすること。 Pricing Pro $9,500 / yr Enterprise 250 thread $19,500 / yr 500 thread $23,400 / yr Jobが失われないようにする仕組みについて sidekiq

    Sidekiqのjobの信頼性向上方法と Sidekiq Proの検討について - selmertsxの素振り日記
    den8
    den8 2024/01/05
    redisが落ちたときにenqueueがリトライされるか迷ったときに見つけました。神!
  • 4年以上待ってたEKSの改善がようやく出てきた件 - inductor's blog

    はじめに これは、Kubernetesアドベントカレンダー2の20日目の記事です。 これの話です。 aws.amazon.com ただし俺はもうEKS全然使ってないから意味ない件😢 なんの話? 待ってたとは 4年前に、AWSでコンテナ使ってる人ならお馴染みのaws/containers-roadmapにこんなIssue(もとい、Feature Request)を作りました。 github.com また、これに関連するIssueとしてはその半年ほど前に作られていて github.com 自分としてはこのIssueを立てる前から技術選定の時点でずっと悩んでいたポイントだったので、かれこれ5年近く待っていたことになります。ようやくリリースされて当によかった。まあ今はいらないんだけど、、、 どんな内容か これまでのEKSの課題点 EKSでクラスター管理者や運用者を指定する上で欠かせないのが、K

    4年以上待ってたEKSの改善がようやく出てきた件 - inductor's blog
    den8
    den8 2023/12/22
    EKSモジュールが対応したらこちらへ移行しよう
  • 2022年版 AWS Glue の Spark Job で Aurora MySQL にデータを書き込む方法まとめ - KAKEHASHI Tech Blog

    KAKEHASHI でバックエンドエンジニアをしている横田です。 私が運用している Web サービスでは、AWS Glue で ETL 処理をしたデータを Aurora MySQL に投入することでユーザーが利用できるようにしています。 その中でも「データを Aurora MySQL に投入する」方法に関して、今まで色々なパターンを試してきました。 AWS Glue の Job で作成したデータを Aurora に投入するいくつかのパターンとそのメリット・デメリットについて紹介できればと思います。 Aurora MySQL にロードする 3 つのパターン データを MySQL に insert することを以降「ロード」と呼びます。 以下の三つのパターンについて紹介します。 Aurora から SQL でロードする Spark でロードする pandas でロードする 結論としては下表のよう

    2022年版 AWS Glue の Spark Job で Aurora MySQL にデータを書き込む方法まとめ - KAKEHASHI Tech Blog
    den8
    den8 2023/09/05
    この記事、めちゃくちゃ頼りになっている。本当にありがたい。
  • Branch Deploy Action: GitHub Actions でブランチデプロイと IssueOps を試す - kakakakakku blog

    The GitHub Blog の記事 Enabling branch deployments through IssueOps with GitHub Actions を読んで「branch deployments(ブランチデプロイ)」というデプロイ戦略を知った💡 プルリクエストを main ブランチにマージしてから番環境にデプロイするのではなく,プルリクエストを直接番環境にデプロイして,動作確認の結果問題なしと判断できてからプルリクエストを main ブランチにマージするという流れが特徴的❗️そして,デプロイに異常があってロールバックする場合は main ブランチをデプロイして復旧する💡 記事に載ってるブランチ画像(Merge Deploy Model と Branch Deploy Model)は非常にわかりやすく見てみてもらえればと〜 github.blog IssueOp

    Branch Deploy Action: GitHub Actions でブランチデプロイと IssueOps を試す - kakakakakku blog
    den8
    den8 2023/08/10
    同じことを調査していたため参考になった!
  • GitHub Appsトークン解体新書:GitHub ActionsからPATを駆逐する技術

    GitHub ActionsではGITHUB_TOKENで権限が足りない場合、PAT(Personal Access Tokens)がよく使われます。しかしPATより優れた選択肢があります。それがGitHub Appsトークンです。記事ではGitHub Appsトークンの実装方法をゼロから学びます。目標はPATの完全駆逐です。 記事で学べること PATとGitHub Appsトークンの違い GitHub Appsの作成・インストール方法 GitHub ActionsでGitHub Appsトークンを払い出す方法 番運用で考慮すべきセキュリティとトレードオフ イントロダクション GITHUB_TOKENはGitHub Actionsのワークフロー開始時に自動生成され、終了時に自動削除されるトークンです。GITHUB_TOKENで済むなら、これがベストです。何も悩む必要はありません。問題

    GitHub Appsトークン解体新書:GitHub ActionsからPATを駆逐する技術
    den8
    den8 2023/04/10
    サードパーティのアクションの懸念は、参照するバージョンをタグからコミットハッシュにすると大幅に減少する(勝手に中身が変わる懸念がなくなるため)。
  • Terraformを使ってAWSのVPCをはじめとしたネットワークを構築しよう! - Qiita

    概要 今回はTerraformを使って VPC パブリックサブネットとプライベートサブネット IGW ルートテーブルおよびルーティングの設定 Elastic IP NATゲートウェイ を構築したいと思います 今回作成するインフラ構成は下記の図のようになります 前提 東京リージョンを使用 AWSを使用 main.tfとvariables.tfを設定済み ネットワークに関する基的な知識をある程度持っている 上記のファイルをまだ作成していない方は下記の記事を参考にしてください AWSにおけるネットワークの概要について知りたい方は以下の記事を参考にしてください また、コンテナ経由でTerraformを使用すると複数ブロジェクトで使用する際にバージョンによる違いを意識せずに済みます コンテナを使用したい方はこちらの記事も参考にしてみてください ディレクトリ構成 構成は以下の通りです # -----

    Terraformを使ってAWSのVPCをはじめとしたネットワークを構築しよう! - Qiita
    den8
    den8 2023/01/09
    学習目的でなければ https://registry.terraform.io/modules/terraform-aws-modules/vpc/aws/latest を使うのが良いです
  • バックエンドエンジニアがNext.jsのApp Directoryに夢を見る - ぷらすのブログ

    SPA に移行しづらいシステムたちレンダリングの移り変わりCSR を有効活用しづらい事業領域App Directory によって Next.js は他と対等な選択肢になりうるServer Component がデフォルトの世界React のエコシステムの恩恵を受けられるようになるどういうアーキテクチャになるか1. モノリスから Frontend サーバを分離する2. 元々あった Frontend サーバーをリプレイスする3. SPA + BFF を1つの Next.js サーバーにするまとめこんにちは、@p1assです。 最近、Next.js 13 から beta で導入されている App Directory を趣味で触っているのですが、今まで SPA を採用しづらかった事業領域でも React のエコシステムを使えるようになりそうな予感がして、ワクワクしています。 このブログでは、今まで

    バックエンドエンジニアがNext.jsのApp Directoryに夢を見る - ぷらすのブログ
    den8
    den8 2023/01/08
  • 売上は70分の1…なぜタミヤはレゴになれなかった?男性目線&マニア向けに固執

    タミヤの商品(「amazon.co.jp」より) 2020年、新型コロナウイルスの影響による「巣ごもり需要」の拡大でプラモデルの品薄が続いたことは記憶に新しい。なかでも戦艦、戦闘機のプラモデルやミニ四駆などの商品を販売する大手模型メーカー・タミヤは絶好調だった模様。20年12月27日付の朝日新聞DIGITALの記事内で、田宮俊作会長は「前年比で30%以上増えた。生産が間に合わず、世界的に商品が足りない」と急激な需要増にうれしい悲鳴をあげていた。 そんなタミヤは1980年代末からアメリカ、香港など海外へと進出しており、出荷数はおよそ海外が半分を占めているとのこと。しかし、逆にいえば需要の半数は日国内というわけで、依然として国内向けの玩具メーカーというイメージを抱いている方も多いのではないだろうか。 一方、そんな玩具メーカーのグローバル展開の成功事例で思い浮かぶのが、タミヤと同じくプラスチッ

    売上は70分の1…なぜタミヤはレゴになれなかった?男性目線&マニア向けに固執
    den8
    den8 2022/12/18
    このサイトの記事はもう読まない。そう思える品質の記事だった。
  • 成果に向き合うと、仕事が面白くなる - Speee DEVELOPER BLOG

    ※この記事は、2022 Speee Advent Calendar15日目の記事です。 昨日の記事はこちら みなさんこんにちは。 イエウール事業部マーケティング推進チームの八重樫(@yegs_)です。ポーカーが好きです。 この1年間、アド運用やグロースハック等、イエウールのtoC集客に関わる中で、仕事に対する考え方にアップデートができたのでその話をしようと思います。 具体的には、 目の前の数値目標ではなく、成果に向き合うと良い という話で、 自分のように、若手で最近やる気がから回りしているなと感じている人とか、できることは増えてきているのに、最近悶々としていて楽しくないなみたいな人に何か気付きがあると嬉しいです。 フェーズでいくと、停滞期の最初の一歩を踏み出せたくらいのイメージです。 今の私たちがやっている事 イエウールは「中古不動産のデジタル流通を社会実装し、ユーザー主体のスマートな不動

    成果に向き合うと、仕事が面白くなる - Speee DEVELOPER BLOG
    den8
    den8 2022/12/15
  • ALB ControllerのIngressGroupでALBを集約してコスト削減しました - Oisix ra daichi Creator's Blog(オイシックス・ラ・大地クリエイターズブログ)

    SREの林です。記事では最近知ったAmazon Elastic Kubernetes Service (以後はEKS)で利用する AWS Load Balancer(以後ALB) Controller の IngressGroup 機能でALBを集約してコスト削減を行なった事例を紹介します。 kubernetes-sigs.github.io 最初にまとめ Before After 抱えていた課題 ALB一つのお値段っておいくら? コンテナ化してEKSへ集約したのにコストメリットが出ない問題 IngressGroupで解決 IngressGroupを有効にするためのingress.yamlの変更点 最後に 参考情報 group.orderが重複するとエラー Command to list group.order in a k8s cluster 最初にまとめ ALB Controller

    ALB ControllerのIngressGroupでALBを集約してコスト削減しました - Oisix ra daichi Creator's Blog(オイシックス・ラ・大地クリエイターズブログ)
    den8
    den8 2022/10/25
    丁寧な解説に感謝。ちなみに group.order の重複の問題についてはほぼほぼ同時期の2022/05前後の機能追加で解決していそうです。 https://github.com/kubernetes-sigs/aws-load-balancer-controller/pull/2634
  • Ubuntuが最初から入ってる「Dell XPS 13 Plus」が公式発売

    Ubuntuが最初から入ってる「Dell XPS 13 Plus」が公式発売2022.07.27 23:0030,713 湯木進悟 ちょっぴりWindowsより安いし! Dellのプレミアム・ノートPCDell XPS 13 Plus」は、そのかっこいいデザインが魅力。隙間のないキーボード、パームレストに埋没してしまうタッチパッド、光って浮かび上がるタッチファンクションキーなどなど、アルミボディで高級感あふれる1台として愛用できそうです。そこへまさかの新たな選択肢が用意されましたよ。 Image: DellこのほどThe Vergeは、あのLinuxディストリビューションの「Ubuntu(ウブントゥ)」で知られるCanonicalが、Dellと正式にコラボして、最新版の「Ubuntu 22.04 LTS」を標準搭載するDell XPS 13 Plusが登場したことを伝えました。すでに北米

    Ubuntuが最初から入ってる「Dell XPS 13 Plus」が公式発売
    den8
    den8 2022/07/28
    gizmodoだから絶対おま国だと思った。
  • モノリポ時代に知っておくと便利な「git sparse-checkout」 - kakakakakku blog

    今まで使っていなかった Git コマンドを学んでいく.今回は git sparse-checkout を試す. git-scm.com git sparse-checkout とは? コマンド名にある sparse は「わずかな」という意味で,Git リポジトリの「一部」を取得できる.git clone --depth を使ってコミットを刈り取るのではなく,指定したディレクトリを取得する.モノリポ(モノレポ)構成のときに効果的に使える.git sparse-checkout は歴史的な変化もあり,今年になって改善されている.記事を検索すると Git 2.25 より前の git sparse-checkout を紹介した記事が多いように感じたため,今回は Git 2.26.2 を使って試した. Git 1.7 2010年2月 リリース git sparse-checkout 導入 Git 2

    モノリポ時代に知っておくと便利な「git sparse-checkout」 - kakakakakku blog
    den8
    den8 2022/07/24
  • Public な Git リポジトリでシークレット管理をしつつ GitHub Actions で CI/CD も回す

    つくったアプリケーションのソースコードは公開したい、でもシークレットはどうにかして秘匿しないといけない。継続的な運用を目指すならシークレットのデータ自体もなんとかしてリポジトリに(Repository secrets などではなくコミット対象として)含める必要がある。 …という状況を解決するために、gpg だけを使って継続的な運用を図る手段をまとめてみます。フロントエンド/バックエンドなど問わずどこでも使用できます。 Web フロントエンドなどから各種 API キーを利用する場合、リクエスト時の挙動はデベロッパーツールで全て確認できてしまう点には留意してください。 これらは API サーバー側でオリジンの制限をかけるなどの検討が必要です。 やること主な作業内容の要約は gpg を使ってプッシュする前にローカル側で暗号化をする暗号化するときに復号化のための(最強の)パスフレーズを登録するその

    Public な Git リポジトリでシークレット管理をしつつ GitHub Actions で CI/CD も回す
    den8
    den8 2022/02/13
    暗号化したあとは開発者が平文を読む必要がほとんどない(cicdでしか使わないはず)ことを考えれば、公開鍵暗号方式のほうが良さそう。共通鍵だと復号化できる鍵を触るタイミングが公開鍵より相対的に多くなるため。
  • GitHub Actions のワークフローファイルを共通化した話 - Speee DEVELOPER BLOG

    この記事は、Speee Advent Calendar5日目の記事です。 昨日の記事はこちら! tech.speee.jp はじめに 背景 課題 ワークフローを再利用する 使用方法 使用例 共通化前のワークフローファイル 共通化後のワークフローファイル 共通化後のディレクトリ構成 今後の課題 結論 さいごに はじめに DX事業部 開発基盤グループの秋吉です。 Speee では GitHub Actions を積極的に活用しており、開発する上で必要な様々な作業を自動化しています。 一方で、リポジトリや環境数が増加するにつれて同じような GitHub Actions のワークフローファイルが増加していました。 したがって、ワークフローに対して共通の変更を加える場合であっても、全リポジトリ・全環境のワークフローファイルをそれぞれ手動で編集する必要がありました。 GitHub Actions の

    GitHub Actions のワークフローファイルを共通化した話 - Speee DEVELOPER BLOG
    den8
    den8 2021/12/24
  • graphql-guardでGraphQL APIのアクセス制限をシンプルに実現する方法を考えてみた - Speee DEVELOPER BLOG

    ※この記事は、Speee Advent Calendar23日目の記事です。 昨日の記事はこちら tech.speee.jp どうも、最近は専らgraphql-rubyと戯れている石井です。 みなさん、graphql-rubyを使っていて「このTypeのこのフィールドはAdminユーザにしか見せたくないんです!」といったようにアクセス制限したくなる時が3日に1回ぐらいはやって来るのではないでしょうか。 今回はRailsgraphql-rubyAPIを作る際にgraphql-guardを使ってシンプルなアクセス制限を実現する方法をソースコードを織り交ぜつつ紹介してみたいと思います。 ※記事で記載するコードは全て実装の雰囲気を伝えることが目的のサンプルコードなのでご了承ください。 想定する環境 この記事では下記のバージョンの言語、ライブラリの利用を想定しています。 Ruby: 2.7.5

    graphql-guardでGraphQL APIのアクセス制限をシンプルに実現する方法を考えてみた - Speee DEVELOPER BLOG
    den8
    den8 2021/12/23
  • Google Apps Script でも テスト がしたい! (Clasp + Typescript + Jest) -

    Google Apps Script + Typescript + Jest Google Apps Script(以下,GAS)でライブラリを公開しました。ライブラリを開発する際、テストのフィードバックサイクルを短くするため、Clasp + Typescript + Jest という技術スタックを選択しました。 その開発体験について共有しようと思います。特段変わったことはしていません。 Google Apps Scriptのテストってどうしてますか? ローカルで動かそう 終わりに え、あ、ちょっとまって。ライブラリの紹介! Google Apps Scriptのテストってどうしてますか? script.google.comにアクセスしてデバッグ実行って、しんどくないですか? Google Apps Script Debugging ... ネットワーク越しでステップ実行するため、遅い G

    Google Apps Script でも テスト がしたい! (Clasp + Typescript + Jest) -
    den8
    den8 2021/12/18
    QUnitとかあるけどTypeScriptで書く限りこれがベストプラクティスの気がする。王道ツール(Jest)が使えるならそれに越したことはない(ノウハウも多いし)
  • 『猛烈に成長するSaaSのインフラを猛烈にカイゼンする技術 - ANDPAD Tech Blog』へのコメント

    ブックマークしました ここにツイート内容が記載されます https://b.hatena.ne.jp/URLはspanで囲んでください Twitterで共有

    『猛烈に成長するSaaSのインフラを猛烈にカイゼンする技術 - ANDPAD Tech Blog』へのコメント
    den8
    den8 2021/12/10
    test
  • den8のブックマーク - はてなブックマーク

    自分のための覚書 TL;DR sidekiq proでは、server processが死んでも jobの復活がサポートされる sidekiq proにおいて、redis が死んでも、1000件程度のジョブならclientが保持し続けて、redisが復活したタイミングでenqueue してくれる ↑の状況において、client processが死ねば、蓄積された1000件のジョブは全て消える sidekiq enterpriseでは、unique な jobになるように諸々やってくれるが、完全に保証してくれるものでは無いので、そこんところを考えたjob設計にすること。 Pricing Pro $9,500 / yr Enterprise 250 thread $19,500 / yr 500 thread $23,400 / yr Jobが失われないようにする仕組みについて sidekiq

    den8
    den8 2021/12/10
    test
  • Terraformerとしてコードを書いて思うこと | フューチャー技術ブログ

    こんにちは。TIGの伊藤です。この記事は秋のブログ週間2021の3日目です。 はじめに私は普段会社でクラウドをまたいでTerraformを日々書いたり、メンバーに教えたりしています。もはや俗に言うプログラミング言語を書かずにここまで全振りしてきたくらいなので、比較的自信を持ってコードを書いて仕事をしています。 特にここ最近はほぼ1からコード設計をして運用まで持っていくこともあり、「より腐りにくい、より息の長いコード」というものを考えるようになりました。Terraformだからこその「定期メンテを簡易にするためには」「より簡単に変更するためには」をひたすら突き詰めていった結果、アツい気持ちが生まれ、今回は筆を取っています。 そんな私のアツい気持ちをしたためた今回の記事ですが、可能な限り例も添えつつ、いくつか解説できればと思います。公式にも実は載っているような内容もあったりしますが、日語の記

    Terraformerとしてコードを書いて思うこと | フューチャー技術ブログ
    den8
    den8 2021/11/12
    ありがちな https://qiita.com/bigwheel/items/2b420183639416b5c6bb のアンチパターンなモジュールを作ってしまっている。開発と保守の組織が別れていることが問題原因の気はする。
  • 言葉を削る。短歌で鍛える具体と抽象を行き来する力 - Speee DEVELOPER BLOG

    はじめに イエウールのPdM(プロダクトマネージャー)の嶋です。あと、嶋稟太郎 という名前で短歌をしています。 PdM歴は5年、マーケターとwebディレクター畑で育ったタイプのPdMです。 歌歴は7年で、今はアララギ系の短歌結社に所属しています。 イエウール事業は、立ち上げ時の小さな組織を経て徐々に組織が大きくなるフェーズです。その中で私はPdMとして連続的に複数プロジェクトに関わるような仕事をしています。この頃、短歌で大事にしてることとチームでの仕事に共通点があるな〜と思ったので記事にしました。 短歌って何? 「短歌」は 5-7-5-7-7 の31音のフォーマットがあるだけ。 それ以外の制約はありません。5-7-5 の俳句と違って季語も不要です。 例えば私は、こんな歌を作っています。 短歌で何を大事にしているか? 言葉によって感覚を他者と共有すること です。 「共有できている状態」とは、

    言葉を削る。短歌で鍛える具体と抽象を行き来する力 - Speee DEVELOPER BLOG
    den8
    den8 2021/11/10