こんにちは。メディアプロダクト開発部の我妻謙樹です。サーバーサイドエンジニアとして、広告配信システムの開発・運用を担当しています。入社以来広告領域を担当するグループに所属しています。 クックパッドと広告 クックパッドでは、PS に次ぐ売上高を占める主力事業として、広告事業があります。 過去にも、"クックパッドの広告エンジニアは何をやっているのか"（公開日：2015-11-26）という記事が公開されたことがありますが、当時とは技術要素やチーム構成はもちろん、事業をめぐる環境が大きく変わっています。 しかし、上記記事でも述べられている、以下の原則は変わっていません。 クックパッドの広告は、昔から、ユーザさんと広告出稿企業さん、そして私たちクックパッドの3者ともが幸せになる形を模索し続けてきています。 クックパッドを通して、最終的には広告も「価値ある情報」としてユーザさんに届けば、それは広告単価
Debugging Incidents in Google’s Distributed Systems - ACM Queue
June 6, 2020 Volume 18, issue 2 PDF Debugging Incidents in Google's Distributed Systems How experts debug production issues in complex distributed systems Charisma Chan and Beth Cooper Google has published two books about SRE (Site Reliability Engineering) principles, best practices, and practical applications.1,2 In the heat of the moment when handling a production incident, however, a team's act
1st October 2022 Gergely Orosz started a Twitter conversation asking about recommended “software engineering practices” for development teams. (I really like his rejection of the term “best practices” here: I always feel it’s prescriptive and misguiding to announce something as “best”.) I decided to flesh some of my replies out into a longer post. Documentation in the same repo as the code Mechani
「誰がやる？」「俺がやる」メルカリの基礎体力強化を担うDefence Forceチームの正体 | mercan (メルカン)
フリマアプリ「メルカリ」において、安心安全にサービスを使っていただくことが何より大事。だからこそ、障害などがあれば早急に対応することはもちろん、平時からサービス上で「トラブルが起こらない」「安心して使い続けられる」状態をつくることも大事です。 そのため、メルカリのプロダクト開発チームではCRE（Customer Reliability Engineering、顧客信頼性エンジニアリング）チームを2018年2月に発足。そして翌年10月、新たにセキュリティ面に特化した機能開発を行うDefence Forceチームが誕生しました。 現在、CREはチームからグループへ拡大。Defence Forceチームはそのなかに属しています。これまでは、サービス全体のセキュリティの啓蒙・推進を網羅的に行うため、プロダクト開発チームから独立したセキュリティ体制でした。ではなぜ、Defence Forceをプロダ
マイクロサービス構成における NestJS での gRPC クライアントの運用戦略 - ドワンゴ教育サービス開発者ブログ
はじめに はじめまして、バックエンドセクションの yukimochi です。 現在、N予備校ではバックエンドのアプリケーションの移行計画が進んでいます。 その一環で、一部のマイクロサービス間通信についても REST API + OpenAPI の現状から gRPC へと移行することになりました。 私の参画しているプロジェクトである教材入稿ツールでは TypeScript + NestJS を採用しており、結合している他マイクロサービスとの通信でgRPCを利用する際の gRPC クライアントと、そのスキーマ定義を担う proto の運用戦略、実現方法について記します。 proto ファイルと型定義パッケージの取り回しについて考える スキーマ定義である proto をどこに保存するか スキーマ定義である proto をどこに保存しておくかは、 proto のバージョン管理の観点で重要です。今回
tl;dr Today, we are open-sourcing a long-awaited GUI for Metaflow. The Metaflow GUI allows data scientists to monitor their workflows in real-time, track experiments, and see detailed logs and results for every executed task. The GUI can be extended with plugins, allowing the community to build integrations to other systems, custom visualizations, and embed upcoming features of Metaflow directly i
Update: it looks this post has gotten way more attention than I anticipated. I’ve seen / received feedback that the title is misleading and some people get dissapointed. I see why, so at the risk of spoiling the surprise, let me clarify what this is about before starting. As we migrate teams over to Kubernetes, I’m observing that every time someone has an issue, like “latency went up after migrati
Adopting Istio for a multi-tenant kubernetes cluster in Production
This is the 3rd blog post for Mercari’s bold challenge month. At Mercari, while migrating our monolithic backend to microservices architecture, we felt the need to have a service mesh and understood its importance in the long run. Most of the incident post-mortem reports had actionable items such as — implement rate-limit, implement a better canary release flow, better network policies… and this i
Dark Side of DevOps
Transcript Protsenko: My name is Mykyta. I work at Netflix. My job is basically making sure that other developers don't have to stay at work late. I call it a win when they can leave at 5 p.m., and still be productive. I work in the platform organization, namely in productivity engineering, where we try to abstract toil away for the rest of engineers. Where we try to make sure that the engineers c
どうも、ばやしです。 2/27に行われたJoe Yoder : Domain modeling techniques for designing microservicesに参加してきたので、参加レポです。 なお私はDDDに詳しいわけでもなく、英語もおぼつかないので誤っている部分があるかもしれませんが、ご了承いただければと思います。 www.eventbrite.com どんな研修だったの？ ドメインモデリングを中心にドメイン駆動設計(以下DDD)の概念を学びつつ、それがどうマイクロサービスに役立つのかを学ぶ研修でした。 具体的にピザ屋のシステムや、交通違反システムを例に挙げてDDDの概念を理解しつつ、ワークショップではクレジットカードシステムを題材にイベントストーミングやマイクロサービスアーキテクチャ設計などを行いました。 全編英語だったのですが 英語で講義 日本人同士で日本語でワークシ
OK Google, Protocol Buffers から生成したコードを使って Node.js で gRPC 通信して | メルカリエンジニアリング
OK Google, Protocol Buffers から生成したコードを使って Node.js で gRPC 通信して Mercari Advent Calendar 2020 の17日目は、メルカリ WebUX チーム でテックリードマネージャをしている @vwxyutarooo がお送りします。普段はエンジニアリングマネージャやテックリードをしたりフロントエンドエンジニアをしています。今日は Node.js で gRPC 通信します。なぜなら Node.js で gRPC 通信したいからです。 Mercari ではバックエンドに microservices アーキテクチャを採用していて、gRPC も採用されています。多くの microservices は go 言語によって実装されていますが、一部のサービスでフロントエンドエンジニアとのコミュニケーションや on-call 対応の受
Seeing through hardware counters: a journey to threefold performance increase | by Netflix Technology Blog | Nov, 2022 | Netflix TechBlog
By Vadim Filanovsky and Harshad Sane In one of our previous blogposts, A Microscope on Microservices we outlined three broad domains of observability (or “levels of magnification,” as we referred to them) — Fleet-wide, Microservice and Instance. We described the tools and techniques we use to gain insight within each domain. There is, however, a class of problems that requires an even stronger lev
Announcing the Bytecode Alliance: Building a secure by default, composable future for WebAssembly
Today we announce the formation of the Bytecode Alliance, a new industry partnership coming together to forge WebAssembly’s outside-the-browser future by collaborating on implementing standards and proposing new ones. Our founding members are Mozilla, Fastly, Intel, and Red Hat, and we’re looking forward to welcoming many more. We have a vision of a WebAssembly ecosystem that is secure by default,
【書き起こし】メルペイチームが考える「ゼロトラスト」をベースとした認証・認可の在り方と課題 #merpay_techtalk | メルカリエンジニアリング
【書き起こし】メルペイチームが考える「ゼロトラスト」をベースとした認証・認可の在り方と課題 #merpay_techtalk 2021年11月5日に、メルペイ・メルコインのエンジニアたちによる「Tech Talk 〜 ゼロトラストをベースとした安定的なシステム稼働の取り組み〜」を開催しました。 現在のメルペイサービスにおける認証・認可の仕組みや、セキュリティ対策に欠かせない「ゼロトラスト」と認証・認可の関係、それらを踏まえたメルカリグループの現状と課題をご紹介します アーカイブはこちら！ https://www.youtube.com/watch?v=gXxd75iBXzE 登壇者紹介 竹井 悠人（@yuto）/ 株式会社メルコイン Securityチーム Manager スタートアップを渡り歩いてきたソフトウェア エンジニア。2016年に暗号資産交換業者 (取引所) に入社して以後、最高
Choosing the right solution for AWS Lambda external parameters | Amazon Web Services
AWS Compute Blog Choosing the right solution for AWS Lambda external parameters This post is written by Thomas Moore, Solutions Architect, Serverless. When using AWS Lambda to build serverless applications, customers often need to retrieve parameters from an external source at runtime. This allows you to share parameter values across multiple functions or microservices, providing a single source o
How Netflix uses eBPF flow logs at scale for network insight
By Alok Tiagi, Hariharan Ananthakrishnan, Ivan Porto Carrero and Keerti Lakshminarayan Netflix has developed a network observability sidecar called Flow Exporter that uses eBPF tracepoints to capture TCP flows at near real time. At much less than 1% of CPU and memory on the instance, this highly performant sidecar provides flow data at scale for network insight. ChallengesThe cloud network infrast
メルカリのCTOをやっている @snamura です。 Mercari Advent Calendar の最後を締めくくってほしいということで、ブログを書くのが物凄く苦手なんですが無理をして書いています。技術に沿った話で締めくくりたいところですが、ここ1年はずっとエンジニア組織のことに取り組んできたので、ここでは組織の話をちょっとしようと思います。 最近メルカリの Go Bold Challenge というカンファレンスで話したのですが、メルカリのエンジニア組織は、こちらの記事で詳しく語っています。 logmi.jp 2019年4月から本格的にCTOとして日本のメルカリのエンジニア組織を見ていくことになったのですが、課題山積みということで、次から次にやるべきことが出てくる1年でした。メルカリというサービスに対して、どういったエンジニアリングのアプローチを取っていくのか。まだ道半ばではありま
GitHub - rogerwelin/cassowary: :rocket: Modern cross-platform HTTP load-testing tool written in Go
📌 2 Load Testing modes: one standard and one spread mode where URL Paths can be specified from a file (ideal if you want to hit several underlying microservices) 📌 CI Friendly: Well-suited to be part of a CI pipeline step 📌 Flexible metrics: Cloudwatch metrics, Prometheus metrics (pushing metrics to Prometheus PushGateway), JSON file 📌 Configurable: Able to pass in arbitrary HTTP heade
はじめに こんにちは。株式会社サイカでソフトウェアエンジニアをやっている鹿島（kashitaka）です。 サイカでは1年以上の期間をかけて、モノリスで動いていた自社サービスをマイクロサービス(Microservices Architecture)に作り替えました。 前回のマイクロサービス化の全体像に続き、今回は「プロジェクト管理編」として、期間1年以上、全員フルリモート環境の中、会社のメインプロダクトのシステムをマイクロサービスに移行したプロジェクト進行の手法や工夫を紹介します。 私と同じく、自社でマイクロサービス化やリアーキテクティングを計画している方々の参考になれば幸いです。 マイクロサービス化のプロジェクト管理 プロジェクトの性質によってプロセスを変えたり手法を変えたりすることがありますが、マイクロサービス化においてはどうでしょうか？ 私自身、本プロジェクトを進めるにあたってマイクロ
New – Amazon ECS Service Connect Enabling Easy Communication Between Microservices | Amazon Web Services
AWS News Blog New – Amazon ECS Service Connect Enabling Easy Communication Between Microservices Microservices architectures are a well-known software development approach to make applications composed of small independent services that communicate over well-defined application programming interfaces (APIs). Customers faced challenges when they started breaking down their monolith applications int
Event-Driven ArchitectureにおけるChoreographyとOrchestration | CyberAgent Developers Blog
はじめに こんにちは、AI事業本部の伊藤(@tsutsun17)です。先日、ラスベガスで開催されたAWS re:invent 2022に現地参加してきました。 AI事業本部では例年、エンジニア数人が現地参加して熱量と学びを得ることができる環境がありました。直近2年は世の情勢もあり現地参加を控えていましたが、今年は現地参加できました。今回は、参加したセッションの中で特に面白かったセッションの一部について、考察や開発しているプロダクトのお話も含めながらご紹介したいと思います。 セッションの概要 まずは、セッションの概要についてご紹介します。 Building next-gen applications with event-driven architectures Event-driven architectures can solve many difficult problems in m
Production Readiness Check のはじめかた - スタディサプリ Product Team Blog
こんにちは。SREの近藤（@chaspy）です。 新しいサービス、あるいは Microservices を 本番環境へリリースする際、私たちは何を注意すべきでしょうか。 今回は、Production Readiness CheckList と導入方法について説明します。 Production-Readiness Checklist とは Service を本番環境へリリースする前の、信頼性観点でのチェックリストです。このチェックリストを事前に行うことによって、本番での Service 運用開始後の問題をなるべく引き起こさないようにする、あるいは起きたときに最善な手が打てることが期待できます。 Production-Ready Microservices (日本語版：プロダクションレディマイクロサービス ――運用に強い本番対応システムの実装と標準化 を読まれたひとも多いと思います。本書の付録
Azure Advent Calendar 2019 9日目の記事です。 担当は@saboyutakaです。 Azureには様々なサービスがありますが、今回はWebアプリケーションを作る時に利用するマネージドサービスを使って作るWebアプリケーションスタックを3つの構成パターンで紹介していこうと思います。 Azure App Service で単一アプリケーションを構築する Azure Front Doorを使って複数のアップストリームを構築する Azure API Managementを使ってMicroservices化する Azure App Service で単一アプリケーションを構築する 構築イメージ Webアプリケーションを単一のランタイムで作成します。Laravel, Ruby on Rails, Django, Express, Wordpress などを構築するイメージです
API Tokens: A Tedious Survey Author Name Thomas Ptacek @tqbf @tqbf Image by Annie Ruygt We’re Fly.io. This post isn’t about Fly.io, but you have to hear about us anyways, because my blog, my rules. Our users ship us Docker containers and we transmute them into Firecracker microvms, which we host on our own hardware around the world. With a working Dockerfile, getting up and running will take you l
こんにちは、食べログシステム本部長の京和です。 今年の4月から本部長になりました。さらに4月に娘が生まれました 本エントリでは食べログで1年を通じて取り組んだ、大規模なレガシーシステムの段階的な改善について紹介します。[翻訳] Shopifyにおけるモジュラモノリスへの移行 に続いて2記事目のアドベントカレンダーになります。 どのように段階的に進めるか 食べログは今年で15年目のサービスで、Railsになってからは13年が経過しています。これだけ歴史があればあちこちにガタが来ているのは当然で、無数にある課題に対してどこからどのように取り組んでいくかを最初に決める必要がありました。 まず最初の前提として以下のように考えました。 既存のビジネスや開発を止めるような悪影響を与えない。むしろなるべく早くポジティブな影響を与えていきたい。 これだけ歴史のあるシステムを改善していくのは長い時間がかかる
はじめに こんにちは、メルペイのバックエンドエンジニアの cowsys です。 「どうすれば決済サービスで必要となる最高レベルの運用練度を有することができるのか」 メルペイという決済サービスを開発/運用するにあたって、向き合わざるを得ないテーマの1つです。 今回このテーマにあらためて向き合い、目指す運用練度に近づけた手応えを持てたので詳細についてお伝えしたいと思います。 取り組みの経緯 メルペイをリリースしてから1年がたち、新しいmicroserviceの開発をしています。 開発に取りかかるにあたって、新たに取り組むべきテーマを探していました。テーマを探すにあたって、まずはこれまでの、メルペイローンチ前の開発に目を向け、当時の課題を振り返ってみました。 メルペイリリース前に直面していた最大の課題。それは「どうすれば決済サービスで必要となる最高レベルの運用練度を有することができるのか」という
Data Race Patterns in Go
You’re seeing information for Japan . To see local features and services for another location, select a different city. Show more Uber has adopted Golang (Go for short) as a primary programming language for developing microservices. Our Go monorepo consists of about 50 million lines of code (and growing) and contains approximately 2,100 unique Go services (and growing). Go makes concurrency a firs
Send feedback BeyondProd Stay organized with collections Save and categorize content based on your preferences. This content was last updated in May 2024, and represents the status quo as of the time it was written. Google's security policies and systems may change going forward, as we continually improve protection for our customers. This document describes how Google implements security in our i
Let’s Build Micro Frontends with NextJS and Module Federation!
That headline is a mouth-full, I know! In the past several years I have been working on distributed and multiple teams as well as being a pretty early adopter of NextJS (since around V2.0!) in production. I’ve worked on micro frontends with shared npm packages while trying to orchestrate one cohesive user experience. It was and is hard. That’s why I have been closely following the latest developme
George Stocker Discovering how to build better software, together. Git-flow is a branching and merging methodology popularized by this blog post, entitled “A Successful Git branching model”. In the last ten years, countless teams have been snookered by the headline and dare I say lied to. If you read the blog post, the author claims they successfully introduced it in their projects, but purposeful
GraphQLとマイクロサービスは相性が良さそうな件 〜Apollo Federationを用いたスキーママージについて〜 | スペースマーケットブログ
GraphQLとマイクロサービスは相性が良さそうな件 〜Apollo Federationを用いたスキーママージについて〜 こんにちは バックエンドエンジニアの西尾です。 スペースマーケットではバックエンド側は長らく単一のアプリケーションで構成されていましたが、去年くらいからマイクロサービスアーキテクチャーへの移行を進め始めました。 すでに本体(Main)と検索機能(Search)(※1)は分離されていますが、現在は本体から予約部分を切り出すことを行なっています。 （※１： 元の本体のバックエンドAPIのことをMainまたはv2, Mainから部屋の検索などを担う部分だけを切り出したサービスをSearchと記載しています。) 切り出すにあたり、考えなければならないことはたくさんあるのですが、今回はその中で 複数サービスに分離されているデータを合成し、クライアントに単一システムだった時と同じ
Author:@deeeeeeet, Engineering manager of Microservices SRE The Microservices SRE team is one of the Developer Productivity Engineering Camp teams. The team provides embedded SRE service to the product team. By working with/inside the product team, we improve the service reliability and share SRE practices with the team so that the team can maintain its reliability without SRE members. We rotate e
/sre-next-2020
# URL一覧 - https://psycnet.apa.org/record/2010-06019-002 - https://landing.google.com/sre/sre-book/chapters/accelerating-sre-on-call/ - https://speakerdeck.com/tcnksm/how-we-structure-our-work-at-mercari-microservices-platform-team?slide=30 - https://landing.google.com/sre/resources/practicesandprocesses/training-site-reliability-engineers/ ## photo - https://pixabay.com/photos/sunset-sailing-boat-
ウォレットアプリ「Kyash」の先 〜「Kyash Direct」のアーキテクチャ〜 - builderscon tokyo 2019
Abstract 株式会社Kyashは、ウォレットアプリ「Kyash」の開発・提供を通して得た知見を活かし、国際ブランドVISAのカード発行、決済処理、管理機能をAPIとして企業向けに提供する「Kyash Direct」をローンチしました。 「Kyash Direct」では、「Kyash」の、主にサーバーサイド開発におけるノウハウと反省を最大限活かすべく、敢えてスクラッチ開発することを選択しました。 セッションでは、主に設計に関するトピックを軸に、「Kyash Direct」がどのようなアーキテクチャにもとづいて構築されているのかについて、実体験（良かったこと・辛かったこと）を交えてお伝えしたいと考えています。 取り上げるトピックは以下のようなものになる予定です。 求めていたもの・困っていたこと 実践したこと（@golang/AWS） DDD Clean Architecture Micr
[AWS Black Belt Online Seminar] Amazon Simple Queue Service (SQS) 資料及び QA 公開 | Amazon Web Services
Amazon Web Services ブログ [AWS Black Belt Online Seminar] Amazon Simple Queue Service (SQS) 資料及び QA 公開 先日 (2019/07/17) 開催しました AWS Black Belt Online Seminar「Amazon Simple Queue Service (SQS)」の資料を公開しました。当日、参加者の皆様から頂いた QA の一部についても共有しております。 20190717 AWS Black Belt Online Seminar Amazon Simple Queue Service AWS クラウドサービス活用資料集（すべての過去資料が閲覧できます） Q. AWS LambdaでサポートされたAmazon SQSに対するポーリングはどういう方式になりますか？ A. 以前はLa
![[AWS Black Belt Online Seminar] Amazon Simple Queue Service (SQS) 資料及び QA 公開 | Amazon Web Services](https://cdn-ak-scissors.b.st-hatena.com/image/square/c67589a7f8320c6b74cf6ad3ba77198bbe18e51c/height=288;version=1;width=512/https%3A%2F%2Fd2908q01vomqb2.cloudfront.net%2Fb3f0c7f6bb763af1be91d9e74eabfeb199dc1f1f%2F2019%2F07%2F29%2Fthumb-1135x630.png)
The Legends of Runeterra CI/CD Pipeline Hi, I’m Guy Kisel, and I’m a software engineer on Legends of Runeterra’s Production Engineering: Shared Tools, Automation, and Build team (PE:STAB for short). My team is responsible for solving cross-team shared client technology issues and increasing development efficiency. We focus on the areas that empower other teams to do more and protect the team from
Announcing the Bytecode Alliance: Building a secure by default, composable future for WebAssembly – Mozilla Hacks - the Web developer blog
Announcing the Bytecode Alliance: Building a secure by default, composable future for WebAssembly Today we announce the formation of the Bytecode Alliance, a new industry partnership coming together to forge WebAssembly’s outside-the-browser future by collaborating on implementing standards and proposing new ones. Our founding members are Mozilla, Fastly, Intel, and Red Hat, and we’re looking forw
マイクロソフトはコンテナをサーバレスで実行する新サービス「Azure Container Apps」の正式サービスとしての提供開始を発表しました。 Azure Container Apps is now generally available! You can learn more from our announcement: https://t.co/HvFxpRCmON. We can't wait to see the serverless apps and microservices you will build! #MSBuild — Azure Container Apps (@AzContainerApp) May 24, 2022 Azure Container Appsは昨年11月のイベント「Microsoft Ignite 2021」で発表されたサービスで、コンテナとし
Dave Rensin, Google The rise of highly distributed computing systems based on microservices has made predicting and debugging our products more complex than ever. In response, Chaos Engineering has developed as a way to discover, diagnose, and debug the inevitable emergent properties (and problems) that come with this new reality. What about our human systems? Can we apply the techniques of chaos
Scaling Kubernetes Tenant Management with Hierarchical Namespaces Controller | メルカリエンジニアリング
Scaling Kubernetes Tenant Management with Hierarchical Namespaces Controller Author: @deeeeeeeet from Platform Developer Experience Team Three years ago, we took the decision to break our monolithic API into microservices, and move from the physical machine deployment on-premise to container deployment on GCP by using Google Kubernetes Engine (GKE). We architected our Kubernetes cluster with multi
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
2019 年度版：クックパッド x 広告領域の紹介 - クックパッド開発者ブログ
Software engineering practices
Open-Sourcing a Monitoring GUI for Metaflow
Kubernetes made my latency 10x higher
ドメインモデリングとマイクロサービスの研修に参加してきたよ - ばやしのブログ
メルカリエンジニア組織 2019 Recap | メルカリエンジニアリング
フルリモート環境でマイクロサービス化を推進するためにサイカが行ったプロジェクト管理の話 - XICA Tech blog
Azureのマネージドサービスで作るWebアプリケーションスタック - Qiita
API Tokens: A Tedious Survey
食べログの大規模なレガシーシステムを段階的に改善していく取り組み - Qiita
運用練度を高め本番リリースに臨むためのアプローチ | メルカリエンジニアリング
BeyondProd | Documentation | Google Cloud
Please stop recommending Git Flow!
Embedded SRE at Mercari | Mercari Engineering
The Legends of Runeterra CI/CD Pipeline
コンテナをサーバレスで実行する「Azure Container Apps」が正式サービスとして提供開始
KEYNOTE: CHAOS ENGINEERING FOR PEOPLE SYSTEMS