ブックマーク / medium.com (41)

  • We’re All Using Airflow Wrong and How to Fix It

    Tl;dr: only use Kubernetes Operators At Bluecore, we have been investing in Airflow as our primary workflow management tool. After a few months of work and promoting the platform internally, we found that we still had low adoption across the team. Overall, engineers reported that the cost of moving workflows to Airflow was too high. Not only did they have to learn about Airflow, develop their DAGs

    We’re All Using Airflow Wrong and How to Fix It
    kent-where-the-light-is
    kent-where-the-light-is 2019/12/19
    “ This means that Airflow Operators inherently combine orchestration bugs with execution bugs”
  • In Praise of Digag, an Alternative to Airflow

    At Culture Amp, we’ve been customers of Treasure Data for about a year. We’ve been able to get some great momentum around product analytics with their stack of tools, which includes solutions for data ingestion, data querying, workflow management, and data export. Treasure Data are very good open-source citizens, and many of the tools that power their stack are open-sourced. Their most popular is

    kent-where-the-light-is
    kent-where-the-light-is 2019/12/19
    “Airflow’s included operators are buggy and immature. We ended having two data engineers sending pull requests to Airflow to fix a couple of bugs. While having Airflow contributors is something we are proud of, it reduced our confidence in the codebase.”
  • Starting containers in order on Kubernetes with InitContainers

    kent-where-the-light-is
    kent-where-the-light-is 2019/02/10
    “Great! So now we can run the pg_isready -h postgres -p 5432 && echo $? command in an InitContainer of the webapp Deployment to verify that the database is accepting connections. See in particular the lines 15–20 of the deployment manifest below:”
  • Packer and Docker Push – Kevin Cearns – Medium

    kent-where-the-light-is
    kent-where-the-light-is 2018/12/08
    “Example using the docker-push post-processor to build a container with Packer and push to a private repository on Docker Hub.”
  • Testing Ansible Role with Molecule, Docker, Testinfra & Goss (Part 2)

    kent-where-the-light-is
    kent-where-the-light-is 2018/11/24
    “ I would still suggest you to use Testinfra (instead of Goss) for mission critical applications because it is far more mature than Goss.”
  • Go で始める JSON-RPC 入門

    Gopher artwork is taken from gophericons. Created by Olga Shalakhina, based on original work by Renée French. Licensed under Creative Commons 3.0 Attributions.この記事は、 Go Advent Calendar 2016 の 15 日目の記事です。 みなさんは、JSON-RPC を使ったことがありますか? この記事では、 Go で JSON-RPC を使用する方法をレクチャーしたいと思います。(※ この記事は、 golang.tokyo #2 での LT 内容をベースに加筆修正を加えたものになります。) JSON-RPC とは概要JSON-RPC は、 JSON を媒体とした Remote Procedure Call です。 そのた

    Go で始める JSON-RPC 入門
    kent-where-the-light-is
    kent-where-the-light-is 2018/09/09
    “JSON-RPC は既存知識の組み合わせなので、シンプル且つ簡単である。”
  • 【基礎編】Elasticsearchの検索クエリを使いこなそう

    こんにちは! Pairsの検索アルゴリズムの新規開発・改修を担当している小島です。 この記事は eureka Advent Calendar 6日目の記事です。 5日目は癒し系エンジニアさんの 「社内ツールを駆使してExcelへのレポートを自動化した話」でした。 今年に入ってからElasticsearchについてしかブログを書いていません。 もちろん今回もElasticsearchについて書きます。 前回はElastic Stack 5.0 のセットアップについて書きましたが、今回は初心に戻り、検索クエリの使い方についてお話します。 【応用編】Elasticsearchの検索クエリを使いこなそう 環境Elasticsearch version 5.0 ローカル環境のポート9200番で実行 準備まずは検索を試すためのデータを用意します。 僕は以下のelastic公式が出しているレポジトリ

    【基礎編】Elasticsearchの検索クエリを使いこなそう
    kent-where-the-light-is
    kent-where-the-light-is 2018/07/28
    “Elasticsearch version 5.0以前では、文字列を完全一致と部分一致で分けるために手動でmappingする設定が必要でした。しかし、5.0から文字列にはKeyword と Textの2種類の型ができ、自動マッピングでそのどちらも作成されるので、
  • Elasticsearch マッピング

    Elasticsearch におけるマッピングとは、リレーショナルDBでいうところのテーブル定義に相当します。しかし、単にデータを格納する為のフィールドを用意して型を設定するだけではありません。Elasticsearch では、フィールドの型の他に言語解析処理などのドキュメントを検索可能にする為の各種設定が可能です。 スキーマーレスが一つの特徴の Elasticsearch では、ドキュメントをインデックスすると自動的に各フィールド毎にフィールドタイプなどのマッピングが自動で設定されインデックスが作成されます。また、事前にマッピングを設定可能な仕組みとなっています。 自動マッピングまずは以下の内容で、インデックスを作成し自動マッピングについて見て行きます。 ブログ記事毎に1つのドキュメントをインデックス各ドキュメントはドキュメントタイプ story にインデックスドキュメントタイプ sto

    Elasticsearch マッピング
    kent-where-the-light-is
    kent-where-the-light-is 2018/07/25
    “Elasticsearch におけるマッピングとは、リレーショナルDBでいうところのテーブル定義に相当します。しかし、単にデータを格納する為のフィールドを用意して型を設定するだけではありません。Elasticsearch では、フィールド
  • Understanding emotions — from Keras to pyTorch

    Detecting emotions, sentiments & sarcasm is a critical element of our natural language understanding pipeline at HuggingFace 🤗. Recently, we have switched to an integrated system based on a NLP model from the MIT Media Lab. Update: We’ve open sourced it! Repo on GitHub The model was initially designed in TensorFlow/Theano/Keras, and we ported it to pyTorch. Compared to Keras, pyTorch gives us mor

    Understanding emotions — from Keras to pyTorch
    kent-where-the-light-is
    kent-where-the-light-is 2018/04/01
    “How the PackedSequence object worksKeras has a nice masking feature to deal with variable lengths sequences. How do we do that in pyTorch? We use PackedSequences! PackedSequence is not very detailed in the pyTorch doc so I will spend some time describing them in greater details.”
  • コインチェック事件は『対岸の火事』ではない

    私は創業してからおよそ2年のベンチャー企業を経営しており、CTO兼唯一のプログラマだ。私含め3人の共同創業者と、多くの支援者の力により、これまで自己資でなんとか開発を続けてきた。 先日、私達の会社は大きなマイルストンを迎え、サービスをβ公開させ、これから大きく勝負に出ようと思っていた。その最中、今回のコインチェック事件が発生した。 私達が行う事業は暗号通貨とは全く関係が無いため、来であればこれは『対岸の火事』だ。しかし、総額580億円という被害額を生んだ今回の事件は、暗号通貨市場だけでなく、スタートアップ界隈全体へ影響を及ぼすことが容易に想像される。 事件の余波今回の事件で最も強く感じたのは、技術の力で新領域を切り開くスタートアップ企業こそ、時には成長を犠牲にしてでも、技術的安全性・信頼性を優先するべき、ということだ。 顧客にリスクを押し付けることが絶対に起きてはいけないし、少しでも顧

    kent-where-the-light-is
    kent-where-the-light-is 2018/01/28
    これはdevopsエンジニアから見たら素晴らしい総括
  • 数字に見るH-1B

    どれだけの日人がH-1Bを申請しているか、気になりません? H-1Bビザを牛耳ってる U.S. Citizenship and Immigration Services (通称USCIS)、肝心なところは教えてくれないものの、わりかし数字を出してます。 たとえば Immigration and Citizenship Data。国籍別のH-1B申請数があるので、先ほどの疑問を解消できます。 うーん、なんか、1位と2桁違いますね。人口比からすると(1.324 billion vs 127 million)、10倍くらいで済みそうなものですが。2位とは32倍、これも人口比と差がある(1.379 billion vs 127 million)。 と、ありがちなMedium記事ならば、ここあたりで日の将来を憂いながら、いかにして他の国に負けていくか解説するところですが、あいにく、そういうキャラ

    数字に見るH-1B
    kent-where-the-light-is
    kent-where-the-light-is 2017/12/23
    “全員が全員OPTではないでしょうし、実際にどのくらいの割合なのか知ることはできませんが、相当な数のH-1B新規承認が、日本からの留学生によって占められていることは想像に難くありません。”
  • ソフトウェアエンジニアのUSビザ

    アメリカ就職に失敗したはなし」で盛り上がっているアメリカ就労ビザ話。学歴がないとダメとか、修士以上がイイとか、いろんな意見が出てますが、ここらではっきりさせときます。 Demystifying U.S. Visa! H-1Bまずは、アメリカ就労ビザの花形「H-1Bビザ」。 ざっくり言うと以下のとおり。 企業にスポンサーになってもらう必要がある条件がある毎年4月から申請開始、10月から働ける申請者が多すぎるので抽選になる転職できるH-1Bの条件ソフトウェアエンジニアとしてH-1Bを申請してもらいましょう。条件を満たしているかどうか、次のフローチャートで確認できます。 見てのとおり、学歴は必須条件ではありません。 実際には、移民弁護士と膝を突き合わせて、成績表を眺めながら、コンピュータ・サイエンスの単位として使えるものをピックアップしていく作業が必要ですが、大雑把な傾向としては次のとおり。

    ソフトウェアエンジニアのUSビザ
    kent-where-the-light-is
    kent-where-the-light-is 2017/12/23
    “ソフトウェアエンジニア職歴3年=コンピュータ・サイエンス学歴1年。これも共通ルールとして換算できるように運用されています。”
  • NodeJS vs Ruby on Rails comparison 2017. Which is the best for web development?

    It’s hard for a startup to choose the right language for development. One of the biggest fight in development is between Node.JS and Ruby on Rails. So, who is the winner in this fight? The King is dead, long live The King!If you asked this question 5 years ago, it would be definitely Ruby, but time is changing and we have a new leader. Let’s have a look at Google trends: During the last 4 years, N

    NodeJS vs Ruby on Rails comparison 2017. Which is the best for web development?
    kent-where-the-light-is
    kent-where-the-light-is 2017/12/04
    “Big companies are choosing Node.JS instead of Ruby on Rails.When it comes to scalability you can’t compete with Node.JS. There are companies, that switched from Ruby on Rails to Node.js:NetflixNew York TimesPayPalMediumLinkedInUberHapi”
  • Angular vs. React vs. Vue: A 2017 comparison

    Deciding on a JavaScript framework for your web application can be overwhelming. Angular and React are very popular these days, and there is an upstart which has been getting a lot of traction lately: VueJS. What’s more, these are just a few of the new kids on the block. Javascripts in 2017 — things aren’t easy these days!So, how are we supposed to decide? A pros-and-cons list never hurts. We’ll d

    Angular vs. React vs. Vue: A 2017 comparison
  • If you’re a startup, you should not use React (reflecting on the BSD + patents license)

    FINAL EDIT — weeks after this article was published, Facebook changed their licensing model for React et al. to MIT. Open source activism works! [EDIT — My argument is a cautionary one, I’ve made some edits in that direction. I am not a lawyer, but I argue that — as a startup — if I’d want to keep my doors open to any future outcome, offer, exit, proposal, FB’s OSS licenses may pose an obstacle un

    If you’re a startup, you should not use React (reflecting on the BSD + patents license)
    kent-where-the-light-is
    kent-where-the-light-is 2017/08/21
    “If they did, Preact could be in violation of those patents, so have a look at vue.js, cycle.js, too.I hope at some point the community can clarify where Preact and Inferno (another light-weight alternative to React) in terms of intellectual property.”
  • JavaScript’s new #private class fields

    What they are, how they work, and why they are the way they are

    JavaScript’s new #private class fields
    kent-where-the-light-is
    kent-where-the-light-is 2017/06/08
    ついにきたか “Private Methods (coming soon?)Private fields are coming as part of a proposal focuses on just adding class fields. The proposal does not make any changes to class methods, so private class methods will be coming in a followup proposal and will likely look like this:”
  • 自己組織化する組織Tealとは何者なのか?

    四月末に、ギリシャのロードス島にて行われたNext Stage World Gatheringという国際会議(というよりワークショップ)に参加してきました。 これは、知る人ぞ知るビジョナリーな思想書とも言えるReinventing Organizationというに書かれている、LinuxやTEDのような、組織の使命に共感した人々が地理を超えてゆるく繋がり、自律分散型で組織を運営していくTeal型組織の実現を実践する人々が知見を交換し合う場でした。 Tealという組織は、まだ日では(多分世界でも)新しい組織の考え方ですが、自律分散型の組織作りとしてザッポスが導入するホラクラシーなどの仕組みがその一つの実践例として知られています。 biotopeは、チームや会社などの組織が、自分たちが持つ創造性を最大限に発揮し、具体化し続ける環境づくりやプロセスの支援を行なうことで、自律的で持続可能な組織

    自己組織化する組織Tealとは何者なのか?
    kent-where-the-light-is
    kent-where-the-light-is 2017/05/09
    “そこでは中央で強いガバナンスを持たずに、明確な目的やミッションの元に、場のルールや環境、組織文化をデザインすることで、その場・プラットフォームを繁栄させるという、新たな組織のあり方が可能になってきま
  • デザイナーの育成で大切にしたこと

    ここ4年、育成に関わらせてもらって過ごしてきたのですが、久々に育成する人がいない4月を迎えるので、新卒デザイナーを育成する際に気をつけていたことを、この機会に振り返ってみようと思います。 自分のことはどうにかなってきた20代中盤、「デザイナー育ててね」と突然言われても何から始めればいいのかもよく分からないし、どうやってアドバイスしたらいいかも分からなかった当時、デザイナーの育成に関する記事があまりに少ない印象だったので、同じような境遇の人の役に立てば嬉しいです。 人が課題を感じて初めて成長する突然ですが、他人に言われた時よりも自分で課題を認識できた方時の方が腹落ちしませんか? どれだけ教える側(メンター)が一方的に課題感を感じていたとしても、一方通行では意味がなくて、逆に人と課題感を共有できると、認識してるゴールが明確になるので、お互いに成長実感を得やすいです。 どうやって課題を共有す

    デザイナーの育成で大切にしたこと
    kent-where-the-light-is
    kent-where-the-light-is 2017/04/05
    “どれだけ教える側(メンター)が一方的に課題感を感じていたとしても、一方通行では意味がなくて、逆に本人と課題感を共有できると、認識してるゴールが明確になるので、お互いに成長実感を得やすいです。”
  • 知っておきたいビジネス用語5選

    最近、つくづく自分って何もできないやつだなーと思うことの多い、勘違いアソシエイトです。前回のエントリが長すぎるともれなく大不評でしたので、今回は短めに(てかやっぱ項目の解説は書いてても楽だわ)。 ①ボール業務とそれに伴う責任のこと。例えば、「今度のイベントのコンテンツって誰がボールもってるんでしたっけ?」という問いかけがあった時、答えが「若手です」の場合は、絶賛内容作成中です(そして大体手こずってるw)。「〇〇部長です」の場合は、出来上がったコンテンツでやるのか審理中です(そして大体忘れられてるw)。サッカーと同じで、球離れの悪い人は嫌われる傾向にあります。バルサみたくポンポン繋いでやりましょう。 ②フィージビリティー実現可能性のこと。良いアイデアが思い浮かんで意気込んで提案すると、「それってフィージビリティー低くない?」と突き返されます。アイデア自体は面白いんだけど人手が圧倒的に足りない

    知っておきたいビジネス用語5選
    kent-where-the-light-is
    kent-where-the-light-is 2017/03/10
    “ぶっちゃけ転職して初めて知りました(笑)。要は答えのない問題に悩んでいる時に、「壁打ちしてもいいっすか?(=正解は教えなくて良いから相談に乗ってくれや)」という意味合いで使用します。個人的に、壁打ち
  • イケイケなベンチャー企業が「リモートワーク」導入失敗する3つの理由

    私はもともと富士通っていう会社で働いてたんですが、そこには中国にいても北海道にいても違和感なく会議ができる仕組みがありました。(少なくとも私が所属していた部署の現場には) 会議スペースが絶対的に足りないという理由からMicrosoft Lyncが導入されて、それ以来は社員同士が(たとえ向かい合って座っているとしても)Lyncでスクリーンシェアしながら電話会議をするというのが習慣化していたのです。 ところが、2015年にとあるベンチャー企業に転職して、それが当たり前じゃないことに気づきます。 「リモートワークやろう」と意識高く言う人はイケイケベンチャーだとたくさんいます。しかし、ちゃんとやることもやらないまま「うまくいかない・・・」と結論付けられるさまを何度か目の当たりにしました。 この記事では、「ちゃんとやることやってからじゃない?」と違和感を覚えたところをなんとなく書きのこしておきます。

    kent-where-the-light-is
    kent-where-the-light-is 2017/03/03
    “オンライン会議が失敗する理由は、ほぼ確実に準備不足/設備不足によるコミュニケーションミスです。「リモートワークでは伝わらないので対面でやろう」ってなる前に、「今日の会議は、リモートで入ってる○○さん