2019年 PFN夏季インターンシップのコーディング課題公開 - Preferred Networks Research & Development
Preferred Networks 2019 夏季インターンシップの選考で用いたコーディング課題を github 上で公開しました。 https://github.com/pfnet/intern-coding-tasks PFN 楠本です。PFN では毎年8月9月の夏季休暇に約2ヶ月間の長期インターンシップを行っています。コーディング課題はその選考で応募者のプログラミング能力や問題解決能力を見るために出題させて頂いているものです。今年は「機械学習・数理」「バックエンド」「フロントエンド」「チップ」「性能最適化」「コンピュータービジョン(Chainer)」の6種類のコーディング課題を用意し、応募者の希望テーマに応じてこのうちのいずれかを解いていただく形にしていました。 今年のインターンシップでは去年をさらに上回る数の応募を頂きました。PFN では来年以降もインターンシップを開催する予定で
チームのWeb API開発を最適化するSchema Driven Developmentの解説＆実装例 - Qiita
チームでのWeb API開発において、進行を妨げる要因は様々な形で噴出します。 「フロントはバックエンドのAPI実装待ちなので動けません...」「ドキュメンテーションのコストが重い...」「ドキュメントと実装が全然違うので参考にならない...」 また、APIスキーマ設定が不十分だと、ビジネスドメインの最低原則やクライアント側のニーズを理解せずに、バックエンド都合のAPIがそのまま実装される危険性もあります。 そうした問題を解決すべくSchema Driven Developmentと呼ばれる開発手法が生まれました。 Schema Driven Developmentとは？ Schema Driven Development(以下SDD)とはチームにおけるWeb API開発フローを改善する開発手法の一つです。スキーマ駆動開発やSchema First Developmentとも呼ばれています
「AWS Cloud Development Kit」をAWSが正式リリース、インフラとアプリを同時に管理
「AWS Cloud Development Kit」をAWSが正式リリース、インフラとアプリを同時に管理：インフラをコードとして定義できる Amazon Web Services（AWS）は、オープンソースのソフトウェア開発フレームワーク「AWS Cloud Development Kit」（AWS CDK）の一般提供を開始した。YAMLやJSONを使ったインフラ管理と比較してさまざまなメリットがあるという。
【2023年版】数あるSwiftの非同期処理の実現方法をきちんと理解した上で使い分けよう - machio Development Diary
これは Qiita iOS Advent Calendar 2023 の13日目の記事です。 概観 背景 こんな人へ向けた記事 この記事で扱う非同期処理の実現方法 GCDを用いた非同期処理 GCDとは DispatchQueue DispatchQueueへのタスク引き渡し DispatchQueueの優先度 DispatchQueueの分類 (Private Dispatch Queue) GCDの使い方 Operation、OperationQueueクラスを用いた非同期処理 Operation、OperationQueueクラスとは Operation、OperationQueueクラスの使い方 タスクの定義とキューへの追加 タスク間の依存関係の設定 タスクのキャンセル GCDとの比較 余談：Operationクラスは単体でも実行できる Threadクラスを用いた非同期処理 Thre
PLaMo-13Bを公開しました - Preferred Networks Research & Development
Preferred Networksでは、9月28日にPLaMo-13Bという大規模な言語モデル (LLM) を公開しました。公開されている他のモデルと比較して、日英２言語を合わせた能力で世界トップレベルの高い性能を示しています。実際に学習を回すまでの技術開発には自社スーパーコンピューターであるMN-2を利用し、学習はAI橋渡しクラウド（AI Bridging Cloud Infrastructure、ABCI) の”第一回 大規模言語モデル構築支援プログラム”を利用して行いました。 今後、PLaMo-13Bを基にした事前学習モデルや、指示学習を行ったモデルについても公開を予定しています。 PLaMo-13Bの概要 PLaMo-13Bは約130億個のパラメータからなる言語モデルです。 PLaMo-13Bは日本語・英語の2つの言語のベンチマークタスクで高い性能を示しています。日本で使われるL
This article was discussed on Hacker News and on reddit. The major compilers have an enormous number of knobs. Most are highly specialized, but others are generally useful even if uncommon. For warnings, the venerable -Wall -Wextra is a good start, but circumstances improve by tweaking this warning set. This article covers high-hitting development-time options in GCC, Clang, and MSVC that ought
App Development with Swiftは、Appleが提供するSwift、Xcode、App開発ツールの基礎知識を証明する資格です。 Swiftの基礎知識を証明する資格「App Development with Swift（英語版）」を日本国内で受験することが可能です。 ※日本語版の試験実施は未定
Understanding client-side JavaScript frameworks - Learn web development | MDN
Complete beginners start here!Getting started with the webGetting started with the webInstalling basic softwareWhat will your website look like?Dealing with filesHTML basicsCSS basicsJavaScript basicsPublishing your websiteHow the web worksHTML — Structuring the webIntroduction to HTMLIntroduction to HTMLGetting started with HTMLWhat's in the head? Metadata in HTMLHTML text fundamentalsCreating hy
GitHub - layrjs/layr: Dramatically simplify full‑stack development
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
生成AI・LLM時代における 機械学習エンジニアとしてのキャリア戦略・開発戦略 / my-career-and-development-strategies-for-ml-engineer-2024
2024年03月28日 ML Career Night #1｜生成AI時代の機械学習エンジニアのキャリア戦略 (https://tech-track.connpass.com/event/304056/) におけるLT資料です。 私の考えている、生成AI・LLM時代における機械学習エンジニアとしてのキャリア戦略や開発戦略について紹介しました。
GitHub - valkey-io/valkey: A new project to resume development on the formerly open-source Redis project. We're calling it Valkey, since it's a twist on the key-value datastore.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
【セッションレポート】 ソフトウェア開発者のためのAWS環境構築フレームワーク AWS Cloud Development Kit (CDK) 【#AWSDevDay】 | DevelopersIO
セッション概要 PythonやTypeScriptなどのプログラミング言語でAWSの構成を記述・構築できるAWS CDKの仕組みや使い方、コーディング、テスト、CloudFormationとの違いについてDeepDiveしていく。 登壇者 大村 幸敬 様（アマゾン ウェブ サービス ジャパン株式会社） AWSの環境を構築する方法 AWSの環境を構築するには様々な方法がある。 下記に手法とメリットデメリットを記述する。 マネジメントコンソール pros 始めるのが簡単 cons 人間が操作を行う 繰り返しが可能ではない ヒューマンエラーが起きやすい 時間がかかりやすい スクリプト（SDK、CLI） pros APIが公開されているのでそれを叩く シェルで書くのでプログラム言語に慣れていないくてもかける cons apiコールが失敗した場合にどう処理するか AWS環境のアップデートを行う場合や
Visual Studio CodeのRemote DevelopmentとDockerで快適な開発環境をゲット | SIOS Tech. Lab
◆ Live配信スケジュール ◆ サイオステクノロジーでは、Microsoft MVPの武井による「わかりみの深いシリーズ」など、定期的なLive配信を行っています。 ⇒ 詳細スケジュールはこちらから ⇒ 見逃してしまった方はYoutubeチャンネルをご覧ください 【5/21開催】Azure OpenAI ServiceによるRAG実装ガイドを公開しました 生成AIを活用したユースケースで最も一番熱いと言われているRAGの実装ガイドを公開しました。そのガイドの紹介をおこなうイベントです!! https://tech-lab.connpass.com/event/315703/ こんにちは、サイオステクノロジー技術部 武井です。今回はVisual Studio CodeのRemote DevelopmentでDockerコンテナに接続して、快適な開発環境をゲットしようというお話です。ちなみに
Hoppscotch • Open source API development ecosystem • Hoppscotch
ParametersBodyHeadersAuthorizationPre-request ScriptTestsVariables
Web Development Gallery Eases
Eases is Web Development Gallery Site. Watch and learn about Easing and front-end development
【ICLR2020採択論文】グラフニューラルネットワークは頂点識別問題のための「情報」を指数的に失う | Preferred Networks Research & Development
図1：グラフニューラルネットの1層に対応する変換を力学系として表現した図．点線は「頂点識別問題のための情報が少ない」状態に対応する．定理の仮定を満たす場合（左図）は1層の変換で，各点は点線に一様に近づくが，そうでない場合（右図） 場所によっては点線から遠ざかることがある．本論文より引用． はじめに エンジニアの大野です．現在私はPFNに勤めながら，大学院博士課程に在籍し，深層学習の理論研究を行なっています（いわゆる社会人博士です）．今年4月にエチオピアのアディスアベバで開催されるICLR2020に大学での研究論文が採択されました．ありがたいことに研究成果を高く評価していただき，本論文はspotlight（全投稿論文中の4.2%）に選ばれています (*1)．本エントリではその論文の概要を紹介します．詳細は以下の論文をご覧ください． Kenta Oono and Taiji Suzuki. G
Zoom freezes feature development to fix security and privacy issues | TechCrunch
Enterprise Zoom freezes feature development to fix security and privacy issues Zoom has been widely criticized over the past couple of weeks for terrible security, a poorly designed screensharing feature, misleading dark patterns, fake end-to-end-encryption claims and an incomplete privacy policy. Despite that, the video conferencing service has attracted a ton of new users thanks to the coronavir
Open source and open development don't always go together. I know because I've personally done a lot of open source but not enough open development. OSS Capital's Joseph Jacks, who led our seed round of funding, said something that has stuck with me ever since he said it: You are building something that is generationally important (No pressure 😅) I believe it. But Remix can't become a generationa
Update 2023: Should I Rust or should I go? I started developing web services (JSON APIs) in Rust a little bit more than 2 years ago, so I thought it was time to shake the preconceived ideas and share what I've learned. The prejudices Rust code is ugly: Rust is
再計算でニューラルネット学習時のメモリ消費を減らす - Preferred Networks Research & Development
エンジニアの楠本です。深層学習で再計算と呼ばれる手法を使って学習時のメモリ消費を削減する研究や実装に取り組んでいるのでその紹介をしたいと思います。 背景 大規模なニューラルネットの学習ではしばしば誤差逆伝播（以下同様）で GPU のメモリ不足に陥ることがあります。 通常、誤差逆伝播ではパラメータについての勾配を求める際に必要な順伝播の計算結果を (途中の計算結果も含めて) すべて覚えた状態で勾配計算を行います。 一方で、例えばコンピュータビジョンの重要なタスクであるセグメンテーションや物体検出では入力画像として高解像度のものがしばしば扱われます。モデルについても高精度を達成するために複雑なネットワーク設計、すなわち層が深くまた中間表現のチャンネル数の多いネットワークが使われることが少なくありません。 このように入力やモデルが巨大である場合には記憶しておくべき途中の計算結果全体が巨大になり、
開発速度が速い #とは（LayerX社内資料）/ How fast is the development speed
LayerX社内の定例でつかった資料です。
Julio Biason .Net 4.0 - Things I Learnt The Hard Way (in 30 Years of Software Development)
This is a cynical, clinical collection of things I learnt in 30 years working with software development. Again, some things are really cynical, others are long observations on different jobs. Software Development Spec first, then code If you don't know what you're trying to solve, you don't know what to code. Write something specifying how the application works before writing any code. "Without re
ACL 2019 参加レポート - Preferred Networks Research & Development
PFNでは自然言語処理（NLP）による研究開発にも取り組んでいます。 自然言語は人にとって最も身近なインターフェースのうちの一つです。 弊社ではこれまでにもロボットへの言語指示（ICRA 2018, CEATEC 2018）などの研究開発の成果を発表してきました。 先日7/28-8/2にイタリアのフィレンツェにて、自然言語処理のトップ国際会議ACL 2019が開催され、弊社からも佐藤元紀と小林颯介が参加しました。今回はその様子を論文紹介とともにお伝えしたいと思います。本記事は2名で協力し執筆しています。 (写真：会場となったバッソ要塞) また、佐藤元紀が東北大学の鈴木潤氏・清野舜氏と執筆した論文 “Effective Adversarial Regularization for Neural Machine Translation” を口頭発表しました。この論文についても紹介します。 ※佐
Ruby on Whales: Dockerizing Ruby and Rails development—Martian Chronicles, Evil Martians’ team blog
This post introduces the Docker configuration I use for developing my Ruby on Rails projects. This configuration came out of—and then further evolved—during production development at Evil Martians. Read on to learn all the details, and feel free to use it, share it, and enjoy! Notice: This article is regularly updated with the best and latest recommendations; for details, take a look at the Change
MN-3の高精度電力計測にむけた取り組み - Preferred Networks Research & Development
はじめに 2020年11月17日早朝（日本時間）に開催されたSC20のTOP500 BoFにおいて、今年2回目のTOP500/Green500ランキングが発表されました。PFNが構築・運用している深層学習用スーパーコンピュータMN-3は前回に続きリストに掲載されました。MN-3は電力効率指標 26.04GFlops/W、最大演算性能 1,652.9TFlops の記録でGreen500 世界第2位（TOP500 331位）になりました。 前回の世界第1位から順位は一つ後退してしまいましたが、前回の記録から23.3%の電力効率性能の向上を実現しておりMN-3の高い演算効率とポテンシャルを改めて証明した結果になりました[1]。 この発表に続いて、翌日2020年11月18日早朝（日本時間）にはSC20のGreen500 BoFが開催されました。BoFでは今回のGreen500リストの詳細について
GitHub - hoppscotch/hoppscotch: Open source API development ecosystem - https://hoppscotch.io (open-source alternative to Postman, Insomnia)
❤️ Lightweight: Crafted with minimalistic UI design. ⚡️ Fast: Send requests and get responses in real time. 🗄️ HTTP Methods: Request methods define the type of action you are requesting to be performed. GET - Requests retrieve resource information POST - The server creates a new entry in a database PUT - Updates an existing resource PATCH - Very similar to PUT but makes a partial update on a reso
TL;DRWe focused to improve Rails application performance in Ruby 2.7 JIT, but the last year's assumption was wrong and Ruby 2.7 JIT didn't meet the goal. We'll change the approach for it in Ruby 3.0. Ruby 2.7 is released!Merry Christmas! The new Ruby is out. As I've sometimes promised to make performance improvements in Ruby 2.7 JIT, let me explain how it went. See also The method JIT compiler for
AWS CDK(Cloud Development Kit )を使用した各種のLambda設置 | DevelopersIO
1 はじめに CX事業本部の平内（SIN）です。 AWS Cloud Development Kit (以下、AWS CDK)では、TypeScriptを使用して、CFnのテンプレートが作成可能ですが、LambdaもTypeScriptで作成している場合、コードとリソースが一元管理できて、いい感じにまとまる気がして好きです。 今回は、Lambda関数を設置する場合の色々な場面について、AWS CDKの利用方法を確認してみました。 2 簡単なLambdaの設置 最も簡単なLambdaの設置例です。 lambda.Function()の第3パラメータであるFunctionPropsは、下記の3項目の設定が必須です。 runtime code handler functionName（関数名）は、必須ではないですが、認識しやすいように設定しました。 import cdk = require('@
Front-of-the-front-end and back-of-the-front-end web development
Front-of-the-front-end and back-of-the-front-end web development The Great Divide is real, and I’m pleased that the terms “front-of-the-front-end” and “back-of-the-front-end” have gained traction ever since I quipped about them on the Shop Talk Show. A few of my clients have actually moved away from a culture of “we only hire full-stack developers” and have instead adopted the labels “front-of-the
Unikraft is a fast, secure and open-source Unikernel Development Kit.
Unikraft is a fast, secure and open-source Unikernel Development Kit Unikraft powers the next-generation of cloud native applications by enabling you to radically customize and build custom OS/kernels, unlocking best-in-class performance, security primitives and efficiency savings.
GitHub - abskmj/hukum: An NPM module that displays Github Action progress in the terminal and aims to improve your development experience by printing status in realtime.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Agile and Iterative Development: Lessons from 20 Years of Ninja-style Testing
Agile and Iterative Development: Lessons from 20 Years of Ninja-style Testing
評価関数のバッチ処理に対応したブラックボックス最適化ライブラリの開発 - Preferred Networks Research & Development
本記事は、2020年インターンシップで勤務した高橋芽生さんによる寄稿です。 はじめに 2020年度PFN夏季インターン生の高橋芽生です。 今回のインターンではメタヒューリスティクスライブラリの開発を行いました。 コードはこちらで公開しています。 メタヒューリスティクス メタヒューリスティクスという用語には様々な意味がありますが、本稿では個々の問題に依存しない連続的な最適化のための一般的なフレームワークを指すものとします。これは関数の形が陽に与えられていない場合の最適化手法であるブラックボックス最適化の一つです。ブラックボックス最適化には、機械学習のハイパーパラメータチューニングや、音声認識システム [1]、結晶構造の解析 [2]、ソーシャルゲームの難易度・バランス調整 [3]などの応用先が知られています。多くのメタヒューリスティクスの手法では、同じバッチのスコアは互いに影響しないため、複数
Rust Web Development
This article is part of a chapter of Rust Web Development which didn't make the cut to be in the book. TL;DR When we talk about a web service, we, more often than not, mean deployed code which listens on a certain IP address and port and responds to HTTP messages. There are many steps involved for two parties to be able to communicate with each other. Application developers are mainly confronted w
GitHub - Unity-Technologies/game-programming-patterns-demo: A repo of small demos that assemble some of the well-known design patterns in Unity development to support the ebook "Level up your code with game programming patterns"
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
The new unstable version of GIMP, 2.99.2, marks the first step towards GIMP 3 based on the GTK3 user interface toolkit. Release highlights: GTK3-based user interface, with native support for Wayland and HiDPI displays. Major refactoring and cleanup Multiple layers selection More (color) space invasion Render caching available for better performance New plug-in API Plugins now possible with Python
再計算を用いたMN-Core向けコンパイラの最適化 - Preferred Networks Research & Development
私がPFNに入ってから知った、もっとも好きな技術トピックの一つである、MN-Core™向け再計算のご紹介をします。再計算(recomputation、rematerializationやcheckpointingなどのキーワードで呼ばれることもあります)は、その名の通り同じ計算を複数回することで、GPUメモリを節約するために再計算を利用するテクニックは広く知られています。PFNでも、再計算を使ったメモリ節約アルゴリズムに取り組み、実際の事業でフル活用しています。 MN-Core向けの再計算は、消費メモリ削減でなく、高速化を主目的としています。再計算で計算する量が増えるにも関わらず、高速化が達成できるというのが、私がとても面白いと思う点です。カラクリを紹介していきます。 MN-Coreは、DRAMとSRAMの二種類のメモリを持ち、使えるリソースをとにかく演算器に費やしているのが特徴のアクセラ
This is the last part in the series of blog posts showing how to set up and optimize a containerized Python development environment. The first part covered how to containerize a Python service and the best development practices for it. The second part showed how to easily set up different components that our Python application needs and how to easily manage the lifecycle of the overall project wit
MN-2が動き出しました - Preferred Networks Research & Development
先日リリースさせて頂いたとおり，MN-2の構築を行っています．MN-2は最新世代の，1024基のNVIDIA(R) V100 GPUが計算力の主力となります．現在利用しているMN-1およびMN-1bにおいて1024基のP100と512基のV100を稼動させていますが，MN-2の追加によりGPU数換算で合計2560基となり，保有計算力を大幅に強化しました．とはいえ，現時点ではKubernetesをはじめとしたソフトウェアサービススタックのセットアップ中であり，GPUは主にベンチマークを実施して状態確認を行っている段階です． PFNでリサーチャをやっている，土井裕介です．最近はリサーチ業務はあまりやっておらず，社内インフラ関係の全体の世話役のような業務が主担当になっています．今回，物理構築が一段落したのでBlogにてMN-2の概要やポイントを紹介させて頂きます． なぜMN-2を作るのか？ よく
productionやdevelopment、stagingという言葉の使い分けについて｜TechRacho by BPS株式会社
2019.12.02 productionやdevelopment、stagingという言葉の使い分けについて morimorihogeです。関東圏は雨が多い気がしますね。さむい。 さて、今年も12月ということでアドベントカレンダーの季節がやってきました。 TechRachoアドベントカレンダーでは例年弊社（BPS株式会社）で普段記事をあまり書く機会がないメンバーにも広く記事を書く機会を作ろうという企画で、エンジニアメンバーに関わらず総務や採用メンバーにも何か書いてもらうという試みをしています。 なんとなく弊社メンバーの雰囲気に触れていただければと思います。 過去のアドベントカレンダー記事は以下からどうぞ 夏のTechRachoフェア2019 TechRachoアドベントカレンダー2018 TechRachoアドベントカレンダー2017 TechRachoアドベントカレンダー2016 初回
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
My favorite C compiler flags during development
App Development with Swift 公式サイト
Open Development for Remix
Rust for web development: 2 years later
JIT development progress at Ruby 2.7
GIMP - Development release GIMP 2.99.2 is out
Containerized Python Development - Part 3 | Docker