Migrating AWS Lambda functions from the Go1.x runtime to the custom runtime on Amazon Linux 2 | Amazon Web Services
AWS Compute Blog Migrating AWS Lambda functions from the Go1.x runtime to the custom runtime on Amazon Linux 2 Update Feb 13, 2024: Support for the provided runtime family, as well as 3rd-party container images, was added in the v1.18 release of aws-lambda-go. Functions that have not had their dependencies updated since July 2020 will need to be re-compiled to prevent invocation errors when using
Huggingface transformersモデルのONNX runtimeによる推論の高速化 - Retrieva TECH BLOG
Chief Research Officerの西鳥羽 (Jiro Nishitoba (@jnishi) | Twitter) です。 今回はHugging Face TransformersのモデルのONNX runtimeで実行を試してみました。それにより特にCUDAでの実行では2.4倍近い高速化が行えました。 Hugging Face TransformersのモデルのONNX形式への変換方法から、ONNX runtimeでの実行も含めて紹介したいと思います。 ONNXとは ONNX形式への変換 ONNX形式に変換したモデルを用いて推論する ONNX形式のモデルからGPUでの推論 実験 まとめ ONNXとは ONNX とは、機械学習のモデルを表現するOpenなフォーマットです。機械学習を実現するフレームワークは数多くありますが、ONNX形式での出力をサポートしてるものも多数存在 *1
Micro-frontend Architecture: Import chunks from another Webpack bundle at runtime
Micro Frontend Architecture: Import chunks from another Webpack bundle at runtime Importing chunks from other Webpack bundles at runtime, using them as if there were always there — interleaved applications
GitHub - macaron-css/macaron: Compiled-augmented typesafe CSS-in-JS with zero runtime, colocation, maximum safety and productivity
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
When we think “a fast AOT WebAssembly compiler and runtime”, we typically think about V8, Wasmer, WasmEdge or Wasmtime. All of these have in common that they are large, complicated pieces of software, that come with a lot of overhead, and only work on a limited set of platforms. But how about transpiling WebAssembly code to C source code, and leveraging the state-of-the-art optimization passes of
Rack::RuntimeがRailsのデフォルトRackミドルウェアから削除された - おもしろwebサービス開発日記
Rack::RuntimeというRackミドルウェアがあります。これはリクエストを処理するのにかかった時間を"X-Runtime"というレスポンスヘッダに含める、というものです。コードはこれ↓ rack/runtime.rb at master · rack/rack これはRailsのデフォルトのRackミドルウェアであり、特に何もしない限り有効になっています。 このX-Runtimeが、タイミング攻撃で使われている事例があったとのことで、デフォルトから削除になりました。 Remove Rack::Runtime and deprecate referencing it · rails/rails@7bfcf4b これにより、明示的にRack::Runtimeをミドルウェアで使う宣言をしない限りはRack::Runtimeは使えなくなります(Rails7.0から)。 実際にはX-Runt
【Hummingbird, ONNX Runtime】sklearnで学習した機械学習モデルの推論処理を高速化する｜はやぶさの技術ノート
機械学習モデルの高速化については、実に様々なテクニックが存在し、高度な専門スキルを保有していないと実践できないケースもあります。 本記事の内容は sklearnで学習・推論を実践した人を対象としますが、それ以上のスキルは求めません。 sklearnの機械学習モデルを手軽に高速化する方法について紹介しますので、興味のある人は続きをどうぞ。 sklearnによる機械学習モデルの学習 今回は機械学習チュートリアルでお馴染みのirisデータセットを使い、ランダムフォレストによる分類モデルを生成します。 Import まずはimportから
2020年5月末に、 SwiftをAWS Lambdaで動作させるプロジェクトが発表された。swift-server/swift-aws-lambda-runtimeがそれである。ということで、AWS CDKでAPI GatewayとSwiftのLambda Handlerを作ってみた。 Lambda Runtime AWS Lambdaは、AWSのFaaS。提供されているランタイムを使えば、ソースコードをアップロードするだけで、関数が実行できる。提供されているランタイムはNode.jsやPython、Ruby、Java、Go、.NET Coreである（徐々に拡充されていった）。そして2018年のre:Inventで、Lambda LayerとLambda Runtime APIが発表され、swift-aws-lambda-runtimeでは、このRuntime APIを利用している。 L
GitHub - losfair/blueboat: All-in-one, multi-tenant serverless JavaScript runtime.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
[Amazon SageMaker] DLR(Deep Learning Runtime)の最新バージョン(1.4.0)をJetson Nanoで使用してみました | DevelopersIO
[Amazon SageMaker] DLR(Deep Learning Runtime)の最新バージョン(1.4.0)をJetson Nanoで使用してみました 1 はじめに CX事業本部の平内（SIN）です。 Jetson nano + Sagemaker Neoでの推論は、今まで色々試しているのですが、最新版では少し要領が変わっている部分もあり、ちょっと手間取ったので、改めて、今回作業した手順を纏めさせて頂きました。 2 JetPack 4.2 Jetpackの最新は4.4となってますが、2020/10/17現在、手元では、ライブラリの依存関係からDLRが動作できなかったため、アーカイブから4.2を使用しました。 https://developer.nvidia.com/jetpack-4_2 3 DLR 1.4 SageMaker Neoでコンパイルされたモデルで推論するためには、
![[Amazon SageMaker] DLR(Deep Learning Runtime)の最新バージョン(1.4.0)をJetson Nanoで使用してみました | DevelopersIO](https://cdn-ak-scissors.b.st-hatena.com/image/square/be008d04a8db62514ca43cd7765e62041ee423f3/height=288;version=1;width=512/https%3A%2F%2Fdevio2023-media.developers.io%2Fwp-content%2Fuploads%2F2019%2F05%2Famazon-sagemaker.png)
Open sourcing the App Engine Standard Java runtime | Google Cloud Blog
One year after Google App Engine was released in 2008, Java became the second language runtime available on the platform. Java developers were able to deploy and scale their servlet-based web applications easily, without worrying about infrastructure management. Not only Java was able to run then, but alternative JVM languages, like Apache Groovy, and Kotlin are also part of the game. Fast forward
GitHub - keiya01/react-performance-testing: A library to test runtime performance in React
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
GitHub - dtolnay/watt: Runtime for executing procedural macros as WebAssembly
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
GitHub - lunatic-solutions/lunatic: Lunatic is an Erlang-inspired runtime for WebAssembly
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
The Deno Handbook – A TypeScript Runtime Tutorial with Code Examples
I explore new projects every week, and it’s rare that one grabs my attention as much as Deno did. In this post I want to get you up to speed with Deno quickly. We'll compare it with Node.js, and build your first REST API with it. Table of contentsWhat is Deno?Why Deno? Why now?Should you learn Deno?Will it replace Node.js?First-class TypeScript supportSimilarities and differences with Node.jsNo pa
Vercel's Edge Functions are built on top of Cloudflare Workers. The runtime is d... | Hacker News
Vercel's Edge Functions are built on top of Cloudflare Workers. The runtime is designed for any similar provider, but we've chosen Cloudflare for now because they have an amazing product.
Streaming from serverless Node.js and Edge Runtime on Vercel – Vercel
Streaming for Serverless Node.js and Edge Runtimes with Vercel Functions Vercel recently became the first serverless computing provider to offer stable support for HTTP response streaming in both Node.js (Lambda) and Edge runtimes. This capability helps developers architect high-performance web applications with a focus on speed, scalability, and efficient resource usage. Let’s take a look at how
Ryan Dahl, Node.js Creator, Wants to Rebuild the Runtime of the Web
Photography: BRYAN DERBALLA Published February 9, 2023 In June 2018, Ryan Dahl took the stage at JSConf EU in Berlin, the largest nonprofit JavaScript conference in the world. Despite it being a high-profile event (and the fact that the majority of the 1,500 conference attendees had filed into this particular warehouse just to see him), Dahl wore a loose-fitting black T-shirt and jeans and kept th
実機上でInspectorとHierarchyの表示&操作が出来るRuntime Inspector & Hierarchy【Unity】【アセット】 - (:3[kanのメモ帳]
この記事でのバージョン Unity 2018.4.1f1 はじめに 今回はInspectorとHierarchyを実機上で表示し、操作まで出来てしまうアセット Runtime Inspector & Hierarchyの紹介です！しかも無料！ Runtime Inspector & Hierarchy - Asset Store イメージとしては以下のような感じで、多少見た目は違いますが、 本当にUnityエディタ上のInspectorやHierarchyと同じように使えます。 なお、記事中の画像は以下のアセットを使っております。 Corgi Engine - 2D + 2.5D Platformer - Asset Store Runtime Inspector & Hierarchy まず、導入からです。 Canvasの下にRuntimeHierarchyとRuntimeInspect
![実機上でInspectorとHierarchyの表示&操作が出来るRuntime Inspector & Hierarchy【Unity】【アセット】 - (:3[kanのメモ帳]](https://cdn-ak-scissors.b.st-hatena.com/image/square/025aae32b9b6685f40c5430b557ade9cc12642fa/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fk%2Fkan_kikuchi%2F20190709%2F20190709195251.gif)
GitHub - bytedance/monoio: Rust async runtime based on io-uring.
Monoio is a pure io_uring/epoll/kqueue Rust async runtime. Part of the design has been borrowed from Tokio and Tokio-uring. However, unlike Tokio-uring, Monoio does not run on top of another runtime, rendering it more efficient. Moreover, Monoio is designed with a thread-per-core model in mind. Users do not need to worry about tasks being Send or Sync, as thread local storage can be used safely. I
GitHub - Sandpack/nodebox-runtime: Nodebox is a runtime for executing Node.js modules in the browser.
With sandpack-bundler, we allowed any developer anywhere to instantly create a fast, local, shareable playground inside their browser, without having to wait forever to install dependencies and fight with devtools. This improves the learning, experimentation and sharing experience of client-side JavaScript code. However, server-side JavaScript remained a challenge. At CodeSandbox we have solved th
Runtime type checking in TypeScript | learning-notes
An overview of ways to add runtime type checking to TypeScript applications Why additional type checking?TypeScript only performs static type checking at compile time! The generated JavaScript, which is what actually runs when you run your code, does not know anything about the types. Works fine for type checking within your codebaseDoesn’t provide any kind of protection against malformed externa
最近Dartに興味を持ってきたので今回はDartの話をします。 今までDartはkotlinやscalaと比べてイケてないという評判を聞いて食わず嫌いしていたのですが、Flutterに採用されてから盛り返してるっぽいのを見てお盆休みで時間もあるしロゴもかっこいいしちょっと触って見ようかなと思ったのでLambdaで動くようにしてみました。 最終的な成果物はこちらにおいてあります。 デプロイしてみる ではとりあえずこの自作ランタイムを使うときの流れを見ていきます。 デプロイに必要な物は以下の通りです。 Dart Serverless Framework docker まずserverless.ymlです。 service: serverless-dart-sls custom: defaultStage: dev api_version: v0 provider: name: aws runt
JSer.info #633 - Next.js 13.2がリリースされています。 Blog - Next.js 13.2 | Next.js Next SEOをインスパイアしたMetadata APIをサポート、Route Handlers APIのサポート、MDXをServer Side Componentで利用できるようになっています。 Rustで書き直されたMDXパーサを利用できるように、<Link>のhrefが型安全に、エラーオーバーレイの改善、Turbopackの改善なども含まれています。 またTurbopackが一部のwebpack loaderのサポート、Vercel Cache APIを利用したNext.js Cacheのサポートなども含まれます。 Deno 1.31がリリースされています。 Deno 1.31: package.json support package.
Note: This blog post describes a proposed scheduler for async-std that did not end up being merged for several reasons. We still believe that the concept holds important insight and may circle back to it in the future, so we keep it online as it. async-std is a mature and stable port of the Rust standard library to its new async/await world, designed to make async programming easy, efficient, worr
Show navigation Indicium: V8 system analyzer #The past three months have been an awesome learning experience for me as I've joined the V8 team (Google London) as an intern, and have been working on a new tool called Indicium. This system analyzer is a unified web interface to trace, debug and analyse patterns of how Inline Caches (ICs) and Maps are created and modified in real-world applications.
Microsoft、WebブラウザでMLモデルを実行できる「ONNX Runtime Web」を公開：速度を犠牲にせず、ポータビリティーが向上する Microsoftはあらゆる機械学習（ML）モデルを実行できる「ONNX Runtime Web」を公開した。オープンソース推論エンジン「ONNX Runtime」の新機能だ。JavaScript開発者はMLモデルをWebブラウザで実行、デプロイできる。 Microsoftは2021年9月2日（米国時間）、「ONNX Runtime」の新機能「ONNX Runtime Web」（ORT Web）を公開した。 ORT Webを利用することで、JavaScript開発者は機械学習（ML）モデルをWebブラウザで実行、デプロイできる。さらにORT Webは、新タイプのオンデバイスコンピュテーションの実現を支援する。 ORT Webは、近いうちに非推奨
const Button = styled('button', { base: { borderRadius: 6, }, variants: { color: { neutral: { background: 'whitesmoke' }, accent: { background: 'slateblue' }, }, rounded: { true: { borderRadius: 999 }, }, }, compoundVariants: [ { variants: { color: 'neutral', rounded: true, }, style: { background: 'ghostwhite' }, }, ], defaultVariants: { color: 'accent', }, }); <Button color="neutral" rounded> Cli
Zero Runtimeが登場した背景とその目的
概要 最近何かと話題のZero Runtime CSS in JS、多くのライブラリやフレームワークが登場してきています。筆者はZero Runtimeについては、従来のCSS-in-JSはパフォーマンスが問題なので、最近ではスタイルをビルド時に作り出すアプローチが流行り始めている、といったくらいの認識しかありませんでした。 実際に従来のアプローチがなぜ問題になり始めたのか、Zero Runtimeでは何を目指しているのかいまいち掴めていないところがあったので、改めてその登場した背景や技術的なアプローチを調べてみました。 従来のCSS-in-JS CSS-in-JSライブラリと名のつくものはいくつもが登場しては廃れを繰り返していきましたが、その中でもReactコミュニティーにおいて今でも不動の地位を得ているのは間違いなく emotion そして、 styled-component でしょう
Today, we, the Tokio team, are announcing the initial release of Tokio Console (Github), enabling Rust developers to gain deeper insight into the runtime behavior of their applications. And just like that, we get to peek under the hood. —niedzejkob Tokio Console is a diagnostics and debugging tool for asynchronous Rust programs. It gives you a live, easy-to-navigate view into the program's tasks a
GitHub - wasmerio/wasmer-go: 🐹🕸️ WebAssembly runtime for Go
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
GitHub - google/highway: Performance-portable, length-agnostic SIMD with runtime dispatch
CPUs provide SIMD/vector instructions that apply the same operation to multiple data items. This can reduce energy usage e.g. fivefold because fewer instructions are executed. We also often see 5-10x speedups. Highway makes SIMD/vector programming practical and workable according to these guiding principles: Does what you expect: Highway is a C++ library with carefully-chosen functions that map we
https://blog.tensorflow.org/2020/04/tfrt-new-tensorflow-runtime.html https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEhjEwP7k7mM3L8q4tIwqNJSYw4TpNiNYr15ctGvyXozJD_cZW5-0YDCSg-dPMwN0jJeXoVN6xohn8M0jdnUprk-p6qWJrOY10-YX3CuokeJkhB5GQcOMtv_E4k5PBjyk3gfXz1fnZzKnVo/s1600/tfrtroleingraph.png April 29, 2020 — Posted by Eric Johnson, TFRT Product Manager and Mingsheng Hong, TFRT Tech Lead/Manager
Microsoftは2024年2月29日（米国時間）、オープンソースでクロスプラットフォームの機械学習（ML）モデルアクセラレータ「ONNX Runtime」の「ONNX Runtime Web」機能において、WebGPUを用いてWebブラウザ内でのMLを高速化できるようになったと発表した。 ONNX Runtimeは、さまざまなハードウェア、ドライバ、OSと互換性があり、グラフの最適化や変換に加え、ハードウェアアクセラレータを適宜活用したパフォーマンスを提供する。PyTorch、TensorFlow/Keras、TensorFlow Lite、scikit-learnなどのフレームワークのモデルで使用できる。 ONNX Runtime Webは、JavaScript APIとライブラリを使用して、WebアプリケーションでMLモデルを実行、デプロイ（展開）できる。 関連記事 「Chrome
GitHub - sparckles/Robyn: Robyn is a Super Fast Async Python Web Framework with a Rust runtime.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
[Amazon SageMaker] 最新のJetPack4.5でDLR (Deep Learning Runtime) 1.8.0を利用するための環境構築 | DevelopersIO
1 はじめに CX事業本部の平内（SIN）です。 エッジで機械学習の推論を行う場合、SageMaker Neo（モデル最適化）とJetson Nanoという組み合わせは、非常にコスパが高いと感じています。 今回は、2021/02/20 現在で最新のJetPack 4.5と、DLR(Deep Learning Runtime) 1.8.0の環境をセットアップする手順を纏めました。 2 JetPack 4.5 最新のJetPackは、下記でSDカードイメージ（jetson-nano-jp45-sd-card-image.zip 6GByte）としてダウンロードできます。 JetPack SDK セットアップ後に、jtopで確認すると、JetPackのバージョンが確認可能です。 必須では有りませんが、DLRを使用してモデルを動作させる場合、少し大きなものだと、メモリ不足で止まってしまう事があるの
GitHub - moltar/typescript-runtime-type-benchmarks: 📊 Benchmark Comparison of Packages with Runtime Validation and TypeScript Support
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Node.js 14.x runtime now available in AWS Lambda | Amazon Web Services
AWS Compute Blog Node.js 14.x runtime now available in AWS Lambda You can now develop AWS Lambda functions using the Node.js 14.x runtime. This is the current Long Term Support (LTS) version of Node.js. Start using this new version today by specifying a runtime parameter value of nodejs14.x when creating or updating functions or by using the appropriate managed runtime base image. Language Updates
Cloudflare PagesでNext.jsのEdge Runtimeがサポートされました | DevelopersIO
なお、Next.jsのデプロイにはNode.js v14以上が必要となります。環境変数でNODE_VERSIONに14以上を設定するか、プロジェクトディレクトリに.node-versionを追加してv14以上のバージョンを指定しおく必要があります。 また、2022/11/30までの限定対応ですが、設定>関数のCompatibility flagsに下記2種類を設定しておく必要もあります。 streams_enable_constructors transformstream_enable_standard_constructor 詳細については下記公式ドキュメントも参照ください。 Deploy a Next.js site · Cloudflare Pages docs 動作の確認 準備もできたところでさっそくデプロイして検証してみます。 Middlewareの動作確認 ローカル環境では問
GitHub - kuma-ui/kuma-ui: 🐻❄️ A Headless, Utility-First, and Zero-Runtime UI Component Library ✨
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
The best WebAssembly runtime may be no runtime at all | Frank DENIS random thoughts.
Swift AWS Lambda Runtimeを試す - cockscomblog?
AWS LambdaのCustom RuntimeでサーバーレスDartしてみた - Qiita
2023-02-28のJS: Next.js 13.2、Deno 1.31(`package.json`サポート)、TypeScript Runtime Validation Benchmark
async-std - Stop worrying about blocking: the new async-std runtime, inspired by Go
Indicium: V8 runtime tracer tool · V8
Microsoft、WebブラウザでMLモデルを実行できる「ONNX Runtime Web」を公開
macaron — Colocated CSS-in-JS with zero-runtime
Announcing Tokio Console 0.1 | Tokio - An asynchronous Rust runtime
TFRT: A new TensorFlow runtime
「ONNX Runtime Web」でWebGPUによるブラウザ内機械学習の高速化が可能に