GCP を用いた高性能かつスケーラブルなオンライン予測システムの構築方法
Yaboo Oyabu, Machine Learning Specialist, Google Cloud Kazuhiro Yamasaki, Deep Learning Solution Architect, NVIDIA 概要このチュートリアルでは GCP 上で NVIDIA Tesla T4 と TensorRT Inference Server (以降 TRTIS) を用いて高性能なオンライン予測システムを構築する手順と、そのパフォーマンス計測・チューニング方法を説明します。このチュートリアルを完了すると、TensorRT に最適化された機械学習モデルが Cloud Storage に格納されます。また、 オンライン予測と負荷テストを実施するための GKE クラスタが作成されます。 本記事は Google Cloud Next 2019 Tokyo におけるセッション『GCP
Using GPGPUs with Kubernetes | Ubuntu
This post walks through the use of GPGPUs with Kubernetes and DevicePlugins. We’ll use MicroK8s for a developer workstation example and charmed K8s for a cluster since that’s a consistent multi-cloud Kubernetes approach. The various cloud CAAS offerings like GKE are also enabling GPGPU facilities so you may want to try those too. We’ll use Ubuntu as the OS because the underlying enablement for GPG
Kubernetes x AWS x GPUにハマった話 - ABEJA Tech Blog
tl;dr 長文なので3行で kubernetesとAWSとGPUは超える壁が多かった。やるならkubeadmがオススメ。 kubeadmでcloud-provider=awsの手順を後半に記載 はじめに ABEJAのサービス系インフラを管理しているインフラエンジニアの村主です。 コンテナ周りは割とECSを中心に組むことが多かったのですが、あれだけkubernetesが持ち上げられると使ってみないとな。と言うことで、新しく追加する機能はkubernetesで開発することにしました。そこにkubernetesがあったから kubernetesとAWSとGPU を組み合わせた時にすごくハマりどころが多かったので、ここに奮闘記を記載します。 まず、kubernetesを構築するためのプロビジョニングツールを何にしようか。と言うことで、特徴を知らないと工夫も出来ないので色々触ってみました。 1.
scryptがGPUに破られる時 | びりあるの研究ノート
一般的によく知られている SHA-256 や MD5 などのハッシュ関数は非常に単純な設計となっており、非力なパソコンや組み込み機器、スマフォなどでも高速に計算できます。 しかしながらその一方で、ハッシュ関数を手当たり次第に計算し、もとの入力値を復元するいわゆる「ブルートフォース攻撃」が容易であるというデメリットがあります。 特にこのような SHA-256 や MD5 といったハッシュ関数は、GPU を用いるか、もしくは専用のハードウェア (FPGA もしくは ASIC) を製作することで非常に高い効率で計算（攻撃）ができてしまうことが知られています。 そのため、GPU ないし専用ハードウェアを用いたとしても、攻撃効率の改善が難しくなるような新たなハッシュ関数がいくつか提案されています。 その中で比較的古く (2012年ごろ) に開発され、他のハッシュ関数にも影響を与えている「scrypt
第454回 Ubuntu 16.04 LTSにNVIDIA製ドライバーをインストールする3つの方法 | gihyo.jp
Ubuntu Weekly Recipe 第454回Ubuntu 16.04 LTSにNVIDIA製ドライバーをインストールする3つの方法 NVIDIAのGPUを搭載したグラフィックボードが人気です。2016年はVR・深層学習といった技術が大きく飛躍した年でした。その2016年リリースされたPascalアーキテクチャのグラフィックボードは、VRにも深層学習にも真価を発揮するとあって非常によく売れているようです。実際Pascalのおかげで、今年のNVIDIAの売上高は前年比35%アップなんて調査もあるくらいです。今回はそんなNVIDIAのGPUドライバーをUbuntuにインストールする方法を紹介します。 NVIDIA製GPUのドライバーについて Ubuntuで一般的に使われているNVIDIA製GPU向けドライバーには、次の2種類が存在します。 コミュニティ製のFLOSSなドライバー（nouv
知ったかできるパーツ基礎知識【ビデオカード編】 (1/4)
久々に自作PCに挑戦しようという人のための応援企画として毎年恒例の「アキバで恥をかかないための最新パーツ事情」を今年もお届けする。2011年から2012年にかけて、例年になく新型CPUやGPUが登場し充実した1年となった。何年かぶりにパーツショップを訪れた人は、おそらく初めて目にする製品の多さに戸惑うかもしれない。IntelかAMDか、はたまたGeForceにするかRadeonにするか。そろそろSSDの導入は？ 第3回となる今回は「ビデオカード編」をお送りする。話題の中心となるのはAMDの「Radeon HD 7000」シリーズとNVIDIAの「GeForce GTX 600」シリーズ。どちらも2012年に入り積極的に新モデルを投入しており、ゲーム用PCを組む際にはなかなか悩ましい状況となっている。現在販売中のモデルをしっかりと把握し、好みと予算に応じたベストなビデオカードを選択していこう
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
20190314 PGStrom Arrow_Fdw
NVIDIAの中の人が趣味で作ったGPUのプロファイリングツール「GPUProfiler」／CPU、メモリ、GPU、フレームバッファー、ビデオエンコード・デコードの利用率を取得【レビュー】
【1カ月集中講座】 骨まで理解するPCアーキテクチャ(GPU編) 第1回 ～固定機能からシェーダへの移り変わり