Darknet: Open Source Neural Networks in C
Darknet is an open source neural network framework written in C and CUDA. It is fast, easy to install, and supports CPU and GPU computation. You can find the source on GitHub or you can read more about what Darknet can do right here: Installing Darknet Darknet is easy to install and run. This post will guide you through it. YOLO: Real-Time Object Detection You only look once (YOLO) is a state-of-t
File Not Found: Indiana University
File Not FoundSorry for the inconvenience, the page you requested could not be found.
PyCUDAの紹介
続・PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜 #2Preferred Networks
Modern GPU
© 2013, NVIDIA CORPORATION. All rights reserved. Code and text by Sean Baxter, NVIDIA Research. (Click here for license. Click here for contact information.) Modern GPU is code and commentary intended to promote new and productive ways of thinking about GPU computing. This project is a library, an algorithms book, a tutorial, and a best-practices guide. If you are new to CUDA, start here. If you'r
hgpu.org
In this paper, we focus on three sparse matrix operations that are relevant for machine learning applications, namely, the sparse-dense matrix multiplication (SPMM), the sampled dense-dense matrix multiplication (SDDMM), and the composition of the SDDMM with SPMM, also termed as FusedMM. We develop optimized implementations for SPMM, SDDMM, and FusedMM operations utilizing Intel oneAPI’s Explicit
Why is CUDA pinned memory so fast?
I observe substantial speedups in data transfer when I use pinned memory for CUDA data transfers. On linux, the underlying system call for achieving this is mlock. From the man page of mlock, it states that locking the page prevents it from being swapped out: mlock() locks pages in the address range starting at addr and continuing for len bytes. All pages that contain a part of the specified addre
CUDAのPinnedホストメモリ - トータル・ディスクロージャ・サイト（事実をありのままに）
Pinnedホストメモリとは CUDAの利用に適した、ページアウトしないホストメモリであり、cudaHostAllocによって新規確保、cudaHostRegisterによって既存のホストメモリをPinned化できる。cudaHostAllocによって確保されたメモリはcudaFreeHostによって解放でき、cudaHostRegisterによってPinned化されたメモリはcudaHostUnregisterによって非Pinnedホストメモリに戻せる。Pinned化したホストメモリは、GPUとの通信が高速に行えるほか、後述するMappedメモリとしても使うことができる。 Pinnedホストメモリの転送速度は、CUDA SDKに含まれる、bandwidthTestサンプルプログラムを実行すると、簡単に確認できる。 通常の非Pinnedホストメモリ使用: $ NVIDIA_GPU_Com
How to Optimize Data Transfers in CUDA C/C++ | NVIDIA Technical Blog
In the previous three posts of this CUDA C & C++ series we laid the groundwork for the major thrust of the series: how to optimize CUDA C/C++ code. In this and the following post we begin our discussion of code optimization with how to efficiently transfer data between the host and device. The peak bandwidth between the device memory and the GPU is much higher (144 GB/s on the NVIDIA Tesla C2050,
%3A_CPU%25E5%2587%25A6%25E7%2590%2586%25E3%2581%25AEStream%25E6%258A%2595%25E5%2585%25A5)
CUDA 5の新機能(3): CPU処理のStream投入 - トータル・ディスクロージャ・サイト（事実をありのままに）
この記事はRC版の情報を基にしており、リリース版では変更が有ることが分かっています。リリース版の仕様に合わせて修正していますが、古い情報が残っている可能性が有ります。 CUDAにはStreamという機能が有り、GPU計算のKernelやメモリ転送を、CPUのメインスレッドとは独立のキューで管理することができる。このStreamの機能がCUDA 5で拡張され、CPU処理をStreamに投入できるようになった。 API cudaError_t cudaStreamAddCallback(cudaStream_t, cudaStreamCallback_t, void *, unsigned int) 第1引数のStreamのキューに、第3引数を引数にした、関数ポインタである第2引数の呼び出し処理を投入する。第4引数は処理のフラグであり、CPU処理のコールバック関数を呼び出し次第ブロッキングせ
LLVM meets GPU again! - Qiita
この記事はGPGPU Advent Calendarの8日目の記事です。 LLVM meets GPU again! CUDA4.1以降のnvccは、Compute Capability 2.0以上のコードを生成する際にLLVM IRのサブセットであるNVVMを経由して最適化等を行ってから、NVIDIAの規定する中間表現であるPTXへの変換を行なっています。今年に入ってこの成果がLLVM本家にマージされ、バージョン3.2で正式にお目見えすることになりました。LLVM 3.2の正式リリースは2012/12/16と一週間ほど先に予定されていますが、リポジトリにはすでに3.2用のブランチが切られています。今回は一足先にLLVM 3.2を使用して、LLVM IRからPTXを生成してみましょう！ 歴史的な経緯 今回LLVMにマージされたNVIDIAの実装したPTXバックエンドはNVPTXと呼ばれてい
CUDA vs. Phi: Phi Programming for CUDA Developers
Currently we allow the following HTML tags in comments: Single tags These tags can be used alone and don't need an ending tag. <br> Defines a single line break <hr> Defines a horizontal line Matching tags These require an ending tag - e.g. <i>italic text</i> <a> Defines an anchor <b> Defines bold text <big> Defines big text <blockquote> Defines a long quotation <caption> Defines a table caption <c
Thrustから見る、reduceを用いたアルゴリズム実装
"The Great Day of His Wrath" by John Martin はじめに 世はまさに大並列時代。火を手にした人類が飛躍的な進化を遂げたように、並列化のパラダイムは、今まで到底不可能と思われていた速さで計算を行うことができるようになりました。 ところが、どんな手法にも欠点は存在するもので、実際に実装しようとすると非常に難しい。何故かというと、並列には並列化特有の問題が存在しており、愚直に実装してしまうとCPUより早くなってしまうどころか遅くなってしまうことだってあり得るのです。これを回避するにはGPUの内部構造についてきちんと理解をした上で、実装したいアルゴリズムそれぞれの場合に特化したコーディングを行う必要がある。 しかしよくよく考えるとおかしな話です。私たちが実装したいのはあくまで手法であり、ハードウェアではありません。なぜこのような詳細について把握する必要がある
トータル・ディスクロージャ・サイト（事実をありのままに）
このWikiは、開発の「生」データの情報開示を目的としています。 従って仕様などの情報は頻繁に更新されますので、出荷される製品の仕様とは異なる場合の方が多いです。更新された過去の情報は 履歴 から参照することが可能です。 「ベンチマーク」セクションは、おもに当社の製品で使用される事が多いアプリケーションや、新たに適用されるOSについての情報を記載します。 「技術情報」セクションは、HPCシステムズ秘蔵の技術情報を公開しています。 このサイトへのご意見はサイトへの書き込みのみでお受けいたします。また、返信の方法はサイトへの書き込みのみとさせていただきます。 このサイトの情報は、特記のないかぎり、各ページの執筆時点における状況に基づいて記述されています。執筆後に状況等が変化し、閲覧時の最新の状況とは内容が異なる可能性があることを、あらかじめご承知おきください。 注目情報！ 本日の出荷 2009
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GPU Programming in Rust: Implementing High Level Abstractions in a Systems Level Language
More modern gpu
https://github.com/iwag/mydoc/blob/master/gpu_profiler_counter.md
Using async memcopy without using cudaMallocHost/cudaHostAlloc?
The CUDA Handbook: Stream Callbacks
CUDA 4.0 - cudaHostUnregister is slow%3A_nvprof%25E3%2583%2597%25E3%2583%25AD%25E3%2583%2595%25E3%2582%25A1%25E3%2582%25A4%25E3%2583%25A9)
CUDA 5の新機能(4): nvprofプロファイラ - トータル・ディスクロージャ・サイト（事実をありのままに）