CUDA ("Compute Unified Device Architecture", 쿠다)는 그래픽 處理 裝置 (GPU)에서 遂行하는 (竝列 處理) 알고리즘을 C 프로그래밍 言語를 비롯한 産業 標準 言語를 使用하여 作成할 수 있도록 하는 GPGPU 技術이다. CUDA는 엔비디아 가 開發해오고 있으며 이 아키텍처를 使用하려면 엔비디아 GPU와 특별한 스트림 處理 드라이버가 必要하다. CUDA는 G8X GPU로 構成된 지포스 8 시리즈級 以上에서 動作한다. CUDA 플랫폼은 컴퓨터 커널 의 實行을 爲해 GPU의 假想 命令 集合 과 竝列 演算 要素들을 直接 接近할 수 있는 소프트웨어 階層이다. ^[1]

開發者는 패스스케일 오픈64 C 컴파일러로 컴파일 된 '쿠다를 위한 C' (C言語를 엔비디아가 擴張한 것)를 使用하여 GPU 上에서 實行시킬 알고리듬을 作成할 수 있다. 쿠다 救助는 一連의 計算 인터페이스를 支援하며 이에는 OpenCL , DirectX Compute가 包含된다. C 言語가 아닌 다른 프로그래밍言語에서의 開發을 위한 래퍼(Wrapper)도 있는데, 現在 파이썬 , 펄 , 포트란 , 자바 와 매트랩 等을 위한 것들이 있다. 이러한 接近性은 竝列 프로그래밍 專門家들이 GPU 리소스를 쉽게 利用할 수 있게 해주며, 이는 그래픽스 프로그래밍의 高級 技術을 要求하였던 Direct3D 와 OpenGL 과 같은 以前 API 솔루션들과 對比된다. 또, CUDA는 OpenACC 와 OpenCL 과 같은 프로그래밍 프레임워크를 支援한다. ^[1]

最新 드라이버는 모두 必要한 쿠다 콤포넌트를 담고 있다. 쿠다는 모든 엔비디아 GPU (G8X 시리즈 以後)를 支援하며 이 對象에는 지포스 , 쿼드로 , 테슬라 製品群이 包含된다. 엔비디아는 지포스 8 시리즈를 위해 開發된 프로그램들이 修正 없이 모든 未來의 엔비디아 비디오 카드에서 實行될 것이라고 宣言하였다.

쿠다를 통해 開發者들은 쿠다 GPU 안 竝列 計算 要素 固有의 命令語 集合果 메모리에 接近할 수 있다. 쿠다를 使用하여 最新 엔비디아 GPU를 效果的으로 開放的으로 使用할 수 있다. 그러나 CPU와는 달리 GPU는 竝列 多數 코어 構造를 가지고 있고, 各 코어는 數千 스레드를 同時에 實行시킬 수 있다. 應用 프로그램이 遂行하는 作業(計算)李 이러한 竝列處理演算에 적합할 境遇, GPU를 利用함으로써 커다란 性能 向上을 期待할 수 있다.

컴퓨터 게임 業界에서는 그래픽 랜더링에 덧붙여, 그래픽 카드의 게임 物理 計算 (破片, 延期, 불, 遺體 等 物理 效果)에 使用되며, 例로는 피직스 와 불렛 이 있다. 쿠다는 그래픽이 아닌 應用 프로그램, 卽, 計算 生物學, 暗號學, 그리고 다른 分野에서 10倍 또는 그 以上의 速度 惠澤을 가져왔다. 이 한 例는 BOINC 分散 計算 클라이언트이다.

쿠다는 低水準 API와 高水準 API 모두를 提供한다. 最初의 CUDA SDK는 2007年 2月 15日에 公開되었으며 마이크로소프트 윈도우 와 리눅스 를 支援했다. OS X 支援은 2.0 버전에 追加되었다.

利點 [ 編輯 ]

쿠다가 그래픽 API를 使用하는 傳統的인 汎用 GPU에 비해 가지는 몇가지 長點은 다음과 같다.

• 흩뿌린 읽기 - 코드가 메모리의 任意 位置에서 데이터를 읽을 수 있다.
• 共有 메모리 - 쿠다는 高速 共有 메모리 地域 (16 또는 48KB 크기) 을 드러내어 스레드 間에 나눌 수 있게 해 준다. 이는 使用者 管理 캐시로 使用될 수 있는데, 텍스처 룩業을 利用하는 境遇 보다 더 빠른 帶域幅이 可能해진다.
• 디바이스 相議 읽기, 쓰기가 호스트보다 더 빠르다.
• 정수와 비트 單位 演算을 充分히 支援한다. 精髓 텍스처 룩業이 包含된다.

制限 [ 編輯 ]

• 再歸呼出, 函數 포인터 가 없는 C 言語의 下部 集合을 擴張하여 使用한다. 그러나 한個의 處理 裝置가 여러個의 쪼개진 메모리 空間에 對하여 作業하여야 하는 點이 다른 C 言語 實行 環境과 다른 點이다.
• 텍스처 랜더링은 支援 되지 않는다.
• 倍程度에 關해서는 IEEE 754 標準과 다르지 않다. 段程度에서는 非正規 값 과 信號 NaN이 支援되지 않고, IEEE 半올림 모드 가운데서는 두가지만 支援하며, 이도 命令語에 따라서 支援되는 것으로 制御 單語(Control word)에서 支援 되는 것은 아니다.(이것이 制限點인지는 論難의 對象이 될 수 있다) 그리고 나눗셈과 제곱根의 精密度가 段程度에 비해 조금 낮다.
• CPU와 GPU 사이의 버스 帶域幅과 時間 地緣에서 甁목이 發生할 수 있다.
• 스레드가 最小限 32個씩 모여서 實行되어야 最善의 性能 向上을 얻을 수 있으며, 스레드 數의 合이 數千個가 되어야 한다. 프로그램 코드에서의 分期는, 各各의 32 스레드가 같은 實行 經路를 따른다면, 性能에 큰 支障을 주지 않는다. SIMD 實行 모델은 어떠한 內在的으로 分岐하는 任務에게는 深刻한 制限이 된다. (例를 들어, 光線 追跡 加速 資料 構造)
• 쿠다 基盤 GPU는 엔비디아에서만 나온다.

支援 GPU [ 編輯 ]

CUDA 水準의 支援 GPU 및 카드이다. 엔비디아 웹사이트 도 參考할 것:

'*' - OEM 專用 製品

言語 結合 [ 編輯 ]

• 커먼 리스프 - cl-cuda
• 포트란 - FORTRAN CUDA Archived 2012年 4月 10日 - 웨이백 머신 , PGI CUDA Fortran Compiler
• F# - Alea.CUDA
• 하스켈 - Data.Array.Accelerate
• IDL - GPULib Archived 2012年 11月 7日 - 웨이백 머신
• 자바 - jCUDA , JCuda , JCublas , JCufft , CUDA4J
• 루아 - KappaCUDA
• 매스매티카 - CUDALink
• MATLAB - 竝列 컴퓨팅 툴박스, MATLAB 分散 컴퓨팅 서버, ^[2] 재킷 과 같은 他社 패키지.
• .NET - CUDA.NET , Managed CUDA , CUDAfy.NET .NET 커널 및 호스트 코드, CURAND, CUBLAS, CUFFT
• 펄 - KappaCUDA , CUDA::Minimal
• 파이썬 - Numba , NumbaPro, PyCUDA , KappaCUDA , Theano Archived 2020年 11月 8日 - 웨이백 머신
• 루비 - KappaCUDA
• R - gputools

예제 [ 編輯 ]

C++ [ 編輯 ]

이 예제는 텍스처 하나를 어떤 이미지로부터 GPU像의 行列로 읽어들인다.

cudaArray
*
 cu_array
;

texture
<
float
,
 2
>
 tex
;


// 行列 割當

cudaMallocArray
(
&
cu_array
,
 cudaCreateChannelDesc
<
float
>
(),
 width
,
 height
);


// 이미지 데이터를 行列로 複寫

cudaMemcpy
(
cu_array
,
 image
,
 width
*
height
,
 cudaMemcpyHostToDevice
);


// 行列을 텍스처에 連結한다.

cudaBindTexture
(
tex
,
 cu_array
);


// 커널을 實行한다

dim3
 blockDim
(
16
,
 16
,
 1
);

dim3
 gridDim
(
width
 /
 blockDim
.
x
,
 height
 /
 blockDim
.
y
,
 1
);

kernel
<<<
 gridDim
,
 blockDim
,
 0
 >>>
(
d_odata
,
 width
,
 height
);

cudaUnbindTexture
(
tex
);


__global__
 void
 kernel
(
float
*
 odata
,
 int
 height
,
 int
 width
)

{

   unsigned
 int
 x
 =
 blockIdx
.
x
*
blockDim
.
x
 +
 threadIdx
.
x
;

   unsigned
 int
 y
 =
 blockIdx
.
y
*
blockDim
.
y
 +
 threadIdx
.
y
;

   float
 c
 =
 texfetch
(
tex
,
 x
,
 y
);

   odata
[
y
*
width
+
x
]
 =
 c
;

}

파이썬 [ 編輯 ]

파이選 言語의 바인딩은 PyCUDA 에서 求할 수 있다.

아래 예제는 두 配列의 곱을 GPU 床에서 計算한다.

import
 pycuda.driver
 as
 drv

import
 numpy

import
 pycuda.autoinit


mod
 =
 drv
.
SourceModule
(
"""

__global__ void multiply_them(float *dest, float *a, float *b)

{

  const int i = threadIdx.x;

  dest[i] = a[i] * b[i];

}

"""
)


multiply_them
 =
 mod
.
get_function
(
"multiply_them"
)


a
 =
 numpy
.
random
.
randn
(
400
)
.
astype
(
numpy
.
float32
)

b
 =
 numpy
.
random
.
randn
(
400
)
.
astype
(
numpy
.
float32
)


dest
 =
 numpy
.
zeros_like
(
a
)

multiply_them
(

        drv
.
Out
(
dest
),
 drv
.
In
(
a
),
 drv
.
In
(
b
),

        block
=
(
400
,
1
,
1
))


print
 dest
-
a
*
b

行列 곱셈을 單純化하는 追加 파이選 바인딩 을 使用한 예제이다.

import
 numpy

from
 pycublas
 import
 CUBLASMatrix

A
 =
 CUBLASMatrix
(
 numpy
.
mat
([[
1
,
2
,
3
],[
4
,
5
,
6
]],
numpy
.
float32
)
 )

B
 =
 CUBLASMatrix
(
 numpy
.
mat
([[
2
,
3
],[
4
,
5
],[
6
,
7
]],
numpy
.
float32
)
 )

C
 =
 A
*
B

print
 C
.
np_mat
()

같이 보기 [ 編輯 ]

위키미디어 共用 에 關聯된
미디어 分類가 있습니다.

CUDA

• OpenCL
• 汎用 GPU
• 竝列 컴퓨팅
• 스트림 프로세싱
• 벌컨
• rCUDA

各州 [ 編輯 ]

1. 제이슨 샌더스, 에드워드 캔드롯 저, 박춘언 驛, 例題로 배우는 CUDA 프로그래밍(入門者를 위한 GPGPU 프로그래밍의 基礎) , ISBN   9788994774060 .
2. Farber, Rob 저, CUDA Application Design and Development , ISBN   9780123884268 .
3. Hwu, Wen-Mei 저, GPU Computing GEMs - Jade Edition , ISBN   9780123859631 .

外部 링크 [ 編輯 ]

• (英語) CUDA - 公式 웹사이트
• (英語) CUDA 커뮤니티 - 구글+
• (英語) VRAM 크기 調節 道具
• (英語) CUDA GPUs - 公式的으로 CUDA를 支援하는 裝置 目錄