호스트에서 장치로 전송하기
입력 데이터를 GPU로 업로드합니다.
호스트에서 장치로 전송하기은(는) CoddyKit의 무료 CUDA Academy 강의입니다. 이것은 4개 중 1번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 CUDA Academy 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. CUDA Academy 강의에는 총 4개의 강의가 포함되어 있습니다.
두 메모리, 하나의 목표
데이터는 호스트 RAM에서 시작하지만, GPU는 자체 장치 메모리에 있는 숫자만 계산할 수 있습니다. 먼저 데이터를 그쪽으로 옮겨야 합니다. 🚚
cudaMemcpy 알아보기
cudaMemcpy 함수는 배달 트럭과 같습니다. 호스트 또는 장치의 한 주소에서 다른 주소로 바이트 블록을 복사합니다.
cudaMemcpy(dst, src, bytes, kind);업로드 방향
입력 데이터를 GPU로 보내려면 cudaMemcpyHostToDevice를 사용합니다. 소스는 호스트 RAM이고, 대상은 디바이스 메모리입니다.
cudaMemcpy(d_a, h_a, n*sizeof(float), cudaMemcpyHostToDevice);인자 순서가 중요합니다
memcpy와 마찬가지로 대상이 먼저 오고 소스가 그다음에 옵니다. 실수로 순서를 바꾸면 GPU 버퍼가 비어 있게 됩니다. 😬
cudaMemcpy(d_dst, h_src, bytes, cudaMemcpyHostToDevice);요소가 아닌 바이트를 세세요
크기 인자는 바이트 단위로 측정되므로, 요소 개수에 sizeof를 사용한 형식의 크기를 곱해야 합니다.
size_t bytes = n * sizeof(float);복사하기 전에 할당하세요
디바이스 포인터는 실제 GPU 메모리를 이미 가리키고 있어야 합니다. 데이터를 업로드하기 전에 항상 대상에 cudaMalloc을 사용해 할당하세요.
cudaMalloc(&d_a, bytes);
cudaMemcpy(d_a, h_a, bytes, cudaMemcpyHostToDevice);동기식 대기
일반 cudaMemcpy는 차단 방식입니다. 모든 바이트가 GPU에 안전하게 도착할 때까지 CPU 스레드가 일시 중지됩니다.
그런 다음 커널을 실행하세요
먼저 업로드하고, 그다음 계산합니다. 입력이 디바이스에 올라가면 커널이 이를 읽고 실제 작업을 시작할 수 있습니다.
cudaMemcpy(d_a, h_a, bytes, cudaMemcpyHostToDevice);
myKernel<<<blocks, threads>>>(d_a, n);크기가 일치해야 합니다
업로드하는 바이트 수가 할당한 버퍼에 맞는지 확인하세요. 예약한 공간보다 많이 복사하는 것은 흔한 오버플로 오류입니다.
반환 코드를 확인하세요
cudaMemcpy는 cudaError_t를 반환합니다. 잘못된 포인터나 크기가 실행을 손상시키지 않고 즉시 드러나도록 반환값을 확인하세요.
cudaError_t err = cudaMemcpy(d_a, h_a, bytes, cudaMemcpyHostToDevice);복사에는 비용이 듭니다
업로드할 때마다 느린 PCIe 버스를 거치므로, 디바이스에 정말 필요한 데이터만 복사하세요.
빠른 확인
CPU RAM의 입력 배열을 GPU로 보내려고 합니다. 어떤 호출이 올바를까요?
복습
cudaMemcpyHostToDevice로 데이터를 업로드하는 방법을 배웠습니다. 디바이스 버퍼를 할당하고, 대상을 먼저 지정하며, 크기를 바이트 단위로 정한 뒤 실행 전에 복사합니다. 🎉
AI 튜터와 함께 C++을(를) 배우세요 — 무료
브라우저에서 실제 코드를 작성하고 실행하며, 24/7 AI 튜터로부터 즉각적인 도움을 받고, 웹이나 앱에서 중단한 부분부터 계속 학습하세요.
- 코스
- 30
- 레슨
- 120
자주 묻는 질문
“호스트에서 장치로 전송하기” 강의는 무료인가요?
네 — “호스트에서 장치로 전송하기” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 CUDA Academy 강의 전체를 잠금 해제할 수 있습니다. CUDA Academy 강의에는 총 4개의 강의가 포함되어 있습니다.
“호스트에서 장치로 전송하기”에서 뭘 배우나요?
입력 데이터를 GPU로 업로드합니다. 브라우저에서 직접 실행하는 실습 코드로 CUDA Academy을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.
CUDA Academy을(를) 시작하는 데 경험이 필요한가요?
사전 경험은 필요하지 않습니다. CoddyKit의 CUDA Academy은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 1번째 강의입니다.
“호스트에서 장치로 전송하기” 강의는 얼마나 걸리나요?
대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.
이 CUDA Academy 강의에서 코드를 작성하고 실행할 수 있나요?
네. 모든 CUDA Academy 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.
이 강의의 모든 강의
- 호스트에서 장치로 전송하기
- 장치에서 호스트로 전송하기
- 복사 방향 열거형
- PCIe 전송 병목