성능 향상 측정하기
단순한 방식과 타일 방식의 성능을 비교합니다.
성능 향상 측정하기은(는) CoddyKit의 무료 CUDA Academy 강의입니다. 이것은 4개 중 4번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 CUDA Academy 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. CUDA Academy 강의에는 총 4개의 강의가 포함되어 있습니다.
성능 향상 입증하기
타일 기반 커널을 만들었지만, 실제로 얼마나 빨라졌을까요? 측정하면 추측이 신뢰할 수 있는 수치로 바뀝니다. 📊
GPU 시계로 시간 측정하기
커널의 실행 시간을 측정하려면 CUDA 이벤트를 사용합니다. CUDA 이벤트는 GPU 스트림에 배치되어 작업이 시작되고 끝나는 정확한 시점을 측정합니다.
cudaEvent_t start, stop;
cudaEventCreate(&start);
cudaEventCreate(&stop);커널 앞뒤 감싸기
실행 전에 이벤트 하나를 기록하고 실행 후에 또 하나를 기록한 다음, GPU의 작업이 끝날 때까지 실제로 기다리도록 동기화합니다.
cudaEventRecord(start);
matmul<<<g,b>>>(...);
cudaEventRecord(stop);
cudaEventSynchronize(stop);경과 시간 읽기
이벤트 사이의 차이를 밀리초 단위로 요청합니다. 이 하나의 수치가 측정된 커널 실행 시간입니다.
float ms;
cudaEventElapsedTime(&ms, start, stop);먼저 예열하기
최초 실행에는 일회성 설정 비용이 발생합니다. 측정 전에 예열 커널을 실행하여 시작 비용이 아닌 안정 상태의 속도를 측정합니다.
여러 번 실행해 평균 내기
한 번의 측정은 변동이 큽니다. 커널을 여러 번 측정하고 평균을 내야 안정적이고 정직한 결과를 얻을 수 있습니다.
가속비 계산하기
가속비는 단순히 단순한 커널의 시간을 타일 기반 커널의 시간으로 나눈 값입니다. 4x는 타일 기반 커널이 네 배 빠르게 실행되었다는 뜻입니다.
float speedup = naive_ms / tiled_ms;GFLOPS로 생각하기
행렬 곱셈은 약 2 * N^3회의 부동 소수점 연산을 수행합니다. 이를 실행 시간으로 나누면 표준 성능 지표인 GFLOPS로 성능을 나타낼 수 있습니다.
double gflops = (2.0*N*N*N) / (ms * 1e6);타일링이 빠른 이유
가속은 전역 메모리 트래픽을 크게 줄인 데서 나옵니다. 공유 메모리 재사용 덕분에 코어가 느린 로드를 기다리지 않고 계속 작업할 수 있습니다.
항상 정확성 확인하기
빠르지만 틀린 결과는 쓸모가 없습니다. 성능 향상을 축하하기 전에 GPU 결과를 CPU 기준 구현과 비교하세요. ✅
성능의 한계 알기
타일 기반 행렬 곱셈도 손으로 최적화한 cuBLAS에는 미치지 못합니다. 이 차이를 알면 더 최적화할지 라이브러리를 사용할지 판단할 수 있습니다.
빠른 확인
GPU 커널의 실행 시간을 측정할 때 적절한 도구를 떠올려 보세요.
복습
CUDA 이벤트로 시간을 측정하고, 예열한 뒤 평균을 내며, 가속비와 GFLOPS를 계산하고 정확성을 확인했습니다. 이제 최적화의 효과를 입증할 수 있습니다. 🏁
AI 튜터와 함께 C++을(를) 배우세요 — 무료
브라우저에서 실제 코드를 작성하고 실행하며, 24/7 AI 튜터로부터 즉각적인 도움을 받고, 웹이나 앱에서 중단한 부분부터 계속 학습하세요.
- 코스
- 30
- 레슨
- 120
자주 묻는 질문
“성능 향상 측정하기” 강의는 무료인가요?
네 — “성능 향상 측정하기” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 CUDA Academy 강의 전체를 잠금 해제할 수 있습니다. CUDA Academy 강의에는 총 4개의 강의가 포함되어 있습니다.
“성능 향상 측정하기”에서 뭘 배우나요?
단순한 방식과 타일 방식의 성능을 비교합니다. 브라우저에서 직접 실행하는 실습 코드로 CUDA Academy을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.
CUDA Academy을(를) 시작하는 데 경험이 필요한가요?
사전 경험은 필요하지 않습니다. CoddyKit의 CUDA Academy은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 4번째 강의입니다.
“성능 향상 측정하기” 강의는 얼마나 걸리나요?
대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.
이 CUDA Academy 강의에서 코드를 작성하고 실행할 수 있나요?
네. 모든 CUDA Academy 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.
이 강의의 모든 강의
- 단순한 행렬 곱셈 커널
- 내적을 타일로 나누기
- 타일 단계 반복하기
- 성능 향상 측정하기