목록프로그래밍/운영체제 (1)

JD의 블로그

[CUDA] MPS(Multi-Process Service)란?

GPU를 HPC 연산 등에 활용하면서 높은 성능 향상을 체감하는 동시에 한정된 자원을 좀 더 효율적으로 사용하는 연구도 진행중이다. 이전에는 소프트웨어적인 해결책이 연구되었지만, NVIDIA의 지원 아래 하드웨어적 특성을 고려한 해결방안들이 제시되고 있다. 스트림(Stream), 하이퍼 큐(Hyper-Q)를 거쳐서 제시된 MPS의 개념에 대해서 간단히 살펴보자. MPS란? MPS(Multi-Process Service)는 다수의 프로세스가 동시에 단일 GPU에서 실행되도록 해주는 런타임 서비스다. 이전에 활용된 동시 실행 방식을 살펴보면 스트림(Stream) CUDA 실행을 위한 비동기 객체로, 각 스트림에 속한 작업끼리 순차실행이 강제되지만 서로 다른 스트림끼리는 동시 실행이 가능한 방법이다. 디바이스..
프로그래밍/운영체제 2021. 10. 15. 09:18
이전 Prev 1 Next 다음