C++ 스레드 풀 | 'Thread Pool' 구현 가이드
이 글의 핵심
C++ 스레드 풀 - "Thread Pool" 구현 가이드. C++ 스레드 풀의 스레드 풀이란?, 기본 구현, future 지원를 실전 코드와 함께 설명합니다.
스레드
일상 비유로 이해하기: 동시성은 주방에서 여러 요리를 동시에 하는 것과 비슷합니다. 한 명의 요리사(싱글 스레드)가 국을 끓이다가 불을 줄이고, 그 사이에 야채를 썰고, 다시 국을 확인하는 식이죠. 반면 병렬성은 요리사 여러 명(멀티 스레드)이 각자 다른 요리를 동시에 만드는 겁니다.
풀이란?
미리 생성된 스레드들로 작업을 효율적으로 처리
// 매번 스레드 생성 (비효율)
for (int i = 0; i < 1000; i++) {
thread t(task);
t.detach();
}
// 스레드 풀 (효율적)
ThreadPool pool(4);
for (int i = 0; i < 1000; i++) {
pool.enqueue(task);
}기본 구현
#include <thread>
#include <queue>
#include <functional>
#include <condition_variable>
#include <future>
class ThreadPool {
private:
vector<thread> workers;
queue<function<void()>> tasks;
mutex mtx;
condition_variable cv;
bool stop = false;
public:
ThreadPool(size_t numThreads) {
for (size_t i = 0; i < numThreads; i++) {
workers.emplace_back([this] {
while (true) {
function<void()> task;
{
unique_lock<mutex> lock(mtx);
cv.wait(lock, [this] {
return stop || !tasks.empty();
});
if (stop && tasks.empty()) {
return;
}
task = move(tasks.front());
tasks.pop();
}
task();
}
});
}
}
template<class F>
void enqueue(F&& f) {
{
unique_lock<mutex> lock(mtx);
tasks.emplace(forward<F>(f));
}
cv.notify_one();
}
~ThreadPool() {
{
unique_lock<mutex> lock(mtx);
stop = true;
}
cv.notify_all();
for (auto& worker : workers) {
worker.join();
}
}
};future 지원
class ThreadPool {
private:
vector<thread> workers;
queue<function<void()>> tasks;
mutex mtx;
condition_variable cv;
bool stop = false;
public:
ThreadPool(size_t numThreads) {
for (size_t i = 0; i < numThreads; i++) {
workers.emplace_back([this] {
while (true) {
function<void()> task;
{
unique_lock<mutex> lock(mtx);
cv.wait(lock, [this] {
return stop || !tasks.empty();
});
if (stop && tasks.empty()) {
return;
}
task = move(tasks.front());
tasks.pop();
}
task();
}
});
}
}
template<class F, class....Args>
auto enqueue(F&& f, Args&&....args)
-> future<typename result_of<F(Args...)>::type>
{
using return_type = typename result_of<F(Args...)>::type;
auto task = make_shared<packaged_task<return_type()>>(
bind(forward<F>(f), forward<Args>(args)...)
);
future<return_type> res = task->get_future();
{
unique_lock<mutex> lock(mtx);
tasks.emplace([task]() { (*task)(); });
}
cv.notify_one();
return res;
}
~ThreadPool() {
{
unique_lock<mutex> lock(mtx);
stop = true;
}
cv.notify_all();
for (auto& worker : workers) {
worker.join();
}
}
};실전 예시
예시 1: 병렬 계산
int compute(int x) {
this_thread::sleep_for(chrono::milliseconds(100));
return x * x;
}
int main() {
ThreadPool pool(4);
vector<future<int>> results;
// 작업 제출
for (int i = 0; i < 10; i++) {
results.emplace_back(pool.enqueue(compute, i));
}
// 결과 수집
for (auto& result : results) {
cout << result.get() << endl;
}
}예시 2: 파일 처리
void processFile(const string& filename) {
cout << "처리 중: " << filename << endl;
this_thread::sleep_for(chrono::milliseconds(500));
}
int main() {
ThreadPool pool(4);
vector<string> files = {
"file1.txt", "file2.txt", "file3.txt",
"file4.txt", "file5.txt", "file6.txt"
};
for (const auto& file : files) {
pool.enqueue(processFile, file);
}
// 자동으로 완료 대기 (소멸자)
}예시 3: 웹 크롤러
#include <set>
class WebCrawler {
private:
ThreadPool pool;
set<string> visited;
mutex mtx;
public:
WebCrawler(size_t numThreads) : pool(numThreads) {}
void crawl(const string& url) {
{
lock_guard<mutex> lock(mtx);
if (visited.count(url)) {
return;
}
visited.insert(url);
}
pool.enqueue([this, url]() {
cout << "크롤링: " << url << endl;
// 페이지 다운로드
this_thread::sleep_for(chrono::milliseconds(100));
// 링크 추출 (시뮬레이션)
vector<string> links = {
url + "/page1",
url + "/page2"
};
for (const auto& link : links) {
crawl(link);
}
});
}
};
int main() {
WebCrawler crawler(4);
crawler.crawl("http://example.com");
this_thread::sleep_for(chrono::seconds(2));
}예시 4: 이미지 처리
struct Image {
string filename;
int width, height;
};
Image processImage(const string& filename) {
cout << "처리 중: " << filename << endl;
this_thread::sleep_for(chrono::milliseconds(200));
return {filename, 800, 600};
}
int main() {
ThreadPool pool(4);
vector<string> images = {
"img1.jpg", "img2.jpg", "img3.jpg",
"img4.jpg", "img5.jpg", "img6.jpg"
};
vector<future<Image>> results;
for (const auto& img : images) {
results.emplace_back(pool.enqueue(processImage, img));
}
for (auto& result : results) {
Image img = result.get();
cout << img.filename << ": "
<< img.width << "x" << img.height << endl;
}
}우선순위 큐
class PriorityThreadPool {
private:
struct Task {
int priority;
function<void()> func;
bool operator<(const Task& other) const {
return priority < other.priority; // 높은 우선순위 먼저
}
};
vector<thread> workers;
priority_queue<Task> tasks;
mutex mtx;
condition_variable cv;
bool stop = false;
public:
PriorityThreadPool(size_t numThreads) {
for (size_t i = 0; i < numThreads; i++) {
workers.emplace_back([this] {
while (true) {
function<void()> task;
{
unique_lock<mutex> lock(mtx);
cv.wait(lock, [this] {
return stop || !tasks.empty();
});
if (stop && tasks.empty()) {
return;
}
task = move(tasks.top().func);
tasks.pop();
}
task();
}
});
}
}
template<class F>
void enqueue(int priority, F&& f) {
{
unique_lock<mutex> lock(mtx);
tasks.push({priority, forward<F>(f)});
}
cv.notify_one();
}
~PriorityThreadPool() {
{
unique_lock<mutex> lock(mtx);
stop = true;
}
cv.notify_all();
for (auto& worker : workers) {
worker.join();
}
}
};자주 발생하는 문제
문제 1: 데드락
C/C++ 예제 코드입니다.
// ❌ 작업이 다른 작업 대기
pool.enqueue([&pool]() {
auto f = pool.enqueue( { return 42; });
f.get(); // 데드락 가능
});
// ✅ 중첩 작업 피하기문제 2: 예외 처리
// ❌ 예외 무시
pool.enqueue( {
throw runtime_error("에러");
});
// ✅ future로 예외 전달
auto f = pool.enqueue( {
throw runtime_error("에러");
return 42;
});
try {
f.get();
} catch (const exception& e) {
cout << e.what() << endl;
}문제 3: 스레드 수
// ❌ 너무 많은 스레드
ThreadPool pool(1000); // 오버헤드
// ✅ CPU 코어 수 기반
ThreadPool pool(thread::hardware_concurrency());FAQ
Q1: 스레드 풀은 언제 사용하나요?
A:
- 많은 작은 작업
- 스레드 생성 비용 절감
- 리소스 제한
Q2: 스레드 수는?
A:
- CPU 바운드:
hardware_concurrency() - I/O 바운드: 더 많이 (2-4배)
Q3: 성능 향상은?
A: 스레드 생성/소멸 비용 제거. 작은 작업에서 큰 효과.
Q4: 우선순위는?
A: priority_queue 사용.
Q5: 작업 취소는?
A: atomic<bool> 플래그로 구현.
Q6: 스레드 풀 학습 리소스는?
A:
- “C++ Concurrency in Action”
- Boost.Asio
- “Effective Modern C++“
같이 보면 좋은 글 (내부 링크)
이 주제와 연결되는 다른 글입니다.
- C++ 멀티스레딩 | “thread/mutex” 기초 가이드
- C++ condition_variable | “조건 변수” 가이드
- C++ Expression Templates | “지연 평가” 고급 기법
관련 글
심화 부록: 구현·운영 관점
이 부록은 앞선 본문에서 다룬 주제(「C++ 스레드 풀 | ‘Thread Pool’ 구현 가이드」)를 구현·런타임·운영 관점에서 다시 압축합니다. 도메인별 세부 구현은 글마다 다르지만, 입력 검증 → 핵심 연산 → 부작용(I/O·네트워크·동시성) → 관측의 흐름으로 장애를 나누면 원인 추적이 빨라집니다.
내부 동작과 핵심 메커니즘
flowchart TD A[입력·요청·이벤트] --> B[파싱·검증·디코딩] B --> C[핵심 연산·상태 전이] C --> D[부작용: I/O·네트워크·동시성] D --> E[결과·관측·저장]
sequenceDiagram participant C as 클라이언트/호출자 participant B as 경계(런타임·게이트웨이·프로세스) participant D as 의존성(API·DB·큐·파일) C->>B: 요청/이벤트 B->>D: 조회·쓰기·RPC D-->>B: 지연·부분 실패·재시도 가능 B-->>C: 응답 또는 오류(코드·상관 ID)
- 불변 조건(Invariant): 버퍼 경계, 프로토콜 상태, 트랜잭션 격리, FD 상한 등 단계별로 문장으로 적어 두면 디버깅 비용이 줄어듭니다.
- 결정성: 순수 층과 시간·네트워크·스케줄에 의존하는 층을 분리해야 테스트와 장애 분석이 쉬워집니다.
- 경계 비용: 직렬화, 인코딩, syscall 횟수, 락 경합, 할당·GC, 캐시 미스를 의심 목록에 둡니다.
- 백프레셔: 생산자가 소비자보다 빠를 때 버퍼·큐·스트림에서 속도를 줄이는 신호를 어디에 둘지 정의합니다.
프로덕션 운영 패턴
| 영역 | 운영 관점 질문 |
|---|---|
| 관측성 | 요청 단위 상관 ID, 에러율·지연 p95/p99, 의존성 타임아웃·재시도가 대시보드에 보이는가 |
| 안전성 | 입력 검증·권한·비밀·감사 로그가 코드 경로마다 일관적인가 |
| 신뢰성 | 재시도는 멱등 연산에만 적용되는가, 서킷 브레이커·백오프·DLQ가 있는가 |
| 성능 | 캐시·배치 크기·커넥션 풀·인덱스·백프레셔가 데이터 규모에 맞는가 |
| 배포 | 롤백 룬북, 카나리/블루그린, 마이그레이션·피처 플래그가 문서화되어 있는가 |
| 용량 | 피크 트래픽·디스크·FD·스레드 풀 상한을 주기적으로 검증하는가 |
스테이징은 데이터 양·네트워크 RTT·동시성을 프로덕션에 가깝게 맞출수록 재현율이 올라갑니다.
확장 예시: 엔드투엔드 미니 시나리오
앞선 본문 주제(「C++ 스레드 풀 | ‘Thread Pool’ 구현 가이드」)를 배포·운영 흐름에 맞춰 옮긴 체크리스트입니다. 도메인에 맞게 단계 이름만 바꿔 적용할 수 있습니다.
- 입력 계약 고정: 스키마·버전·최대 페이로드·타임아웃·에러 코드를 경계에 둔다.
- 핵심 경로 계측: 요청 ID, 단계별 지연, 외부 호출 결과 코드를 로그·메트릭·트레이스에서 한 흐름으로 본다.
- 실패 주입: 의존성 타임아웃·5xx·부분 데이터·락 대기를 스테이징에서 재현한다.
- 호환·롤백: 설정/마이그레이션/클라이언트 버전을 되돌릴 수 있는지 확인한다.
- 부하 후 검증: 피크 대비 p95/p99, 에러율, 리소스 상한, 알림 임계값을 점검한다.
handle(request):
ctx = newCorrelationId()
validated = validateSchema(request)
authorize(validated, ctx)
result = domainCore(validated)
persistOrEmit(result, idempotentKey)
recordMetrics(ctx, latency, outcome)
return result문제 해결(Troubleshooting)
| 증상 | 가능 원인 | 조치 |
|---|---|---|
| 간헐적 실패 | 레이스, 타임아웃, 외부 의존성, DNS | 최소 재현 스크립트, 분산 트레이스·로그 상관관계, 재시도·서킷 설정 점검 |
| 성능 저하 | N+1, 동기 I/O, 락 경합, 과도한 직렬화, 캐시 미스 | 프로파일러·APM으로 핫스팟 확인 후 한 가지씩 제거 |
| 메모리 증가 | 캐시 무제한, 구독/리스너 누수, 대용량 버퍼, 커넥션 미반납 | 상한·TTL·힙/FD 스냅샷 비교 |
| 빌드·배포만 실패 | 환경 변수, 권한, 플랫폼 차이, lockfile | CI 로그와 로컬 diff, 런타임·이미지 버전 핀 |
| 설정 불일치 | 프로필·시크릿·기본값, 리전 | 스키마 검증된 설정 단일 소스와 배포 매트릭스 표준화 |
| 데이터 불일치 | 비멱등 재시도, 부분 쓰기, 캐시 무효화 누락 | 멱등 키·아웃박스·트랜잭션 경계 재검토 |
권장 순서: (1) 최소 재현 (2) 최근 변경 범위 축소 (3) 환경·의존성 차이 (4) 관측으로 가설 검증 (5) 수정 후 회귀·부하 테스트.
배포 전에는 git add → git commit → git push 후 npm run deploy 순서를 권장합니다.
이 글에서 다루는 키워드 (관련 검색어)
C++, thread-pool, threading, 멀티스레딩, 최적화 등으로 검색하시면 이 글이 도움이 됩니다.