디버그 빌드에서는 되는데 릴리스에서 크래시가 나요.

미정의 동작 (Undefined Behavior)일 가능성이 높습니다. 디버그 빌드는 메모리를 0으로 초기화하거나 경계 검사를 하지만, 릴리스는 최적화로 인해 UB가 즉시 크래시로 이어집니다. AddressSanitizer로 테스트하세요.

미정의 동작을 컴파일 타임에 잡을 수 있나요?

일부만 가능합니다. -Wall -Wextra로 경고를 활성화하고, Clang-Tidy, Cppcheck 같은 정적 분석 도구를 사용하세요. 하지만 대부분의 UB는 런타임에만 탐지됩니다.

미정의 동작이 있으면 항상 크래시가 나나요?

아닙니다. 때로는 정상 작동하는 것처럼 보이다가 나중에 크래시가 나거나, 잘못된 결과를 출력합니다. 이것이 UB가 위험한 이유입니다.

signed integer overflow는 미정의 동작인가요?

네. signed 정수 오버플로우는 UB입니다. unsigned는 정의된 동작 (wrapping)입니다. 금융·게임 등에서 주의해야 합니다.

UBSan은 모든 UB를 잡을 수 있나요?

대부분의 일반적인 UB를 잡지만, 데이터 레이스 (ThreadSanitizer 필요), 일부 최적화 관련 UB는 못 잡습니다. 여러 Sanitizer를 조합해서 사용하세요.

C++ 미정의 동작 (UB) 완벽 가이드 | "릴리스에서만 크래시" 원인과 해결

2026년 3월 28일 · 18분 읽기 · 수정 2026년 3월 28일 중급 문제해결

이 글의 핵심

C++ 미정의 동작 (UB) 완벽 가이드에 대해 정리한 개발 블로그 글입니다. 미정의 동작(Undefined Behavior, UB)은 C++ 표준에서 "어떤 일이 일어날지 정의하지 않은" 코드입니다. 컴파일러는 UB가 절대 일어나지 않는다고 가정하고 최적화하므로, UB가 있는 코드는 예측 불가능하게… 개념과 예제 코드를 단계적으로 다루며, 실무·학습에 참고할 수 있도록 구성했습니다. 관련…

들어가며: “디버그에서는 되는데 릴리스에서 크래시…"

"최적화를 켰더니 프로그램이 이상하게 동작해요”

미정의 동작(Undefined Behavior, UB)은 C++ 표준에서 “어떤 일이 일어날지 정의하지 않은” 코드입니다. 컴파일러는 UB가 절대 일어나지 않는다고 가정하고 최적화하므로, UB가 있는 코드는 예측 불가능하게 동작합니다.

// ❌ 미정의 동작
int arr[5] = {1, 2, 3, 4, 5};
int x = arr[10];  // 범위 밖 접근 → UB

// 가능한 결과:
// 1. 쓰레기 값 읽기
// 2. 크래시 (Segmentation Fault)
// 3. "정상" 작동 (운 좋게 유효한 메모리)
// 4. 컴파일러가 이 코드를 완전히 제거

이 글에서 다루는 것:

미정의 동작의 15가지 주요 패턴
왜 디버그에서는 되는데 릴리스에서 크래시가 나는지
UBSan으로 UB 탐지하기
컴파일러가 UB를 어떻게 최적화하는지
실전 UB 버그 사례

1. 미정의 동작이란?

정의

미정의 동작은 C++ 표준이 “이런 코드의 동작을 정의하지 않는다”고 명시한 상황입니다. 컴파일러는 UB가 절대 일어나지 않는다고 가정하고 최적화합니다.

UB의 3가지 특징

예측 불가능: 같은 코드가 실행마다 다르게 동작
컴파일러 의존적: GCC에서는 되는데 Clang에서는 크래시
최적화 의존적: -O0에서는 되는데 -O3에서는 이상하게 동작

UB vs 구현 정의 (Implementation-Defined) vs 명시되지 않음 (Unspecified)

용어	의미	예시
Undefined Behavior	표준이 정의 안 함, 무엇이든 가능	배열 범위 초과, 널 포인터 역참조
Implementation-Defined	컴파일러가 정의, 문서화됨	`sizeof(int)`, `char`의 부호
Unspecified	여러 가능성 중 하나, 문서화 안 됨	함수 인자 평가 순서

2. UB의 15가지 주요 패턴

패턴 1: 배열 범위 초과

// ❌ UB
int arr[5] = {1, 2, 3, 4, 5};
int x = arr[10];  // 범위 밖 접근

// 가능한 결과:
// - 쓰레기 값
// - 크래시
// - "정상" 작동 (다른 변수 읽기)

패턴 2: 널 포인터 역참조

// ❌ UB
int* ptr = nullptr;
int x = *ptr;  // 널 포인터 역참조

// 대부분 크래시 (Segmentation Fault)

패턴 3: 댕글링 포인터

// ❌ UB
int* ptr;
{
    int x = 42;
    ptr = &x;
}  // x 소멸
int y = *ptr;  // 댕글링 포인터 역참조

패턴 4: 초기화되지 않은 변수 읽기

// ❌ UB
int x;  // 초기화 안 함
std::cout << x << '\n';  // 쓰레기 값

// 디버그: 0 (운 좋게)
// 릴리스: 임의의 값 또는 최적화로 제거

패턴 5: signed integer overflow

// ❌ UB
int x = INT_MAX;
int y = x + 1;  // 오버플로우 → UB

// 가능한 결과:
// - INT_MIN (wrapping, 하지만 보장 안 됨)
// - 임의의 값
// - 컴파일러가 "x + 1 > x"를 항상 true로 최적화

주의: unsigned는 UB가 아닙니다 (wrapping 보장).

// ✅ 정의된 동작
unsigned int x = UINT_MAX;
unsigned int y = x + 1;  // 0 (wrapping)

패턴 6: 잘못된 캐스팅

// ❌ UB
int x = 42;
double* ptr = reinterpret_cast<double*>(&x);
double y = *ptr;  // int를 double로 읽기 → UB

패턴 7: 객체 수명 외 접근

// ❌ UB
std::string* ptr;
{
    std::string s = "hello";
    ptr = &s;
}  // s 소멸
std::cout << *ptr << '\n';  // 소멸된 객체 접근

패턴 8: 데이터 레이스 (Data Race)

// ❌ UB
int counter = 0;

void worker() {
    for (int i = 0; i < 1000000; ++i) {
        ++counter;  // 동기화 없이 공유 변수 수정
    }
}

std::thread t1(worker);
std::thread t2(worker);
t1.join();
t2.join();

// counter는 2000000이 아닐 수 있음 (UB)

패턴 9: 잘못된 delete

// ❌ UB
int* arr = new int[10];
delete arr;  // delete[] 아님!

// ❌ UB
int x = 42;
int* ptr = &x;
delete ptr;  // 스택 변수 delete

// ❌ UB
int* ptr = new int(42);
delete ptr;
delete ptr;  // 이중 해제

패턴 10: 순서 미정의 표현식

// ❌ UB
int i = 0;
int x = ++i + ++i;  // 같은 변수를 두 번 수정

// ❌ UB
int arr[10];
int i = 0;
arr[i] = i++;  // 읽기와 쓰기 순서 미정의

패턴 11: 잘못된 포인터 산술

// ❌ UB
int arr[5] = {1, 2, 3, 4, 5};
int* ptr = arr + 10;  // 범위 밖 포인터
int x = *ptr;  // 역참조 → UB

// ✅ 범위 끝 포인터는 OK (역참조만 안 하면)
int* end = arr + 5;  // OK
if (ptr != end) {
    int x = *ptr;  // 역참조는 범위 내에서만
}

패턴 12: 잘못된 정렬 (Alignment)

// ❌ UB (일부 플랫폼)
char buffer[10];
int* ptr = reinterpret_cast<int*>(buffer + 1);  // 정렬 안 맞음
int x = *ptr;  // ARM에서 Bus Error

패턴 13: 가상 함수를 생성자/소멸자에서 호출

// ❌ UB
class Base {
public:
    Base() {
        init();  // 파생 클래스의 init 호출 안 됨
    }
    virtual void init() {
        std::cout << "Base::init\n";
    }
};

class Derived : public Base {
public:
    void init() override {
        std::cout << "Derived::init\n";
    }
};

Derived d;  // "Base::init" 출력 (예상: "Derived::init")

패턴 14: 문자열 리터럴 수정

// ❌ UB
char* str = "hello";
str[0] = 'H';  // 문자열 리터럴은 읽기 전용 → UB

// ✅ 올바른 코드
char str[] = "hello";  // 배열로 복사
str[0] = 'H';  // OK

패턴 15: 잘못된 타입 punning

// ❌ UB
int x = 42;
float y = *reinterpret_cast<float*>(&x);  // strict aliasing 위반

// ✅ 올바른 방법
float y;
std::memcpy(&y, &x, sizeof(float));

3. 디버그 vs 릴리스 동작 차이

왜 디버그에서는 되는가?

디버그 빌드 (-O0):

메모리를 0으로 초기화 (쓰레기 값 방지)
경계 검사 활성화 (iterator debugging)
최적화 안 함 (코드 그대로 실행)
스택 가드 (버퍼 오버런 탐지)

// 디버그 빌드
int x;  // 0으로 초기화됨 (운 좋게)
if (x == 0) {  // true
    // ...
}

왜 릴리스에서 크래시가 나는가?

릴리스 빌드 (-O3):

메모리를 초기화하지 않음 (쓰레기 값)
경계 검사 없음 (속도 우선)
공격적 최적화 (UB 가정)
인라인·루프 언롤링 (코드 변형)

// 릴리스 빌드
int x;  // 쓰레기 값 (예: 0x12345678)
if (x == 0) {  // false
    // ...
}
// 또는 컴파일러가 "x는 초기화되지 않았으므로 이 코드는 도달 불가"로 판단해 제거

예제: 컴파일러 최적화와 UB

// ❌ UB 코드
int* ptr = nullptr;

if (ptr != nullptr) {
    *ptr = 42;
}

// 디버그: if문이 false이므로 역참조 안 함
// 릴리스: 컴파일러가 "ptr이 nullptr이면 역참조는 UB이므로, 
//         이 코드는 ptr != nullptr일 때만 실행된다"고 가정
//         → if문 제거하고 무조건 역참조 → 크래시!

4. UBSan으로 UB 탐지

컴파일 (GCC/Clang)

# UBSan 활성화
g++ -g -fsanitize=undefined -std=c++17 -o myapp main.cpp

# 실행
./myapp

탐지 가능한 UB

배열 범위 초과
널 포인터 역참조
signed integer overflow
잘못된 캐스팅
정렬 오류
초기화되지 않은 변수 (일부)

출력 예시

// 테스트 코드
int main() {
    int arr[5] = {1, 2, 3, 4, 5};
    int x = arr[10];  // UB
    return 0;
}

UBSan 출력:

main.cpp:3:13: runtime error: index 10 out of bounds for type 'int [5]'
main.cpp:3:13: runtime error: load of address 0x7ffc1234 with insufficient space
                              for an object of type 'int'
0x7ffc1234: note: pointer points here
 01 00 00 00 02 00 00 00  03 00 00 00 04 00 00 00
             ^

UBSan 옵션

# 모든 UB 체크
g++ -fsanitize=undefined main.cpp

# 특정 UB만 체크
g++ -fsanitize=bounds,null,signed-integer-overflow main.cpp

# 에러 발생 시 즉시 중단
export UBSAN_OPTIONS=halt_on_error=1

# 로그 파일로 저장
export UBSAN_OPTIONS=log_path=ubsan.log

5. 컴파일러 최적화와 UB

예제 1: 널 포인터 체크 제거

// ❌ UB 코드
void process(int* ptr) {
    *ptr = 42;  // ptr이 nullptr이면 UB
    
    if (ptr == nullptr) {  // 컴파일러: "이미 역참조했으므로 nullptr일 수 없음"
        return;            // → 이 코드 제거
    }
    
    *ptr = 99;
}

// 릴리스 빌드: if문이 제거되어 항상 *ptr = 99 실행

예제 2: signed overflow 최적화

// ❌ UB 코드
bool isPositive(int x) {
    return x + 1 > x;  // signed overflow는 UB
}

// 컴파일러: "x + 1은 항상 x보다 크다 (overflow는 UB이므로 일어나지 않음)"
// → 함수를 "return true;"로 최적화

int x = INT_MAX;
std::cout << isPositive(x) << '\n';  // 1 (예상: 0)

예제 3: 무한 루프 최적화

// ❌ UB 코드
int main() {
    int i = 0;
    while (i >= 0) {  // signed overflow는 UB
        ++i;
    }
    return 0;
}

// 컴파일러: "i는 항상 >= 0이다 (overflow는 UB)"
// → 무한 루프로 최적화, return 0 제거

6. 실전 UB 버그 사례

사례 1: 게임 서버 간헐적 크래시

증상: 플레이어가 많을 때 서버가 간헐적으로 크래시합니다.

// ❌ 버그 코드
class Player {
    int health;
public:
    void takeDamage(int damage) {
        health -= damage;
        
        if (health < 0) {  // signed underflow 가능
            health = 0;
        }
    }
    
    bool isAlive() const {
        return health > 0;
    }
};

// 문제: health가 INT_MIN 근처면 health - damage가 overflow → UB