본문으로 건너뛰기
Previous
Next
H.264(AVC) 비디오 코덱 완전 가이드 | 프로파일·FFmpeg·스트리밍 실전

H.264(AVC) 비디오 코덱 완전 가이드 | 프로파일·FFmpeg·스트리밍 실전

H.264(AVC) 비디오 코덱 완전 가이드 | 프로파일·FFmpeg·스트리밍 실전

이 글의 핵심

H.264(AVC)의 역사·압축 원리·프로파일/레벨부터 libx264·NVENC 인코딩, 품질·속도 튜닝, 스트리밍·모바일 호환까지 실무 중심으로 정리합니다.

들어가며

H.264 / AVC(Advanced Video Coding)는 2000년대 중반 이후 가장 널리 배포된 손실 압축 비디오 코덱입니다. 방송, OTT, 모바일 카메라, 화상 회의, 게임 녹화까지 거의 모든 플랫폼에서 하드웨어 디코더가 기본 탑재되어 있어, “한 번 인코딩해 두면 어디서든 재생된다”는 실무 기준이 여전히 H.264를 가리킵니다. 다만 HEVC·AV1 대비 압축 효율은 낮은 편이고, 특허·라이선스 이슈를 염두에 둔 배포 전략이 필요합니다. 이 글은 압축 파이프라인을 이해한 뒤, FFmpeg로 바로 쓸 수 있는 설정까지 연결하는 것을 목표로 합니다.

이 글을 읽으면

  • H.264의 블록 구조·프로파일·레벨을 업무 언어로 설명할 수 있습니다
  • Intra/Inter 예측 → 변환·양자화 → 엔트로피 코딩 흐름을 개념적으로 잡을 수 있습니다
  • libx264, NVENC/VAAPI 등으로 품질·속도·호환성을 균형 있게 맞출 수 있습니다
  • YouTube·모바일·브라우저 환경에서의 위치와 자주 겪는 문제를 정리할 수 있습니다

코덱 개요

역사 및 개발 배경

H.264는 ITU-T VCEGISO/IEC MPEG의 공동 프로젝트 JVT(Joint Video Team)에서 표준화되었고, MPEG-4 Part 10ITU-T H.264로 공개되었습니다. 기존 MPEG-2·MPEG-4 Part 2(예: DivX/Xvid 계열) 대비 동일 품질에서 대략 절반 이하 비트레이트를 목표로 설계되었고, 네트워크 스트리밍저지연 실시간을 염두에 둔 도구(슬라이스, 참조 프레임 등)가 풍부합니다.

기술적 특징

  • 매크로블록 기반: 일반적으로 16×16 루마 매크로블록(크로마는 서브샘플링에 따라 8×8 등) 단위로 인코딩합니다.
  • 가변 블록 크기: Inter 예측에서 16×16 ~ 4×4 파티션으로 세분화해 움직임에 맞춥니다.
  • 다중 참조·B-프레임: 과거·미래 프레임을 참조해 시간 중복을 제거합니다(프로파일에 따라 B-프레임 사용이 달라짐).
  • 인트라 예측: 4×4·16×16 모드로 공간적 상관을 활용합니다.
  • Deblocking 필터: 블록 경계 아티팩트를 완화합니다.

주요 프로파일 및 레벨

프로파일어떤 코딩 도구를 쓸 수 있는지를 제한합니다.

프로파일특징흔한 사용처
BaselineB-프레임 제한, 일부 도구 단순구형 모바일, 실시간 스트림
MainB-프레임, CABAC 등방송·일반 VOD
High8×8 변환, 더 넓은 색 정보 표현 등Blu-ray, 고품질 아카이브
레벨(Level)해상도·프레임레이트·비트레이트 상한 등 디코더 복잡도를 규격화합니다(예: Level 4.1은 1080p 고프레임에 자주 사용). 컨테이너나 단말 스펙에 맞춰 프로파일/레벨 호환을 맞추는 것이 중요합니다.

압축 원리

Intra / Inter 예측

  • Intra( I-슬라이스/프레임 ): 같은 프레임 안에서만 예측합니다. 키프레임·장면 전환 이후에 비트를 많이 씁니다.
  • Inter( P/B ): 이미 디코딩된 프레임에서 블록 단위 모션 벡터로 예측하고, 잔차(residual)만 남깁니다. 움직임이 단순할수록 비트가 줄어듭니다.

Transform & Quantization

잔차 블록은 DCT 계열 정수 변환(4×4·8×8)으로 주파수 영역으로 옮긴 뒤, 양자화(Quantization)로 고주파·작은 계수를 버리거나 줄입니다. 양자화 스텝이 크면 파일은 작아지지만 밴딩(banding)·블러가 늘어납니다. x264의 CRF(Constant Rate Factor)는 사실상 이 “품질 대 가독성” 균형을 한 숫자로 잡는 방식으로 이해하면 실무 협업이 쉬워집니다.

Entropy Coding

H.264는 CAVLC(문맥 적응 가변 길이)와 CABAC(문맥 적응 이진 산술)을 사용합니다. CABAC은 압축 효율이 더 좋지만 디코딩 부하가 조금 큽니다(Main/High에서 흔함).

압축 파이프라인 다이어그램

flowchart LR
  subgraph input [입력]
    YUV[YUV 픽셀]
  end
  subgraph pred [예측]
    Intra[Intra 예측]
    Inter[Inter 예측]
  end
  subgraph residual [잔차 처리]
    TQ[Transform & Quantize]
  end
  subgraph bits [비트스트림]
    EC[Entropy Coding]
    BS[H.264 NAL Units]
  end
  YUV --> Intra
  YUV --> Inter
  Intra --> TQ
  Inter --> TQ
  TQ --> EC
  EC --> BS

실전 인코딩

아래 예제는 FFmpeg가 설치되어 있다고 가정합니다(ffmpeg -version으로 확인).

품질 우선(아카이브): libx264 + CRF

ffmpeg -i input.mov -c:v libx264 -crf 18 -preset slow -pix_fmt yuv420p \
  -c:a aac -b:a 192k output.mp4
  • -crf: 보통 18~23(낮을수록 고품질). 방송 아카이브는 18 전후, 웹 배포는 20~23이 흔합니다.
  • -preset: ultrafast ~ veryslow. 느릴수록 같은 CRF에서 효율이 조금 좋아지는 경우가 많습니다.

목표 비트레이트(스트리밍용)

ffmpeg -i input.mov -c:v libx264 -b:v 5M -maxrate 5M -bufsize 10M \
  -pix_fmt yuv420p -c:a aac -b:a 192k output.mp4

VBR에 가깝게 쓰려면 -maxrate / -bufsize를 함께 지정하는 패턴이 많습니다.

2-pass(파일 크기·품질 예측이 중요할 때)

ffmpeg -y -i input.mov -c:v libx264 -b:v 4M -preset slow -pass 1 -an -f mp4 /dev/null
ffmpeg -i input.mov -c:v libx264 -b:v 4M -preset slow -pass 2 -c:a aac -b:a 192k output.mp4

Windows에서는 /dev/null 대신 NUL을 사용합니다.

NVIDIA NVENC(속도 우선)

ffmpeg -hwaccel cuda -i input.mov -c:v h264_nvenc -cq 23 -preset p5 \
  -pix_fmt yuv420p -c:a aac -b:a 192k output.mp4

드라이버·GPU 세대에 따라 -preset 옵션 이름이 다를 수 있으니 ffmpeg -h encoder=h264_nvenc로 확인하세요.

파라미터 튜닝 가이드

목표권장 방향
호환성 최우선-profile:v high -level 4.0, -pix_fmt yuv420p
저지연 라이브-tune zerolatency, B-프레임 줄이기, 버퍼 작게
필름·그레인 보존-tune film, CRF 약간 낮추기(그레인은 비트를 많이 먹음)
애니/평면-tune animation 검토

품질 vs 속도 트레이드오프

  • 같은 CRF에서 preset을 한 단계 느리게 하면 인코딩 시간은 늘지만 동일 품질·동일 파일 크기에 더 가까워지는 경우가 많습니다.
  • 실시간이면 하드웨어 인코더 또는 ultrafast + 적절한 비트레이트가 현실적입니다.
  • 아카이브 한 번이면 느린 preset + CRF가 장기적으로 유리한 경우가 많습니다.

성능 비교

다른 코덱과의 압축률(대략적인 경향)

동일 시각 품질 기준으로 일반적으로 HEVC > H.264, AV1 ≥ HEVC(콘텐츠·인코더에 따라 다름) 정도로 이해하면 됩니다. H.264는 기준선(baseline)으로 두고, 대역폭이 절대적으로 부족한지·디코더 호환이 가능한지로 상위 코덱을 선택합니다.

인코딩·디코딩 속도

  • 디코딩: H.264는 거의 모든 기기에서 HW 디코딩이 가능해 전력 효율이 좋습니다.
  • 인코딩: libx264는 품질 대비 매우 효율적이지만 실시간 4K에는 GPU 인코더가 자주 쓰입니다.

하드웨어 가속 지원

  • Intel: Quick Sync(h264_qsv 등, 플랫폼·FFmpeg 빌드에 따름)
  • NVIDIA: NVENC h264_nvenc
  • Apple: VideoToolbox(h264_videotoolbox)
  • AMD: AMF(h264_amf) 배포 전 목표 기기에서 실제 디코딩을 확인하세요.

실무 활용 사례

스트리밍 서비스 (YouTube, Netflix 등)

  • YouTube는 업로드 후 자체적으로 다중 코덱·해상도로 트랜스코딩합니다. 업로드 원본은 편집 코덱(ProRes 등) 또는 고비트 H.264/H.265가 흔합니다.
  • Netflix 등 대형 OTT는 HDR·다국어 자막·DRM까지 포함한 복잡한 패키징을 사용합니다. 시청 단말에 따라 H.264만 지원하는 레거시도 여전히 존재합니다.

모바일 앱

  • iOS·Android 모두 H.264 디코딩이 사실상 기본입니다. Baseline/Main으로 제한해야 하는 구형 단말이 있으면 프로파일 검증이 필요합니다.

웹 브라우저 지원

  • MP4(H.264 + AAC)거의 모든 브라우저에서 재생됩니다. Safari 포함 광범위 호환이 필요하면 H.264가 여전히 최저 위험 선택입니다.
  • WebRTC 실시간 영상에서도 H.264호환 코덱으로 자주 등장합니다.

최적화 팁

품질 유지하며 파일 크기 줄이기

  • 해상도·프레임레이트를 먼저 조정하는 것이 비트레이트 절감에 가장 큽니다.
  • 오디오는 음성만이면 AAC 96~128k, 음악 중심이면 192~256k 등으로 합리화합니다.
  • CRF + 느린 preset으로 “비트 낭비”를 줄입니다.

인코딩 속도 개선

  • 프리셋을 한두 단계 빠르게(mediumfast).
  • GPU 인코더로 전환(품질 검수 필수).
  • 해상도 스케일 다운을 인코더에서 처리(-vf scale=-2:1080).

배치 처리 자동화

#!/usr/bin/env bash
set -euo pipefail
mkdir -p out
for f in *.mov; do
  ffmpeg -y -i "$f" -c:v libx264 -crf 21 -preset medium -pix_fmt yuv420p \
    -c:a aac -b:a 160k "out/${f%.mov}.mp4"
done

Windows PowerShell에서는 for 루프·% 확장 문법이 다르므로, 동일 로직을 Get-ChildItem 기준으로 옮기면 됩니다.

흔한 문제와 해결

호환성 이슈

  • 프로파일/레벨 불일치: 구형 TV·셋톱박스는 [email protected] 등을 못 받는 경우가 있습니다. -level 4.1 등으로 낮춰 테스트합니다.
  • 픽셀 포맷: 웹·모바일 최저 호환은 대개 yuv420p입니다.

품질 저하 문제

  • 업스케일된 소스를 높은 비트레이트로 다시 인코딩해도 디테일은 돌아오지 않습니다. 원본 해상도·촬영 노출을 먼저 점검합니다.
  • 저비트레이트에서 빠른 움직임은 블로킹이 생기기 쉬워 GOP 길이·B-프레임 조정과 함께 비트레이트 자체를 올리는 것이 근본 대응인 경우가 많습니다.

라이선스 고려사항

  • H.264는 광범위한 특허가 알려져 있으며, 상용 제품·서비스내부 정책·지역·구현 방식에 따라 라이선스 검토가 필요할 수 있습니다. 오픈소스 인코더 사용만으로 모든 권리가 해결되는 것은 아닙니다.

공식 스펙 및 표준 문서

H.264/AVC 공식 표준

ITU-T H.264 | ISO/IEC 14496-10 (MPEG-4 Part 10)

공식 스펙 다운로드:

⚠️ 주의: 공식 스펙은 유료이지만, 최신 버전은 ITU-T에서 무료로 제공하기도 합니다.

읽어야 할 핵심 섹션:

섹션제목핵심 내용난이도
Section 3Definitions용어 정의 (Slice, NAL, IDR, GOP)필수
Section 7Syntax & SemanticsNAL Unit, Slice Header, Macroblock고급
Section 8Decoding Process디코더 동작 원리, 참조 프레임 관리고급
Annex AProfiles & LevelsBaseline/Main/High 프로파일, Level 정의필수
Annex BByte Stream FormatStart Code (0x000001), NAL Unit 구조중급
Annex DSEI (Supplemental Enhancement Information)메타데이터, 타이밍 정보중급

실전 활용:

입문자 (구현자):
→ Annex A (Profiles & Levels) 정독
→ FFmpeg 옵션과 매핑하며 이해

중급자 (스트리밍 엔지니어):
→ Section 7.3 (Slice Header)
→ Section 8.2 (참조 프레임 관리)
→ NAL Unit 타입 (I, P, B 프레임 구별)

고급자 (코덱 개발자):
→ Section 8 전체 (디코딩 프로세스)
→ Section 7.4 (Macroblock Prediction)
→ 참조 소프트웨어 (JM) 코드 분석

무료 참고 문서

1. H.264 개요 백서 (MPEG LA)

2. ITU-T H.264 Technical Overview

  • 검색: “ITU-T H.264 technical paper”
  • ITU에서 제공하는 무료 기술 개요서

3. JM Reference Software

4. x264 소스 코드

디버깅 도구로 스펙 이해하기

# 1. ffprobe로 H.264 스트림 분석
ffprobe -show_streams -show_format video.mp4

# 주요 확인 항목:
# - codec_name: h264
# - profile: High / Main / Baseline
# - level: 41 (= Level 4.1)
# - pix_fmt: yuv420p
# - refs: 참조 프레임 개수

# 2. NAL Unit 구조 확인
ffprobe -show_packets -show_data video.mp4 | head -n 100

# NAL Unit Type (nal_unit_type):
# 1: Non-IDR slice (P, B frame)
# 5: IDR slice (I frame, 키프레임)
# 6: SEI (메타데이터)
# 7: SPS (Sequence Parameter Set)
# 8: PPS (Picture Parameter Set)

# 3. GOP 구조 시각화
ffprobe -select_streams v:0 -show_frames -show_entries frame=pict_type video.mp4 \
  | grep pict_type | head -n 30

# 출력 예시:
# pict_type=I  ← IDR (키프레임)
# pict_type=P
# pict_type=B
# pict_type=B
# pict_type=P
# pict_type=B
# pict_type=B
# ...

# 4. 비트레이트 그래프 (bitrate.sh)
ffprobe -show_packets -select_streams v:0 video.mp4 2>&1 \
  | grep "size=" \
  | awk '{sum+=$2; print sum/1024/1024 " MB"}' \
  | head -n 100

스펙 문서와 FFmpeg 옵션 매핑

FFmpeg 옵션H.264 스펙 대응스펙 위치
-profile:v baselineConstrained Baseline ProfileAnnex A.2.1
-profile:v mainMain ProfileAnnex A.2.2
-profile:v highHigh ProfileAnnex A.2.3
-level 4.1Level 4.1 (1920×1080@30fps)Annex A.3, Table A-1
-g 60GOP Size (IDR 간격)Section 7.4.3
-bf 2B-frame 개수Section 7.4.3
-refs 3참조 프레임 개수 (max_num_ref_frames)Section 7.4.3.2
-crf 23Constant Rate Factor (비표준, x264 전용)-

마무리

핵심 요약

  • H.264는 호환성·생태계·하드웨어 디코딩 측면에서 여전히 기준 코덱입니다.
  • 실무에서는 CRF vs 목표 비트레이트, preset, 프로파일/레벨, yuv420p를 묶어서 생각하면 결과가 안정적입니다.
  • HEVC·AV1로 넘어가기 전에, 배포 대상 단말과 법무·라이선스 조건을 먼저 정하는 것이 안전합니다.

추천 사용 시나리오

  • 최대 호환 웹·모바일 배포, 라이브 스트리밍(저지연·광범위 단말), 편집 파이프라인의 중간·납품 포맷으로 H.264는 여전히 강력한 선택입니다. 대역폭이 더 중요해지면 HEVC 가이드·AV1 가이드와 함께 비교 결정하세요.

관련 글 (내부 링크)

H.264와 함께 보면 좋은 비디오 코덱 가이드입니다:

심화 부록: 구현·운영 관점

이 부록은 앞선 본문에서 다룬 주제(「H.264(AVC) 비디오 코덱 완전 가이드 | 프로파일·FFmpeg·스트리밍 실전」)를 구현·런타임·운영 관점에서 다시 압축합니다. 도메인별 세부 구현은 글마다 다르지만, 입력 검증 → 핵심 연산 → 부작용(I/O·네트워크·동시성) → 관측의 흐름으로 장애를 나누면 원인 추적이 빨라집니다.

내부 동작과 핵심 메커니즘

flowchart TD
  A[입력·요청·이벤트] --> B[파싱·검증·디코딩]
  B --> C[핵심 연산·상태 전이]
  C --> D[부작용: I/O·네트워크·동시성]
  D --> E[결과·관측·저장]
sequenceDiagram
  participant C as 클라이언트/호출자
  participant B as 경계(런타임·게이트웨이·프로세스)
  participant D as 의존성(API·DB·큐·파일)
  C->>B: 요청/이벤트
  B->>D: 조회·쓰기·RPC
  D-->>B: 지연·부분 실패·재시도 가능
  B-->>C: 응답 또는 오류(코드·상관 ID)
  • 불변 조건(Invariant): 버퍼 경계, 프로토콜 상태, 트랜잭션 격리, FD 상한 등 단계별로 문장으로 적어 두면 디버깅 비용이 줄어듭니다.
  • 결정성: 순수 층과 시간·네트워크·스케줄에 의존하는 층을 분리해야 테스트와 장애 분석이 쉬워집니다.
  • 경계 비용: 직렬화, 인코딩, syscall 횟수, 락 경합, 할당·GC, 캐시 미스를 의심 목록에 둡니다.
  • 백프레셔: 생산자가 소비자보다 빠를 때 버퍼·큐·스트림에서 속도를 줄이는 신호를 어디에 둘지 정의합니다.

프로덕션 운영 패턴

영역운영 관점 질문
관측성요청 단위 상관 ID, 에러율·지연 p95/p99, 의존성 타임아웃·재시도가 대시보드에 보이는가
안전성입력 검증·권한·비밀·감사 로그가 코드 경로마다 일관적인가
신뢰성재시도는 멱등 연산에만 적용되는가, 서킷 브레이커·백오프·DLQ가 있는가
성능캐시·배치 크기·커넥션 풀·인덱스·백프레셔가 데이터 규모에 맞는가
배포롤백 룬북, 카나리/블루그린, 마이그레이션·피처 플래그가 문서화되어 있는가
용량피크 트래픽·디스크·FD·스레드 풀 상한을 주기적으로 검증하는가

스테이징은 데이터 양·네트워크 RTT·동시성을 프로덕션에 가깝게 맞출수록 재현율이 올라갑니다.

확장 예시: 엔드투엔드 미니 시나리오

앞선 본문 주제(「H.264(AVC) 비디오 코덱 완전 가이드 | 프로파일·FFmpeg·스트리밍 실전」)를 배포·운영 흐름에 맞춰 옮긴 체크리스트입니다. 도메인에 맞게 단계 이름만 바꿔 적용할 수 있습니다.

  1. 입력 계약 고정: 스키마·버전·최대 페이로드·타임아웃·에러 코드를 경계에 둔다.
  2. 핵심 경로 계측: 요청 ID, 단계별 지연, 외부 호출 결과 코드를 로그·메트릭·트레이스에서 한 흐름으로 본다.
  3. 실패 주입: 의존성 타임아웃·5xx·부분 데이터·락 대기를 스테이징에서 재현한다.
  4. 호환·롤백: 설정/마이그레이션/클라이언트 버전을 되돌릴 수 있는지 확인한다.
  5. 부하 후 검증: 피크 대비 p95/p99, 에러율, 리소스 상한, 알림 임계값을 점검한다.
handle(request):
  ctx = newCorrelationId()
  validated = validateSchema(request)
  authorize(validated, ctx)
  result = domainCore(validated)
  persistOrEmit(result, idempotentKey)
  recordMetrics(ctx, latency, outcome)
  return result

문제 해결(Troubleshooting)

증상가능 원인조치
간헐적 실패레이스, 타임아웃, 외부 의존성, DNS최소 재현 스크립트, 분산 트레이스·로그 상관관계, 재시도·서킷 설정 점검
성능 저하N+1, 동기 I/O, 락 경합, 과도한 직렬화, 캐시 미스프로파일러·APM으로 핫스팟 확인 후 한 가지씩 제거
메모리 증가캐시 무제한, 구독/리스너 누수, 대용량 버퍼, 커넥션 미반납상한·TTL·힙/FD 스냅샷 비교
빌드·배포만 실패환경 변수, 권한, 플랫폼 차이, lockfileCI 로그와 로컬 diff, 런타임·이미지 버전 핀
설정 불일치프로필·시크릿·기본값, 리전스키마 검증된 설정 단일 소스와 배포 매트릭스 표준화
데이터 불일치비멱등 재시도, 부분 쓰기, 캐시 무효화 누락멱등 키·아웃박스·트랜잭션 경계 재검토

권장 순서: (1) 최소 재현 (2) 최근 변경 범위 축소 (3) 환경·의존성 차이 (4) 관측으로 가설 검증 (5) 수정 후 회귀·부하 테스트.

배포 전에는 git addgit commitgit pushnpm run deploy 순서를 권장합니다.


자주 묻는 질문 (FAQ)

Q. 이 내용을 실무에서 언제 쓰나요?

A. H.264(AVC)의 역사·압축 원리·프로파일/레벨부터 libx264·NVENC 인코딩, 품질·속도 튜닝, 스트리밍·모바일 호환까지 실무 중심으로 정리합니다. 비디오 코덱·H.264·AVC 중심으로 설명합니다. St… 실무에서는 위 본문의 예제와 선택 가이드를 참고해 적용하면 됩니다.

Q. 선행으로 읽으면 좋은 글은?

A. 각 글 하단의 이전 글 또는 관련 글 링크를 따라가면 순서대로 배울 수 있습니다. C++ 시리즈 목차에서 전체 흐름을 확인할 수 있습니다.

Q. 더 깊이 공부하려면?

A. cppreference와 해당 라이브러리 공식 문서를 참고하세요. 글 말미의 참고 자료 링크도 활용하면 좋습니다.


같이 보면 좋은 글 (내부 링크)

이 주제와 연결되는 다른 글입니다.


이 글에서 다루는 키워드 (관련 검색어)

비디오 코덱, H.264, AVC, MPEG-4, 인코딩, 스트리밍, FFmpeg 등으로 검색하시면 이 글이 도움이 됩니다.