H.264 vs HEVC vs AV1 비디오 코덱 비교 | 압축·호환성·인코딩 선택 가이드

2026년 3월 30일 · 20분 읽기 · 수정 2026년 3월 30일 중급

이 글의 핵심

H.264 vs HEVC vs AV1 — 압축률·호환성·인코딩 비용을 비교하고 실무 선택 기준을 제시합니다.

들어가며

스트리밍·화상·게임 녹화·아카이브까지 비디오 코덱 선택은 품질·용량·재생 환경을 동시에 결정합니다. H.264는 여전히 기본값이고, HEVC는 고효율을, AV1은 로열티 없는 차세대 대안으로 자리 잡았습니다. 이 글에서는 세 코덱을 같은 기준으로 놓고 비교합니다.

비유로 말씀드리면, H.264는 어디서나 도는 표준 티비, HEVC는 전력은 덜 쓰지만 호환 TV를 골라야 하는 고효율 세트, AV1은 로열티 부담은 줄이고 인코딩은 무거울 수 있는 차세대 장비에 가깝습니다.

언제 H.264를, 언제 HEVC·AV1을 쓰나요?

관점	H.264 (AVC)	HEVC (H.265)	AV1
성능	디코딩 부담 낮음	동일 화질에서 비트레이트 절감	로열티·대역폭 측면에서 장기적 대안
사용성	거의 모든 단말	라이선스·기기 이슈 확인	인코딩 시간·HW 확인
적용 시나리오	최대 호환	4K·저대역폭	웹·OTT 장기 전략

이 글을 읽으면

H.264 / HEVC / AV1의 역할과 라이선스·호환성 차이를 이해합니다
동일 주관적 화질에서의 대략적인 비트레이트·인코딩 시간 관계를 파악합니다
FFmpeg로 인코딩·폴백 전략을 적용하는 방법을 익힙니다
서비스 단계(광범위 호환 vs 최신 단말)에 맞는 의사결정을 할 수 있습니다

1. 빠른 비교표

특성	H.264 (AVC)	HEVC (H.265)	AV1
표준	ITU-T H.264 / MPEG-4 AVC	ITU-T H.265 / MPEG-H	AOMedia Video 1 (AV1)
대략적 압축 효율 (동일 화질 기준)	기준(1×)	H.264 대비 약 40~50% 절감이 일반적	HEVC 대비 동급~~약 20~~30% 추가 절감이 많이 보고됨
인코딩 속도 (동일 하드웨어)	가장 빠른 편	H.264보다 느림	HEVC보다 더 느린 경우 많음 (소프트웨어)
디코딩	거의 모든 기기	최신 TV·모바일·GPU (구형은 미지원)	최신 브라우저·칩셋 (구형은 제한)
로열티	특허 풀(제품별 과금 구조 존재)	특허 풀	AOMedia 로열티 프리 (구현 시 주의사항은 별도)
대표 프로파일/용도	Baseline~High, 방송·웹·저장	Main/Main 10, 4K·HDR	8/10bit, 웹 스트리밍·VOD

2. 각 코덱 상세

H.264 (AVC)

특징: 산업 표준에 가깝고, 하드웨어 디코더 보급률이 가장 높습니다. 라이브·저지연 시나리오에서 여전히 기본 선택인 경우가 많습니다.

장점

스마트 TV, 구형 모바일, 임베디드까지 재생 호환성 최상
인코더·디코더 생태계 성숙, 실시간 인코딩 부담 상대적으로 낮음

단점

HEVC/AV1 대비 동일 화질에서 비트레이트가 큼
고해상도·HDR에서 효율 한계

FFmpeg 예제 (libx264)

ffmpeg -i input.mp4 -c:v libx264 -preset medium -crf 23 \
  -pix_fmt yuv420p -c:a aac -b:a 128k output.mp4

HEVC (H.265)

특징: H.264 대비 같은 주관적 화질에서 비트레이트를 크게 줄이는 데 초점이 맞춰져 있습니다. 4K·HDR 콘텐츠에서 널리 쓰입니다.

장점

스트리밍 대역폭·저장 비용 절감에 유리
하드웨어 가속 인코딩/디코딩이 최신 기기에서 널리 지원

단점

특허·라이선스 이슈로 구현·배포 시 벤더 정책 확인 필요
구형 브라우저·OS는 소프트웨어 디코딩 또는 미지원

FFmpeg 예제 (libx265)

ffmpeg -i input.mp4 -c:v libx265 -preset medium -crf 28 \
  -tag:v hvc1 -c:a aac -b:a 128k output.mp4

AV1

특징: Alliance for Open Media가 개발한 개방형 코덱으로, 로열티 프리를 목표로 합니다. YouTube 등 대형 스트리밍이 채택을 확대 중입니다.

장점

동일 품질 대역폭 추가 절감 가능성 (콘텐츠·설정에 따라 다름)
장기적으로 라이선스 비용 민감 서비스에 유리

단점

소프트웨어 인코딩은 CPU 부하가 큼 (하드웨어 인코더는 플랫폼별 편차)
구형 단말·브라우저는 폴백 필수

FFmpeg 예제 (libaom-av1 / libsvtav1)

# SVT-AV1: 속도와 품질 균형이 실무에서 자주 쓰임
ffmpeg -i input.mp4 -c:v libsvtav1 -preset 6 -crf 30 \
  -c:a libopus -b:a 128k output.mkv

3. 성능 비교

절대 수치는 해상도, 프레임, 콘텐츠 복잡도, 프리셋, CRF에 따라 크게 달라집니다. 아래는 같은 머신·유사 설정에서 흔히 관찰되는 상대적 경향입니다.

지표	H.264	HEVC	AV1
동일 CRF 계열에서 파일 크기	가장 큼	중간	가장 작은 경우가 많음
인코딩 시간 (소프트웨어)	짧음	중간	길음
실시간 인코딩	용이	GPU/NVENC 등에 의존	CPU 실시간은 부담 큼

시각화: 선택 의사결정 흐름

flowchart TD
  A[코덱 선택] --> B{최우선은?}
  B -->|모든 기기 재생| C[H.264]
  B -->|대역폭 절감 + 최신 기기| D[HEVC 또는 AV1]
  B -->|로열티 최소화| E[AV1 + H.264 폴백]
  C --> F[호환성 최대]
  D --> G[디코더 지원 매트릭스 확인]
  E --> H[멀티 코덱 파이프라인]

실측을 할 때: 동일 소스로 VMAF/SSIM 등 품질 지표와 인코딩 시간을 함께 기록하고, 타깃 디코더(실기기)에서 재생 테스트를 병행하는 것이 안전합니다.

4. 사용 시나리오별 추천

시나리오	추천	이유
광범위 호환 (웹·임베디드)	H.264	디코더 보급률 최상
4K/HDR VOD, 최신 TV	HEVC 또는 AV1	대역폭·저장 효율
저지연 라이브	H.264 또는 HW HEVC	인코딩 지연·안정성
장기 아카이브 + 비용	AV1 검토 + 메타데이터 보존	용량·라이선스 측면 검토
게임 녹화·편집 호환	H.264 (편집 툴·공유)	워크플로 단순화

실무 의사결정: (1) 지원 디코더 목록을 먼저 확정하고, (2) 인코딩 예산(시간·전력), (3) CDN 비용 순으로 가중치를 두면 선택이 단순해집니다.

5. 마이그레이션 가이드

H.264 → HEVC

타깃 플랫폼에서 HEVC 디코딩 지원 여부 확인 (특히 웹은 브라우저별 차이).
-tag:v hvc1(MP4) 등 컨테이너 호환 태그를 맞춥니다.
기존 사용자에게는 H.264 트랙 유지(멀티 코덱) 또는 별도 URL로 단계적 전환.

HEVC/H.264 → AV1

소프트웨어 인코딩이면 프리셋·타일 옵션으로 시간과 품질 균형 조정.
폴백: AV1 우선 재생 실패 시 H.264/HEVC로 전환하는 어댑티브 스트리밍(HLS/DASH) 구성.
구형 단말: 아카이브 원본(H.264/무압축)을 별도 보관해 재인코딩 여지를 남깁니다.

주의: 특허·배포 정책은 제품·지역별로 다르므로 법무/벤더 가이드를 반드시 확인하세요.

6. 실전 팁

혼합 파이프라인 (예: MP4 + H.264 + AAC)

호환 베이스라인: H.264 + AAC + MP4는 거의 모든 클라이언트에서 재생됩니다.
고효율 레이어: 동일 콘텐츠에 AV1 또는 HEVC 변형을 추가해 대역폭이 넉넉한 사용자에게만 제공할 수 있습니다.

폴백 전략

<video> + multiple <source> (브라우저가 지원 코덱 선택).
HLS/DASH: 코덱별 렌디션 분리, 클라이언트가 적응 선택.
서버 트랜스코딩: 원본은 마스터(예: ProRes/무손실)로 보관하고 배포용만 코덱 분기.

<video controls>
  <source src="trailer.av1.mp4" type='video/mp4; codecs="av01.0.08M.08"'>
  <source src="trailer.hevc.mp4" type='video/mp4; codecs="hev1.1.6.L93.B0"'>
  <source src="trailer.h264.mp4" type="video/mp4">
</video>

7. 흔한 질문

Q1. 같은 CRF 숫자를 H.264, HEVC, AV1에 쓰면 되나요?

아니요. 코덱마다 CRF 스케일과 주관적 화질이 다릅니다. 코덱별로 별도 튜닝하고 VMAF 등으로 맞추는 것이 좋습니다.

Q2. AV1이 항상 HEVC보다 작은 파일을 만드나요?

대체로 그 경향은 있으나, 짧은 클립·저프레임·특정 프리셋에서는 차이가 줄어들 수 있습니다. 반드시 샘플로 검증하세요.

Q3. 실시간 방송에는 무엇이 적합한가요?

저지연·안정성이 우선이면 H.264 또는 검증된 하드웨어 HEVC가 많습니다. AV1 실시간은 환경에 따라 CPU 부담이 큽니다.

Q4. iOS Safari에서 AV1은?

정책과 버전에 따라 다릅니다. 2026년 기준에도 호환 매트릭스를 공식 문서로 확인하고 H.264/HEVC 폴백을 준비하는 것이 안전합니다.

Q5. HDR을 쓰려면?

HEVC·AV1 모두 HDR 메타데이터·프로파일 조합이 복잡합니다. 타깃 플랫폼 스펙(HLG/Dolby Vision 등)에 맞춰 별도 검증이 필요합니다.

마무리

호환성 최우선이면 H.264가 여전히 가장 무난한 기본값입니다.
대역폭·저장 비용이 크면 HEVC 또는 AV1을 검토하고, 디코더 지원과 인코딩 비용을 함께 계산합니다.
AV1은 장기적으로 개방 생태계와 비용 측면에서 매력적이지만, 폴백과 인코딩 시간을 전제에 둡니다.

한 줄 정리: 모든 기기를 커버하려면 H.264를 기본으로 두고, 효율이 필요하면 HEVC/AV1을 추가 레이어로 얹는다.

H.264(AVC) 완벽 가이드
HEVC(H.265) 실전 가이드
AV1 차세대 코덱 가이드

키워드

H.264, HEVC, H.265, AV1, 비디오 코덱, 압축, FFmpeg, 스트리밍, 비교