AV1 비디오 코덱 차세대 표준 | 로열티 프리·SVT-AV1·FFmpeg 실전

들어가며

AV1(AOMedia Video 1)은 Alliance for Open Media(AOMedia)가 개발한 로열티 프리를 지향하는 개방형 비디오 코덱입니다. VP9·Thor·Daala 등의 기술적 요소를 계승·발전시켜 스트리밍·웹·클라우드에서 특허 로열티 부담을 줄이려는 플랫폼이 우선 채택해 왔습니다.

2026년 기준으로 YouTube의 고효율 옵션, 일부 브라우저·OS의 하드웨어 디코딩, 모바일 SoC의 AV1 디코더 탑재가 확대된 상태입니다. 반면 인코딩 비용은 여전히 설계 포인트입니다. 이 글은 AV1의 구조를 이해하고, FFmpeg에서 바로 실험할 수 있는 명령까지 연결합니다.

이 글을 읽으면

• VP9 대비 AV1의 큰 변화(예: 파티션·필터·타일)를 설명할 수 있습니다
• libaom·SVT-AV1·rav1e 선택 시 속도·품질·배포 관점을 잡을 수 있습니다
• CRF·CPU-used·타일 등으로 품질·속도를 조절하는 패턴을 익힐 수 있습니다
• 브라우저·OTT·모바일에서의 지원 현황과 리스크를 정리할 수 있습니다

---

목차

1. 코덱 개요
2. 압축 원리
3. 실전 인코딩
4. 성능 비교
5. 실무 활용 사례
6. 최적화 팁
7. 흔한 문제와 해결
8. 마무리

---

코덱 개요

역사 및 개발 배경

AV1은 2018년 AOMedia에서 AV1 스펙 1.0.0 형태로 공개된 이후, 필터·타일링·실험적 확장이 버전업을 거쳐 왔습니다. Mozilla·Google·Netflix·Amazon·Apple·Microsoft 등 다수 회사가 참여했으며, 웹 미디어와 OTT를 겨냥한 개방 라이선스가 핵심 메시지였습니다.

기술적 특징

• 슈퍼블록 분할: 128×128까지의 큰 블록에서 시작해 다양한 파티션으로 세분화합니다.
• 향상된 인트라/인터 예측: 방향 예측·합성 워프(chroma from luma 등 구현체에 따름)로 텍스처·경계에서 비트를 줄입니다.
• 적응형 루프 필터: CDEF 등 루프 복원 필터로 블록성 감소를 도모합니다(인코더·프로파일에 따라).
• 타일·서브프레임: 병렬 인코딩/디코딩과 저지연 설계에 유리합니다.

주요 프로파일 및 레벨

AV1은 프로파일(Main 등)과 레벨·티어로 비트스트림 제약을 정의합니다. 실무에서는 “어떤 브라우저/단말이 어떤 프로파일까지 지원하는가”를 제품 요구사항 문서로 받는 경우가 많습니다.

---

압축 원리

Intra / Inter 예측

• Intra: 다양한 방향 모드와 색 예측으로 I-프레임 크기를 줄입니다(장면 전환에 유리).
• Inter: 복잡한 모션을 합성 워프·오버랩 블록 등으로 다루는 요소가 포함됩니다(인코더 구현 수준에 따름).

Transform & Quantization

더 큰 변환 블록과 적응적 양자화로 주파수 계수를 압축합니다. Film grain synthesis 같은 지각 기반 도구는 저비트레이트에서 거친 질감을 모델로 대체하려는 방향(콘텐츠·플레이어 지원 필요)을 이해하면 협업이 쉬워집니다.

Entropy Coding

적응형 엔트로피 코딩으로 계수·모드 정보를 비트스트림에 담습니다. AV1은 VP9 대비 도구가 많아 디코더 복잡도도 함께 올라갑니다.

압축 파이프라인 다이어그램

flowchart LR
  subgraph src [소스]
    P[프레임 픽셀]
  end
  subgraph split [분할]
    SB[슈퍼블록]
    PART[파티션 트리]
  end
  subgraph pred2 [예측·잔차]
    IP[Intra/Inter]
    RES[잔차]
  end
  subgraph comp [압축]
    TQ2[Transform & Quantize]
    ENT[Entropy Coding]
  end
  subgraph out [출력]
    OBU[AV1 OBU Bitstream]
  end
  P --> SB
  SB --> PART
  PART --> IP
  IP --> RES
  RES --> TQ2
  TQ2 --> ENT
  ENT --> OBU

---

실전 인코딩

libaom 기반: libaom-av1 (FFmpeg에 포함된 경우)

ffmpeg -i input.mov -c:v libaom-av1 -crf 30 -b:v 0 -cpu-used 4 \
  -pix_fmt yuv420p -c:a libopus -b:a 128k output.mkv

• -cpu-used: libaom 계열에서 속도 vs 품질을 조절하는 주요 레버입니다(범위는 버전별로 확인).
• -crf: 목표 품질 모드에서 -b:v 0 조합이 흔합니다.

SVT-AV1(속도·확장성에 강점)

ffmpeg -i input.mov -c:v libsvtav1 -crf 28 -preset 6 -pix_fmt yuv420p \
  -c:a libopus -b:a 128k output.mkv

-preset 숫자 의미는 SVT-AV1 버전에 따라 달라질 수 있어 **ffmpeg -h encoder=libsvtav1**으로 확인합니다.

2-pass VBR(목표 비트레이트)

ffmpeg -i input.mov -c:v libsvtav1 -b:v 3M -maxrate 3.5M -bufsize 6M \
  -pass 1 -an -f matroska /dev/null && \
ffmpeg -i input.mov -c:v libsvtav1 -b:v 3M -maxrate 3.5M -bufsize 6M \
  -pass 2 -c:a libopus -b:a 128k output.mkv

rav1e(러스트 인코더, FFmpeg 연동 시)

배포본에 **librav1e**가 포함된 경우:

ffmpeg -i input.mov -c:v librav1e -qp 80 -speed 6 -pix_fmt yuv420p \
  -c:a libopus -b:a 128k output.mkv

QP·speed 의미는 rav1e 버전에 따라 다릅니다.

파라미터 튜닝 가이드

목표	접근
최고 품질(오프라인)	느린 preset / 낮은 cpu-used / 멀티 pass
대량 배치	SVT-AV1 + 적절한 preset, 타일로 병렬화
저지연	타일 수·GOP·B-프레임 제한(인코더별 옵션명 상이)

품질 vs 속도 트레이드오프

• AV1은 “느리게 돌리면 효율이 확 올라가는” 타입이어서 테스트 클립 30초로 preset 곡선을 먼저 그리는 것이 비용 대비 효율적입니다.
• 동일 CRF 숫자는 인코더마다 의미가 다릅니다. VMAF·시각 비교로 고정하는 것이 안전합니다.

---

성능 비교

다른 코덱과의 압축률

동일 시청 조건에서 AV1은 HEVC와 유사하거나 더 나은 비트 효율을 내는 사례가 많습니다(콘텐츠·인코더·설정 의존). H.264 대비는 대역 절감 폭이 큰 편입니다.

인코딩·디코딩 속도

• 인코딩: libaom 초기 세대는 매우 느린 편이었고, SVT-AV1과 HW 인코더가 실무 체감을 바꿨습니다.
• 디코딩: 최신 GPU·모바일 SoC는 AV1 HW 디코딩이 늘었지만, 구형 노트북은 CPU 소프트 디코딩으로 배터리 소모가 커질 수 있습니다.

하드웨어 가속 지원

• Intel: 최신 세대 AV1 디코딩(및 일부 인코딩) 지원 모델 확대
• NVIDIA: RTX 40 시리즈 등 AV1 인코딩 지원 GPU
• AMD·Apple 등도 세대별로 AV1 가속 지원 범위가 다름

FFmpeg에서 av1_nvenc 등 사용 가능 여부는 빌드 옵션·드라이버에 좌우됩니다.

---

실무 활용 사례

스트리밍 서비스 (YouTube, Netflix 등)

• YouTube는 업로드 파일을 다시 인코딩하며 AV1 트랜스코딩을 제공하는 경우가 많습니다(계정·지역·콘텐츠에 따라 UI 표기 상이).
• Netflix 등 글로벌 OTT는 AV1을 대역 절감과 디바이스 캡에 맞춰 A/B 배포하는 사례가 공개된 바 있습니다.

모바일 앱

• 최신 안드로이드·iOS는 AV1 디코딩이 하드웨어로 오는 기기가 늘었습니다. 앱 최소 지원 OS를 기준으로 코덱 폴백을 설계합니다.

웹 브라우저 지원

• Chrome·Firefox·Edge 등은 AV1 디코딩을 폭넓게 지원합니다. Safari도 버전·OS·하드웨어에 따라 AV1 경로가 개선되어 왔습니다. 실서비스는 caniuse·필드 데이터로 확인하는 것이 안전합니다.

---

최적화 팁

품질 유지하며 파일 크기 줄이기

• 소스 노이즈: 과도한 노이즈는 비트를 소모합니다. 필름 그레인은 grain 도구와의 정책을 맞춥니다.
• 해상도: 4K 원본을 1080p로 내려 배포하는 경우 VMAF 대비 비트가 크게 달라집니다.

인코딩 속도 개선

• SVT-AV1로 시작해 품질이 부족하면 preset만 조정하는 방식이 반복 실험에 유리합니다.
• 멀티 인스턴스: 클립 단위 병렬로 총 처리 시간을 줄입니다.

배치 처리 자동화

#!/usr/bin/env bash
set -euo pipefail
mkdir -p av1_out
for f in *.mp4; do
  ffmpeg -y -i "$f" -c:v libsvtav1 -crf 30 -preset 8 -pix_fmt yuv420p \
    -c:a libopus -b:a 96k "av1_out/${f%.mp4}.mkv"
done

---

흔한 문제와 해결

호환성 이슈

• “재생은 되는데 끊긴다”: 구형 PC에서 CPU 디코딩 병목일 수 있습니다. 해상도·비트레이트를 낮추거나 H.264 폴백을 제공합니다.
• 컨테이너: MP4 vs MKV vs WebM에 따라 코덱 태그·메타데이터 호환이 달라집니다. 배포 채널 스펙에 맞춥니다.

품질 저하 문제

• 빠른 preset만 올리다 보면 텍스처 붕괴가 옵니다. 동일 VMAF에서 인코딩 시간을 비교하세요.
• 10비트·HDR: 소스가 SDR인데 10비트로만 바꾼다고 HDR이 되지는 않습니다.

라이선스 고려사항

• AV1은 로열티 프리를 목표로 하는 라이선스를 전제로 설계되었지만, 조직의 법무·특허 정책에 따라 검토 절차가 필요할 수 있습니다. 인코더 바이너리 배포와 서비스 제공은 별도 과제입니다.

---

마무리

핵심 요약

• AV1은 대역 효율과 개방적 라이선스 방향 덕분에 웹·OTT에서 입지가 커졌습니다.
• 인코더 선택(SVT-AV1 vs libaom vs rav1e)과 preset·CRF·타일이 비용·품질을 가릅니다.
• 구형 단말·실시간 제약이 있으면 H.264/HEVC와 멀티 코덱이 여전히 필요합니다.

추천 사용 시나리오

• 대역 비용이 민감한 VOD, 로열티 구조를 단순화하려는 자체 플랫폼, 최신 단말 위주의 서비스에 AV1은 강력한 옵션입니다. 호환성 기준선은 H.264 가이드, 4K·HDR 저장 효율은 HEVC 가이드와 함께 비교해 결정하세요.