MP4, WebM, HEVC 중 무엇을 골라야 할까? 2025년 최종 비디오 코덱 가이드

Tech TeamDecember 8, 2025읽는 데 8기술
#file-formats#encoding-guide#video-tech#mp4-vs-webm#content-creation

비디오 코덱과 컨테이너 이해하기

개별 코덱을 살펴보기 전에 코덱컨테이너의 차이를 이해하는 것이 중요합니다. 많은 사람들이 이 두 개념을 혼동하지만, 비디오 생태계에서 완전히 다른 역할을 담당합니다.

컨테이너란?

컨테이너(MP4, MKV, WebM, MOV 등)는 본질적으로 여러 종류의 미디어 데이터를 함께 담아두는 껍데기, 즉 상자입니다. 비디오 스트림, 오디오 트랙, 자막, 메타데이터, 챕터 마커를 담을 수 있는 택배 상자라고 생각하면 됩니다. 컨테이너 포맷은 이런 요소들이 어떻게 구성되고 저장되는지를 결정하지만, 실제 영상이나 음성이 어떻게 압축되는지는 정의하지 않습니다.

코덱이란?

코덱(coder-decoder의 줄임말)은 비디오 데이터를 압축하고 압축을 푸는 실제 알고리즘입니다. H.264, H.265, VP9, AV1 같은 코덱은 영상이 얼마나 효율적으로 압축되는지, 어느 정도 화질을 유지하는지, 재생에 얼마나 많은 처리 성능이 필요한지를 결정합니다. 같은 코덱이 서로 다른 컨테이너에 담길 수도 있습니다. 예를 들어 H.264 영상은 MP4, MKV, MOV 컨테이너 어디에나 저장될 수 있습니다.

H.264(AVC): 범용 표준

Advanced Video Coding(AVC)으로도 알려진 H.264는 2003년 등장한 이후 비디오 코덱의 지배적인 위치를 지켜왔습니다. 20년이 넘은 기술임에도 모든 기기와 플랫폼에서 가장 폭넓게 지원되는 코덱입니다.

H.264의 장점

  • 범용 호환성: 스마트폰부터 스마트 TV, 게임 콘솔, 웹 브라우저까지 지난 15년간 생산된 사실상 모든 기기에서 지원
  • 하드웨어 가속: 거의 모든 최신 프로세서가 전용 H.264 디코딩 칩을 내장하고 있어 배터리 소모 없이 매끄러운 재생 가능
  • 성숙한 생태계: 방대한 문서, 도구, 문제 해결 자료 확보
  • 예측 가능한 성능: 인코딩 파라미터와 최적화 기법이 충분히 연구되어 있음
  • 특허 이슈의 명확성: 대부분의 H.264 특허가 만료되었거나 만료 진행 중이라 라이선스 부담이 적음

H.264의 한계

  • 압축 효율: 최신 코덱보다 확연히 비효율적이며, 동일 화질을 위해 2~3배 높은 비트레이트 필요
  • 해상도 제약: 기술적으로는 8K도 가능하지만 파일 크기가 지나치게 커져 현실적이지 않음
  • 제한적인 색 심도: 대부분의 구현이 8비트 색상만 지원해 HDR 콘텐츠에는 부적합
  • 대역폭 비용: 파일 크기가 커지면 대규모 환경에서 저장·스트리밍 비용 증가

H.264가 적합한 경우

호환성이 최우선이라면 H.264는 여전히 최선의 선택입니다. 클라이언트 납품물, 구형 기기에서 재생할 콘텐츠, 어차피 플랫폼이 재인코딩하는 소셜 미디어 업로드, 재생 보장이 필요한 비기술 사용자와의 영상 공유에 H.264를 사용하세요.

H.265(HEVC): 효율성의 강자

2013년 H.265로 표준화된 High Efficiency Video Coding(HEVC)은 H.264와 동일한 화질을 대략 절반의 비트레이트로 제공하거나, 같은 비트레이트에서 훨씬 나은 화질을 내도록 설계되었습니다. 이 50% 압축 개선 덕분에 4K, 8K 콘텐츠에 이상적입니다.

H.265의 장점

  • 뛰어난 압축: 동일 화질 기준 H.264 대비 25~50% 작은 파일 크기 달성
  • 고해상도 지원: 4K, 8K 이상을 현실적인 파일 크기로 다루도록 처음부터 설계됨
  • HDR 지원: 10비트, 12비트 색 심도를 기본 지원해 HDR과 광색역 콘텐츠에 필수
  • 모바일 최적화: 2017년 이후 iOS와 Android 영상 촬영의 기본 코덱
  • 미래 대응: 현재와 가까운 미래의 해상도 표준에 충분한 압축 성능

H.265의 한계

  • 복잡한 라이선스: 여러 특허 풀과 불명확한 라이선스 조건이 보급을 가로막음
  • 연산 비용: 인코딩이 H.264보다 5~10배 느리고, 구형 기기는 실시간 디코딩에 어려움
  • 브라우저 지원 공백: 웹 브라우저 지원이 제한적이며, 특히 HEVC 확장이 없는 Windows에서 취약
  • 소프트웨어 호환성: 일부 전문 편집 도구는 여전히 HEVC 지원이 미흡하거나 프록시 워크플로가 필요

H.265가 적합한 경우

H.265는 파일 크기가 가장 중요한 상황에서 빛을 발합니다. 대용량 영상 라이브러리 아카이빙, 스마트폰·카메라의 4K 촬영, 대역폭이 제한된 환경에서의 4K 스트리밍, HDR 콘텐츠 전달 등이 그렇습니다. 저장 비용이 부담되고 재생 환경을 직접 통제할 수 있는 개인 아카이빙에 특히 유용합니다.

VP9: 구글의 웹 우선 코덱

구글이 개발해 2013년 공개한 VP9는 H.265의 로열티 프리 대안으로 만들어졌습니다. 유튜브 4K 콘텐츠 대부분을 구동하는 코덱이며, Chrome 브라우저 생태계에 깊숙이 통합되어 있습니다.

VP9의 장점

  • 로열티 프리: 라이선스 비용 없이 완전히 개방된 상태로 사용 가능, 웹 서비스에 결정적
  • 웹 최적화: 인터넷 적응형 스트리밍을 위해 특별히 설계됨
  • Chrome 통합: Chromium 기반 브라우저(Chrome, Edge, Opera)에서 우수한 성능
  • 유튜브 표준: 고해상도 유튜브 영상의 기본 코덱으로, 폭넓은 콘텐츠 확보
  • 압축 품질: 특히 높은 비트레이트에서 H.265에 필적하는 효율

VP9의 한계

  • 애플의 소극적 태도: 최근까지 iOS와 Safari 지원이 제한적이었고, 여전히 애플 플랫폼에서 선호되지 않음
  • 하드웨어 지원: H.264/H.265에 비해 하드웨어 디코딩 보급률이 낮음
  • 인코딩 속도: 전용 하드웨어 없이 소프트웨어 인코딩 시 극도로 느림
  • 오프라인 사용: 호환성 문제로 다운로드 콘텐츠에는 덜 실용적

VP9가 적합한 경우

VP9는 웹 기반 비디오 플랫폼, 특히 오픈소스 솔루션을 우선하고 HEVC 라이선스를 피하려는 서비스에 이상적입니다. 웹사이트 영상 임베드, 프로그레시브 웹 앱, 주로 Chrome/Android 사용자를 대상으로 하는 서비스에 잘 맞습니다.

AV1: 차세대 코덱

2018년 Alliance for Open Media(AOMedia)가 완성한 AV1은 비디오 압축 기술의 최전선입니다. 구글, Mozilla, Microsoft, Amazon, Netflix, Intel의 지원을 받으며, 완전한 로열티 프리를 유지하면서도 HEVC보다 30% 나은 압축 효율을 제공합니다.

AV1의 장점

  • 최고 수준의 압축: H.265보다 30~50% 효율적이어서 스트리밍 비용 절감에 결정적
  • 로열티 프리: 라이선스 비용 없는 오픈소스이며 주요 기술 기업들이 후원
  • 현대적 기능: HDR, 광색역, 차세대 스트리밍 프로토콜 기본 지원
  • 업계 추진력: Netflix, 유튜브 등 스트리밍 대기업의 표준으로 빠르게 자리 잡는 중
  • 하드웨어 가속: 2021년 이후 출시 기기에는 AV1 하드웨어 디코더 탑재

AV1의 한계

  • 인코딩 시간: 소프트웨어 인코딩이 매우 느려 H.264보다 50~100배 걸리는 경우가 많음
  • 하드웨어 보급: 2025년 기준으로도 하드웨어 인코더는 여전히 드물고 비쌈
  • 기기 호환성: 구형 기기는 AV1을 디코딩할 수 없어 범용 재생에 제약
  • 툴링 성숙도: 인코딩 도구와 최적화 가이드가 아직 발전 중

AV1이 적합한 경우

AV1은 한 번 인코딩해 수백만 회 재생으로 비용을 분산할 수 있는 대규모 스트리밍 서비스의 미래입니다. 프리미엄 스트리밍 플랫폼, VOD 서비스, 향후 10년을 대비한 콘텐츠 아카이브에 이상적입니다. 개인 크리에이터라면 시청자가 최신 기기를 쓰고 긴 인코딩 시간을 감내할 수 있을 때 고려해볼 만합니다.

코덱 종합 비교

코덱 압축 효율 파일 크기(상대치) 브라우저 지원 하드웨어 디코딩 라이선스
H.264 (AVC) 기준 100% 범용 보편적 대부분 특허 만료
H.265 (HEVC) 50% 우수 50~60% 제한적(Safari, Edge) 일반적(2016년 이후) 복잡, 다수의 특허 풀
VP9 45% 우수 55~65% 양호(Chrome, Firefox) 보통(2017년 이후) 로열티 프리
AV1 65% 우수 35~45% 확대 중(최신 브라우저) 도입 초기(2021년 이후) 로열티 프리

플랫폼별 코덱 권장 사항

플랫폼마다 영상 업로드에 대한 요구 사항과 권장 사항이 다릅니다. 주요 플랫폼이 선호하는 방식은 다음과 같습니다.

유튜브

유튜브는 다양한 포맷을 받아들이지만 내부적으로 모두 트랜스코딩합니다. 업로드 시에는 처리 속도가 가장 빠른 MP4 컨테이너의 H.264를 권장합니다. 이후 유튜브가 적응형 스트리밍을 위해 H.264, VP9, AV1 버전을 자동 생성합니다. 4K 업로드라면 H.265도 허용되며, 트랜스코딩 과정에서 더 많은 화질을 보존할 수 있습니다.

틱톡

틱톡은 AAC 오디오를 포함한 H.264 MP4 파일을 강하게 선호합니다. 플랫폼이 업로드 파일을 자동 압축하므로, 1080p 해상도의 고품질 H.264로 시작해야 최종 결과물이 가장 좋습니다. 업로드 비트레이트는 8~12Mbps가 이상적입니다.

인스타그램(피드 및 스토리)

인스타그램은 최대 1080p 해상도, 30fps, 5Mbps 미만 비트레이트라는 엄격한 사양의 H.264 MP4에 최적화되어 있습니다. 이 값을 정확히 지키면 화질을 떨어뜨리는 인스타그램의 강한 압축을 피할 수 있습니다.

인스타그램 릴스

릴스는 조금 더 높은 비트레이트(최대 8Mbps)를 허용하지만 여전히 H.264 MP4가 필요합니다. 1080x1920 해상도의 세로 9:16 비율이 최적입니다.

Facebook

Facebook은 H.264와 H.265를 모두 받지만 둘 다 트랜스코딩합니다. 화질을 최대한 유지하려면 높은 비트레이트(1080p 기준 10~15Mbps)의 H.264를 사용하세요. Facebook의 인코더는 인스타그램보다 덜 공격적이므로 고품질 원본을 제공하는 것이 효과적입니다.

Twitter/X

Twitter는 MP4 또는 MOV 컨테이너의 H.264와 H.265를 지원합니다. 최대 파일 크기는 512MB이며 길이 제한은 2분 20초입니다. 1080p H.264에 6~8Mbps 비트레이트가 화질과 업로드 속도의 균형점입니다.

Vimeo

Vimeo는 코덱 측면에서 가장 유연한 플랫폼으로 H.264, H.265, VP9는 물론 ProRes까지 받습니다. 최고 화질을 원한다면 높은 비트레이트의 H.265를 업로드하거나 ProRes 워크플로를 활용하세요. Vimeo는 대부분의 플랫폼보다 화질 보존이 뛰어나 포트폴리오 작업에 이상적입니다.

하드웨어 인코딩 vs 소프트웨어 인코딩

하드웨어와 소프트웨어 인코딩 중 무엇을 선택하느냐는 인코딩 속도와 결과물 품질 모두에 큰 영향을 줍니다. 장단점을 이해하면 워크플로를 최적화할 수 있습니다.

하드웨어 인코딩

최신 CPU(Intel Quick Sync, AMD VCE)와 GPU(NVIDIA NVENC, AMD VCN)에는 전용 비디오 인코딩 칩이 들어 있습니다. 이 가속기는 CPU 사용량을 최소화하면서 소프트웨어보다 5~20배 빠르게 인코딩해 실시간 인코딩을 가능하게 합니다. 다만 하드웨어 인코더는 동일 화질에서 파일 크기가 더 크고 조정 옵션도 적습니다. 라이브 스트리밍, 화면 녹화, 빠른 내보내기, 인코딩 시간이 주요 병목인 상황에 적합합니다.

소프트웨어 인코딩

x264(H.264), x265(H.265), libvpx(VP9) 같은 소프트웨어 인코더는 최대한의 제어와 품질을 제공합니다. 정교한 분석과 멀티패스 인코딩을 통해 동일 화질에서 10~30% 작은 파일 크기를 달성할 수 있습니다. 단점은 인코딩이 극적으로 느리다는 점으로, 1시간짜리 영상이 설정에 따라 2~10시간 걸릴 수 있습니다. 최종 납품물, 아카이브용 사본, 대역폭이 제한된 배포, 비트당 품질이 최우선인 경우에 적합합니다.

하이브리드 방식

많은 전문 워크플로는 프록시와 실시간 작업에는 하드웨어 인코딩을, 최종 납품에는 소프트웨어 인코딩을 사용합니다. 중요한 지점의 품질을 지키면서 효율을 극대화하는 방법입니다.

비디오 코덱의 미래

코덱 지형은 계속 빠르게 변하고 있습니다. 하드웨어 지원이 확산되면서 AV1 도입이 가속화되고 있으며, 2027년쯤이면 웹의 지배적 코덱이 될 가능성이 큽니다. AV1 너머의 차세대 기술도 이미 개발 중입니다.

VVC(H.266)

2020년 H.266으로 표준화된 Versatile Video Coding(VVC)은 HEVC 대비 30~40%의 추가 개선을 제공합니다. 하지만 HEVC의 보급을 가로막았던 것과 동일한 라이선스 문제에 직면해 있어, 로열티 프리인 AV1과의 경쟁에서 고전할 수 있습니다.

AV2

AOMedia는 이미 AV1 대비 30% 개선을 목표로 AV2를 개발하고 있습니다. AV1의 라이선스 이점과 업계의 지지를 감안하면, AV2가 VVC보다 널리 채택될 가능성이 높습니다.

머신러닝 기반 코덱

실험 단계의 신경망 기반 코덱은 특정 용도에서 가능성을 보이고 있으며, 일부 콘텐츠 유형에서는 획기적인 압축 개선을 제공할 수 있습니다. 다만 실제 상용화까지는 아직 수년이 남았습니다.

SSDown은 다양한 포맷을 어떻게 처리하나

SSDown으로 소셜 미디어 플랫폼에서 영상을 다운로드할 때, 저희는 호환성과 품질을 우선합니다. 접근 방식은 다음과 같습니다.

우리의 최우선 목표는 다운로드한 영상이 특별한 소프트웨어나 코덱 없이 어떤 기기에서든 바로 재생되도록 하는 것입니다.

기본 포맷: H.264 MP4

대부분의 다운로드에서 SSDown은 영상의 H.264 MP4 버전을 가져옵니다. 덕분에 스마트폰, 태블릿, 컴퓨터, 스마트 TV는 물론 구형 기기까지 범용 호환성이 보장됩니다. 틱톡, 인스타그램, Twitter 영상을 다운로드하면 별도 설정 없이 기기에서 즉시 재생됩니다.

고화질 옵션

유튜브처럼 더 높은 화질 버전을 제공하는 플랫폼에서는 SSDown이 가능한 경우 VP9 또는 AV1 스트림을 가져올 수 있습니다. 이들은 호환성을 유지하기 위해 보통 MP4 또는 MKV 컨테이너로 패키징됩니다. 기기가 해당 코덱을 지원한다면 더 작은 파일 크기로 더 좋은 화질을 얻을 수 있습니다.

자동 최적화

SSDown은 소스 플랫폼에 따라 사용 가능한 최적의 포맷을 지능적으로 선택합니다. 예를 들어 유튜브 4K 콘텐츠는 종종 VP9를 사용하는데, 최대한의 화질 유지를 위해 이를 그대로 보존합니다. 짧은 소셜 미디어 클립의 경우 모든 기기에서 즉시 재생되도록 H.264를 우선합니다.

실전 권장 사항: 코덱 치트 시트

상황에 맞는 코덱을 고르기 위한 빠른 결정 가이드입니다.

  • 소셜 미디어 업로드: 항상 플랫폼 권장 비트레이트의 H.264 MP4 사용
  • 개인 영상 아카이빙: H.265로 화질을 유지하면서 저장 공간 40~50% 절약
  • 가족·친구와 공유: 재생 보장을 위해 H.264 MP4 고수
  • 웹 임베드: H.264를 기본으로 하고 최신 브라우저용 WebM(VP9)을 대체 포맷으로 제공
  • 전문 납품: 높은 비트레이트의 H.264, 또는 여러 포맷 동시 제공
  • 스트리밍 서비스: 적응형 비트레이트 전송을 위해 H.264, H.265, AV1로 인코딩
  • 4K 콘텐츠: 최소 H.265, 인코딩 시간이 허락하면 AV1 고려
  • HDR 콘텐츠: H.265 또는 AV1 필수. H.264는 HDR 메타데이터를 제대로 처리하지 못함

결론

비디오 코덱을 이해하면 화질, 파일 크기, 호환성에 대해 근거 있는 결정을 내릴 수 있습니다. H.264는 여전히 안전한 범용 선택지지만, 호환성 제약이 허용된다면 H.265와 AV1 같은 최신 코덱은 매력적인 이점을 제공합니다. 앞으로 몇 년 사이 AV1 하드웨어 지원이 보편화되면 새로운 표준으로 자리 잡아, 라이선스 장벽 없이 합리적인 파일 크기로 고화질 영상을 제공한다는 약속을 마침내 실현할 것입니다.

업로드를 최적화하는 콘텐츠 크리에이터든, 촬영본을 보관하는 영상 제작자든, 단지 다운로드한 영상이 제대로 재생되기를 바라는 사용자든, 올바른 코덱 선택은 경험과 워크플로 효율에 눈에 띄는 차이를 만듭니다.