Audio Sample Rate vs Bitrate: What You Need to Know

내가 50,000달러짜리 녹음 세션을 망친 날

프로듀서가 완벽한 테이크였어야 하는 것을 재생했을 때 느꼈던 속이 메스꺼운 기분을 잊지 못할 것입니다. 뉴욕의 스털링 사운드에서 마스터링 엔지니어로 15년을 일하면서 내가 가능한 모든 기술적 실수를 보았다고 생각했습니다. 그러나 그곳에 있었고, 완벽해 보였지만 디지털 고기를 채로 친 것처럼 들리는 파형을 바라보고 있었습니다.

아티스트는 런던에서 비행기를 타고 왔습니다. 세션 뮤지션들은 최고 수준이었습니다. 모든 것이 세계적인 스튜디오에서 깨끗한 장비로 녹음되었습니다. 그런데도 최종 믹스는 얇고 생기가 없으며 솔직히 아마추어 같았습니다. 주범? 샘플 속도와 비트 전송률을 혼동하는 단 하나의 잘못된 설정—라벨에 수만 달러의 비용을 초래하고 제 경력에서 가장 비싼 교훈을 가르쳐 준 실수였습니다.

그 재앙은 제 집착이 되었습니다. 이후 10년 동안 저는 인디 침대 recordings부터 주요 레이블 발매까지 3,000개 이상의 마스터링 프로젝트를 작업했습니다. 저는 상상할 수 있는 모든 샘플 속도와 비트 전송률의 조합을 테스트했습니다. 귀가 울리고 눈이 아플 때까지 측정하고, 분석하고, 비교했습니다. 제가 배운 것은 제 작업뿐만 아니라 디지털 오디오에 대한 생각을 완전히 변화시켰습니다.

오늘 저는 그 처참한 세션 전에 누군가가 설명해주기를 바랐던 모든 것을 공유할 것입니다. 왜냐하면 사실은: 대부분의 사람들—많은 전문가를 포함하여—샘플 속도와 비트 전송률의 관계를 근본적으로 오해하고 있기 때문입니다. 그들은 이 용어를 서로 바꿔 사용하고 신화에 따라 결정을 내리며 (혹은 더 나쁜 경우, 오디오 품질을) 실제 메커니즘을 누구도 설명해주지 않았기 때문에 저장 공간을 낭비합니다.

이것은 건조한 기술 매뉴얼이 아닐 것입니다. 제가 이 숫자들이 의미하는 바, 왜 중요한지, 그리고 여러분의 특정 상황에 맞는 지능적인 결정을 내리는 방법을 정확히 보여드리겠습니다. 여러분이 첫 번째 팟캐스트를 녹음하든, 음악을 제작하든, 아니면 단순히 왜 오디오 파일이 그렇게 큰지를 이해하려고 하든, 이 가이드는 필요한 지식을 제공할 것입니다.

샘플링 속도: 시간 자체를 포착하다

저는 제 클라이언트 중 한 명이 마침내 이것을 이해하게 해준 비유로 시작하겠습니다. 당신이 벌새를 촬영하고 있다고 상상해보세요. 1초에 한 장의 사진을 찍는다면, 당신은 새를 다양한 위치에서 포착하겠지만 날개의 움직임 대부분을 놓치게 될 것입니다. 1초에 24장의 사진을 찍으면 (표준 영화처럼), 움직임을 볼 수 있지만 여전히 뚝뚝 끊기는 것처럼 보일 수 있습니다. 1초에 1,000장의 사진을 찍으면 갑자기 그 날개의 움직임의 모든 세부 사항을 볼 수 있습니다.

"샘플링 속도는 시간을 얼마나 정확하게 포착하는지를 결정하고, 비트 전송률은 진폭을 얼마나 정확하게 포착하는지를 결정합니다. 이를 혼동하면 온도계를 사용하여 거리를 측정하는 것입니다."

샘플링 속도는 정확히 같은 방식으로 작동하지만, 시간에 걸쳐 이미지를 포착하는 대신 시간에 걸쳐 음압 수준을 포착합니다. 우리가 디지털 오디오를 녹음할 때, 우리는 소리 파형의 스냅샷(샘플)을 매초 수천 번 찍고 있습니다. 샘플링 속도는 우리가 몇 개의 이러한 스냅샷을 찍고 있는지 알려줍니다.

표준 CD 품질 샘플링 속도는 44,100 Hz(또는 44.1 kHz)로, 매초 44,100개의 샘플을 찍는 것을 의미합니다. 왜 이 특정 숫자일까요? 이는 정확한 주파수를 재현하기 위해서는 최소한 그 주파수의 두 배로 샘플링해야 한다는 나이퀴스트-샤넌 샘플링 정리에 기반하고 있습니다. 인간의 청각이 약 20 kHz에 도달하는 점을 고려할 때, 최소 40 kHz의 샘플링 속도가 필요합니다. 추가적인 4.1 kHz는 필터와 처리용의 여유 공간을 제공합니다.

저의 마스터링 작업에서는 정기적으로 48 kHz(비디오 표준), 96 kHz(고해상도 오디오), 때때로 192 kHz(오디오파일 영역)의 파일을 만납니다. 직접 A/B 테스트를 통해 배운 바는 다음과 같습니다: 최종 재생에서 44.1 kHz와 48 kHz 사이의 차이는 사실상 감지되지 않습니다. 44.1 kHz와 96 kHz 간의 차이는 미세하지만 실제로 존재하는데, 주파수 응답 측면에서 (어차피 우리는 20 kHz 이상을 듣지 못하므로), 디지털 처리가 오디오에 미치는 영향에서 차이가 나는 것입니다.

더 높은 샘플링 속도는 더 많은 시간 해상도를 제공합니다. 이는 파형의 형태를 더 정확하게 포착하여 편집, 시간 확장 및 피치 이동 시 중요합니다. 저는 항상 96 kHz로 녹음하고 편집한 다음 최종 전달을 위해 44.1 kHz 또는 48 kHz로 다운샘플링합니다. 이 작업 흐름은 저에게 두 가지 세계의 장점을 제공합니다: 깔끔한 처리와 관리 가능한 파일 크기입니다.

하지만 여기서 사람들이 발목을 잡히는 중요한 포인트가 하나 있습니다: 샘플링 속도는 각 샘플이 얼마나 많은 데이터를 포함하는지와는 전혀 관련이 없습니다. 바로 비트 전송률이 여기에서 등장하고, 이 두 개념을 혼동하는 것이 바로 그 50,000달러 실수가 발생한 이유입니다.

비트 전송률: 각 스냅샷의 해상도

샘플링 속도가 우리가 스냅샷을 찍는 빈도라면, 비트 전송률(또는 더 정확히는 비트 깊이)은 각 스냅샷에서 캡처되는 세부 사항의 양입니다. 여기서는 사진 촬영 비유가 계속 유용하게 작용합니다. 벌새의 1초에 1,000장의 사진을 찍으면서 각 사진이 10픽셀 x 10픽셀에 불과하다면, 타이밍은 완벽하게 포착할 수 있지만 이미지는 블록 모양이고 불분명해질 것입니다.

디지털 오디오에서 비트 깊이는 각 샘플에 할당할 수 있는 가능한 진폭 값의 수를 결정합니다. 16비트(CD 품질)에서는 각 샘플이 65,536개의 서로 다른 값 중 하나가 될 수 있습니다(2의 16승). 24비트(전문 표준)에서는 각 샘플이 16,777,216개의 서로 다른 값 중 하나가 될 수 있습니다. 32비트 부동 소수점(저는 모든 처리에 사용하는 것)에서는 더 많은 정밀도가 제공되며, 클리핑 없이 정상 범위를 넘어서는 값을 처리할 수 있는 능력도 있습니다.

여기서 실용적인 부분이 있습니다: 비트 깊이는 직접적으로 당신의 동적 범위를 결정합니다—당신이 캡처할 수 있는 가장 조용한 소리와 가장 큰 소리의 차이입니다. 각 비트는 대략 6 dB의 동적 범위를 제공합니다. 그래서 16비트는 약 96 dB의 동적 범위를 제공하고, 24비트는 약 144 dB를 제공합니다. 참고로, 속삭임과 록 콘서트 사이의 차이는 약 100 dB입니다.

제 마스터링 스위트에서는 16비트 오디오와 24비트 오디오 간의 차이를 들을 수 있지만, 이는 대부분 사람들이 기대하는 것과는 다릅니다. 24비트가 주파수 응답이나 선명도에서 "더 좋게" 들리는 것은 아닙니다. 차이는 노이즈 플로어—조용한 구절에서 들리는 미세한 쉿 소리—에서 나타납니다. 16비트 오디오로 볼륨을 크게 부스트하면 양자화 노이즈가 들리기 시작합니다. 24비트에서는 그 노이즈 플로어가 너무 낮아 사실상 극단적인 처리에도 들리지 않습니다.

이제 여기서 용어가 혼란스러워지는 부분이 있습니다: 사람들이 압축된 오디오(예: MP3 또는 스트리밍)와 관련해 "비트 전송률"에 대해 이야기할 때, 그들은 다른 것을 말하고 있습니다—초당 데이터 양, 킬로비트로 측정됩니다. 320 kbps MP3는 128 kbps MP3보다 초당 더 많은 데이터를 포함하지만, 이는 압축에 관한 것이지 샘플의 기본 비트 깊이에 관한 것이 아닙니다.

그 비싼 세션에서의 실수? 엔지니어는 샘플링 속도를 192 kHz(과도한 설정)로 녹음했지만 실수로 비트 깊이를 8비트(참혹하게 낮음)로 설정했습니다. 결과적으로 기억할 수 있는 뛰어난 시간 해상도를 가진 오디오가 되었지만 형편없는 진폭 해상도를 가졌습니다—모든 프레임이 흑백이고 네 가지 그레이 음영만 있는 4K 비디오처럼.

마법 뒤에 숨은 수학

실제 숫자를 보여드리겠습니다. 수학을 이해하면 모든 것이 이해됩니다. 압축되지 않은 오디오를 녹음할 때 파일 크기는 샘플링 속도, 비트 깊이, 채널 수 및 지속시간에 따라 완전히 예측 가능합니다.

"더 높은 것이 항상 더 좋다는 신화는 산업에 수백만 달러의 저장 및 처리 능력을 낭비하는 비용을 초래했습니다. 44.1kHz/24비트 녹음은 항상 192kHz/16비트 녹음을 능가할 것입니다."

공식은 다음과 같습니다: 파일 크기(바이트 단위) = 샘플링 속도 × 비트 깊이 ÷ 8 × 채널 수 × 지속 시간(초 단위)

CD 품질(44.1 kHz, 16비트)로 1분 스테레오 녹음을 계산해 봅시다: 44,100 × 16 ÷ 8 × 2 × 60 = 10,584,000 바이트, 또는 분당 약 10.1MB입니다. 같은 녹음을 96 kHz, 24비트로 하면: 96,000 × 24 ÷ 8 × 2 × 60 = 34,560,000 바이트, 또는 분당 약 33MB가 됩니다. 이는 파일 크기가 세 배 이상 큽니다.

이것이 제가 녹음 설정에 대해 매우 조심스러운 이유입니다. 일반적인 앨범 프로젝트는 코타 50개, 각 4분짜리일 수 있습니다. 96 kHz/24비트에서 이는 50 × 4 × 33 = 6,600MB, 또는 6.6GB에 해당합니다.