한 줄 요약: 레이저 간섭계는 아주 정확한 자처럼 보이지만, 대부분의 현장 측정은 진공이 아니라 공기 속에서 이뤄집니다. 그래서 압력, 온도, 습도, CO₂, 그리고 공기 굴절률 공식이 맞아야 최종 길이값도 믿을 수 있습니다.
1. 레이저 간섭계는 왜 공기를 신경 쓸까?
길이를 아주 정밀하게 잴 때는 레이저 간섭계를 많이 씁니다. 쉽게 말해 레이저 빛을 아주 촘촘한 눈금처럼 써서 거리를 재는 장비입니다.
그런데 여기서 중요한 문제가 있습니다.
레이저의 파장은 진공에서와 공기 중에서 다릅니다.
빛은 진공에서 가장 빠르게 갑니다. 공기 속에서는 아주 조금 느려집니다. 빛이 느려지면 파장도 아주 조금 짧아집니다. 길이를 nm 단위로 재는 교정실에서는 이 “아주 조금”이 무시하기 어려운 오차가 됩니다.
상황
설명
진공 속 레이저 파장
새 자의 정확한 눈금
공기 중 레이저 파장
온도와 습도 때문에 살짝 늘거나 줄어든 자
공기 굴절률 보정
실제 눈금이 얼마나 달라졌는지 계산하는 과정
즉, 레이저가 아무리 좋아도 공기 보정이 틀리면 최종 길이값이 흔들릴 수 있습니다.
레이저 주파수, 공기 중 파장, 환경 센서, 굴절률 공식, 최종 길이값이 하나의 측정 사슬로 연결된다. 이 그림은 원문 내용을 바탕으로 블로그용으로 재구성한 시각자료다.
2. Ciddor 공식은 무엇이고, 왜 다시 봐야 할까?
공기 굴절률은 보통 이렇게 계산합니다.
n = f(압력, 온도, 습도, CO₂ 농도)
여기서 n이 공기 굴절률입니다. n이 1에 가까울수록 진공과 비슷하다는 뜻이고, 1보다 아주 조금 크면 빛이 공기에서 살짝 느려진다는 뜻입니다.
1996년에 발표된 Ciddor 공식은 가시광과 근적외선 영역에서 공기 굴절률을 계산할 때 널리 사용되어 왔습니다. 쉽게 말해, 길이 교정실에서 “공기 때문에 레이저 눈금이 얼마나 바뀌었는지” 계산하는 대표적인 공식 중 하나입니다.
그런데 최근 고정밀 간섭측정에서는 이런 질문이 생깁니다.
“기존 공식이 물방울은 아니지만, 공기 속 수증기를 충분히 잘 설명하고 있을까?”
실내 공기에서 수증기는 보통 아주 적은 비율입니다. 하지만 근적외선, 특히 광통신에서 자주 쓰는 1.5 µm 근처 파장에서는 수증기의 영향이 생각보다 커질 수 있습니다.
3. NIST 연구는 어떻게 측정했을까?
이 논문의 핵심은 two-color measurement, 즉 두 가지 색의 레이저로 동시에 측정했다는 점입니다.
사용한 대표 파장은 다음과 같습니다.
파장
쉬운 설명
왜 중요한가
0.6329908 µm
빨간색 He-Ne 레이저와 가까운 가시광 영역
길이 간섭계에서 전통적으로 많이 쓰는 영역
1.542383 µm
근적외선, 광통신 C-band 근처
장거리·광통신·근적외선 계측에서 중요
장치는 Fabry-Perot 공동을 사용합니다. 양쪽 거울 사이에 빛을 가두고, 공진 주파수가 어떻게 바뀌는지 보는 방식입니다. 먼저 고진공 상태에서 주파수를 재고, 그다음 시험 가스를 넣은 뒤 다시 주파수를 잽니다. 이 차이를 이용하면 공기의 굴절률을 계산할 수 있습니다.
원문에 따르면 건조 가스 측정은 대략 20~100°C, 0.5 MPa 미만 범위에서 수행되었습니다. 주파수 측정은 frequency comb에 묶었고, 주변압에서 굴절률 불확도는 약 2 × 10⁻¹⁰ 수준으로 설명됩니다.
두 파장의 레이저를 Fabry-Perot 공동에 동시에 넣어 같은 공기를 함께 측정하는 개념도. 실제 장치 구조를 단순화해 블로그용으로 재구성했다.
4. 건조공기: 길이 성적서의 기본 바탕
공기 굴절률 공식에서 가장 큰 부분은 건조공기입니다. 방 안의 공기에는 질소와 산소가 대부분이고, 수증기는 보통 1% 안팎입니다. 그래서 건조공기 기준값이 흔들리면 전체 보정도 흔들립니다.
원문은 자연 건조공기 시료를 사용했고, 이 시료의 CO₂ 몰분율은 (388.86 ± 0.15) × 10⁻⁶로 특성화되어 있었습니다. 연구는 Ciddor 개정에 활용할 기준값으로 다음 수치를 제시합니다.
항목
값
의미
건조공기 molar refraction @ 0.633 µm
4.35699(3) cm³/mol
빨간색 레이저 근처 기준값
건조공기 molar refraction @ 1.542 µm
4.30558(3) cm³/mol
근적외선 기준값
여기서 괄호 안 숫자는 마지막 자리의 불확도 표현입니다. 예를 들어 4.35699(3)은 마지막 자리 근처에 0.00003 정도의 표준불확도가 붙는다는 뜻으로 볼 수 있습니다.
건조공기에서 온도에 따라 몰 굴절률과 virial 계수가 어떻게 변하는지 보여준다.
원문 Table 4는 자연 건조공기의 second density virial coefficient도 보여줍니다. 이 말은 어렵지만, 중학생식으로 풀면 “공기가 완벽한 이상기체처럼 행동하지 않는 정도를 보정하는 숫자”입니다.
온도가 올라가면서 건조공기의 보정 계수가 음수에서 양수 방향으로 바뀌는 모습을 볼 수 있다.
5. 수증기 1%가 왜 크게 보일까?
실내 공기에서 수증기는 대략 1% 수준일 수 있습니다. 숫자만 보면 작아 보입니다. 하지만 길이 간섭측정에서는 무시하기 어렵습니다.
왜냐하면 수증기는 파장에 따라 빛을 다르게 늦추기 때문입니다. 특히 1.5 µm 근처 근적외선에서는 물 분자의 흡수와 분산 특성이 더 복잡해집니다.
원문은 수증기에 대해 다음 비율을 제시합니다.
(n₁₅₄₂ - 1) / (n₆₃₃ - 1) = 0.97569(8)
쉽게 말하면, 수증기가 1.542 µm 파장에서 보이는 굴절 효과가 0.633 µm에서 보이는 효과와 약간 다르다는 뜻입니다.
비유하면 이렇습니다.
같은 안경을 써도 빨간색 빛과 근적외선 빛이 렌즈를 통과할 때 살짝 다르게 꺾이는 것과 비슷합니다.
수증기가 0.633 µm와 1.542 µm 파장에서 서로 다르게 보이는 정도를 나타낸다.
이 그림에서 중요한 점은 두 가지입니다.
같은 수증기라도 온도와 압력 조건에 따라 측정값이 살짝 흔들립니다.
C-band 근처에서는 단순한 곡선 하나로 수증기 분산을 설명하기 어렵습니다.
즉, 고정밀 길이 측정이나 광통신 부품 계측에서는 습도 항을 “대충 넣는 값”으로 보면 위험합니다.
6. 산소와 이산화탄소도 대충 넘길 수 없다
공기 중 산소는 약 21%를 차지합니다. 그런데 원문은 산소의 굴절률 분산 지식이 과거에는 충분히 정밀하지 않았다고 설명합니다. 이번 연구는 산소에 대한 Sellmeier 식을 새로 정리했고, 기존 1932년 수준의 지식보다 훨씬 정밀한 결과를 제공합니다.
산소의 파장별 분산을 새 Sellmeier 식으로 묶은 결과다.
이산화탄소는 공기 중 비율이 작지만, 장거리 간섭측정이나 근적외선 영역에서는 영향이 커질 수 있습니다. 그래서 CO₂ 농도를 고정값으로 둘지, 실제 측정값으로 넣을지에 따라 결과 해석이 달라질 수 있습니다.
7. 현업에서는 무엇을 바꿔야 할까?
이 논문이 “내일부터 모든 길이 성적서를 새 공식으로 다시 계산하라”는 뜻은 아닙니다. 하지만 고정밀 길이 교정기관이라면 다음을 확인할 필요가 있습니다.
확인 항목
왜 중요한가
공기 굴절률 보정식 이름과 버전
Ciddor라고만 쓰면 실제 구현을 알기 어렵다
CO₂ 입력값
고정값인지, 실측값인지에 따라 장거리 측정에서 차이가 날 수 있다
습도 센서 위치
센서 위치의 공기와 실제 레이저 경로의 공기가 다를 수 있다
dead path 보정
기준점과 실제 측정 경로 사이의 공기 변화가 오차로 남을 수 있다
환경 데이터 기록 주기
측정 중 공기가 변하면 전후 평균만으로는 부족할 수 있다
8. 핵심 결론 5개
레이저 간섭계의 길이값은 레이저 주파수만으로 결정되지 않습니다.
공기 중 측정에서는 굴절률 보정식이 길이 추적성의 일부가 됩니다.
NIST의 two-color 측정은 0.633 µm와 1.542 µm를 동시에 사용해 공기와 수증기의 파장별 차이를 더 잘 잡았습니다.
수증기는 비율이 작아도 근적외선 영역에서는 영향이 커질 수 있습니다.
고정밀 교정기관은 공기 굴절률 보정식, CO₂ 값, 습도 센서 위치, dead path, 환경 기록 주기를 절차서에서 확인해야 합니다.
최종 한 문장: 레이저가 정확해도, 레이저가 지나가는 공기를 제대로 모르면 길이값은 완전히 단단해지지 않습니다.
참고 자료
Patrick F. Egan, Two-color measurements supporting a revised formulation for the refractive index of air, Measurement Science and Technology 37, 255003, 2026.
Ciddor, P. E., Refractive index of air: new equations for the visible and near infrared, Applied Optics, 1996.
ISO/IEC 17025:2017, General requirements for the competence of testing and calibration laboratories.
댓글