배포 당일 새벽, 영하의 필드 테스트 현장에서 소프트웨어 정의 라디오(SDR) 장비를 품에 안고 모니터를 바라보는 엔지니어의 이마에는 식은땀이 흐릅니다. 시뮬레이터 환경에서 분명히 완벽한 분류 정확도를 기록하며 테스트를 통과했던 자동 변조 분류(AMC) 모델이, 실제 도심지의 빌딩 숲 사이에서 수신된 무선 신호 앞에서는 완전히 무력화되었기 때문입니다. 반사파와 도플러 효과, 그리고 정체를 알 수 없는 주변 잡음이 뒤섞인 날것의 신호 데이터는 연구실의 깔끔한 데이터셋과는 완전히 다른 분포를 보입니다. 이처럼 도메인 전이(Domain Shift) 현상으로 인해 실무 환경에서 딥러닝 기반 무선 통신 모델이 무너지는 현상은 수많은 통신 시스템 개발자들을 괴롭히는 고질적인 문제입니다.
1. 무선 통신 환경의 변화와 기존 AMC 모델의 한계
전통적인 자동 변조 분류(AMC)는 송신 측이 어떤 방식으로 데이터를 신호에 실어 보냈는지(예: QAM, PSK, FSK 등)를 수신 측에서 자동으로 판별하는 기술입니다. 과거에는 신호의 통계적 특성이나 스펙트럼 분석 등 수학적 모델링에 기반한 정교한 특징 추출 기법이 주를 이루었습니다. 그러나 통신 시스템이 복잡해지고 실시간 처리 요구사항이 커짐에 따라, 원시 I/Q(In-phase/Quadrature) 신호로부터 직접 특징을 학습하는 딥러닝 기반 AMC 모델이 주류로 자리 잡았습니다. 이 방식은 인간이 미처 발견하지 못한 미세한 신호 패턴까지 스스로 학습하여 특정 환경에서 매우 뛰어난 성능을 보여주었습니다.
문제는 무선 채널 환경이 고정되어 있지 않다는 점입니다. 송수신기의 위치, 주변 장애물, 날씨 변화, 그리고 다중 경로 페이딩(Multipath Fading) 등에 의해 수신 신호의 분포는 끊임없이 변화합니다. 이를 해결하기 위해 기존 학계에서는 소스 도메인(학습 데이터)과 타깃 도메인(실제 환경 데이터)의 특성 분포를 강제로 정렬하는 비지도 도메인 적응(Unsupervised Domain Adaptation, UDA) 기술을 도입했습니다. 하지만 기존의 데이터 중심 UDA 기법들은 전자기학적 물리 법칙이나 무선 통신의 고유한 도메인 지식을 완전히 배제한 채, 오직 고차원 신경망이 추출한 데이터 분포만을 억지로 맞추려다 보니 신호의 물리적 의미가 왜곡되거나 서로 다른 변조 방식이 동일하게 정렬되는 '시맨틱 미스매치' 문제를 겪어왔습니다.
2. DKDNet의 내부 아키텍처와 작동 원리
이러한 한계를 극복하기 위해 제안된 DKDNet(Dual Knowledge and Data-Driven Network)은 데이터 중심의 딥러닝과 통신 엔지니어링의 정수인 물리적 도메인 지식을 결합한 이중 구동(Dual-Driven) 아키텍처를 취합니다. 이 네트워크의 핵심은 신호의 겉모습(데이터 분포)만 맞추는 것이 아니라, 신호가 가진 물리적 법칙(지식)을 가이드라인으로 삼아 학습을 진행한다는 점입니다. 구조적으로 DKDNet은 크게 '데이터 구동 브랜치(Data-Driven Branch)'와 '지식 구동 브랜치(Knowledge-Driven Branch)'라는 두 개의 병렬 경로로 구성됩니다.
데이터 구동 브랜치는 기존의 딥러닝 모델과 유사하게 입력된 원시 I/Q 신호로부터 합성곱 신경망(CNN)이나 트랜스포머 아키텍처를 활용해 고차원의 추상화된 특징을 추출합니다. 반면, 지식 구동 브랜치는 무선 통신 분야에서 검증된 물리적 파라미터들을 주입받습니다. 예를 들어 신호의 고차 적률(High-Order Cumulants), 성상도(Constellation Diagram)의 기하학적 분포 특성, 혹은 순환 정상성(Cyclostationarity)과 같은 수학적 지표들이 이 브랜치의 입력으로 활용됩니다. 이 지식 기반 특징들은 채널 환경이 아무리 변하더라도 변조 방식 고유의 물리적 성질을 유지하려는 강한 복원력을 가집니다.
DKDNet의 진가는 이 두 브랜치가 융합되는 방식에서 드러납니다. 단순히 두 특징 벡터를 이어 붙이는(Concatenate) 수준에 그치지 않고, 지식 구동 브랜치에서 추출된 불변의 물리적 특징을 일종의 '기하학적 앵커(Anchor)'로 삼아 데이터 구동 브랜치의 도메인 정렬 과정을 제어합니다. 즉, 딥러닝 모델이 타깃 도메인의 노이즈에 휩쓸려 엉뚱한 방향으로 특징 공간을 왜곡하려 할 때, 물리 법칙에 기반한 지식 브랜치가 중심을 잡아줌으로써 도메인 간 정렬이 물리적 일관성을 유지하도록 강제하는 것입니다.
3. 대안 기술과의 비교 및 엔지니어링 트레이드오프
기존의 순수 데이터 구동형 UDA 모델(예: DANN, CDAN 등)과 비교했을 때, DKDNet은 환경 변화에 대한 일반화 성능에서 압도적인 안정성을 보여줍니다. 순수 데이터 구동형 모델은 타깃 도메인의 데이터가 충분하지 않거나 신호 대 잡음비(SNR)가 급격히 떨어지는 열악한 환경에서 예측 성능이 무너지는 경향이 있습니다. 반면 DKDNet은 물리적 지식이 모델의 하한선을 보장해 주기 때문에, 극단적인 저음영 지역이나 고속 이동체 환경에서도 안정적인 변조 분류가 가능합니다.
그러나 이러한 강력함 뒤에는 명확한 엔지니어링적 트레이드오프가 존재합니다. 가장 큰 문제는 연산 복잡도와 지연 시간(Latency)의 증가입니다. 실시간으로 수신되는 초당 수백 메가비트의 신호 흐름 속에서 고차 적률을 계산하거나 고속 푸리에 변환(FFT) 기반의 스펙트럼 분석을 수행하여 지식 구동 브랜치에 주입하는 과정은 하드웨어 리소스를 크게 소모합니다. 딥러닝 추론 연산 장치(NPU/GPU) 외에도 전처리 단계에서 디지털 신호 처리기(DSP)나 FPGA의 연산 부담이 가중되므로, 전체 시스템의 전력 소비량과 단가가 상승할 수 있습니다.
4. 실제 도입을 위한 의사결정 프레임워크
만약 당신이 개발 중인 시스템이 도심형 자율주행(V2X) 통신 장비, 군용 전술 무전기, 혹은 저궤도 위성 통신 수신기처럼 물리적 채널 환경이 시시각각 극심하게 변하는 시나리오에 놓여 있다면 DKDNet 아키텍처 도입을 적극적으로 검토해야 합니다. 특히 수집할 수 있는 타깃 환경의 데이터가 극도로 제한적이어서 일반적인 전이 학습을 적용하기 어려운 상황일수록, 물리 법칙을 앵커로 쓰는 이중 구동 방식이 프로젝트의 유일한 돌파구가 될 수 있습니다.
반대로 신호 환경이 비교적 정형화되어 있는 실내 스마트 팩토리의 사설망이나, 극도로 저전력 및 저지연으로 동작해야 하는 소형 IoT 센서 노드에 모델을 탑재해야 하는 상황이라면 DKDNet 도입을 피하는 것이 현명합니다. 이 경우에는 차라리 가벼운 단일 브랜치 모델을 사용하고, 채널 환경 변화는 물리적 레이어의 하드웨어 안테나 튜닝이나 간단한 이퀄라이저 세팅으로 상쇄하는 편이 비용 대비 효과적입니다. 결국 AI 모델의 정교함과 물리적 하드웨어 제어 사이의 균형점을 찾는 것이 무선 통신 시스템 엔지니어가 내려야 할 궁극의 의사결정입니다.
참고: arXiv CS.AI