자율 주행 로봇의 경로를 최적화하거나 고속 정밀 모터의 구동 시간을 단 몇 밀리초라도 줄여보려고 PID 제어기의 게인을 수정하다가, 시스템이 목표 지점에서 멈추지 못하고 진동하거나 아예 발산해버리는 상황을 겪어보셨을 겁니다. 특히 시스템의 제어 입력이 가질 수 있는 물리적 한계가 뚜렷한 상황에서 '최단 시간' 내에 목표 상태에 도달하는 문제는 제어 공학에서 가장 까다로운 영역 중 하나입니다. 수학적으로 완벽한 해를 구하려다 보면 실시간으로 처리하기 힘든 복잡한 연산량에 가로막히기 일쑤이고, 그렇다고 단순한 근사치를 쓰기에는 성능 손실이 뼈아픈 경우가 많습니다.
뱅뱅 정리와 제어 공학의 고전적 유산
최적 시간 제어의 역사는 1950년대 폰트랴긴의 최대 원리(Pontryagin's Maximum Principle)로 거슬러 올라갑니다. 이 원리에 따르면, 제어 입력에 상한과 하한이 정해진 시스템에서 최단 시간에 목표에 도달하려면 제어 입력이 중간값 없이 최대(+1) 또는 최소(-1) 값만을 번갈아 사용해야 한다는 '뱅뱅 제어(Bang-Bang Control)' 이론이 도출됩니다. 하지만 문제는 '언제' 이 입력을 전환(Switching)해야 하는지를 결정하는 전환면(Switching Surface)을 찾는 일이 매우 어렵다는 점입니다.
전통적으로는 해밀턴 함수를 구성하고 수치적 최적화 기법을 사용하여 이 전환 시점을 계산해왔습니다. 그러나 상태 공간의 차원이 높아질수록 연산 복잡도는 기하급수적으로 증가하며, 이는 하드웨어 리소스가 제한된 임베디드 환경에서 실시간성을 보장하기 어렵게 만드는 고질적인 원인이 되었습니다. 특히 적분기 체인으로 구성된 멱영(Nilpotent) 시스템은 구조는 단순해 보이지만, 고차원으로 갈수록 전환면의 기하학적 형태가 극도로 복잡해지는 특성을 보입니다.
다항식 연산을 이진 분류로 치환하는 메커니즘
최근 연구되는 신경망 기반의 피드백 제어 기법은 이 문제를 완전히 다른 시각에서 접근합니다. 최적의 제어 입력을 찾기 위해 매 순간 복잡한 다항식 방정식을 푸는 대신, 현재의 상태(State)를 입력으로 받아 제어 입력이 +1인지 -1인지를 판별하는 '이진 분류(Binary Classification)' 문제로 재정의하는 것입니다.
이 구조의 핵심은 멱영 시스템의 특성을 활용하여 최적 궤적을 매개변수 기반의 다항식 시스템으로 캐릭터화하는 데 있습니다. 시스템의 동역학이 멱영성을 가질 때, 제어 전환 시퀀스는 특정 다항식의 해로 표현될 수 있습니다. 연구자들은 이 수학적 관계를 학습 데이터 생성의 기반으로 삼습니다. 즉, 오프라인 상태에서 수많은 최적 궤적 데이터를 생성하고, 신경망이 특정 상태에서 어떤 제어 부호를 선택해야 하는지를 학습하게 함으로써 복잡한 전환면을 고차원 공간에서 근사화(Approximation)하는 원리입니다. 결과적으로 복잡한 제어 로직이 신경망의 가중치 행렬 연산으로 압축되어, 실행 시점(Runtime)에는 매우 빠른 추론 속도를 보장하게 됩니다.
전통적 제어 솔버와 신경망 모델의 성능 비교
전통적인 수치적 솔버와 신경망 기반 제어기는 명확한 트레이드오프 관계를 형성합니다. 수치적 방법론은 수학적으로 엄밀한 최적성을 보장하지만, 계산 시간이 상태 변수의 복잡도에 따라 크게 요동칩니다. 반면, 신경망 제어기는 학습 과정에서 막대한 데이터를 필요로 하지만, 일단 학습이 완료되면 입력 데이터의 복잡도와 상관없이 일정한 추론 시간(Deterministic Latency)을 제공한다는 강력한 장점이 있습니다.
하지만 신경망 방식에도 명확한 약점은 존재합니다. 학습 데이터의 범위를 벗어난 'Out-of-Distribution' 상태에 대해서는 제어 성능을 보장할 수 없으며, 제어 입력이 단절적으로 변하는 뱅뱅 특성상 미세한 분류 오류가 시스템의 채터링(Chattering) 현상을 유발할 수 있습니다. 특히 안전성이 최우선인 시스템에서는 신경망의 블랙박스 특성이 리스크로 작용할 수 있으므로, 제어 안정성(Stability)을 수학적으로 증명하는 과정이 추가로 수반되어야 합니다.
실무 적용을 위한 의사결정 프레임워크
이 기술을 실제 프로젝트에 도입할지 고민 중이라면, 시스템의 '실시간성' 요구 수준을 최우선으로 고려해야 합니다. 만약 시스템의 동역학이 멱영 시스템의 범주에 속하고, 제어 주기가 수 마이크로초(μs) 단위로 극히 짧아야 하는 고속 시스템이라면 신경망 기반의 이진 분류 접근법은 훌륭한 대안이 됩니다. 반면, 목표 지점 근처에서의 부드러운 정지가 중요하거나 시스템 파라미터가 수시로 변하는 환경이라면, 신경망보다는 가변 구조 제어(Sliding Mode Control)나 적응 제어 기법을 우선적으로 검토하는 것이 합리적입니다.
결국 제어의 핵심은 수학적 엄밀함과 실행 효율성 사이의 균형을 찾는 일입니다. 최적 제어 문제를 분류 문제로 바라보는 시각의 전환은, 고전 제어 이론이 가진 계산상의 한계를 딥러닝의 근사 능력으로 돌파하려는 시도라는 점에서 주목할 가치가 있습니다. 만약 여러분의 제어 알고리즘이 연산 부하 때문에 제 성능을 내지 못하고 있다면, 이제는 최적화가 아닌 '학습'의 관점에서 문제를 재설계해 보시길 권합니다.
참고: arXiv CS.LG (Machine Learning)