스마트폰 안에는 우리가 평소 의식하지 못하는 두 번째 컴퓨터가 들어 있습니다. 화면과 앱을 담당하는 애플리케이션 프로세서(AP)와는 별개로, 통신을 전담하는 베이스밴드 프로세서(BP)가 그것입니다. 베이스밴드는 기지국과 끊임없이 신호를 주고받으며 통화·문자·데이터를 처리하는데, 바로 이 "항상 켜져 있고 바깥 세계와 연결된" 특성 때문에 보안의 관점에서 특별한 주의가 필요합니다. 그리고 오늘날 같은 모뎀이 자동차, 드론, 산업용 IoT에도 그대로 들어가면서, 베이스밴드 보안은 더 이상 휴대폰만의 문제가 아니게 되었습니다. 본 연구를 순천향대학교 LISA에서 2015년부터 이어 오고 있습니다.
통신 모뎀은 생각보다 널리 공유됩니다
하나의 베이스밴드 모뎀 설계는 수억 대의 기기에 복제되어 들어갑니다. 스마트폰에서 검증된 모뎀이 커넥티드 카의 텔레매틱스 제어기, IoT 게이트웨이, 의료·산업용 단말에 거의 그대로 재사용되기 때문입니다. 이것은 공급망 관점에서는 효율적이지만, 보안 관점에서는 하나의 결함이 전혀 다른 산업으로 그대로 전이된다는 뜻이기도 합니다.
문제가 커지는 지점은 세 가지입니다. 첫째, 자율주행·V2X처럼 교통안전과 직결되는 영역에서 동일 계열의 모뎀이 쓰이면, 통신 계층의 결함이 곧 안전 문제로 번질 수 있습니다. 둘째, IoT 게이트웨이에 같은 칩셋이 대량으로 공유되면 공격 표면이 급격히 넓어집니다. 셋째, 베이스밴드 프로세서는 통화·위치·식별정보가 지나가는 길목에 있어, 이곳이 장악되면 도청과 개인정보 유출, 나아가 원격 코드 실행으로까지 이어질 수 있습니다. 여기에 더해 베이스밴드는 제조사의 폐쇄적 구조 안에 있어, 외부에서의 독립적인 보안 검증이 매우 제한적이라는 구조적 한계가 있습니다.
스마트폰 안에는 우리가 평소 의식하지 못하는 두 번째 컴퓨터가 들어 있습니다. 화면과 앱을 담당하는 애플리케이션 프로세서(AP)와는 별개로, 통신을 전담하는 베이스밴드 프로세서(BP)가 그것입니다. 베이스밴드는 기지국과 끊임없이 신호를 주고받으며 통화·문자·데이터를 처리하는데, 바로 이 "항상 켜져 있고 바깥 세계와 연결된" 특성 때문에 보안의 관점에서 특별한 주의가 필요합니다. 그리고 오늘날 같은 모뎀이 자동차, 드론, 산업용 IoT에도 그대로 들어가면서, 베이스밴드 보안은 더 이상 휴대폰만의 문제가 아니게 되었습니다. 본 연구를 순천향대학교 LISA에서 2015년부터 이어 오고 있습니다.
통신 모뎀은 생각보다 널리 공유됩니다
하나의 베이스밴드 모뎀 설계는 수억 대의 기기에 복제되어 들어갑니다. 스마트폰에서 검증된 모뎀이 커넥티드 카의 텔레매틱스 제어기, IoT 게이트웨이, 의료·산업용 단말에 거의 그대로 재사용되기 때문입니다. 이것은 공급망 관점에서는 효율적이지만, 보안 관점에서는 하나의 결함이 전혀 다른 산업으로 그대로 전이된다는 뜻이기도 합니다.
문제가 커지는 지점은 세 가지입니다. 첫째, 자율주행·V2X처럼 교통안전과 직결되는 영역에서 동일 계열의 모뎀이 쓰이면, 통신 계층의 결함이 곧 안전 문제로 번질 수 있습니다. 둘째, IoT 게이트웨이에 같은 칩셋이 대량으로 공유되면 공격 표면이 급격히 넓어집니다. 셋째, 베이스밴드 프로세서는 통화·위치·식별정보가 지나가는 길목에 있어, 이곳이 장악되면 도청과 개인정보 유출, 나아가 원격 코드 실행으로까지 이어질 수 있습니다. 여기에 더해 베이스밴드는 제조사의 폐쇄적 구조 안에 있어, 외부에서의 독립적인 보안 검증이 매우 제한적이라는 구조적 한계가 있습니다.
바일 베이스밴드란 무엇인가
베이스밴드는 무선 통신 규격(3GPP의 LTE·5G 등)을 실제 신호로 구현하는 전용 프로세서와 그 위에서 도는 펌웨어를 통칭합니다. 가장 아래의 물리 계층(PHY)에서 전파를 변복조하는 일부터, 기지국과 접속·인증·이동성을 협상하는 상위 계층(RRC, NAS)까지를 담당합니다. 애플리케이션 프로세서가 "사람이 보는 세계"를 맡는다면, 베이스밴드는 "망과 대화하는 세계"를 맡는 셈입니다.
두 프로세서는 공유 메모리등 내부 통로로 연결되어 서로 데이터를 주고받습니다. 이 통로는 평소에는 전화와 데이터를 매끄럽게 연결해 주지만, 동시에 두 세계 사이에 놓인 다리이기도 합니다. 다리가 있다는 것은 양쪽을 잇는 편의인 동시에, 한쪽에서 생긴 문제가 다른 쪽으로 건너갈 수 있는 경로가 존재한다는 뜻입니다. 베이스밴드 보안이 통신 품질을 넘어 단말 전체의 신뢰성 문제가 되는 이유가 여기에 있습니다.
연구는 어떻게 진행했는가
우리는 특정 한 기기가 아니라, 여러 제조사의 상용 베이스밴드를 가로지르며 공통된 구조와 공통된 위험을 찾는 방식으로 접근했습니다. 분석 대상에는 대표적인 상용 모뎀 계열이 두루 포함됩니다. 연구는 서로 맞물리는 세 단계로 이어집니다.
시스템 이해 — 베이스밴드 하드웨어가 어떻게 구성되고 펌웨어가 어떻게 동작하는지, 그리고 표준이 요구하는 절차가 실제 구현에서 어떻게 반영되는지를 분석합니다.
통제된 접근 — 제조사가 개발·시험 단계에서 쓰는 저수준 경로를 통해, 실험실 환경에서 펌웨어와 동작 상태에 접근합니다.
검증과 해석 — 통제된 테스트베드에서 위협 가설을 재현해 보고, 그 결과가 커넥티드 디바이스 전반에 어떤 의미를 갖는지 해석합니다.
LISA 연구진은 이 작업을 위해 SDR(USRP) 기반 무선 환경, OpenBTS·srsRAN·YateBTS 등의 가상망 소프트웨어, 그리고 IDA Pro·Ghidra·Trace32·Hexagon SDK 같은 리버싱·디버깅 도구와 3GPP 표준 분석 환경을 함께 운용해 왔습니다. 이 인프라 위에서 2015년 4G 트래픽 제어 연구를 시작으로, OTA 프로토콜 위협 검증(2016–2017), 액세스 네트워크·모뎀 심층 분석(2018), 가상 기지국 기반 공격 검증(2020~)으로 연구를 넓혀 왔습니다.
표준을 읽다: 무선 네트워크와 트래픽 제어
베이스밴드를 이해하려면 먼저 "망이 단말을 어떻게 다루는가"를 알아야 합니다. 초기 연구는 4G(LTE) 망에서 비정상 트래픽을 어떻게 제어할 수 있는가라는 운영자 관점의 문제에서 출발했습니다. 당시 LTE 망에는 악성 트래픽을 유발하는 단말을 실시간으로 제어할 표준적 수단이 부족했고, VoLTE가 확산되면서 트래픽 폭주와 악용 가능성은 오히려 커지고 있었습니다. 기존의 유선 보안장비만으로는 모바일 망 특유의 이동성과 과금 구조를 반영하기 어려웠습니다.
우리는 3GPP 표준이 정의한 정책·과금 제어 구조(PCC)와 애플리케이션 탐지·제어(ADC)를 분석해, 비정상 트래픽을 망 차원에서 식별하고 제어하는 아키텍처를 설계하고 VoLTE 환경에서 시뮬레이션으로 검증했습니다. 흥미로운 점은, 여기서 쓰인 바로 그 정책 제어 구조가 훗날 V2X·IoT 트래픽을 다루는 데에도 그대로 적용될 수 있다는 것입니다. 커넥티드 디바이스의 트래픽 관리 문제는 셀룰러 망이 이미 고민해 온 문제의 연장선 위에 있습니다.
업데이트 경로를 살피다: OTA
펌웨어는 한 번 만들어지면 끝이 아니라, 무선 업데이트(OTA)를 통해 계속 바뀝니다. OTA는 보안 패치를 신속히 배포하는 수단이지만, 동시에 "원격에서 기기의 핵심 소프트웨어를 바꾸는 통로"이기도 합니다. 따라서 이 통로가 올바른 펌웨어만, 올바른 출처에서, 무결성이 보장된 채로 내려받도록 설계되어 있는지가 매우 중요합니다.
우리는 제조사의 OTA 절차와 그 과정에서 쓰이는 업데이트 패키지의 구조, 그리고 패키지의 출처와 무결성이 어떻게 검증되는지를 통제된 환경에서 살펴보았습니다. 업데이트 경로의 인증과 무결성 검증이 조금만 느슨해져도, 신뢰할 수 없는 펌웨어가 기기에 들어갈 여지가 생긴다는 것입니다. 그리고 바로 이 OTA 메커니즘이 차량과 IoT에서도 동일하게 쓰이기 때문에, 베이스밴드에서 확인된 업데이트 경로의 위험은 커넥티드 디바이스로 곧장 전이될 수 있습니다.
통제된 환경에서 검증하다: 가상 기지국 테스트베드
실제 상용 망을 대상으로 공격을 실험하는 것은 불법이며 위험합니다. 그래서 우리는 SDR과 오픈소스 망 소프트웨어로 격리된 가상 기지국 테스트베드를 구축했습니다. 실험실 안에 작은 통신망을 통째로 세워, 단말이 어떤 조건에서 어떻게 반응하는지를 안전하게 관찰할 수 있는 환경입니다.
이 테스트베드 위에서 우리는 몇 가지 알려진 위협 유형을 통제된 형태로 재현해 보았습니다. 예를 들어 단말이 더 약한 세대의 망으로 유도될 수 있는지, 조작된 신호가 정상 신호를 덮어쓸 수 있는지, 그리고 접속·이동성 과정에서 오가는 제어 메시지를 변형했을 때 단말이 견고하게 동작하는지를 확인하는 식입니다. 핵심은 특정 공격의 성공 그 자체가 아니라, "표준이 가정한 안전장치가 실제 구현에서 얼마나 견고하게 작동하는가"를 측정하는 데 있습니다. 세부 메시지 구성과 파라미터는 공개 글에서 제외합니다.
무엇을 알게 되었는가
여러 제조사의 베이스밴드를 가로질러 분석한 결과, 반복해서 확인된 것은 베이스밴드가 단말의 격리된 섬이 아니라 망과 애플리케이션 프로세서 양쪽에 맞닿은 접점이라는 사실입니다. 망 쪽에서는 접속·인증·이동성을 협상하는 제어 메시지가 끊임없이 들어오고, 내부에서는 공유 메모리를 통해 애플리케이션 프로세서와 연결됩니다. 이 두 접점이 베이스밴드 보안이 통신 품질을 넘어 단말 전체의 신뢰성으로 확장되는 이유입니다.
그리고 이 모든 발견은 하나의 커넥티드 관점으로 수렴합니다. 동일한 모뎀, 동일한 OTA 메커니즘, 동일한 표준 절차가 휴대폰과 자동차와 IoT에 공유되는 한, 한 영역에서 확인된 위험은 다른 영역의 위험이기도 합니다. 그렇기에 베이스밴드에 대한 선제적 점검은 제조사에게는 무엇을 강화해야 하는지를, 커넥티드 디바이스 생태계에는 어디를 먼저 들여다봐야 하는지를 알려 줍니다.
본 연구진은 이 가상 기지국 테스트베드를 한 단계 더 발전시켜, 전파 차폐실(RF-shielded chamber) 안에 실차 기반 테스트베드를 구축했습니다. 차폐 환경은 실험 신호가 외부 상용 망으로 유출되는 것을 원천적으로 차단해 합법성과 안전성을 보장하는 동시에, 외부 간섭이 배제된 통제된 전파 조건에서 실제 주행 환경에 준하는 신호를 충실히 재현할 수 있게 해 줍니다. 이 환경을 기반으로, 차량에 탑재된 통신 모뎀을 대상으로 한 추가적인 취약점 분석을 심화해 나가고 있습니다.
연구 역량 요약
LISA 연구진이 10년에 걸쳐 축적한 베이스밴드 보안 연구 역량은 다음과 같이 정리됩니다.
펌웨어 리버싱 — 주요 상용 베이스밴드 계열(Shannon / Qualcomm / MediaTek)과 Hexagon DSP 환경에 대한 분석
가상망 구축 — OpenBTS · srsRAN · YateBTS와 USRP SDR 기반의 격리된 실험 환경
프로토콜 퍼징 — NAS 계층을 포함한 제어 메시지의 견고성 자동 검증
시그널링 분석 — PHY부터 NAS까지 전 계층에 걸친 분석
디버깅 & 분석 — KGDB · IDA · Trace32 기반의 동적·정적 분석
표준 & 모뎀 코드 — 3GPP LTE/5G 표준과 모뎀 코드 레벨의 교차 분석