Ⅰ. 서 론
1. 연구 배경 및 필요성
전 세계적으로 탄소중립 정책과 도시 교통 혼잡 완화를 위한 친환경 이동수단의 보급이 확대되면서 자전거 및 개인형 이동수단의 이용이 급격히 증가하고 있다. 국내의 경우 전국 자전거도로의 총 연장은 2만 7,754km로 2020년 대비 13.4% 증가하였으나, 2024년 자전거 교통사고는 5,571건으로 전년 대비 8.3% 증가하였으며 사망자 수도 75명으로 17% 급증하였다. 특히 자전거와 보행자 간 사고는 전년 대비 24% 급증하는 등 자전거도로 안에서 다양한 이동 객체 간의 충돌 위험이 점점 커지고 있다(Ministry of the Interior and Safety, 2025). 유럽에서도 도시 도로에서 자전거 관련 주요 사고 수가 2010년 대비 2018년에 6% 증가하였는데, 이는 같은 기간 보행자·오토바이·승용차 등 모든 교통수단의 사고가 줄어든 것과 뚜렷하게 대조된다(Yaqoob et al., 2023). 이러한 상황에서 폐쇄회로 텔레비전(CCTV) 기반 AI 영상분석 기술을 활용한 자전거도로 안전관리 시스템 개발이 국내외적으로 중요한 연구 과제로 떠오르고 있으며, 최근에는 보행자·자전거·전동킥보드·차량 간의 충돌 위험을 감지하기 위한 컴퓨터 비전 기반 접근법이 활발히 연구되고 있다(Ibrahim, 2024). 특히 전동킥보드를 포함한 마이크로 모빌리티 수단은 크기가 작고 빠르게 이동하기 때문에 기존의 보행자 및 차량 중심 탐지 모델로는 탐지하기 어려운 객체 클래스에 해당하며, 이에 특화된 딥러닝 기반 탐지 기술의 확보가 핵심적으로 요구된다(Khalil et al., 2024).
자전거도로 안전관리를 위한 AI 탐지 시스템을 실제 현장에 적용할 때 가장 큰 기술적 문제는 도메인 시프트(domain shift)이다. 딥러닝 기반 객체 탐지 모델은 특정 현장의 학습 데이터에 맞추어 최적화되면 그 환경에서는 높은 성능을 보이지만, 카메라 설치 각도·조도 조건·계절적 배경 변화 등 환경적 요인이 다른 새로운 현장에 그대로 배포하면 탐지 성능이 크게 떨어진다(Ma et al., 2025). 도메인 시프트는 카메라 센서 특성, 배경 변화, 지리적·환경적 차이 등 다양한 원인으로 발생한다. 특히 계절 변화는 식생, 조도 분포, 이용자 복장 등 객체의 외형적 특성을 전반적으로 바꾸어 학습 시점과 배포 시점 사이의 시각적 분포 차이를 더욱 크게 만든다(Osman and Larue, 2023). 이 문제는 단순히 모델을 더 크게 만들거나 학습 데이터를 늘리는 것만으로는 근본적으로 해결되지 않으며, 라벨이 없는 타겟 도메인(TD) 데이터를 활용하는 비지도 도메인 적응 기법을 적용하는 것이 필수적이라고 보고되고 있다(VS et al., 2023). 따라서 다양한 현장 환경에 안정적으로 배포할 수 있는 자전거도로 객체 탐지 시스템을 만들기 위해서는 도메인 시프트 문제를 체계적으로 해결하는 적응형 학습 파이프라인 구축이 필요하다.
이러한 도메인 시프트 문제를 해결하는 방법으로, 최근 대규모 이미지-텍스트 쌍으로 사전학습된 시각-언어 모델의 활용이 주목받고 있다. 시각-언어 모델 기반 오픈 어휘 탐지기는 수십억 개의 다양한 이미지-텍스트 쌍으로 학습되어 특정 현장의 학습 데이터 없이도 텍스트 프롬프트만으로 다양한 환경에서 객체를 탐지할 수 있는 강력한 도메인 일반화 능력을 갖추고 있다(Liu et al., 2024). 이는 소수의 라벨 데이터로만 학습된 기존 탐지 모델이 새로운 현장 환경에서 성능이 크게 떨어지는 것과 대조되는 특성으로, 라벨이 없는 타겟 도메인에서도 객체의 위치와 클래스 정보를 추론할 수 있는 가능성을 보여준다(Feng et al., 2025). 특히 시각-언어 모델이 가진 시각-언어 정렬 능력은 계절 변화나 카메라 설치 환경의 차이와 같은 외형적 도메인 변화에도 강인한 특성을 나타내는 것으로 보고되고 있으며, 이는 자전거도로 안전관리처럼 다양한 현장 조건에서 운용해야 하는 시스템에 특히 유용하다(Vidit et al., 2023). 따라서 대규모 사전학습 모델이 갖춘 도메인에 영향받지 않는 시각 표현을 활용하여 타겟 도메인의 비라벨 데이터로부터 의사 레이블을 생성하고, 이를 경량 탐지 모델의 적응 학습에 활용하는 방법은 추가적인 수동 어노테이션 비용 없이 새로운 현장 환경에 빠르게 적응할 수 있는 탐지 시스템을 구현할 수 있는 유망한 접근 방향이다. 이러한 배경에서 본 연구는 시각-언어 모델의 도메인 일반화 능력과 경량 탐지 모델의 실시간 처리 효율을 결합한 도메인 적응 파이프라인을 설계하고, 자전거도로 환경에서 그 유효성을 검증하는 것을 목적으로 한다.
2. 관련 연구 동향
자전거도로 환경에서의 이동 객체 탐지는 보행자, 자전거, 전동킥보드, 차량 등 다양한 취약 도로 이용자를 실시간으로 식별하고 위험 상황을 예측해야 하는 복잡한 문제이다. 딥러닝 기반 객체 탐지 기술이 발전하면서 YOLO 계열 모델이 교통 감시 시스템의 핵심 기술로 자리 잡았으며, 여러 크기의 특징을 함께 처리하는 멀티스케일 특징 융합과 앵커 프리 구조의 도입으로 다양한 크기의 객체를 실시간으로 처리하는 성능이 크게 높아졌다(Lv et al., 2025). 특히 자전거도로처럼 보행자·자전거·차량이 함께 이동하는 환경에서는 객체 간 크기 차이와 서로 겹치는 현상이 자주 발생하며, 이를 효과적으로 처리하기 위한 계층적 특징 추출 및 맥락 정보 활용 기법이 다수 제안되어 있다(Zhang et al., 2025). 한편 전동킥보드를 포함한 마이크로 모빌리티 수단은 크기가 작고 빠르게 움직이며 보행자와 외형이 비슷하기 때문에 탐지하기 특히 어려운 클래스에 해당한다. Chen et al.(2024)은 22종의 YOLO 계열 탐지기를 대상으로 전동킥보드 탐지 성능을 체계적으로 비교한 결과, 모델에 따라 mAP@0.5가 27.4%에서 86.8%까지 큰 차이를 보이며, 해당 클래스에 특화된 학습 데이터의 필요성을 강조하였다. 이러한 연구들은 자전거도로 4종 이동 객체 탐지 모델을 학습할 때 현장에 맞는 데이터셋 구축과 클래스 불균형 문제 해결이 꼭 필요하다는 점을 공통적으로 보여준다. 그러나 대부분의 연구가 하나의 현장이나 하나의 환경 조건에서 수집한 데이터를 기준으로 성능을 평가하고 있어, 실제로 다양한 현장에 배포할 때 나타나는 도메인 시프트 문제는 충분히 다루어지지 않고 있다는 한계가 있다.
비지도 도메인 적응 기법은 라벨이 있는 소스 도메인(SD) 데이터와 라벨이 없는 타겟 도메인 데이터를 함께 사용하여 탐지 모델이 새로운 환경에서도 잘 동작하도록 만드는 방법론으로, 적대적 학습 기반 방법, 의사 레이블 기반 자기 학습 방법 등이 있다. 적대적 학습 기반 방법은 소스와 타겟 도메인의 특징 분포를 직접 맞추는 방식으로 도메인 차이를 줄일 수 있지만, 학습 구조가 복잡해 훈련이 불안정해지는 문제가 생길 수 있다. 이를 보완하기 위해 선생-학생 구조에 기반한 자기 학습 방법이 제안되었으며, Li et al.(2022b)은 적대적 학습과 약한-강한 데이터 증강을 결합한 adaptive teacher 프레임워크를 제안하여 기존 방법보다 교차 도메인 탐지 성능을 크게 높였다. 이후 Cao et al.(2023)은 선생 모델의 의사 레이블에 포함된 노이즈 문제를 해결하기 위해 대조 학습을 선생-학생 구조에 결합한 contrastive mean teacher를 제안하였으며, 의사 레이블의 품질이 낮은 상황에서도 안정적으로 적응 학습이 가능하다는 것을 실험으로 보였다. 최근에는 소스 데이터 없이 타겟 도메인 데이터만으로 적응을 수행하는 소스 프리 도메인 적응 방법도 활발히 연구되고 있으며, Hao et al.(2025)은 배치 정규화 통계만 갱신하는 단순한 방법으로도 강력한 성능을 낼 수 있음을 보여 간단한 자기 학습 기법의 가능성을 입증하였다. 이러한 연구들은 딥러닝 모델이 소스 도메인에만 국한되지 않고 다양한 환경에서 적용될 수 있는 방법을 연구한 사례라 할 수 있다.
오픈 어휘 객체 탐지는 미리 정해진 클래스 목록에 의존하지 않고 자연어 텍스트 프롬프트를 통해 어떤 카테고리의 객체든 탐지할 수 있는 방법론으로, 대규모 이미지-텍스트 쌍으로 사전학습된 시각-언어 모델의 발전과 함께 빠르게 성장하고 있는 분야이다. 기존의 탐지기가 학습 데이터에 포함된 클래스만 인식할 수 있는 것과 달리, 오픈 어휘 탐지 방법은 학습한 적 없는 새로운 클래스도 탐지할 수 있는 제로샷 능력을 갖추고 있어, 어노테이션 비용이 높거나 클래스 정의가 자주 바뀌는 실제 환경에서 특히 유용하다(Cao et al., 2025). 오픈 어휘 탐지의 주요 방법 중 하나인 GLIP은 객체 탐지를 텍스트 문구와 이미지를 매칭하는 문제로 바꾸어 정의하고, 탐지 데이터셋과 이미지-캡션 데이터를 함께 사용하는 통합 사전학습으로 제로샷 탐지 성능을 크게 높였다(Li et al., 2022a). 이후 YOLO-World는 CLIP 기반의 시각-언어 정렬 방법을 YOLO 구조에 결합하여 실시간 오픈 어휘 탐지를 가능하게 하였으며, 기존 오픈 어휘 탐지 모델보다 추론 속도를 크게 높여 실용적인 배포 가능성을 보여주었다(Cheng et al., 2024). 특히 오픈 어휘 탐지 모델은 대규모 인터넷 데이터로 학습된 시각-언어 표현을 바탕으로 하기 때문에, 특정 현장의 환경이나 카메라 조건에 관계없이 다양한 도메인에서 일관된 탐지 성능을 발휘하는 도메인 일반화 능력을 갖추고 있다. 이러한 특성은 계절 변화나 설치 환경 차이로 도메인 시프트가 자주 발생하는 자전거도로 안전관리 시스템에서 라벨이 없는 타겟 도메인 데이터에 대한 의사 레이블 생성에 효과적으로 활용될 수 있음을 보여주며, 추가적인 수동 어노테이션 없이도 새로운 현장 환경에 빠르게 적응 가능한 탐지 시스템 구현의 가능성을 제시한다.
Ⅱ. 비지도 도메인 적응을 통한 4종 이동객체 탐지 기술
1. 자전거 도로 영상 데이터 세트 구성
자전거도로 이동 객체 탐지를 위한 데이터셋은 보행자, 자전거, 전동 킥보드, 차량의 4종 클래스를 대상으로 두 차례에 걸쳐 구축되었다. 첫 번째 수집 단계에서는 저자들의 선행 연구(Shim et al., 2025)에서 구축한 데이터셋을 소스 도메인으로 활용하였다. 해당 데이터셋은 자전거와 보행자의 통행이 빈번하고 충돌 위험이 존재하는 분리형 자전거·보행자 겸용 도로 5개 현장을 선정하고, 각 현장에 설치된 고정형 CCTV를 활용하여 영상을 수집한 것이다. 촬영은 여름철 오전 6시~9시 및 오후 3시~6시의 교통량 집중 시간대에 3일간 진행되었으며, 해상도는 1920×1080으로 설정하였다. 수집된 비디오에서 이동 객체가 포함된 장면을 선별하여 총 약 1,500장의 이미지를 추출하였다. 각 이미지에 대해 4종 클래스에 해당하는 객체의 위치와 범위를 바운딩 박스 형식으로 수동 어노테이션하였으며, 전체 데이터는 학습 1,050장, 검증 225장, 실험 225장으로 분할하였다. 본 연구에서는 이 데이터셋을 소스 도메인 데이터셋으로 지칭하며, 대표 예시는 <Fig. 1(a)>와 같다.
두 번째 수집 단계에서는 향후 다양한 도로 환경으로의 확장을 고려하여 총 4대의 카메라 중 1대를 인접 차도 방향을 포함하는 시야각으로 설치하였으며, 이에 따라 차량을 탐지 대상 클래스에 포함하였다. 차량 클래스의 탐지는 주차 차량과 이동 중인 차량을 구분하지 않으며, 카메라 시야 내에 포착되는 모든 차량 객체를 탐지 대상으로 한다. 이는 본 연구에서 제안하는 도메인 적응 파이프라인이 분리형 자전거·보행자 겸용도로에 국한되지 않고 인접 차도를 포함한 복합적인 도로 환경에서도 운용 가능하도록 설계되었다. 촬영은 4일에 걸쳐 수행되었으며, 해상도는 동일하게 1920×1080을 유지하였다. 수집된 영상에서 이동 객체가 포함된 장면을 선별하여 총 약 1,500장을 추출하였으며, 일부 장면은 야간 조건에서 촬영된 영상을 포함한다. 소스 도메인과 동일한 4종 클래스 기준으로 수동 어노테이션을 수행하였다. 본 데이터셋은 타겟 도메인 데이터셋으로 지칭하며, 대표 예시는 <Fig. 1(b)>와 같다. 소스 도메인과 달리 타겟 도메인은 비지도 도메인 적응 객체 탐지 분야의 표준 평가 관례에 따라 학습용과 평가용으로 분할하였다. 대표적인 비지도 도메인 적응 벤치마크인 Cityscapes에서 Foggy Cityscapes로의 도메인 적응 실험에서도 타겟 도메인의 학습용 데이터 약 2,975장과 평가용 데이터 약 500장을 완전히 분리하는 방식을 채택하고 있으며, 이는 전체의 약 85%를 학습에, 나머지 15%를 평가에 활용하는 방식이다(Ma et al., 2025). 본 연구에서도 이를 준용하여 타겟 도메인 1,500장 중 1,275장을 의사 레이블 생성 및 학습에 활용하고, 나머지 225장은 학습에 사용되지 않은 독립적인 테스트셋으로 분리하여 최종 성능 평가에만 사용하였다. 두 데이터셋은 수집 계절, 카메라 설치 위치 및 촬영 각도, 조도 조건 등 여러 측면에서 서로 다른 시각적 특성을 보이며, 이로 인해 소스 도메인과 타겟 도메인 사이에 데이터 분포의 차이, 즉 도메인 시프트가 발생한다.
2. Grounding DINO 기반 선생-학생 비지도 도메인 적응 기법
본 연구에서 제안하는 선생-학생 기반 비지도 도메인 적응 파이프라인의 전체 구조를 <Fig. 2>에 나타낸다. 파이프라인은 Grounding DINO를 이용한 의사 레이블 생성 단계와 YOLO11을 이용한 도메인 적응 학습 단계의 두 단계로 구성된다. 이러한 설계는 두 모델의 상호보완적 특성에 기반한다. Grounding DINO는 높은 도메인 일반화 능력을 갖추고 있으나 추론 속도가 느려 실시간 현장 배포에 적합하지 않으며, YOLO11은 고속 추론이 가능하나 도메인 시프트에 취약한 특성을 가진다. 본 연구는 Grounding DINO의 도메인 일반화 능력을 의사 레이블 생성에 활용하고, 이를 통해 YOLO11을 적응 학습시킴으로써 두 모델 간의 속도-성능 trade-off를 효과적으로 보완하는 파이프라인을 구성하였다.
<Fig. 2>
Proposed teacher-student unsupervised domain adaptation pipeline for bicycle road moving object detection
Grounding DINO는 Transformer 기반 탐지기 DINO에 대규모 이미지-텍스트 쌍을 활용한 그라운디드 사전학습을 결합한 오픈 어휘 객체 탐지기이다(Liu et al., 2024). 일반적인 딥러닝 탐지 모델이 사전에 정의된 폐쇄형 클래스 집합에 국한되는 것과 달리, Grounding DINO는 자연어 텍스트 프롬프트를 입력으로 받아 임의의 카테고리 객체를 탐지할 수 있다. 이는 특정 현장의 학습 데이터 없이도 새로운 현장 환경의 객체를 탐지할 수 있는 강력한 도메인 일반화 능력을 의미하며, 본 연구에서 의사 레이블 생성을 위한 선생 모델로 채택한 핵심 근거이다. 모델은 이미지 백본과 텍스트 백본으로부터 각각 시각 특징과 언어 특징을 추출하고, Feature Enhancer, Language-guided Query Selection, Cross-Modal Decoder의 세 단계에 걸쳐 두 모달리티를 교차 융합한다. 이 과정에서 텍스트 입력으로부터 생성된 언어 특징은 탐지 쿼리의 초기화와 바운딩 박스 정제에 직접 관여하며, 텍스트로 지정된 클래스에 상응하는 객체의 위치(Loc)와 범주(Cls)를 동시에 예측한다. 본 연구에서 탐지 대상은 자전거도로 내 4종 이동 객체인 차량, 자전거, 전동킥보드, 보행자이다. Grounding DINO에 입력하는 텍스트 프롬프트 T는 Eq. (1)과 같이 각 클래스명을 마침표로 구분하여 연결한 형식을 따른다.
추론 결과로 반환된 예측 문구는 포함된 키워드를 기준으로 4종 클래스 인덱스에 매핑된다. 예를 들어 "micro", "mobility", "scooter" 등의 키워드가 포함된 예측 문구는 전동킥보드 클래스로 분류되며, "bicycle", "bike", "cyclist" 등은 자전거 클래스로 대응된다. 4종 클래스 중 어느 것에도 해당하지 않는 예측 결과는 학습 데이터에서 제외하여 의사 레이블의 노이즈를 최소화한다. 또한 원시 출력에 포함될 수 있는 오탐을 제거하기 위해 바운딩 박스 신뢰도 임계값 τbox와 텍스트 유사도 임계값 τtext를 설정하고 두 조건을 동시에 만족하는 탐지 결과만을 의사 레이블로 채택한다. 본 연구에서는 τbox와 τtext를 각각 0.25와 0.20으로 설정하였고 이 필터링을 거친 타겟 도메인 의사 레이블의 집합은 최종 훈련 데이터셋을 구성하는 데 사용된다.
도메인 적응 학습 단계에서는 학습 가능한 학생 모델 YOLO11이 소스 도메인과 타겟 도메인의 두 가지 데이터 소스를 동시에 활용하여 학습을 수행한다. 소스 도메인 영상은 수동으로 구축된 훈련용 정답(GT) 어노테이션과 함께 입력되어 소스 도메인 손실 Lsource를 산출하고, 타겟 도메인 영상은 Grounding DINO가 생성한 의사 레이블과 함께 입력되어 타겟 도메인 손실 Ltarget을 산출한다. 최종 학습 손실은 두 손실의 가중합으로 정의되며, Eq. (2)와 같다.
YOLO11은 세 가지 주요 구성 요소로 이루어진다. Backbone은 커널 크기 2의 교차 단계 부분 블록인 C3k2, 멀티스케일 특징 풀링을 수행하는 SPPF, 그리고 공간 어텐션 메커니즘을 통해 탐지에 중요한 영역에 집중하는 C2PSA로 구성되어 다계층 시각 특징을 추출한다. Neck은 FPN(Feature Pyramid Network)과 PAN(Path Aggregation Network) 구조를 결합하여 다양한 크기의 객체 탐지에 효과적인 멀티스케일 특징 융합을 수행한다. Head는 분류와 위치 회귀를 별도의 분기로 처리하는 Decoupled Anchor-free 방식으로 클래스 확률, 바운딩 박스 좌표, 신뢰도 점수를 출력하며, Eq. (2)의 합산 손실에 대한 역전파를 통해 파라미터가 갱신된다. 이를 통해 소스 도메인의 정밀한 GT 지식과 타겟 도메인의 시각적 패턴을 동시에 학습함으로써 새로운 현장 환경에서의 탐지 성능 저하 문제를 해소한다.
본 연구에서는 학생 모델로 YOLO 계열을 채택하였다. YOLO 계열은 실시간 객체 탐지 분야에서 오랜 기간 활용되어 온 대표적인 경량 탐지 모델로서, 아키텍처의 지속적 발전을 통해 실시간 처리 효율과 탐지 정확도 간의 균형에서 우수성이 검증되어 있다(Lv et al., 2025). YOLO 계열의 버전 선택에 있어 상위 버전이 반드시 모든 데이터셋과 응용 환경에서 우월하지는 않으며, 데이터 규모와 객체 특성에 따라 적합한 모델이 달라질 수 있다. 본 연구는 1천 장 내외의 학습 데이터와 보행자, 자전거, 전동킥보드, 차량의 4종 이동 객체로 구성된 자전거도로 도메인을 다루며, 이러한 환경에서 안정적인 학습 거동과 일관된 성능 경향을 보이는 YOLO11을 채택하였다. 또한 모델 스케일에 따른 도메인 적응 효과의 차이를 정량적으로 분석하기 위해 YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x의 5종 스케일에 대한 비교 실험을 수행하였다.
3. 학습 환경 구성
도메인 적응 학습 실험에 사용한 하드웨어 사양은 Intel Xeon 6226R 2.9GHz, 320GB 메모리, NVIDIA Quadro 8000 3개이며, 소프트웨어는 Ubuntu 22.04 운영체제와 PyTorch 딥러닝 라이브러리를 사용하였다. 학습 데이터는 소스 도메인의 GT 어노테이션 영상 1,050장과 Grounding DINO로 생성한 타겟 도메인의 의사 레이블 영상 1,275장을 결합하여 구성하였으며, 소스 및 타겟 도메인 데이터의 의사 레이블 가중치(λtarget)는 2.5로 설정하였다. 학생 모델로는 YOLO11을 사용하였으며, 배치 크기는 16, 학습 에포크는 200으로 설정하였다. 본 연구의 훈련 데이터셋은 총 2,325장으로 소규모이므로, 모델이 소스 도메인과 타겟 도메인의 특징을 충분히 학습할 수 있도록 에포크 수를 200으로 설정하였다. 이는 Ultralytics 학습 환경의 기본 에포크 설정값인 100을 본 연구의 도메인 적응 학습 특성과 안정적인 훈련 수렴을 고려하여 확장한 것이다(Ultralytics, 2024). 최적화 함수는 AdamW를 사용하였으며, 학습률은 1.25×10−3, beta-1=0.9, beta-2=0.999로 설정하였고 epsilon은 10−8이다. 입력 영상 크기는 소스와 타겟 도메인 모두 640×640으로 변경하여 사용하였다.
Ⅲ. 실험 결과 분석 및 논의
1. 실험 계획 및 평가 방식
본 연구는 제안 방법의 유효성을 검증하기 위해 세 가지 실험을 설계하였으며, 모든 실험은 소스 도메인의 실험용 데이터와 타겟 도메인 데이터를 평가 데이터셋으로 사용하였다. 이하 소스 도메인 GT 어노테이션만으로 학습한 모델은 SO(source-only), 제안 방법을 적용한 도메인 적응 모델은 DA(domain adaptation)로 표기한다. 첫 번째 실험은 도메인 시프트의 심각성을 정량화하기 위한 기준 성능 실험이다. 소스 도메인 GT 어노테이션만으로 학습한 YOLO11을 소스 도메인과 타겟 도메인에 각각 적용하여 내부 도메인 성능과 교차 도메인 성능을 비교한다. 이를 통해 추가적인 도메인 적응 없이 현장 환경 변화로 인해 발생하는 성능 변화 정도를 확인한다. 두 번째 실험은 Grounding DINO 기반 의사 레이블을 활용한 도메인 적응 효과를 검증하는 실험이다. 소스 도메인 GT 데이터와 Grounding DINO가 타겟 도메인에 생성한 의사 레이블을 혼합하여 YOLO11 모델 계열 5종을 각각 재학습하고 타겟 도메인에서 평가한다. 타겟 도메인에 대한 수동 어노테이션은 학습 과정에서 일절 사용되지 않으며, 오직 최종 성능 평가를 위한 정답 기준으로만 활용된다. YOLO11 학습에는 Grounding DINO가 비라벨 타겟 도메인 영상으로부터 자동 생성한 의사 레이블만이 사용되어 비지도 DA의 원칙을 준수한다. 모델 스케일에 따른 도메인 적응 효과의 차이를 분석하고, Grounding DINO 제로샷 결과와 함께 비교하여 의사 레이블 재학습의 성능 향상 폭을 확인한다. 세 번째 실험은 의사 레이블 손실 가중치 λtarget의 영향을 분석하는 ablation 실험이다. λtarget은 학습 과정에서 소스 도메인 GT 손실 대비 타겟 도메인 의사 레이블 손실의 상대적 기여도를 조절하는 하이퍼파라미터이다. λtarget이 지나치게 낮으면 타겟 도메인의 시각적 특성이 학습에 충분히 반영되지 않아 도메인 적응 효과가 제한되고, 반대로 지나치게 높으면 노이즈가 포함된 의사 레이블의 영향이 과도해져 오히려 탐지 성능이 저하될 수 있다. 따라서 두 손실 간의 적절한 균형점을 찾는 것이 중요하다. 본 실험에서는 두 번째 실험에서 최고 성능을 달성한 YOLO11x를 대상으로 λtarget을 0.01, 0.1, 0.5, 1.0, 2.5, 5.0, 10.0으로 변화시키며 타겟 도메인 탐지 성능을 비교하고, 최적 균형 조건을 도출한다.
평가 지표는 COCO 표준 평가 프로토콜에 따라 산출한다. mAP(mean Average Precision)는 탐지 결과의 Precision-Recall 곡선 아래 면적을 클래스별로 계산한 뒤 평균한 값으로, 적용하는 IoU 임계값에 따라 mAP50, mAP75, mAP50-95로 구분된다. mAP50과 mAP75는 각각 IoU ≥ 0.50과 IoU ≥ 0.75를 정탐 기준으로 하며, mAP50-95는 IoU 임계값을 0.50부터 0.95까지 0.05 간격으로 변화시킨 10개 임계값에 대한 mAP의 평균으로, 탐지 정확도와 위치 추정 정밀도를 종합적으로 반영하는 대표 지표이다. 이와 함께 Precision, Recall, 그리고 두 지표의 조화 평균인 F1 Score를 Eq. (3)과 같이 산출하여 탐지 성능의 균형을 평가한다.
2. 실험 결과 및 분석
<Table 1>은 SO(source-only) 모델 계열 5종을 소스 도메인(Source Domain)과 타겟 도메인(Target Domain)에 각각 적용하여 도메인 시프트로 인한 성능 변화를 수치로 보여주는 결과이다. 소스 도메인 내부 성능을 기준으로 살펴보면, 모델 크기가 커질수록 성능이 꾸준히 높아지는 경향이 나타난다. YOLO11n (SO)의 mAP50-95는 0.538로 가장 낮고, YOLO11x (SO)는 0.649로 가장 높아 두 모델 사이에 0.111의 성능 차이가 존재한다. 이는 모델 파라미터 수가 늘어날수록 표현 능력이 향상되고, 이것이 소스 도메인 안에서는 탐지 성능 향상으로 이어짐을 보여준다. 반면, 같은 SO 모델들을 타겟 도메인에 적용한 결과는 모든 모델에서 성능이 크게 떨어지는 것으로 나타난다. YOLO11n (SO)의 경우 mAP50-95가 0.0957로 소스 도메인 대비 82.2% 낮아졌으며, 가장 큰 모델인 YOLO11x (SO)도 0.1721로 73.5% 하락하였다. 이는 모델 크기와 상관없이 도메인 시프트로 인한 성능 저하가 공통적으로 나타나며, 단순히 더 큰 모델을 사용하는 것만으로는 이 문제를 해결할 수 없음을 보여준다. 모델 크기별로 성능 하락 폭을 비교하면, YOLO11n (SO)에서 하락률이 가장 크고 YOLO11x (SO)에서 가장 작게 나타났다. 그러나 실제 교차 도메인 성능 수치로 보면 YOLO11x (SO)가 0.1721로 여전히 가장 높아, 큰 모델일수록 도메인 시프트 환경에서도 작은 모델보다 높은 성능을 유지하는 경향이 있음을 확인할 수 있다. Precision과 Recall 측면에서도 타겟 도메인에 적용하면 전반적인 탐지 신뢰도가 크게 낮아지며, F1 Score도 0.2162에서 0.3400 수준에 머물러 실제 현장에 배포하기에는 부족한 수준임을 알 수 있다. 이러한 결과는 자전거도로 감시 시스템을 실제 현장에 적용할 때 계절, 날씨, 카메라 설치 환경 등의 조건 변화가 모델 성능에 매우 큰 영향을 미친다는 것을 보여준다. 특히 소스 도메인에서 0.649의 높은 성능을 보인 YOLO11x (SO)조차 타겟 도메인에서는 0.1721에 그쳐, 겨울철 환경과 다른 카메라 각도로 구성된 타겟 도메인의 시각적 특성이 소스 도메인과 크게 다르다는 것을 수치로 확인할 수 있다.
<Table 1>
Domain shift analysis: source domain vs. target domain performance of YOLO11 (SO)
| Model | Source Domain mAP50-95 | Target Domain mAP50-95 | Precision | Recall | F1 |
|---|---|---|---|---|---|
| YOLO11n (SO) | 0.538 | 0.0957 | 0.3830 | 0.1506 | 0.2162 |
| YOLO11s (SO) | 0.599 | 0.1319 | 0.4837 | 0.2147 | 0.2974 |
| YOLO11m (SO) | 0.641 | 0.1412 | 0.4761 | 0.2491 | 0.3271 |
| YOLO11l (SO) | 0.643 | 0.1703 | 0.5231 | 0.2386 | 0.3277 |
| YOLO11x (SO) | 0.649 | 0.1721 | 0.5591 | 0.2443 | 0.3400 |
<Table 2>는 Grounding DINO 제로샷 탐지와 본 연구의 제안 방법인 의사 레이블 기반 도메인 적응(DA, domain adaptation)을 YOLO11 모델 계열 5종에 적용한 결과를 비교한 표이다. 모든 실험은 타겟 도메인(Target Domain)을 기준으로 평가하였다. Grounding DINO 제로샷 결과는 mAP50-95 0.3098을 달성하여 YOLO11x (SO)의 교차 도메인 성능인 0.1721보다 80.0% 높은 수치를 기록하였다. 이는 Grounding DINO가 대규모 이미지-텍스트 쌍으로 사전학습되었기 때문에 한 번도 본 적 없는 겨울철 자전거도로 영상에서도 상당한 탐지 능력을 발휘한다는 것을 보여준다. 제안 방법을 적용한 결과, 모든 모델 크기에서 Grounding DINO 제로샷보다 mAP50-95가 향상되었다. YOLO11n (DA)의 경우 mAP50-95 0.3187로 제로샷과 유사한 수준이지만, 모델이 커질수록 YOLO11s (DA) 0.3613, YOLO11m (DA) 0.3957, YOLO11l (DA) 0.3969, YOLO11x (DA) 0.4108로 성능이 꾸준히 높아지는 경향을 보인다. 특히 YOLO11x (DA)는 mAP50 0.5865, mAP75 0.4384를 기록하여 IoU 기준을 엄격하게 적용한 조건에서도 다른 모델과 비교해 높은 탐지 성능을 유지한다는 것을 확인할 수 있다. 주목할 점은 Precision 지표의 큰 개선이다. Grounding DINO 제로샷의 Precision 0.3098과 비교하면 YOLO11x (DA)의 Precision은 0.7186으로 2배 이상 높아졌다. 이는 의사 레이블로 다시 학습한 YOLO11이 Grounding DINO의 도메인 일반화 능력을 이어받으면서도, YOLO 계열 탐지기가 가진 정밀한 분류 경계 학습 능력을 통해 오탐을 효과적으로 줄였기 때문이다. F1 Score도 제로샷 0.3470에서 YOLO11x (DA) 0.5776으로 높아져 Precision과 Recall 사이의 균형이 개선되었음을 확인할 수 있다. 아울러 본 연구에서 Grounding DINO를 선생 모델로 선택한 이유는 코드와 가중치가 완전히 공개되어 연구의 재현성을 보장할 수 있으며, 실험 수행 시점을 기준으로 공개된 오픈 어휘 탐지 모델 중 현재 널리 검증된 모델이기 때문이다. 본 파이프라인은 특정 시각-언어 모델에 종속되지 않으며, 향후 더 강력한 오픈 어휘 탐지 모델을 선생으로 교체하더라도 동일한 선생-학생 구조가 적용 가능하다.
<Table 2>
Target domain detection performance comparison: Grounding DINO zero-shot vs. proposed DA method across YOLO11 model scales (λtarget=2.5)
| Model | mAP50-95 | mAP50 | mAP75 | Precision | Recall | F1 |
|---|---|---|---|---|---|---|
| Grounding DINO | 0.3098 | 0.4672 | 0.3302 | 0.3098 | 0.3948 | 0.3470 |
| YOLO11n (DA) | 0.3187 | 0.5012 | 0.3261 | 0.6754 | 0.4488 | 0.5393 |
| YOLO11s (DA) | 0.3613 | 0.5437 | 0.3771 | 0.6855 | 0.4748 | 0.5610 |
| YOLO11m (DA) | 0.3957 | 0.5708 | 0.4193 | 0.6892 | 0.4694 | 0.5585 |
| YOLO11l (DA) | 0.3969 | 0.5708 | 0.4224 | 0.7025 | 0.4800 | 0.5703 |
| YOLO11x (DA) | 0.4108 | 0.5865 | 0.4384 | 0.7186 | 0.4829 | 0.5776 |
<Table 3>은 YOLO11x (DA)를 대상으로 타겟 도메인 의사 레이블 손실 가중치를 0.01부터 10.0까지 변화시키며 수행한 ablation 실험 결과로, mAP50-95, mAP50, mAP75를 기준으로 최적 가중치를 분석한다. 전체적인 경향을 살펴보면, λtarget=2.5 설정이 mAP50-95 0.4108, mAP75 0.4384로 두 지표에서 최고 성능을 기록하였으며, mAP50은 λtarget=5.0의 0.5902가 가장 높게 나타났다. λtarget을 2.5 기준으로 감소시키거나 증가시키는 방향 모두에서 mAP50-95가 저하되는 패턴이 관찰되며, 이는 λtarget=2.5가 소스 도메인 GT 손실과 타겟 도메인 의사 레이블 손실 간의 최적 균형점이 됨을 의미한다. λtarget<1.0 구간에서는 가중치가 감소할수록 세 지표가 모두 하락하며, λtarget=0.10에서 mAP50-95 0.3840으로 전체 설정 중 가장 낮은 성능을 기록하였다. 이는 의사 레이블 손실의 기여도가 지나치게 억제될 경우 타겟 도메인 적응이 충분히 이루어지지 않음을 의미한다. λtarget>1.0 구간에서는 λtarget=2.5에서 mAP50-95 0.4108로 최고 성능을 보이나, λtarget=10.0에서는 0.4018로 낮아진다. 이는 노이즈가 포함된 의사 레이블의 영향력이 과도하게 증폭될 경우 오히려 학습에 부정적 영향을 미침을 나타낸다. mAP50과 mAP75를 비교하면, λtarget 변화에 따른 mAP50의 변동폭은 0.5738에서 0.5902로 0.016에 불과한 반면, mAP75의 변동폭은 0.4020에서 0.4384로 0.036으로 상대적으로 크게 나타난다. 이는 λtarget 조절이 객체 탐지 여부보다 바운딩 박스 위치 추정 정밀도에 더 민감하게 영향을 미침을 의미하며, λtarget=2.5 설정이 위치 추정 품질 측면에서도 최적임을 확인할 수 있다. 종합하면, λtarget≥0.5의 고가중치 구간에서 mAP50-95가 0.4018~0.4108 범위의 안정적인 평탄 영역을 형성하며, 본 실험에서는 해당 구간 내 λtarget=2.5 설정이 mAP50-95 0.4108로 가장 높은 값을 기록하였다. 다만 본 연구의 학습 데이터는 소스 도메인 1,050장과 타겟 도메인 1,275장으로, 테스트 데이터는 225장으로 1천 장 내외의 비교적 소규모이며, 클래스 간 분포 편향이 존재함을 고려할 때, 평탄 영역 내 변동폭 0.009는 단일 실행에 따른 측정 노이즈 및 데이터 규모 한계에 기인한 변동으로 해석되는 것이 합리적이다. 따라서 λtarget=2.5는 본 실험 조건에서의 권장 설정으로 해석하는 것이 타당하며, 향후 데이터 규모 확장과 다회 반복 실험을 통한 통계적 유의성 검증이 요구된다.
<Table 3>
Ablation study on pseudo-label loss weight λtarget with YOLO11x (DA)
| λtarget | mAP50-95 | mAP50 | mAP75 |
|---|---|---|---|
| 0.01 | 0.3865 | 0.5817 | 0.4069 |
| 0.10 | 0.3840 | 0.5738 | 0.4020 |
| 0.50 | 0.4056 | 0.5829 | 0.4279 |
| 1.0 | 0.4034 | 0.5767 | 0.4303 |
| 2.50 | 0.4108 | 0.5865 | 0.4384 |
| 5.0 | 0.4058 | 0.5902 | 0.4297 |
| 10.0 | 0.4018 | 0.5869 | 0.4300 |
<Table 4>는 Grounding DINO가 타겟 도메인 학습용 1,275장에서 생성한 클래스별 의사 레이블(Pseudo Label) 통계와 YOLO11x (DA) 기준 클래스별 AP(Average Precision)를 비교한 결과이다. 의사 레이블 생성 비율은 클래스 간 뚜렷한 불균형을 보인다. 차량(car) 클래스가 전체 bbox의 57.1%를 차지하며 이미지 등장 비율도 96.9%로 가장 높은 반면, 전동킥보드 클래스는 bbox 비율 5.7%, 이미지 등장 비율 43.9%로 4개 클래스 중 가장 낮은 수치를 기록하였다. 이는 타겟 도메인 데이터 수집 시점인 겨울철에 전동킥보드 이용자 수 자체가 다른 이동 객체에 비해 현저히 적었기 때문으로, 전동킥보드가 실제로 등장하는 장면의 절대적 수량이 부족한 데 기인한다. 클래스별 AP를 비교하기 위해 YOLO11x (SO)를 타겟 도메인에 적용한 결과를 SO AP로, YOLO11x (DA)를 타겟 도메인에 적용한 결과를 DA AP로 각각 정의하고 전자를 기준 성능으로 삼았다. SO AP와 DA AP를 비교하면, 의사 레이블 생성 비율의 불균형에도 불구하고 4개 클래스 모두에서 DA AP가 일관되게 향상되었다. 특히 주목할 점은 생성 비율이 가장 낮은 전동킥보드 클래스에서도 기준 성능 대비 148.0%의 AP 향상이 확인되었다는 것이다. 차량(car), 자전거(bicycle), 보행자(pedestrian) 클래스에서도 각각 213.4%, 160.5%, 74.5%의 향상이 나타나 모든 클래스에서 도메인 적응 효과가 유효함을 확인하였다. 이는 의사 레이블 수가 상대적으로 적더라도 Grounding DINO의 도메인 일반화 능력에 기반한 의사 레이블이 타겟 도메인의 시각적 특징을 효과적으로 학생 모델에 전달하고 있음을 보여준다. 다만 전동킥보드 클래스의 절대적 AP 수준은 여전히 다른 클래스 대비 현저히 낮으며, 이는 의사 레이블 수량 부족과 소형 객체 특성이 복합적으로 작용한 결과로 향후 클래스별 동적 임계값 적용 등 정제 기법을 통한 개선이 필요하다.
<Table 4>
Class-wise pseudo-label generation statistics and per-class AP comparison (YOLO11x, λtarget=2.5)
| Class | Pseudo Label BBox Count | BBox | Images with Pseudo Label | Image ratio | SO AP | DA AP |
|---|---|---|---|---|---|---|
| Car | 6,515 | 57.1% | 1,235 | 96.9% | 0.1801 | 0.5645 |
| bicycle | 1,474 | 12.9% | 861 | 67.5% | 0.1750 | 0.4559 |
| micro mobility | 647 | 5.7% | 560 | 43.9% | 0.0558 | 0.1384 |
| pedestrian | 2,769 | 24.3% | 1,135 | 89.0% | 0.2776 | 0.4844 |
| Total | 11,405 | 100% | 1275 | - | - | - |
본 연구의 시각-언어 모델 기반 선생-학생 비지도 도메인 적응 파이프라인의 효과를 정량적으로 검증하기 위해, 비지도 도메인 적응 객체 탐지 분야의 선행 연구 방법인 MIC(Hoyer et al., 2023)와 Contrastive Mean Teacher(Cao et al., 2023), 그리고 Grounding DINO와 사전학습 데이터 및 학습 방식이 다른 독립적 시각-언어 모델인 Microsoft Florence-2(Xiao et al., 2024)와의 비교 실험을 수행하였다. 모든 비교 방법은 공식 공개 구현체와 권장 하이퍼파라미터를 그대로 사용하였으며, 학습 데이터와 평가 절차는 본 연구와 동일하게 유지하였다.
<Table 5>에 비지도 도메인 적응 분야의 최신 우수 성능 기법(SOTA, state-of-the-art) 및 다른 시각-언어 모델과의 비교 결과를 제시한다. MIC와 CMT는 각각 mAP50-95 0.0614, 0.0694를 기록하여 두 방법 모두 SO baseline의 YOLO11x 0.1721에 미치지 못하였다. 이는 두 방법이 ImageNet 분류 사전학습 기반 Faster R-CNN을 backbone으로 채택하고 있어, 본 연구의 1,050장 소스 환경에서 burn-in 단계 표현 학습이 충분히 확보되지 못한 데에 기인한다. 또한 MIC와 CMT가 서로 다른 방법론적 접근을 채택하였음에도 두 방법이 유사한 수준의 성능을 보인 점은 개별 방법의 구현이나 튜닝 한계가 아니라 공통된 원인이 작용한 결과로 해석된다. 즉, 소스 모델 기반 의사 레이블 생성에 의존하는 기존 비지도 도메인 적응 패러다임이 소규모 데이터 환경에서 구조적 한계를 가짐을 의미한다. 이와 대조적으로 본 연구의 제안 방법은 mAP50-95 0.4108을 달성하여 MIC 대비 6.7배, CMT 대비 5.9배의 성능 우위를 보였다.
<Table 5>
Performance comparison with unsupervised domain adaptation SOTA methods and another vision-language model on the target domain.
| Model | Backbone | Adaptive Strategy | mAP50-95 | mAP50 | Precision | Recall |
|---|---|---|---|---|---|---|
| MIC | F-RCNN R50 | Masked image consistency | 0.0614 | 0.1312 | 0.3172 | 0.2125 |
| CMT | F-RCNN R101 | Adversarial + Contrastive Mean Teacher |
0.0694 | 0.1736 | 0.5352 | 0.1952 |
| Florence-2 | Florence-2-base-ft | Zero-shot | 0.3632 | 0.5570 | 0.8178 | 0.4693 |
| Florence-2 | YOLO11x | VLM-based pseudo labeling | 0.4098 | 0.6406 | 0.7560 | 0.5582 |
본 연구의 시각-언어 모델 기반 도메인 적응 성능이 사전학습 규모에 기반하고 있음을 두 가지 방향에서 확인할 수 있다. 첫 번째로, Grounding DINO와 학습 방식이 다른 또 다른 시각-언어 모델인 Florence-2를 선생 모델로 사용한 학생 모델은 mAP50-95 0.4098을 달성하여 Grounding DINO 기반 결과와 0.0010 차이에 불과한 사실상 동등한 성능을 보였다. 이는 대규모로 사전학습된 시각-언어 모델이라면 모델 종류와 무관하게 본 파이프라인이 일관된 성능을 낼 수 있음을 의미한다. 두 번째로, 비교적 적은 규모의 ImageNet 분류 데이터로 사전학습된 Faster R-CNN 기반 MIC와 CMT는 본 연구 대비 약 1/6 수준의 성능에 그쳤다. 두 결과를 종합하면, 큰 규모의 시각-언어 사전학습 모델끼리는 일관된 성능을 유지하는 반면 사전학습 규모와 방식이 다른 백본과는 큰 성능 격차가 발생함을 알 수 있으며, 이는 본 연구의 도메인 적응 성능이 시각-언어 모델의 대규모 사전학습 규모와 이미지-텍스트 정렬 능력에 기반함을 보여준다.
3. 결과 영상 및 분석
<Fig. 3>은 타겟 도메인의 세 가지 대표 시나리오에 대한 탐지 결과를 정성적으로 비교한 것이다. 열 방향으로 GT 어노테이션, 소스 도메인 단독 학습 모델의 탐지 결과, 제안 방법의 탐지 결과를 나란히 제시하며, 행 방향으로 야간 도로(R1), 잔설 환경(R2), 겨울철 자전거도로(R3)의 세 가지 장면을 구성하였다.
<Fig. 3>
Qualitative comparison of detection results on target domain. Columns: (a) ground truth annotations, (b) SO baseline model, (c) proposed DA method. Rows: (R1) nighttime road environment, (R2) residual snow environment, (R3) winter bicycle road environment
R1-(a)에서는 원거리 및 근거리에 위치한 차량 다수가 정확한 바운딩 박스로 표시되어 있다. R1-(b)에서는 일부 차량이 바운딩 박스로 탐지되었으나 근거리 및 원거리 차량의 경우 탐지가 누락되는 경향이 두드러진다. 야간 환경에서는 조명 조건이 소스 도메인과 현저히 달라 모델이 차량의 외형 특징을 제대로 인식하지 못하는 것으로 분석된다. 반면 R1-(c)에서는 근거리 및 원거리 차량 모두 0.95, 0.97 등 높은 신뢰도 점수와 함께 안정적으로 탐지되었으며, 바운딩 박스의 위치와 크기도 GT와 높은 일치도를 보인다. 이는 타겟 도메인의 야간 영상으로 생성된 의사 레이블이 야간 조명 환경에서의 차량 외형 특징을 효과적으로 학습에 반영하였음을 보여준다.
R2는 자동차 도로의 노면에는 눈이 거의 제거되었으나 인접한 자전거도로에는 눈이 잔류한 환경에서의 탐지 결과이다. 소스 도메인 학습 데이터인 여름·가을철 영상에서는 자전거도로와 주변 환경 간의 노면 색상 및 도로 경계의 시각적 특징이 명확하게 구분되어 있으나, 타겟 도메인의 잔설 환경에서는 적설로 인해 이러한 시각적 특징이 소멸되어 소스 도메인과의 배경 분포 차이가 극대화되는 도전적인 조건이다. R2-(a)에서 자전거도로 위의 보행자를 포함하여 다수의 차량이 표시되어 있으나, R2-(b)에서는 신뢰도 0.46, 0.86 수준의 일부 차량만을 탐지하는 데 그쳤으며, 자전거도로에 위치한 보행자와 다수의 원거리 차량이 모두 누락되었다. 특히 눈이 잔류한 자전거도로 구역에서의 보행자는 배경과의 시각적 대비가 낮아 소스 도메인 학습 데이터인 여름·가을철 영상과 현저히 상이한 외형을 보이므로 탐지에 실패한 것으로 판단된다. R2-(c)에서는 자전거도로 위의 보행자가 신뢰도 0.89로 탐지되었으며, 원거리 및 근거리의 다수 차량 또한 신뢰도 0.90 이상으로 안정적으로 탐지되어 바운딩 박스의 밀도와 위치가 GT와 유사한 수준으로 회복되었다. 잔설 환경에서의 이러한 성능 개선은 타겟 도메인 의사 레이블 학습을 통해 눈이 남아있는 자전거도로 환경에서의 객체 외형 변화에 대한 강인성이 향상되었음을 정성적으로 입증한다. 아울러 해당 장면은 차도와 자전거도로가 함께 포착된 환경으로, 이는 자전거도로가 설치되지 않은 구간에서 본 시스템을 적용할 경우를 고려한 것이다. 자전거도로가 없는 곳에서는 자전거 이용자가 차도 우측 가장자리로 통행하게 되므로, 차도를 포함한 장면을 평가 대상에 포함함으로써 향후 다양한 도로 환경으로의 시스템 확대 적용 가능성을 검증하였다.
R3는 겨울철 자전거도로에서 소형 객체인 자전거·전동킥보드를 포함한 4종 이동 객체를 탐지하는 장면이다. R3-(a)에서는 화면 위쪽에 보행자 여러 명, 왼쪽에 전동킥보드, 오른쪽에 차량이 표시되어 있다. R3-(b)에서는 보행자 일부와 차량은 탐지되었으나 신뢰도가 낮고, 전동킥보드와 자전거는 탐지하지 못하였다. 전동킥보드와 자전거는 차량에 비해 이미지에서 차지하는 픽셀 수가 훨씬 적은 소형 객체로, 소스 도메인의 여름·가을철 영상과 타겟 도메인의 겨울철 영상 사이에 배경 색상과 카메라 설치 각도 차이가 함께 작용하면 특징을 뽑아내기가 더욱 어려워진다. 소형 객체는 픽셀 수가 적어 해상도가 낮고 특징 표현이 부족하기 때문에 모델이 배경과 객체를 구별하기 어려우며, 이런 특성 때문에 도메인 변화가 생기면 탐지 성능이 더욱 크게 떨어진다(Nikouei et al., 2025). 이는 소형 객체일수록 배경과 시각적으로 구분하기 어려워 미탐 가능성이 높아지는 특성을 보여주는 것이다. 이러한 결과는 소형 객체 탐지가 도메인 적응에서 가장 해결하기 어려운 문제임을 보여준다. R3-(c)에서는 보행자(0.94), 전동킥보드(0.91), 자전거(0.90)가 모두 높은 신뢰도로 탐지되었으며, 오른쪽 멀리 있는 차량도 일부 가려진 상태에서 0.95의 신뢰도로 안정적으로 탐지되었다. 종합적으로 <Fig. 3>의 정성적 비교는 R1~R3에 걸친 다양한 타겟 도메인 환경 조건에서 제안 방법이 미탐과 오탐을 동시에 줄이며 일관되게 높은 탐지 성능을 발휘함을 시각적으로 확인한다.
Ⅳ. Conclusion
본 연구는 자전거도로 안전관리 시스템의 실용적 현장 배포를 저해하는 핵심 기술적 과제인 도메인 시프트 문제를 해결하기 위해, Grounding DINO 기반 선생-학생 비지도 도메인 적응 파이프라인을 제안하고 그 유효성을 자전거도로 4종 이동 객체 탐지 환경에서 검증하였다. 소스 도메인 단독 학습 YOLO11x를 타겟 도메인에 적용한 기준 성능 실험에서는 mAP50-95가 0.649에서 0.1721로 73.5% 하락하는 심각한 도메인 시프트를 확인하였으며, 이는 모델 스케일의 확대만으로는 교차 도메인 성능 저하 문제를 근본적으로 해결할 수 없음을 정량적으로 입증한다. 이에 대한 해결책으로 본 연구에서는 대규모 이미지-텍스트 쌍으로 사전학습된 Grounding DINO를 선생 모델로 활용하여 타겟 도메인의 비라벨 영상으로부터 의사 레이블을 자동 생성하고, 이를 소스 도메인 GT 데이터와 혼합하여 YOLO11을 재학습하는 도메인 적응 파이프라인을 구축하였다. 제안 방법을 적용한 결과, YOLO11x 기준 타겟 도메인 mAP50-95가 0.4108로 기준 성능 대비 138.7% 향상되었으며, Grounding DINO 제로샷 성능인 0.3098도 상회하여 선생 모델의 도메인 일반화 능력이 학생 모델의 적응 학습을 통해 효과적으로 증폭됨을 확인하였다. 모델 스케일별 비교 실험에서는 YOLO11n부터 YOLO11x까지 전 스케일에 걸쳐 도메인 적응 효과가 일관되게 나타났으며, 특히 YOLO11m과 YOLO11l 간의 성능 수렴 현상은 엣지 장치 배포 시 경량 모델도 유효한 대안이 될 수 있음을 시사한다. 의사 레이블 손실 가중치 ablation 실험에서는 λtarget=2.5 설정이 mAP50-95, mAP75 두 지표에서 최적 성능을 달성하였으며, 가중치 조절이 위치 추정 정밀도에 탐지 여부보다 더 민감하게 영향을 미친다는 점도 확인하였다. 정성적 결과 분석에서는 야간 조명, 잔설, 겨울철 소형 객체 등 복합적인 도메인 시프트 조건에서 제안 방법이 미탐과 오탐을 동시에 감소시키며 일관된 성능 향상을 발휘함을 시각적으로 확인하였다. 다만 본 연구는 몇 가지 한계를 지닌다. 첫째, 의사 레이블 생성 시 고정 임계값(τbox=0.25, τtext=0.20)을 사용하여 클래스 또는 이미지 특성에 따른 최적값 차이를 반영하지 못하였으며, 향후에는 학습 진행에 따라 임계값을 동적으로 조정하는 기법이나 대조 학습(contrastive learning)을 활용하여 의사 레이블의 노이즈를 줄이는 방향으로 개선이 필요하다. 둘째, 단일 소스-타겟 도메인 간 전이 실험에 한정되어 다양한 현장 환경으로의 범용적 적용 가능성은 추가 검증이 필요하다. 본 연구에서 제안하는 파이프라인은 Grounding DINO의 도메인 일반화 능력에 기반하여 소수의 타겟 도메인 데이터만으로도 의사 레이블 생성과 도메인 적응이 가능하다는 점에서 데이터 규모에 대한 의존도를 낮추는 설계를 채택하고 있으나, 향후 복수의 현장과 다양한 계절·기상 조건에서 수집된 데이터를 활용한 추가 검증이 필요하다. 셋째, 현재 mAP50-95 0.4108 수준은 자전거도로 안전관리 시스템의 단독 실용 배포 기준으로는 충분하지 않으며, 위험 상황 사전 경보 보조 시스템 또는 반자동 레이블링 지원 도구로서의 활용이 현실적이다. 향후 더 많은 현장 데이터를 확보하고 더 강력한 시각-언어 모델을 활용함으로써 성능을 높여 나갈 계획이다. 본 연구의 결과는 추가적인 현장 어노테이션 비용 없이 새로운 환경에 신속하게 적응 가능한 자전거도로 안전관리 시스템 구축을 위한 실용적 기술 기반을 제공하며, 나아가 다양한 도로 환경과 기상 조건에서 운용되는 지능형 교통 안전관리 시스템의 현장 적응성 향상에 기여할 것으로 기대된다.
