테크노트 자율주행 안전성 강화 위한 AI 기반 취약점 분석 도구 공개

GIST, 자율주행차 보행자 인식 오류 유발하는 새 알고리즘 검증 광주과학기술원(GIST)은 AI융합학과 김승준 교수 연구팀이 자율주행차에 활용되는 시각 인식 시스템의 보안 취약점을 진단할 수 있는 새로운 ‘적대적 공격’ 알고리즘을 개발했다고 밝혔다. 자율주행차는 도로 위 보행자, 차량, 차선, 신호등 등 다양한 객체를 실시간으로 정확하게 인식해야 안전하게 주행할 수 있다. 이를 가능하게 하는 핵심 기술이 바로 의미 분할(Semantic Segmentation) 모델이다. 적대적 공격(Adversarial Attack)은 인공지능 모델, 특히 딥러닝 기반 모델이 잘못된 판단을 내리도록 의도적으로 입력 데이터를 교묘히 조작하는 기법을 말한다. 예를 들어 이미지의 픽셀 값을 인간이 눈치채기 힘들 정도로 미세하게 변형해도 모델은 전혀 다른 사물로 잘못 인식할 수 있어 보안 및 신뢰성 측면에서 큰 위협이 된다. 의미 분할(Semantic Segmentation) 모델은 이미지 속의 모든 픽셀을 사물이나 배경 등 특정 의미 단위로 구분해주는 인공지능 기술로, 자율주행차가 도로 상황을 인식할 때 차선, 보행자, 차량, 신호등 등 각각의 객체를 픽셀 단위로 정확히 구분해

• 이창현 기자
• 2025-10-01 11:47