정보융합공학과 김호원 교수팀이 제안한 연구논문이 컴퓨터 비전 분야 우수 국제학술대회인 ICCV(International Conference on Computer Vision, 국제 컴퓨터 비전 학회) 2023년 Main conference 논문으로 채택됐다.

작년 CVPR(Computer Vision and Pattern Recognition, 국제 컴퓨터 비전 및 패턴인식 학술대회)에서 연구성과를 발표한 것에 이어, 인공지능-패턴 인식 분야에서 최고 권위로 평가받는 학술대회에 2년 연속으로 논문이 선정되는 고무적인 성과를 이루어낸 것이다.

연구팀은 “ACTIVE: Towards Highly Transferable 3D Physical Camouflage for Universal and Robust Vehicle Evasion(미분 가능한 뉴럴 렌더러를 통한 자연스러운 물리적 위장 공격)” 라는 논문을 통해, 차량 종류와 무관하게 다양한 물리적 상황과 조건에 강인한 적대적 공격 패턴(Adversarial attack pattern)을 생성하는 프레임워크를 제안하고 이를 실현했다. 프레임워크에서 제안된 NTR(Neural Texture Renderer, 미분가능한 뉴럴 텍스처링 모델) 기법은 3D 객체에 패턴을 입혔을 때도 실사에 가까운 렌더링 결과를 추론할 수 있는 3D 뉴럴 렌더링 기법이다.

연구팀은 Tesla(테슬라) Model 3에 대한 축소 모형을 제작하였으며, 본 논문에서 제시된 기술을 적용한 결과, 현재 최고의 탐지 및 식별 AI 모델도 쉽게 공격됨을 증명하였다. 한편, 향후 본 기술은 AI 취약점이 개선되는 방향으로 실제 자율주행 자동차 환경에 적용할 예정이다. 즉, 적대적 AI 공격에 안전한 AI 기술을 개발하고, 이를 기반으로 안전하고 신뢰할 수 있는 AI 기술을 개발하고자 한다.

* 사진: 왼쪽부터 연구 지도를 맡은 김호원 교수(교신저자), 박사과정생 수랸토 나우팔(공동1저자)과 김용수(공동1저자)