박지환 대표 "고도화한 AI 적용 무기체계 시스템 평가기법과 체계 구축해야"
씽크포비엘이 ‘2024 인공지능의 책임 있는 군사적 이용에 관한 고위급회의(이하 2024 REAIM 고위급회의)’에서 ‘AI 무기체계의 시스템 수준 평가 방안’을 제시했다.
회사는 9일(월) 오후 서울 롯데호텔에서 열린 육군시험평가단 주관 ‘AI 능력 시험평가 개발 전략’ 발표회에서 박지환 대표가 주요 강연자로 나서 AI 무기체계의 효과적인 품질 점검 방안을 제시했다고 10일 밝혔다. 발표회는 ‘2024 REAIM 고위급회의’ 주요 세션 가운데 하나로 진행됐다. 세션에는 군과 정부 관계자, 각국 전문가 60여 명이 참석했다.
발표에서 박 대표는 “군의 신뢰할 수 있는 고품질 AI 무기체계 획득을 위해서는 고도화한 AI 적용 무기체계 시스템 평가기법과 체계를 구축해야 한다”며 “신뢰할 수 있는 AI 무기체계 성능 확보를 위해 AI 기술 개발에 필요한 학습 및 학습용 데이터 품질을 견고하게 점검하자”고 말했다.
씽크포비엘은 올해 상반기부터 국방기술품질원(이하 기품원)과 ‘AI 적용 무기체계의 시스템 수준 평가 방안 연구’를 수행하고 있다. 해당 사업은 지금까지 연구돼 온 AI 무기체계 품질관리 방안이 AI 기술 발전 수준을 따라잡지 못한다는 문제의식에 따라 추진됐다. 양측은 올해 안에 견고성, 설명가능성, 의도부합성에 초점 맞춘 AI 적용 무기체계 평가 방안을 마련할 계획이다.
씽크포비엘 관계자는 “AI 적용 무기체계 시스템 평가기법이 고도화하면, 우리 군의 신뢰할 수 있는 고품질 AI 무기체계 획득이 가능해지고, 연구 결과의 현장 적용에 필요한 인프라‧제도 등 관련 근거를 마련할 것”이라며 “민간의 AI 안전 기술이 국방 분야에 잘 적용되면 국방 경쟁력과 국가 안보에 큰 도움이 되는 만큼, 기술 격변기인 지금 관련 투자가 일회성에 그치지 않도록 정부 차원 관심과 지원이 절실하다”고 말했다.
한편, 2024 REAIM 고위급회의는 국방부‧외교부가 공동 개최하는 행사로, 9일과 10일 양일 동안 서울 롯데호텔과 조선호텔에서 열린다. REAIM 고위급회의는 AI의 군사적 이용이 국제평화와 안보에 미치는 영향에 대한 이해를 제고하고 관련 국제규범 형성 과정에 이바지하자는 취지로 출범됐다. 정부, 산업계, 학계, 국제기구 등이 함께 참여하는 국제 다자회의체로 우리나라와 네덜란드 정부가 지난해 네덜란드 헤이그에서 제1차 회의를 공동 주최했고, 이번에 서울에서 제2차 회의가 열리게 됐다.
이번 행사에는 90여 개국 정부대표단을 포함해 2000명 이상이 참석한 것으로 알려졌다. 9일 열린 개회식에서는 조태열 외교부 장관의 개회사와 김용현 국방부 장관 환영사가 있었고, 공동주최국 대표로 루벤 브레켈만스(Ruben Brekelmans) 네덜란드 국방부 장관 등이 축하 메시지를 전했다.
헬로티 서재창 기자 |
