신뢰도, 투명성에 대한 심도 있는 관점 제시 및 실질적 적용이 가능한 방안 공유
신뢰할 수 있는 인공지능 국제연대(TRAIN)가 지난 7일 서울시 강남구 앙트레블에서 ‘제1회 BEER TRAIN 2024(Bridging Engagement Exchange Roundtable TRAIN)’을 개최했다.
최근 유럽과 미국에서 AI 규제에 관한 법안과 논의가 활발히 이뤄지며, 구체적인 로드맵이 공개되고 있다. 이 과정에서 강조되는 개념은 '투명성'이다. 투명성은 신뢰할 수 있는 AI 시스템을 구축하기 위한 필수 항목이다. BEER TRAIN 2024는 투명성을 명확하게 정의하고 국내외 요구사항을 비교해 실제 사례에 기반한 투명성 확보의 중요성을 제시하는 데 목적을 뒀다.
세미나에서는 신뢰할 수 있는 AI 구축에 필수 요소인 투명성에 대한 고찰과 기술 개발 현장에서 투명성을 어떻게 확보해야 할지에 대해 분야별 전문가가 관련 법과 표준에 기반에 제시했다. 이와 더불어 최신 사례에 근거한 투명성 확보 방안이 다채롭게 소개됐다. 씽크포비엘 박지환 대표는 행사에 앞서 "이제 원론적인 이야기보다 실질적으로 AI 투명성을 확보할 수 있는 기술에 초점을 맞출 시기다"며 "BEER TRAIN에서는 산업 현장에서 AI 투명성을 제고하고, 국제적인 경쟁력을 기를 수 있는 해결점을 공유할 계획이다"고 말했다.
법무법인 원 고인선 변호사는 '법에서 요구하는 AI 투명성이란 무엇인가'라는 주제로 첫 번째 발표에 나섰다. 이 발표에서는 EU AI법에서 요구하는 투명성 개념과 요건에 대해 다뤘다. 고인선 변호사는 "국내향 AI 서비스인 경우에도 EU 시민을 대상으로 하는 경우에는 국가 및 주소지에 관계없이 EU AI법이 준수돼야 한다"고 언급했다.
이어 한국산업기술시험원(KTL) 안선호 AI 팀장은 '기술적 관점에서의 투명성은 어떻게 다뤄져야 하는가?'라는 주제로 발표를 진행했다. 안선호 팀장은 발표를 통해 국제 표준에서 정의한 AI 투명성의 정의와 체계를 심도 있게 분석했다. 이어 그는 EU AI법에서 명시한 내용들이 AI 시스템 신뢰성 향상에 어떻게 작동되는지에 대해 설명했다.
끝으로, 씽크포비엘 천선일 매니저는 '국가마다 AI의 투명성이 다르다면? 다른 곳은 어떻게 하는가?'를 주제로 국내외 AI 시스템 개발 시 요구되는 투명성 요구사항을 비교하고 적용 사례를 공유했다. 특히 의료 분야 및 EU 보고서 내의 사례를 중심으로 실제 적용할 수 있는 투명성 확보 방안을 제시했다.
한편, Beer TRAIN 세미나는 남은 하반기 동안 매월 열릴 예정이다. 각 일정별로 선정된 아젠다를 바탕으로 각계 전문가를 통해 발표를 진행하고, 자유로운 분위기에서 토론과 네트워킹이 열릴 것으로 보인다.
헬로티 서재창 기자 |
