은밀한 유해표현, 설득력 등 다양한 지표를 통해 AI의 잠재 위험성 탐지 에임인텔리전스가 연세대학교, KIST, 서울대학교와 공동으로 개발한 AI 안전성 진단 체계 ‘ELITE(Enhanced Language-Image Toxicity Evaluation)’가 머신러닝 학술대회인 'ICML 2025'에 공식 논문으로 채택됐다. 이는 국내 연구진이 글로벌 AI 안전성 연구 흐름을 선도하는 신호탄으로 해석된다. ICML(International Conference on Machine Learning)은 인공지능 및 머신러닝 분야에서 가장 권위 있는 학회 중 하나로, 매년 전 세계 연구자들이 최신 기술을 발표하고 교류하는 자리다. 올해로 42회를 맞이한 이 학회에 국내 연구팀의 논문이 이름을 올린 것은, 한국 기술력의 실질적 성과가 국제적으로 공론화됐다는 점에서 의미가 깊다. ELITE는 이미지와 텍스트를 함께 입력받는 비전언어모델(VLM)의 응답을 ‘정밀 진단’하는 평가 체계다. 단순히 노골적인 표현만을 걸러내는 기존 방식에서 나아가, 겉보기에 문제가 없는 응답 속에서도 은밀한 유해 표현, 설득력, 구체성 등 다양한 지표를 통해 AI의 잠재 위험성을 탐지한다.
정부가 국가전략기술 중 하나인 인공지능(AI) 기술의 표준화 전략 마련에 나선다. 산업통상자원부 국가기술표준원(국표원)은 23일 산·학·연 인공지능 표준 전문가들이 참여한 가운데 인공지능 국제표준화 전략 워크숍을 열었다고 밝혔다. 워크숍에서는 지난 4월 독일에서 열린 인공지능 국제표준화기구(ISO) 국제표준화 회의에서의 활동 성과가 발표됐다. 우리나라는 인공지능 모델링 시 처리 비용을 절감할 수 있는 '경량화 프레임워크', 인공지능에서 사용자 요구 사항에 적합한 결과를 산출할 수 있도록 한 '추론에 대한 프레임워크' 등 신규 국제표준안 5건을 발표했다. 향후 국제전문가 지지를 확보해 오는 10월 오스트리아에서 열리는 인공지능 ISO 국제회의에 정식 표준안을 제출할 예정이다. 아울러 유럽연합(EU)에서 발의한 AI법안과 미국 등 국제표준화 동향, 올해 초부터 부각된 챗GPT 등 초거대 AI 발전 전망 등도 발표됐다. 국표원은 민간 표준전문가들과 함께 표준화 협의체 활동을 강화하고, 인공지능 연구개발(R&D)과 표준 연계, 스마트 제조·자율차 등 사업과 연계한 표준 개발, 인공지능 윤리 관련 표준 개발 등을 추진할 방침이다. 나아가 이를 이행하기 위한 표
상호명(명칭) : (주)첨단 | 등록번호 : 서울,자00420 | 등록일자 : 2013년05월15일 | 제호 :헬로티(helloT) | 발행인 : 이종춘 | 편집인 : 김진희 |
본점 : 서울시 마포구 양화로 127, 3층, 지점 : 경기도 파주시 심학산로 10, 3층 | 발행일자 : 2012년 4월1일 | 청소년보호책임자 : 김유활 | 대표이사 : 이준원 | 사업자등록번호 : 118-81-03520 | 전화 : 02-3142-4151 | 팩스 : 02-338-3453 | 통신판매번호 : 제 2013-서울마포-1032호
copyright(c) HelloT all right reserved
UPDATE: 2025년 05월 10일 22시 57분
