헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

2025.02.26(수)

동두천 1.8℃구름많음
강릉 5.5℃구름조금
서울 3.1℃맑음
대전 4.1℃비
대구 3.9℃맑음
울산 2.4℃맑음
광주 4.1℃구름많음
부산 4.5℃맑음
고창 2.7℃흐림
제주 6.4℃맑음
강화 2.3℃구름많음
보은 2.3℃구름많음
금산 4.1℃구름많음
강진군 4.8℃흐림
경주시 3.4℃맑음
거제 4.2℃맑음

AI 에임인텔리전스, AI 보안 강자 '주목'… 앤트로픽과 협업

AI 보안의 중요성이 날로 커지는 가운데, 국내 AI 보안 기업 에임인텔리전스가 세계적인 AI 연구기업 앤트로픽(Anthropic)의 비공개 AI 모델을 정밀 진단하며 실력을 입증했다. 서울대학교 전기정보공학 석사 출신 유상윤 대표가 이끄는 에임인텔리전스는 레드팀 테스트를 통해 AI 모델의 취약점을 분석하고 글로벌 AI 보안 시장에서 경쟁력을 강화하고 있다. 앤트로픽은 최근 AI 보안 강화를 위해 새로운 버그 바운티(Bug Bounty) 프로그램을 도입했다. 에임인텔리전스는 해당 프로그램에 초청받아 AI 모델의 악용 가능성을 방지하는 최신 방어 시스템을 점검하고 사전에 보안 취약점을 찾아내는 데 집중했다. 특히, CBRN(화학, 생물학, 방사능, 핵)과 관련된 10개 금지 질문을 설정해 AI 모델이 얼마나 정확히 대응하는지 평가하는 과정을 수행했다. 전 세계에서 초청된 해커 중 약 20명만이 2개 이상의 문제를 우회하는 데 성공했으며 에임인텔리전스의 박하언 연구원이 이에 포함되며 탁월한 보안 분석 능력을 인정받았다. 에임인텔리전스는 AI 모델이 내장한 보안 기능을 우회할 수 있는 방법을 탐색하며 기존의 방어 체계를 뚫는 새로운 기법을 실험했다. 이러한 연구

김재황 기자

2025-02-25 18:29

최신뉴스 줌 “지난해 버그 리포트 보상으로 390만 달러 지급”

2019년 도입 이래 현재까지 700만 달러 지급 완료 올해 새로운 자체 평가 VISS 도입…업계 통용 기준 CVSS 점수와 병행 줌이 2019년 버그바운티 프로그램을 시작한 이래 버그 리포트에 대한 보상으로 총 700만 달러(한화 약 91억 7000만원)가 넘는 금액을 상금(바운티)으로 지불했다고 21일 밝혔다. 특히 줌은 2023 회계연도 버그 리포트에 대한 보상으로 390만 달러(한화 약 51억 1000만원) 이상을 투자했다. 또한 줌은 올해 처음으로 프로그램에 자체 점수 시스템인 VISS(Vulnerability Impact Scoring System)을 도입한다. 줌은 자체적으로도 인프라를 매일 테스트를 진행하고 있지만 특정 사용 사례와 환경에서만 감지되는 엣지-케이스 취약점을 식별하기 위해 버그바운티 프로그램을 통해 윤리적 해커 커뮤니티와 협력하고 있다. 2022년에는 해커원 플랫폼에 보안 연구가들을 추가로 초청하고 H1-702와 같은 업계 주요 행사를 통해 보안 커뮤니티와 협력을 도모했다. 줌은 외부 보안 전문가들과 협력함으로써 주의가 필요한 항목 및 문제점의 근원을 파악하고, 부서간 조율 과정을 개선했다. 또힌 문제가 발생하기 전에 잠재적인 위

이창현 기자

2023-03-21 16:06