에스투더블유(이하 S2W)가 지난 26일 서울 서초 JW 메리어트 호텔에서 열린 ‘2025 국제사이버범죄대응 심포지엄(ISCR 2025)’에 초청돼 생성형 AI 시대의 새로운 보안 위협을 주제로 발표를 진행했다.
2000년 시작돼 올해로 26회째를 맞은 ISCR은 경찰청 수사국 주관으로 국내외 법 집행기관, 기업, 학계 전문가가 모여 사이버범죄 대응 경험과 지식을 공유하는 자리다. 올해 행사는 ‘사이버세상 속 신뢰: 모두를 위한 안전’을 주제로 열렸다.
행사 첫날 공개세션에서 양종헌 S2W 오펜시브연구팀장은 ‘AI 에이전트 및 멀티 에이전트 시스템 취약점 및 보안 위협’을 주제로 발표했다. 양 팀장은 프롬프트 인젝션(Prompt Injection), 모델 포이즈닝(Model Poisoning), 악성도구를 이용한 권한 상승(Malicious Tool Privilege Escalation) 등 대규모 언어모델(LLM) 기반 AI 에이전트 및 멀티 에이전트 시스템의 취약점을 겨냥한 대표적 위협 8종과 대응책을 제시했다.
또한 올해 발생한 실제 사례로 ‘랭스미스 랭체인 허브 어뷰징(LangSmith Langchain Hub Abusing)’, ‘레노버 레나 챗봇 XSS(Lenovo ‘Lena’ ChatBot XSS)’, ‘아마존 Q 개발자 플러그인 어뷰징(Amazon Q Developer Plugin Abusing)’ 등을 언급하며 데이터 보호 정책 수립과 접근 제어, 모니터링 체계 강화가 필요하다고 강조했다.
S2W는 이러한 위협에 대응하기 위해 자체 방어 체계인 ‘시큐리티 가드레일(Security Guardrail)’을 구현해 산업 특화 AI 플랫폼 ‘SAIP(S2W AI Platform)’에 탑재했다. 이를 통해 생성형 AI 서비스 운용 중 발생할 수 있는 각종 위협을 효과적으로 차단할 수 있다.
또한 위협인텔리전스센터 ‘탈론(TALON)’은 온톨로지 기반 지식그래프 기술을 활용해 악성코드, 취약점, 위협 행위자 간 연관성을 정밀 분석한다. 이를 통해 고객사가 지능화된 AI 기반 위협에 대비할 수 있는 최적의 방어 전략을 수립하도록 지원하고 있다.
양 팀장은 “이번 심포지엄 발표는 구체적인 사례를 통해 생성형 AI 시대 보안 위협의 실체를 심층 조명하고 이를 선제적으로 차단할 수 있는 방안에 대한 인사이트를 공유하는 뜻깊은 기회였다”라며 “S2W는 생성형 AI가 야기한 새로운 위협 환경을 분석하는 것을 넘어 실제 현장에서 적용 가능한 고도화된 방어 체계를 구축하는 데 주력할 것”이라고 전했다.
헬로티 구서경 기자 |
