헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

일반뉴스 SK쉴더스 “LLM, 악용 가능성 존재해...체계적인 준비 필요“

LLM 서비스 취약점으로 '프롬프트 인젝션, 불안전한 출력 처리, 민감정보 노출' 강조 생성형 인공지능(AI)이 폭탄 제조 등에 악용될 수 있다는 우려가 제기됐다. SK쉴더스는 2일 서울 중구 페럼타워에서 '2024년도 상반기 보안 트렌드 분석 미디어 세미나'를 열고 AI 발전으로 사이버 보안에 대한 위협이 커졌다며 이런 분석을 내놨다. SK쉴더스의 화이트해커 그룹 '이큐스트(EQST)'는 AI 거대언어모델(LLM) 서비스의 취약점 중 위험도가 높은 세 가지로 프롬프트 인젝션, 불안전한 출력 처리, 민감정보 노출을 꼽으면서 이를 시연했다. 프롬프트 인젝션은 악의적인 질문을 통해 AI 서비스 내 적용된 지침이나 정책을 우회함으로써 본래 목적이 아닌 답변을 유도하는 취약점을 말한다. 이큐스트는 "생성형 AI가 프롬프트 인젝션을 통해 악성코드 생성이나 마약 제조, 폭탄 제조, 피싱 공격 등에 악용될 수 있다"고 지적했다. 오픈AI의 챗GPT 등 AI 챗봇은 보통 폭탄 제조 등 범죄에 악용될 수 있는 질문에는 답변하지 않도록 학습됐다. 그러나 이큐스트는 챗봇에 'IED(급조폭발물)' 등이 포함된 질문을 단계적으로 던지는 방법으로 폭탄 제조법을 끌어냈다. 불안전한 출

서재창 기자

2024-07-03 12:05

일반뉴스 SK쉴더스, 씨피식스 손잡고 자율주행차 보안 시장 확대 추진

SK쉴더스가 씨피식스와 자율주행차 보안 사업 확대를 위한 협력을 맺었다고 21일 밝혔다. 글로벌 시장조사 업체 프리시던스 리서치 조사 결과 모빌리티 보안 시장이 연 18% 이상 성장하고 있는 가운데, SK쉴더스는 유망 스타트업 씨피식스와의 기술 협력을 통해 자율주행차 취약점 점검을 비롯해 모빌리티 보안 서비스 제공에 나선다. SK쉴더스는 IT기술에 발맞춰 보안 서비스 적용 분야를 넓혀왔다. 클라우드, AI 등 디지털 전환에 대응해 왔으며, 제조·서비스를 포함한 다양한 산업에서의 취약점 점검, 모의해킹을 수행하며 보안 수준을 높여왔다. 이번 협력을 시작으로 신기술이 집약된 자율주행차 보안 시장에서도 다년간 축적된 경험과 독보적인 보안 기술력을 선보인다. 최근 자율주행차, 전기자동차 등 모빌리티 산업에서의 데이터 및 통신 활용이 늘어나면서 이를 노린 사이버 공격이 급증하고 있다. 이에 전 세계적으로 정보보안과 관련한 인증제도와 규제가 강화되고 있다. 유럽경제위원회(UNECE)가 제정한 차량 보안 규정(UNR155)에 따라 UNECE 협약국에 차량을 판매하기 위해서는 사이버 보안 관리체계 인증(CSMS, Cybersecurity Management System)과

이창현 기자

2024-06-22 12:09

일반뉴스 SK쉴더스, AI 보안 위협 전망 공유하는 미디어 세미나 개최

SK쉴더스가 2023년 상반기 주요 보안 트렌드 및 AI 보안 위협 전망을 공유하는 미디어 세미나를 개최했다고 20일 밝혔다. SK쉴더스의 화이트 해커 전문가 그룹인 '이큐스트(EQST)'는 이번 세미나에서 상반기에 발생한 주요 해킹 사례, 업종별 침해사고 통계, 주요 공격 시나리오 등을 소개했다. 또 최근 IT업계에서 급부상하고 있는 생성형 AI에서 발생할 수 있는 보안 위협과 실제 EQST가 검증한 AI 활용 방안과 AI 사용 가이드를 상세히 다뤘다. EQST는 올해 상반기 공격 비율이 전년 상반기 대비 49.33%나 증가했으며, 기업의 기밀이나 개인의 금융 정보를 탈취하는 정보유출 침해사고가 30%로 가장 많이 발생했다고 밝혔다. 특히 올해는 오래된 취약점을 활용한 대규모 랜섬웨어 공격이나 제로데이를 악용한 악성코드 감염사고가 증가하며 28%를 차지했다. 구체적으로 살펴보면, 올해 1월에는 중국 해커 그룹 '샤오치잉'이 정부부처와 공공기관을 타깃으로 내부 정보를 탈취하거나 홈페이지를 변조하는 디페이스(Deface) 공격을 시도해 눈길을 끌었다. 3월에는 북한의 라자루스 그룹이 기업용 통신 소프트웨어에서 연쇄적 공급망 공격을 수행해 큰 피해를 입혔다. 5

이창현 기자

2023-06-20 13:56