헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

2025.06.06(금)

동두천 17.6℃구름많음
강릉 20.3℃맑음
서울 18.2℃구름많음
대전 18.5℃맑음
대구 19.0℃맑음
울산 20.0℃맑음
광주 18.4℃맑음
부산 19.1℃맑음
고창 18.4℃맑음
제주 21.3℃맑음
강화 15.3℃구름많음
보은 17.3℃구름조금
금산 18.1℃맑음
강진군 18.7℃맑음
경주시 20.7℃구름조금
거제 19.7℃맑음

AI 팔로알토, 딥시크 '탈옥' 공격에 취약해…보안 경고 울려

팔로알토 네트웍스 위협 연구 기관 유닛42(Unit42) 조사에 따르면 딥시크의 보안 취약점으로는 ‘탈옥(jailbreaking)’이 꼽히며, 이는 전문 지식이나 경험이 없는 사용자도 악성 콘텐츠를 생성할 수 있다고 밝혔다. 탈옥은 AI 모델에 내장된 가드레일을 우회해 AI가 유해한 콘텐츠를 생성하거나 부적절한 답변 등을 출력하도록 유도하는 행위를 의미한다. 유닛42 연구진은 딥시크가 악성 소프트웨어 생성, 악의적인 스크립팅 등 유해한 콘텐츠를 생성할 가능성을 우려해 세 가지 탈옥 기법으로 취약점을 집중적으로 테스트했다. 이번 연구에는 ‘디셉티브 딜라이트(Deceptive Delight)’, ‘배드 리커트 저지(Bad Likert Judge)’, ‘크레셴도(Crescendo)’ 등 단일 및 다단계 탈옥 기법이 활용됐다. 이에 딥시크 가드레일을 성공적으로 우회해 데이터 탈취 도구 개발, 키로거 생성, 발화 장치 제작과 관련된 유해한 콘텐츠를 만들었다. 유닛42는 연구 과정에서 딥시크가 정교하게 설계된 프롬프트를 단계적으로 입력했을 때 높은 우회 및 탈옥 성공률을 보이면서 보안 취약점이 드러났으며, 이번 연구에 활용된 세 가지 탈옥 기법이 성공적으로 작동한 것은

구서경 기자

2025-02-18 13:59

데이터 “랜섬웨어 지난해 대비 49% 증가...제조업이 가장 큰 피해”

팔로알토 네트웍스 ‘랜섬웨어 공격 분석 보고서’ 공개 팔로알토 네트웍스는 위협 연구 기관 유닛42의 조사를 바탕으로, 2023년 랜섬웨어 유출 사이트에 등록된 기업이 총 3998개로 전년 대비 49% 증가하며 전세계가 랜섬웨어 대응에 상당한 도전과제를 경험했다고 3일 밝혔다. 팔로알토 네트웍스는 랜섬웨어의 급증이 MOVEit 및 GoAnywhere MFT 서비스의 SQL 인젝션 결함을 비롯해 널리 알려진 취약점들을 악용했기 때문이라고 분석했다. 보고서에 따르면 이러한 취약점을 노린 제로데이 익스플로잇으로 인해 조직에서 취약한 소프트웨어를 패치하기 전에 CL0P, LockBit, ALPHV(BlackCat) 등의 악성 그룹에 의한 랜섬웨어 감염이 급증한 것으로 나타났다. 또한 연구팀이 검토한 전체 유출 사이트 게시물 중 928개 조직에서 데이터를 게시하고 전체 게시물의 23%를 차지하며 가장 활발하게 활동하는 랜섬웨어는 여전히 록빗(LockBit)인 것으로 집계됐다. 지역별 분석에 따르면 최소 120개 국가의 조직이 랜섬웨어의 영향을 받았다. 가장 높은 비중은 미국으로, 미국에 기반을 둔 조직이 2023년 유출 사이트의 절반(47.6%)을 차지했으며 영국(6.

이창현 기자

2024-04-03 11:49