최근 딥페이크·딥보이스 등 불법 영상물을 제작하고 온라인 불법 성인 사이트 및 SNS에 유포하는 AI 악용 사례가 사회적 문제로 떠올랐다.
지난해 몸캠피싱 경찰 접수 건은 3545건으로 2018년(1848건)과 비교해 2배가량 증가했다. 이는 동영상·이미지 등 성적 콘텐츠 교환을 유도한 후 피해자의 연락처·SNS 정보를 획득해 유포를 빌미로 금전을 갈취하는 방식이다.
CLC 시스템은 라바웨이브 데이터베이스에 등록된 불법 성인 사이트와 디지털 성범죄자의 SNS 계정 등 특정 온라인 영역의 변동을 자동으로 실시간 감시한다. 불법 성인 사이트와 성범죄자 SNS 계정 등에 신규 영상 업로드 현황이 감지되면 라바웨이브 전담 대응 부서의 전방위적 분석 작업이 실시된다. 또한 분석 과정에서 불법 촬영물이 업로드 가능한 불법 성인 사이트 개설 및 폐쇄 현황을 실시간으로 업데이트하기 때문에 광범위한 자동 탐색 및 변동 감지가 가능하다.
유포 정황이 포착되면 증거 수집에 이은 삭제 지원 절차 착수 등 즉각적인 피해자 보호에 필요한 대응 방안을 제공한다. 더불어 CLC 시스템은 범죄자 활동 주기와 범죄 관련 데이터 수집에도 활용된다. 수집한 데이터를 분석 및 분류해 범죄자 활동 예측 시간과 유포 패턴 등을 사전에 파악해 체계적인 대응 프로세스 구축에 활용될 전망이다. 라바웨이브는 지난달 11일 정식 출시한 모니터링 솔루션 ‘하이퍼 디텍트’에 CLC 시스템을 탑재하여 운용할 예정이다.
라바웨이브 관계자는 “딥페이크·몸캠피싱 등 디지털 성범죄자의 온라인 유포 활동 실시간 감지가 가능한 CLC 시스템이 증명사진 수준의 안면 이미지만으로 불법 촬영물 원본을 찾아내는 하이퍼 디텍트에 탑재돼 디지털 성범죄 피해자 보호가 견고하게 이뤄질 것이라 기대하고 있다”고 밝혔다.
헬로티 구서경 기자 |
