최신뉴스 S2W, ‘시큐리티 가드레일’로 LLM로 인한 보안 취약성 보호

S2W가 자사 AI 플랫폼 SAIP에 시큐리티 가드레일을 구현하면서 AI 안전성을 강화해 안정적인 데이터 운용 환경을 제공한다. SAIP는 고객의 보안 요구 수준에 맞춘 제로 트러스트 기반 설계로 구현한 기업 맞춤 생성형 AI 플랫폼이다. 해당 플랫폼은 기업 도메인에 특화된 대규모 언어 모델(LLM) 및 지식그래프 기술을 접목하고, 산업 특성과 사용 목적을 고려해 사용자 질문에 사실 기반 답변과 데이터를 제공한다. 조직은 LLM의 활용으로 데이터 운용의 효율성과 생산성을 높이는 한편 데이터 유출과 악의적 조작의 우려도 함께 커졌다. 생성형 AI 도입으로 발생하는 보안 문제점을 효과적으로 방어하는 기술에 대한 수요가 증가하고 있다. 이에 S2W는 SAIP에 시큐리티 가드레일을 적용해 기업 내부 데이터 보호 및 보안 위협 대응에 강화된 기능을 선보였다. 시큐리티 가드레일은 LLM의 개발·배포·운영 과정에서 보안성과 신뢰성을 확보하는 방어 체계다. 이를 플랫폼 안에 구현해 AI 모델 학습에 사용되는 데이터 세트를 검토하고 민감 정보를 제거하는 검증과 정제 과정을 거쳐, 정보 유출 위험을 최소화하고 데이터 프라이버시를 강화했다. 더불어 AI 모델이 주어진 프롬프트에

• 구서경 기자
• 2024-11-20 14:12