AI 보안의 중요성이 날로 커지는 가운데, 국내 AI 보안 기업 에임인텔리전스가 세계적인 AI 연구기업 앤트로픽(Anthropic)의 비공개 AI 모델을 정밀 진단하며 실력을 입증했다. 서울대학교 전기정보공학 석사 출신 유상윤 대표가 이끄는 에임인텔리전스는 레드팀 테스트를 통해 AI 모델의 취약점을 분석하고 글로벌 AI 보안 시장에서 경쟁력을 강화하고 있다. 앤트로픽은 최근 AI 보안 강화를 위해 새로운 버그 바운티(Bug Bounty) 프로그램을 도입했다. 에임인텔리전스는 해당 프로그램에 초청받아 AI 모델의 악용 가능성을 방지하는 최신 방어 시스템을 점검하고 사전에 보안 취약점을 찾아내는 데 집중했다. 특히, CBRN(화학, 생물학, 방사능, 핵)과 관련된 10개 금지 질문을 설정해 AI 모델이 얼마나 정확히 대응하는지 평가하는 과정을 수행했다. 전 세계에서 초청된 해커 중 약 20명만이 2개 이상의 문제를 우회하는 데 성공했으며 에임인텔리전스의 박하언 연구원이 이에 포함되며 탁월한 보안 분석 능력을 인정받았다. 에임인텔리전스는 AI 모델이 내장한 보안 기능을 우회할 수 있는 방법을 탐색하며 기존의 방어 체계를 뚫는 새로운 기법을 실험했다. 이러한 연구
KT가 인공지능(AI) 클라우드 분야 스타트업들과 함께 마이크로소프트(MS)의 연례 기술 콘퍼런스 ‘MS 이그나이트 2024’에 참가한다고 21일 밝혔다. KT가 이 행사에 참여하는 것은 이번이 처음이다. MS 이그나이트는 최고경영자(CEO)인 사티아 나델라의 기조연설을 비롯해 여러 분야의 산업별 전문가 및 MS 개발자 강연, 신규 설루션 라이브 데모 및 체험형 실습 등으로 구성돼 있다. 특히 AI, 클라우드, 보안 등 다양한 기술 산업별 비즈니스 적용 사례를 공유하고 실무자에게 심층 기술 학습과 네트워킹 기회를 제공하는 자리다. KT와 함께 참가하는 스타트업은 레블업, 업스테이지, 베슬에이아이, 딥네츄럴, 솔트룩스, 셀렉트스타, 에임인텔리전스, 인이지, 아드리엘, 일만백만 등 10곳이다. 이들은 KT가 육성하는 AI 분야 스타트업으로, 판교 오픈 이노베이션 센터 입주 기업 여부, AI 클라우드 사업 연관성 유무 등을 평가해 선발됐다. KT 구매실장 이원준 상무는 “국내 유망 스타트업이 MS의 최신 AI·Cloud 기술들을 학습해 기술 경쟁력을 높일 수 있도록 적극 지원할 계획”이라고 말했다. 한편 KT는 22일 대한무역투자진흥공사(코트라) 시카고무역관과 공
자사의 AI 모델과 도구를 오픈소스로 공개...'AI 개발 및 혁신 속도 높여' 메타가 주최한 AI 솔루션 공모 프로그램 ‘라마 임팩트 이노베이션 어워즈’에서 국내 생성형 AI 보안 기술 스타트업 에임인텔리전스가 수상자로 선정됐다. 라마 임팩트 이노베이션 어워즈는 메타의 대규모 오픈소스 언어 모델인 라마2 또는 라마3를 활용해 지역사회의 문제 해결에 기여하는 AI 개발자 및 조직을 발굴하고 지원하는 글로벌 프로그램이다. 개방형 혁신을 위한 메타의 지속적 노력의 일환이며, 교육, 경제, 신뢰 및 안전성 측면에서 혁신적인 솔루션을 제시한 기관들에 최대 3만5000달러의 상금을 수여한다. 메타는 자사의 AI 모델과 도구를 오픈소스로 공개하며 업계 관계자가 안전하게 AI를 개발하고 혁신을 가속화할 수 있도록 앞장서고 있다. 이번 어워즈에는 아프리카, 중동, 터키, 아시아 태평양, 라틴아메리카 등 전 세계 다양한 지역의 후보가 참여한 가운데, ‘라마 수호 프로젝트’를 제안한 국내 AI 스타트업 ‘에임인텔리전스’가 아시아 태평양 지역 수상자 중 하나로 선정됐다. 에임인텔리전스는 기술력과 사회적 기여도를 높이 평가받았으며 상금으로 2만5000달러를 수상했다. ‘라마 수호
상호명(명칭) : (주)첨단 | 등록번호 : 서울,자00420 | 등록일자 : 2013년05월15일 | 제호 :헬로티(helloT) | 발행인 : 이종춘 | 편집인 : 김진희 |
본점 : 서울시 마포구 양화로 127, 3층, 지점 : 경기도 파주시 심학산로 10, 3층 | 발행일자 : 2012년 4월1일 | 청소년보호책임자 : 김유활 | 대표이사 : 이준원 | 사업자등록번호 : 118-81-03520 | 전화 : 02-3142-4151 | 팩스 : 02-338-3453 | 통신판매번호 : 제 2013-서울마포-1032호
copyright(c) HelloT all right reserved
UPDATE: 2025년 02월 25일 21시 44분
