LLM 신뢰성 평가 실증 및 교육자료 개발 맡아 국내 LLM 모델 평가 진행 크라우드웍스는 한국정보통신기술협회(TTA)가 주관하는 ‘생성형 AI 신뢰성 평가의 실용적 접근 방안 연구사업’을 성공적으로 완료했다고 4일 밝혔다. 크라우드웍스는 이번 사업을 통해 AI 신뢰성 평가에 대한 전문성과 경쟁력을 확보하게 됐다. 이번 연구사업의 핵심은 생성형 AI의 신뢰성 및 안전성을 체계적으로 평가하기 위한 프레임워크 표준 개발 및 실증이었다. 크라우드웍스는 LLM 신뢰성 평가 실증 및 교육자료 개발을 맡았으며, 국내 기업이 개발한 3개의 LLM 모델을 대상으로 평가를 진행했다. 크라우드웍스는 먼저 데이터셋을 활용한 평가 결과를 바탕으로 3개 LLM 모델의 응답 패턴을 분석했다. 이를 통해 각 모델별로 두드러지는 잠재적 위험 요소를 파악하고 공격 시나리오를 설계했다. 다양한 프롬프트를 활용해 모델을 다각적으로 테스트하며 시나리오를 보완했고, 각 모델의 취약점을 집중적으로 탐색했다. 이어 AI 모델을 활용한 자동 평가와 전문 인력을 활용한 레드팀 심화 평가를 동시에 진행했다. 전문 레드팀은 크라우드웍스가 보유한 60만 명의 데이터 전문가 풀에서 적대적 프롬프트 생성 및 응
불과 2년 전, 오픈AI(OpenAI)가 내놓은 챗GPT(ChatGPU)는 차세대 ‘인공지능(AI)’이라는 소용돌이 속에 전 세계를 몰아넣었다. AI가 새로운 먹거리이자 미래 방향성으로 급부상한 것이다. 이러한 AI는 인류에 편의와 효율을 제공하는 매개임과 동시에, 인간의 각종 권리를 침해할 수도 있는 위협적인 존재로 인식되기 시작했다. 이에 따라 미국·유럽연합(EU) 등은 AI가 무분별하게 활용될 수 있는 가능성을 차단하기 위해 갖가지 ‘안전장치’를 발표했다. 미국은 ‘안전·보안·신뢰를 보장하는 AI 개발 및 사용에 대한 행정명령(Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)’을 내놨다. EU도 올해 초 결이 유사한 ‘AI 법(AI Act)’의 통과를 공표했다. 앞선 법안은 성장에만 맞춰진 AI 업계의 시각을 우회해 새로운 접근법을 제시한 점이 특징이다. 기술적 측면뿐만 아니라 안전성·보안성·신뢰성·윤리성·투명성 등이 확보된 ‘설득력’ 있는 AI를 전 세계에 전파하겠다는 방향성이 내포돼 있다. 우리나라도 이러한 흐름에 합류해
불과 2년 전, 오픈AI(OpenAI)가 내놓은 챗GPT(ChatGPU)는 차세대 ‘인공지능(AI)’이라는 소용돌이 속에 전 세계를 몰아넣었다. AI가 새로운 먹거리이자 미래 방향성으로 급부상한 것이다. 이러한 AI는 인류에 편의와 효율을 제공하는 매개임과 동시에, 인간의 각종 권리를 침해할 수도 있는 위협적인 존재로 인식되기 시작했다. 이에 따라 미국·유럽연합(EU) 등은 AI가 무분별하게 활용될 수 있는 가능성을 차단하기 위해 갖가지 ‘안전장치’를 발표했다. 미국은 ‘안전·보안·신뢰를 보장하는 AI 개발 및 사용에 대한 행정명령(Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)’을 내놨다. EU도 올해 초 결이 유사한 ‘AI 법(AI Act)’의 통과를 공표했다. 앞선 법안은 성장에만 맞춰진 AI 업계의 시각을 우회해 새로운 접근법을 제시한 점이 특징이다. 기술적 측면뿐만 아니라 안전성·보안성·신뢰성·윤리성·투명성 등이 확보된 ‘설득력’ 있는 AI를 전 세계에 전파하겠다는 방향성이 내포돼 있다. 우리나라도 이러한 흐름에 합류해
센텍社 스캔 카메라, 유레시스社 프레임 그레버 소개 반도체 및 전자기기 보호 기술 품질 검증에 특화 코팅 누락, 코팅 두께 불량, 기포·불순물, 균열, 탈락 등 검출해 품질 극대화 화인스텍이 컨포멀 코팅 검사(Conformal Coating Inspection)에 특화된 머신비전 시스템 두 종을 산업에 제시했다. 컨포멀 코팅은 습기·먼지·화학제·열·충격 등에 취약한 반도체 및 전자기기를 보호하는 기술이다. 쉽게 말해 보호 대상에 일종의 보호막을 씌우는 특수 코팅 공정이다. 컨포멀 코팅을 통해 보호되는 제품은 반도체·전자기기부터 자동차·항공기 전자 장비, 의료기기, 통신 장비, 산업 시스템, 로봇, 센서 등이다. 이 과정에서 코팅 누락, 코팅 두께 불량, 기포 및 불순물, 불균일 코팅, 균열 등 컨포멀 코팅의 결함을 검사하는 과정이 중요하다. 화인스텍은 먼저 센텍(Sentech)의 초고속 CMOS CoaXPress 스캔 카메라 시리즈 'STC-LBGP251BCXP124'를 내세웠다. 해당 솔루션은 자동광학검사(Automated Optical Inspection, AOI) 기기에 탑재되는 에어리어 스캔 카메라다. 소형·경량화 디자인, 설치 직관성이 확보됐고, 장
공정성, 투명성, 책임성, 프라이버시 보호, 안정성을 5대 핵심 원칙 강조 인텔리빅스는 24일 오후 서울 백석예술대학교 비전센터에서 신뢰성과 윤리성을 핵심으로 한 자사 AI 윤리경영원칙을 선포했다고 밝혔다. 인텔리빅스 AI 윤리경영원칙은 2023년 제정된 세계 최초 인공지능(AI) 경영 시스템 국제규격인 ISO/IEC 42001 가이드라인에 맞춰 제정된 것으로 AI 기술을 개발하고 제공하는 과정에서 지켜야하는 원칙을 의미한다. AI 기술의 개발, 배포, 사용에 있어 윤리적 원칙과 기준을 확립해 인텔리빅스의 AI기술이 사회에 긍정적인 영향을 미치고, 부정적인 영향을 최소화를 목표로 한다. 자사 AI 기술의 책임 있는 사용을 촉진하고, 다양한 이해관계자가 인텔리빅스의 AI 시스템을 신뢰하도록 하기 위해 마련됐다. 인텔리빅스는 AI 윤리경영 도입을 위해 AI 경영매뉴얼을 수립했다. 이와 함께 물리보안 중소기업 최초로 한국표준협회(KSA)가 주관하는 ISO42001 인증 획득을 추진하고 있다고 밝혔다. ISO/IEC 42001이란 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 공동으로 제정한 인공지능 경영시스템 관련 글로벌 표준으로, 기업과 조직이 윤리적 책
다양한 문제를 민간 주도 국가 연대가 공동 대응함으로써 AI 신뢰성 확보 인공지능(AI) 신뢰성 강화를 위한 사상 첫 국제 연대가 결성된다. 한국의 업계‧법조계‧학계가 주도해 결성한 신뢰할 수 있는 'AI 국제 연대(TRAIN)'가 2월부터 본격 활동에 나선다. TRAIN은 ‘Trustworthy AI International Network’에서 따온 약자로, TRAIN 글로벌을 중심으로 TRAIN 코리아 등 개별 국가가 연결된 국제 조직이다. 현재 한국과 베트남, 태국, 중국이 창립회원 국가로 소속돼 있고, 일본‧싱가포르‧말레이시아‧인도네시아 등이 합류를 고려하고 있다. 국가별 네트워크에는 AI와 관련된 기관과 협회‧단체 등이 회원으로 가입한다. TRAIN은 글로벌 AI 기술과 산업‧시장이 급변하는 상황에서 이질적인 문화와 제도‧정책으로 인해 발생할 수 있는 다양한 문제를 민간 주도 국가 연대가 공동 대응함으로써 AI 신뢰성을 확보‧강화한다는 목표로 탄생했다. 김완진(메콩링크 대표) TRAIN 글로벌 준비위원장은 “TRAIN은 단순한 기술 교류를 넘어 각 국가를 하나로 연결하는 철로 같은 역할을 맡게 되는데, ‘기차는 철로와 기관차만 있으면 열 량이고 스무
미래형 모빌리티 분야 시스템 전용 소프트웨어 개발에 활용 ”멀티 코어 프로세서 탑재로 성능·경제성 두 마리 토끼 잡아“ 블랙베리가 QNX 환경에서 활용 가능한 소프트웨어 개발 플랫폼(Software Development Platform, 이하 SDP)8.0의 얼리 엑세스 버전을 발표했다. 블랙베리는 SDP 8.0이 자동차 업계 및 IoT 산업에서 경제성·안정성·보안성·신뢰성 등을 보장하는 제품 개발에 활용될 것이라 언급했다. 더불어 해당 업계 및 산업 제품에 탑재되는 멀티코어 프로세서 성능 향상을 위해 설계돼, 잠재력 또한 보장한다고 부연했다. 해당 솔루션은 BlackBerry QNX OS for Safety·QNX Hypervisor 및 Hypervisor for Safety 등 QNX 제품과 호환 과정을 통해 개발자가 QNX 기술을 활용하도록 돕는다. 존 월(John Wall) 블랙베리 QNX 수석부사장은 ”현재 자동차 산업은 차량 내 소프트웨어 영역의 혁신을 이루고 있는 중“이라며 ”SDP 8.0·QNX OS for Safety·QNX Hypervisor 등 QNX 기술의 수직적 확장성은 차량용 통합 운영체제를 요구하는 자동차 업계에 확실한 선택지가 될
국내외 시장에서 홍보 효과와 글로벌 경쟁력 위한 초석 마련 와탭랩스가 아마존 웹 서비스(이하 AWS)의 ‘파트너 패스(Partner Path)’를 취득했다고 밝혔다. 와탭랩스는 파트너 패스 취득을 기반으로 본격적으로 글로벌 시장 진출을 확대할 계획이다. AWS 파트너 패스는 다양한 파트너의 고객 오퍼링을 지원·강화하기 위해 ‘AWS 파트너 네트워크’ 등록 파트너를 대상으로 전용 파트너 포털 액세스, 비즈니스 및 기술 지원 콘텐츠, 프로그램 및 해당 제품 관련 혜택 등을 제공하는 프레임워크다. 와탭랩스가 개발·제공하는 SaaS 모니터링 ‘와탭’은 개발자와 엔지니어가 웹 서비스와 인프라 성능을 실시간으로 모니터링 하는 서비스다. 와탭 모니터링은 2015년에 출시한 이래 대기업, 공공기관을 비롯해 1000개 이상의 고객사를 확보하고, 2021년 8월 대국민 백신 예약 시스템 태스크포스에 참여해 원활한 백신 예약을 위해 와탭을 공급한 바 있다. 와탭 모니터링 서비스는 AWS의 기술적 숙련도 및 운영 사례에 대한 FTR 검증 과정을 통과하고, AWS가 부여하는 5가지 파트너 패스 가운데 ‘소프트웨어 패스’를 획득했다. 와탭랩스는 이번 AWS 파트너 패스 획득으로 자사
데이터·모델·AI 보안·시스템 등 인증 체계 거쳐 AI 기술 신뢰성·공신력 확보 딥브레인AI는 한국표준협회와 와이즈스톤이 공동으로 진행한 ‘민간 인공지능 신뢰성 시범인증’ 사업에서 국내 최초로 AI 휴먼 분야 신뢰성 인증을 획득했다고 밝혔다. '인공지능 신뢰성'이란 AI 기술에 내재한 위험과 한계를 해결하고, AI 확산 과정에서 부작용을 방지하기 위해 준수해야 하는 가치 기준이다. 안전, 설명 가능, 투명, 견고, 공평 등이 필수적인 요소로 꼽힌다. AI가 다양한 환경과 조건에서 안정적으로 동작하는지 여부를 판단하는 측면에서의 신뢰성 개념과는 차이를 두고 있다. 민간 인공지능 신뢰성 인증은 과학기술정보통신부와 정보통신산업진흥원이 발주하고, 한국표준협회와 국내 소프트웨어 테스트 전문 기업 와이즈스톤이 공동으로 진행하는 사업이다. AI가 산업 전 분야에 확산한 데 따른 사회·윤리적 부작용을 예방하고, 인공지능에 대한 신뢰 향상 및 품질 유지를 통해 사람 중심의 인공지능 구현 촉진을 목적으로 올해 처음 실시됐다. 딥브레인AI의 AI 휴먼을 비롯해 삼성전자 비스포크 제트 봇 AI와 스마트싱스 홈케어매니저, 클라썸 AI 도트 등 총 4개 제품이 인공지능 신뢰성 인증에
윌로그 국제표준화기구(ISO) 인증 전문기관으로부터 정보보안경영시스템 ISO27001, 클라우드정보보안지침 ISO27017, 환경경영시스템 ISO14001 국제표준 인증 3개를 동시에 획득했다고 밝혔다. 윌로그는 올해 3월 품질경영 국제 규격 ISO9001인증을 받은 이후, 지속적으로 윌로그 콜드체인 모니터링 솔루션에 대한 보안성과 신뢰성을 강화해왔다. 그 결과, 국제기준에 근거하여 개인정보보호 관리체계의 우수성을 인정하는 ISO27001(정보보안경영시스템)과 클라우드 서비스 환경에서 가이드라인에 맞게 정보보호 관리체계가 구축 및 운영되고 있음을 증명하는 ISO27017(클라우드정보보안지침)을 동시에 획득하였다. 더불어 기업의 친환경 경영 전략과 이를 달성할 수 있는 조직 체계 등을 종합적으로 평가해 인증하는 ISO14001(환경경영시스템)까지 총 3종의 ISO인증을 동시에 획득하여, 솔루션의 우월성을 대외에 인정받고 글로벌 경쟁력을 갖추게 됐다. 기업의 위험관리와 보안 정책, IT자산 관리 등에 대한 규격을 담고 있으며, ISO 인증 전문기관이 기업의 정보 자산과 개인 정보 유출을 예방하고 적절한 대처 방안을 갖춘 기업에게 부여한다. ISO27001은 정보
상호명(명칭) : (주)첨단 | 등록번호 : 서울,자00420 | 등록일자 : 2013년05월15일 | 제호 :헬로티(helloT) | 발행인 : 이종춘 | 편집인 : 김진희 |
본점 : 서울시 마포구 양화로 127, 3층, 지점 : 경기도 파주시 심학산로 10, 3층 | 발행일자 : 2012년 4월1일 | 청소년보호책임자 : 김유활 | 대표이사 : 이준원 | 사업자등록번호 : 118-81-03520 | 전화 : 02-3142-4151 | 팩스 : 02-338-3453 | 통신판매번호 : 제 2013-서울마포-1032호
copyright(c) HelloT all right reserved
UPDATE: 2025년 02월 05일 16시 20분
