SK하이닉스가 최근 미국 캘리포니아주 새너제이에서 열린 ‘인공지능(AI) 하드웨어 & 엣지 AI 서밋 2024’(이하 AI 하드웨어 서밋)에서 가속기 카드인 AiMX 등 AI 시대를 위한 기술을 선보였다. 19일 SK하이닉스 뉴스룸에 따르면 SK하이닉스는 이번 행사에 ‘데이터센터부터 엣지 디바이스까지 AI 성능을 가속하는 AiM’이라는 슬로건을 내걸고 참가, AiM 설루션과 미래 비전을 제시했다. AI 하드웨어 서밋은 글로벌 정보기술(IT) 기업과 유망 스타트업 등이 참가해 최신 기술과 연구 결과를 공유하고 네트워킹을 통해 산업 내 협력 기회를 모색하는 자리다. AiM은 SK하이닉스의 지능형 반도체(PIM) 제품명이다. 이번에 선보인 AiMX는 GDDR6-AiM 칩을 사용해 대규모 언어 모델(LLM)에 특화된 SK하이닉스의 가속기 카드 제품이다. SK하이닉스는 자사의 AiM이 메모리 내에서 일부 연산을 수행해 기존 메모리 대비 높은 대역폭과 우수한 에너지 효율성을 보이며, LLM 기반의 생성형 AI가 요구하는 높은 컴퓨팅 성능을 더 경제적으로 구현할 수 있게 해준다고 설명했다. 전시 부스에서는 메타의 최신 LLM 모델인 ‘라마(Llama)3 70B’를
비씨엠테크가 오는 16일 열리는 ‘The AI Show 2023(TAS 2023)’에 참가해 자사 AI 엣지 시스템(AI Edge System), AI 가속 카드, AI 소프트웨어 등 솔루션을 선보인다. TAS 2023은 AI 전시회를 비롯해 컨퍼런스, 시상식 등이 함께 열리는 AI 축제다. 올해 첫 걸음을 떼는 TAS 2023에서는 화두인 생성형 AI 관련해 기술을 보유한 기업과 기업, 대학이 참가해 대중에게 AI 기술을 쉽게 알릴 예정이다. 비씨엠테크의 MAVERICK 시리즈는 NPU 기반의 하드웨어 솔루션 브랜드로, AI 하드웨어 가속기 카드인 MAVERICK H 시리즈, AI 엣지 시스템(AI Edge System)인 MAVERICK-nano와 MAVERICK-Shark가 대표적인 제품이다. 회사에 따르면 해당 시리즈는 동종 경쟁사에 비해 우수한 성능과 소비전력 효율, 합리적인 공급 가격을 통해 많은 고객사에 적용 중이다. 비씨엠테크는 또한 높은 고성능 고효율 AI 프로그램의 손쉬운 개발을 위한 소프트웨어 패키지인 MY Pack을 제공해 고객의 빠른 프로젝트 성공을 지원한다. 비씨엠테크는 인텔(Intel) CPU 기반의 산업용 컴퓨터 전문 회사로, 산
퀄컴 테크날러지는 미국 시애틀에서 열린 마이크로소프트 빌드 2023(Microsoft Build 2023)에서 스냅드래곤 컴퓨팅 플랫폼기반 생성형 AI실행 등 온디바이스 AI 혁신 기술을 선보였다고 25일 밝혔다. 양사는 스냅드래곤이 탑재된 윈도우 11 PC용 애플리케이션 개발에 새로운 가능성을 제시했다. 지아드 아즈가 퀄컴 제품 관리 수석부사장은 "생성형 AI가 안정적으로 자리잡기 위해서는 엣지 디바이스에서 추론 기능의 활용이 극대화되어야 한다"며 "퀄컴의 최고급 AI 하드웨어와 소프트웨어는 개발자들이 AI 기술을 활용해 스냅드래곤이 탑재된 노트북, 휴대폰 및 기타 디바이스 상에서 놀라운 사용자 경험을 선사하도록 뒷받침할 것"이라고 전했다. 미래의 AI는 온디바이스와 클라우드를 모두 포괄해야 한다. AI 애플리케이션을 온디바이스로 운영하면 비용효율성, 프라이버시, 개인화, 지연(latency) 등을 향상시킬 수 있다. 스냅드래곤 플랫폼에는 전용 퀄컴 AI 엔진이 장착돼 온디바이스 AI를 얇고, 가벼운 소형 기기에서 구현해 단순히 CPU 또는 GPU에 의존하는 것보다 AI 워크로드의 처리 효율성을 높인다. 퀄컴 테크날러지는 마이크로소프트 빌드 2023에서 차