"영역을 엣지단으로 확대해 온디바이스 AI가 기술적 혁신으로 이어질 것" 삼성전자가 스마트폰 등에서 사용하는 온디바이스 생성형 인공지능(AI)을 통해 비용을 줄이는 방안을 목표로 제시했다. 박용인 삼성전자 시스템LSI사업부 사장은 26일 서울 강남구 코엑스에서 열린 '반도체대전(SEDEX 2023)'에서 'AI 시대, 인간을 이롭게 하는 반도체'를 주제로 한 기조연설을 통해 "현재 AI는 클라우드 서버 형태로 주로 구현되고 있으며 이를 운영하는데 가장 핵심적인 두 가지 고려 요소는 총소유비용(TCO)과 성능"이라고 말했다. 박 사장은 "AI 가속기로 보통 사용되는 그래픽처리장치(GPU)의 가격이 상승하고 있고 에너지 소비가 크다는 이슈가 있다"며 "이에 따라 AI 워크로드에 최적화한 대체 가능한 프로세스인 신경망처리장치(NPU) 등의 도입이 가속화하고 있다"고 설명했다. 현재 AI 가속기, CPU, 고대역폭 메모리(HBM) 등을 묶은 하이브리드 컴퓨팅이나 기존 CPU에 네트워크 프로세서를 합친 데이터처리장치(DPU)로 진화하는 등 고성능 컴퓨팅을 위한 다양한 기술 개발이 이뤄지고 있다. 박 사장은 "AI 활용처가 늘어날수록 클라우드 운영 비용 자체는 여전히
美서 ‘메모리 역할 재정의’ 삼성 메모리 테크 데이 2023 열어 HBM3E D램 ‘샤인볼트’, 차세대 PC 및 노트북용 D램, 차량용 메모리 등 공개 삼성전자가 미국 실리콘밸리 소재 맥에너리 컨벤션 센터에서 ‘삼성 메모리 테크 데이 2023 (Samsung Memory Tech Day 2023)’을 열어 메모리 솔루션 전략 및 비전을 공유했다. 이날 행사에서는 ‘메모리 역할의 재정의(Memory Reimagined)’를 주제로, 클라우드·에지 디바이스·차량 등 분야의 기술 트렌드와 데이터 센터, PC·모바일 기기 등 기술 혁신 및 탄소 저감 비전을 공유했다. 아울러 HBM3E D램 ‘샤인볼트(Shinebolt)’, PC 및 노트북용 D램, 차량용 탈부착 SSD 등도 함께 공개했다. 삼성전자가 이번 행사에서 공개한 샤인볼트는 지난 2016년 개발된 컴퓨팅(HPC)용 HBM2를 기반으로 설계된 차세대 HBM3E D램이다. 해당 제품은 데이터 입출력 핀 1개당 최대 9.8Gbps 속도를 제공한다. 이를 통해 초당 최대 1.2TB가량 데이터를 처리할 수 있다. 삼성전자는 샤인볼트 설계 핵심으로 열 특성 개선 측면을 내세웠다. NCF(Non-Conductive Fi
"연말까지 100억 개 파라미터 지원 및 생산성 보장된 모델, 폼팩터 제공할 것" 퀄컴코리아가 지난 21일 서울 교보생명빌딩 15층에서 ‘The Future of AI is ‘On-device’를 주제로 미디어 라운드테이블을 진행했다. 이번 미디어 라운드테이블에서는 비네쉬 수쿠마(Vinesh Sukumar) 퀄컴 테크날러지 시니어 디렉터 겸 AI/ML 제품 관리 총괄이 참석해 엣지 디바이스에서 구동하는 AI 기술과 함께 온 디바이스 AI 기술을 기반으로 엣지 폼팩터부터 클라우드까지 확장되는 생성형 AI에 대해 발표했다. 오늘날 생성형 AI는 전 산업이 주목하는 기술이 됐다. 오픈AI의 챗GPT 공개 이후 초거대 AI를 기반으로 한 생성형 AI 서비스가 폭발적으로 증가하는 추세다. 반면 생성형 AI는 유즈 케이스가 확장하기 쉽지 않을 것이라는 의견이 나온다. 유저 수와 비례해 급증하는 데이터를 처리하기 위해서는 엄청난 비용이 뒤따르기 때문이다. 퀄컴은 생성형 AI 경쟁력을 확보하기 위해 온 디바이스에 많은 투자를 진행했다고 밝혔다. 이에 비네쉬 수쿠마 총괄은 "엣지에서 거대 AI 모델을 지원하는 인프라가 필요하다. 퀄컴은 올해 말까지 100억 개 파라미터를 지
현대차∙기아가 개발 중인 로봇플랫폼에 딥엑스 AI 반도체 기술 적용이 목표 딥엑스가 로봇플랫폼용 온디바이스 AI 기술을 위해 현대자동차∙기아와 기술 개발을 협력한다. 딥엑스는 24일(금) 현대차∙기아 의왕연구소에서 김녹원 대표이사, 현동진 현대차∙기아 로보틱스랩장 등 양사 관계자들이 참석한 가운데 현대차∙기아와 로봇 플랫폼용 AI 반도체 탑재를 위한 업무협약을 체결했다고 밝혔다. 딥엑스는 지난 1년여간 현대차∙기아 로보틱스랩과 진행된 사전 기술 검증 과정에서 로보틱스랩이 기존에 사용하던 GPGPU와 비교해도 손색없는 AI 정확도를 제공해 AI 기능의 우수함을 입증했다. 또한, 로보틱스랩이 자체 개발한 다양한 로봇 응용 AI 알고리즘을 원활하게 구동함으로써 로봇이 필요로 하는 AI 모델이 구현 가능하다는 것도 증명했다. 특히, 인공지능 연산 성능 효율이 월등히 높아 배터리로 구동되는 로봇 제품의 양산에 적합할 것으로 평가받았다. 이번 협약은 현대차∙기아에서 상용화를 목표로 개발 중인 로봇플랫폼에 딥엑스의 AI 반도체 기술을 적용하기 위한 기술 협력을 목표로 한다. 이를 위해 양사는 로봇에 사용될 AI 기능을 딥엑스의 AI SoC 제품에 탑재하고 양산 제품에 실