챗GPT를 시작으로 생성형 AI 수요가 급격히 증가하면서 주목받은 건 단연 엔비디아 GPU였다. 이와 동시에 GPU 메모리 성능을 담당하는 HBM(High Bandwidth Memory)이 또 하나의 블루오션으로 각광받고 있다. 이에 HBM 생산을 담당하는 삼성전자와 SK하이닉스의 행보에 업계의 관심이 쏠린다. 양사는 지속적인 기술 개발을 바탕으로 파트너십을 확대하고 생산량을 증대하는 데 집중하고 있다. 차세대 반도체 시장 이끌 HBM HBM은 고대역폭 메모리 기술로, 특히 대용량 데이터를 처리해야 하는 AI 개발에서 중요성이 두드러진다. 이 기술은 D램보다 빠른 속도로 데이터를 처리하며, 3D 스택 메모리 구조를 사용해 칩 간에 더 많은 데이터 통로를 제공한다. 이는 메모리 칩을 수직으로 쌓아 올려 칩과 칩 사이의 거리를 최소화하고, 대역폭을 극대화하는 방식이다. HBM의 특장점은 속도와 효율성이다. HBM은 그래픽 카드, 서버, 네트워킹 하드웨어 및 AI 계산과 같이 많은 양의 데이터를 빠르게 처리해야 하는 시스템에서 최선의 제품으로 자리잡고 있다. 구체적으로, HBM은 데이터 센터의 에너지 효율성을 향상시켜 운영 비용을 절감하는 데 기여한다. 무엇보다
1분기, MI300 판매 호조로 데이터 센터 부문에서 전년 대비 80% 성장한 23억 달러 기록 AMD가 시장 예상치를 약간 웃도는 지난 1분기 실적을 발표했다. AMD는 지난 1분기 57억4000만 달러(7조9000억 원)의 매출과 주당 0.62달러의 순이익을 기록했다고 30일(현지시간) 밝혔다. 매출과 순이익은 시장조사기관 LSEG가 집계한 월가 전망치 54억6000만 달러와 주당 0.61달러를 약간 웃도는 수치다. 또 매출은 지난해 같은 기간보다 2% 늘어난 수준이다. 2분기 매출은 1년 전보다 6% 성장한 약 57억 달러에 이를 것으로 추정했다. 이는 월가의 전망치와 일치하는 수준이다. AMD는 지난 1분기 자사의 최신 AI 칩인 MI300 판매 호조로 데이터 센터 부문이 전년 대비 80% 성장한 23억 달러를 기록했다고 밝혔다. MI300은 AI 칩 선두 주자인 엔비디아의 H100과 경쟁하는 칩이다. 리사 수 최고경영자(CEO)는 MI300 칩이 마이크로소프트와 메타, 오라클 등에서 사용되고 있다고 설명했다. 또한, 작년 4분기 출시 이후 10억 달러 이상 판매했으며, 올해 AI 칩 매출이 40억 달러에 이를 것으로 전망했다. 이는 지난 1월 전망한
범용 인공지능(AGI)은 인간과 동등한 수준의 지능을 갖춘 인공지능을 의미한다. 이는 특정 작업을 수행하는 인공지능(AI) 시스템을 넘어 인간이 할 수 있는 거의 모든 종류의 지적 작업을 수행하는 능력을 갖춘 것을 의미한다. 현재의 AI 기술력은 분명 AGI로 향하고 있다. 주요 AI 기업들은 시대적 요구를 반영해 기술 향상에 막대한 비용과 인력을 투자하고 있다. 아직은 AGI가 언제 실현될지 누구도 알 수 없다. 다만 머지않아 도래할 AGI 시대를 대비한 준비는 반드시 필요하다. 시작된 여정 ‘AI에서 AGI로’ AI의 기술 진화 단계를 설명할 때 보통 세 가지 과정으로 구분된다. 첫 번째는 인공지능(AI, Artificial Intelligence)이다. 다음 단계는 범용 인공지능 또는 강인공지능(AGI, Artificial General Intelligence), 마지막 단계로 초인공지능(ASI, Artificial Super Intelligence)에 도달한다. 현재는 AI에서 AGI로 가는 과정이라고 볼 수 있다. 무엇보다 생성형 AI 기술의 등장과 보급 및 확대로, AGI를 실현하기 위한 다양한 시도가 진행되고 있다. 이론적으로 AGI는 인간의 지
美연방자문기구 합류…머스크·저커버그는 명단서 빠져 샘 올트먼(오픈AI), 사티아 나델라(마이크로소프트·MS), 순다르 피차이(구글), 젠슨 황(엔비디아) 등 미국 기술 기업 최고경영자(CEO)들이 인공지능(AI)의 안전한 사용을 위해 머리를 맞댄다. 미 국토안보부는 26일(현지시간) AI의 안전한 사용을 위한 연방 자문기구인 AI 안전보안이사회(AI Safety and Security Board)를 발족하고, 자문위원 22명의 명단을 발표했다. 이 기구는 챗GPT로 촉발된 AI 열풍의 부작용을 막고 AI 시스템의 안전한 사용을 위해 설립된 자문기구로, 조 바이든 대통령이 지난해 행정명령을 통해 설립을 지시한 바 있다. 이 기구 설립은 경제, 공중보건 등 중요 산업이 AI로 인한 위협으로 피해를 당하지 않도록 보호하기 위한 것이라고 미국 정부는 설명했다. 명단에는 챗GPT 개발사 올트먼 CEO와 나델라 MS CEO, 피차이 구글 모회사 알파벳 CEO, 젠슨 황 엔비디아 CEO, 리사 수 AMD CEO 등이 이름을 올렸다. 어도비, 델타 항공, 아마존 AWS 클라우드 컴퓨팅 부문 CEO 등과 함께 스탠퍼드대 AI 연구소장, 메릴랜드 주지사, 시애틀 시장 및 시민
지난 4월, 미국 정부가 반도체 기업에 지급하는 보조금 책정이 일단락됐다. 업계에 따르면, 미국 정부는 반도체 기업의 설비 투자를 장려하기 위한 반도체법에 따라 미국에 공장을 짓는 기업에 반도체 생산 보조금과 연구개발(R&D) 지원금을 지원하기로 했다. 이로써 미국 내 파운드리 경쟁이 새로운 국면에 진입한 셈이다. 반도체 고객사인 빅테크가 몰린 미국에서 TSMC를 비롯해 삼성전자, 인텔 등이 참전하는 파운드리 시장 경쟁이 본격화하는 모양새다. 미국내 몸집 키우는 삼성 파운드리 지난 4월 삼성전자는 미국 정부가 자사에 반도체 생산시설 투자 보조금 64억 달러(약 8조9000억 원)를 지원하기로 결정했다고 발표했다. 이에 삼성전자는 미국 텍사스주 테일러시에 170억 달러를 투자해 짓는 파운드리 공장의 규모와 투자 대상을 확대해 총 400억 달러 이상을 투자할 계획이다. 삼성전자는 2022년부터 건설 중인 테일러 공장에 추가로 공장을 짓고, 패키징 시설과 함께 첨단 R&D 시설을 신축해 본격적인 미국 시장 공략에 나선다. 삼성전자의 첫 번째 텍사스 테일러 공장은 2026년부터 4나노미터 및 2나노미터 반도체를 생산할 예정이며 이후 두 번째 공장도 가
WP "AI 붐이 둔화하고 있다는 증거 늘어...투자 대비 수익성 문제도 부각" 엔비디아를 비롯한 인공지능(AI) 관련주 주가 상승세가 최근 주춤한 모습을 보이는 가운데, AI를 둘러싼 거품이 꺼지고 있다는 평가까지 나오고 있다. 미 일간 워싱턴포스트(WP)는 25일(현지시간) 챗GPT 등장 이후 1년 반 동안 이어지는 AI 붐이 둔화하고 있다는 증거가 늘어나며 투입 비용 대비 수익성 등의 문제가 부각되고 있다면서 이같이 보도했다. AI가 인류 존재에 위협이 되거나 인간의 모든 일자리를 대체할 수 있다는 우려는 자취를 감췄고, AI 기술 이용이 확대되려면 여전히 갈 길이 멀고 장애물로 가득 차 있다는 것이다. 그러면서 AI 경쟁에 뛰어든 기업들이 내놓은 제품들도 아직 사람들의 근무나 의사소통 방식을 바꾸지 못했고, AI 모델 개발·운용에 막대한 비용이 들어가지만 이익을 내는 기업은 극소수라고 설명했다. 마이크로소프트(MS)를 비롯한 빅테크들은 고급 인력을 고용하고 데이터 센터를 만드는 등 AI 분야에 수십억 달러를 투자하지만 수익성에는 의문이 제기되고 있다. MS는 코딩을 도와주는 깃허브 코파일럿 사용자가 130만 명에 이른다고 밝히고 있지만, 지금까지 내놓
미국, 대만 등 업체가 제조한 서버 통해 엔비디아 AI 칩 확보한 것으로 보여 중국 대학과 연구기관들이 미국 제재에도 불구하고 최근 재판매 업자 등 제3자를 통해 엔비디아의 첨단 인공지능(AI) 칩을 확보했다고 로이터통신이 23일 보도했다. 통신은 수백개의 중국 입찰 문서들을 자체 분석한 결과 중국 대학, 연구소 등 10개 단체가 미국, 대만 등 업체들이 제조한 서버를 통해 엔비디아 첨단 AI 칩을 확보한 것으로 나타났다고 보도했다. 이는 미국 정부가 과거 대 중국 수출통제 조치 때보다 강도를 높인 수출 규제 조치를 시행한 지난해 11월 이후에 이뤄진 것이라고 로이터는 전했다. 통신은 중국이 엔비디아 칩 확보 경로로 사용한 서버 제조업체로 미국 슈퍼마이크로 컴퓨터, 델 테크놀로지, 대만 기가바이트 테크놀로지 등을 거론했다. 통신이 확인한 입찰 문서들은 중국 공개 데이터베이스에 찾은 것으로, 지난해 11월 20일부터 올해 2월 말 사이에 중국 정부 기관에서 조달한 품목들이 담겨 있다. 미국 정부가 엔비디아와 이 회사 협력업체들이 첨단 칩을 직접 또는 제3자를 통해 중국에 수출하는 것은 금지했지만, 중국에서의 칩 거래는 불법이 아니라고 통신은 짚었다. 칩을 판매
AI 반도체는 대량 데이터를 효율적으로 처리해 AI 성능을 향상시키는 중요한 역할을 한다. 이는 에너지 소비를 최소화하며 비용 효율성과 확장성을 제공한다는 점이 핵심이다. 다시 말해 AI 반도체는 AI 기술 발전을 가속하는 요소다. 이런 이유로 세계 유수의 반도체 기업들이 AI 반도체 개발에 집중하고 있다. 압도적인 GPU 성능으로 AI 반도체 시장을 주도하는 엔비디아, 그 아성에 도전하는 인텔과 삼성전자 등이 그 주인공이다. 저만치 달아난 엔비디아, 따라잡을 수 있을까? 지난 3월, 엔비디아는 반도체 업계에 또 하나의 파장을 일으켰다. 엔비디아는 미국 캘리포니아주 새너제이 SAP 센터에서 열린 개발자 컨퍼런스 ‘GTC(GPU Technology Conference) 2024’에서 새로운 AI 칩을 전 세계에 공개했다. 엔비디아는 2019년 이후 5년 만에 오프라인으로 GTC를 개최해 업계의 화제를 모았다. 이 칩은 새로운 그래픽처리장치(GPU) ‘블랙웰’을 기반으로 한 ‘B100’이었다. 블랙웰은 2년 전 발표된 엔비디아 호퍼 아키텍처의 후속 기술로, B100은 기존 최고 성능을 자랑했던 H100을 뛰어넘는다는 평가다. 엔비디아에 따르면, B100의 연산
마이크로소프트, 엔비디아 등 주요 인공지능(AI) 기업의 관계자를 비롯한 전 세계 전문가들이 서울에 모여 AI 표준화 논의를 진행한다. 산업통상자원부 국가기술표준원은 오는 26일까지 닷새간 서울 중구 대한상공회의소에서 한국, 미국, 영국, 독일, 일본 등 40여개국, 270여명의 전문가가 온오프라인 방식으로 참석하는 가운데 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 공동으로 주최하는 'AI 국제표준화 총회(ISO/IEC JTC1/SC42)'가 열린다고 22일 밝혔다. 2017년 설립돼 현재 64개국에서 700여명의 전문가가 활동 중인 AI 국제표준화 총회는 자율운행차, 로봇, 의료, 금융 등 AI 응용 산업의 표준을 다루는 다른 위원회의 활동에 지침이 되는 표준을 마련하는 기구다. 총회 산하에는 AI 경영 시스템 등 기반(펀더멘털), 데이터 품질을 비롯한 데이터, AI 시스템의 신뢰성 등을 다루는 5개의 작업반(WG)과 4개의 공동작업반(JWG)이 운영 중이다. 이번 총회에서는 생성형 AI의 윤리 문제를 포함한 AI 성숙도 모델, AI 경영 시스템 가이드 등 산업계가 주목하는 분야에 관한 국제표준 개발 논의가 진행된다. 총회 기간 작업반별 실무 논
아카마이 테크놀로지스는 성장하는 클라우드 포트폴리오에 엔비디아(NVIDIA) GPU 기반의 새로운 미디어 최적화 제품을 추가했다고 22일 밝혔다. 이 새로운 클라우드 기반 서비스는 엔비디아 RTX 4000 Ada Generation GPU를 활용해 비디오 콘텐츠를 더 빠르고 효율적으로 처리해야 하는 미디어 및 엔터테인먼트 업계 기업의 생산성과 경제성을 높여준다. 아카마이가 실시한 내부 벤치마킹 결과 엔비디아 RTX 4000을 사용하는 GPU 기반 인코딩은 기존 CPU 기반 인코딩 및 트랜스코딩 방식보다 FPS(Frame Per Second)를 25배 빠르게 처리하며, 이는 스트리밍 서비스 사업자가 워크로드 문제를 해결하는 데 큰 도움을 준 것으로 나타났다. 미디어 및 엔터테인먼트 기업은 아카마이의 솔루션을 통해 탄력적이고 확장 가능한 아키텍처를 구축하고 전 세계에 분산된 클라우드 플랫폼과 통합 콘텐츠 전송 및 보안 서비스를 활용하는 동시에 더 빠르고 안정적이며 이식성이 뛰어난 워크로드를 배포할 수 있다. 숀 미셸 아카마이 클라우드 제품 담당 부사장은 “미디어 기업은 워크로드의 이식성을 유지하면서 지연 시간이 짧고 안정적인 컴퓨팅 리소스가 필요하다”며 “엔비디
엔비디아가 조지아공과대학교(이하 조지아공대)와 협력해 학생들의 교육을 위한 인공지능 슈퍼컴퓨터 허브인 AI 메이커스페이스(AI Makerspace)를 선보인다고 밝혔다. 초기 AI 메이커스스페이스는 조지아공대의 공학 학부생에 초점을 맞췄다. 그러나 현재는 연구를 위해 우선순위가 지정된 컴퓨팅 자원에 대한 접근을 보편화해 조지아공대 전체 학생들의 AI 기술을 심화시키고 차세대 AI 시스템 전문가를 양성하는 것을 목표로 하고 있다. 조지아공대 학과장인 라힘 베야(Raheem Beyah)는 "AI 메이커스페이스의 출시는 조지아공대의 교육 혁신과 리더십의 또 다른 이정표다. 엔비디아의 첨단 기술과 전문성 덕분에 모든 수준의 학생들이 빠르게 진화하는 AI 분야에 기여하고 선도할 수 있는 길을 열었다"고 말했다. 조지아공대 AI 메이커스페이스의 핵심은 학생들이 온라인으로 액세스할 수 있는 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어와 결합된 전용 컴퓨팅 클러스터다. 이 소프트웨어 기술은 펭귄 솔루션(Penguin Solutions)에서 설계, 구축, 배포한 고급 AI 인프라를 기반으로 한다. 이는 연구원들이 고등 학습 혹은 직장에서 사용하는 것과는
엔비디아 인셉션 프로그램과 구글 포 스타트업 클라우드 프로그램 통합 발표 엔비디아가 구글 클라우드와의 협력 하에 전 세계 스타트업의 생성형 AI 애플리케이션과 서비스 개발 가속화를 지원한다고 발표했다. 9일 미국 라스베이거스에서 개최된 ‘구글 클라우드 넥스트 2024’에서 스타트업을 위한 엔비디아 인셉션 프로그램과 구글 포 스타트업 클라우드 프로그램을 통합한다는 양사의 협업 소식이 발표됐다. 이번 협업으로 엔비디아와 구글 클라우드는 클라우드 크레딧, 시장 진출 지원, 그리고 기술 전문 지식에 대한 접촉 기회 확대를 통해 고객에게 빠르게 스타트업의 가치를 제공하도록 지원한다. 1만8000개 이상의 스타트업을 지원하는 엔비디아 인셉션 글로벌 프로그램의 회원은 특히 AI에 중점을 둔 스타트업의 경우, 최대 35만 달러의 구글 클라우드 크레딧을 제공받고 구글 클라우드 인프라 사용 가속화 경로를 확보할 수 있다. 구글 포 스타트업 클라우드 프로그램 멤버는 엔비디아 인셉션에 가입해 기술 전문 지식, 엔비디아 딥 러닝 인스티튜트 과정 크레딧, 엔비디아 하드웨어와 소프트웨어 등을 이용할 수 있다. 또한, 구글 포 스타트업 클라우드 프로그램의 스타트업 회원은 해당 분야에 관
매그니피센트 7 등 대형 기술주 주가가 크게 반등해 미국 증시의 1분기 실적 시즌이 시작되면서 매그니피센트 7(애플, 아마존닷컴, 알파벳, 마이크로소프트, 메타 플랫폼, 테슬라, 엔비디아) 등 대형 기술주 주가가 11일(현지시간) 크게 반등했다. 이날 뉴욕증시에서 기술주 중심의 나스닥지수는 전장보다 271.84포인트(1.68%) 상승한 16,442.20에 마감했다. 주요 산업별 대형 우량주 30종목으로 구성된 다우존스30 산업평균지수가 이날 2.43포인트(-0.01%) 내린 38,459.08로 약보합 마감한 것과 대비됐다. 이날 발표된 3월 생산자물가지수(PPI) 상승률이 전월 대비 0.2%로 예상을 밑돌면서 인플레이션 반등 우려를 던 게 금리 변화에 상대적으로 민감한 기술주의 투자 심리를 되살렸다. 특히 뉴욕증시 시총 2위, 3위인 애플과 엔비디아가 4%대 급등하면서 이날 지수 상승을 견인했다. 애플은 인공지능(AI) 기능에 주안점을 둔 차세대 프로세서인 'M4'를 적용해 맥 컴퓨터 전체 제품군 개편을 준비 중이라는 보도에 이날 4.33% 급등했다. 최근 주가가 고점 대비 10% 빠지며 기술적 조정 영역에 진입했던 엔비디아는 이날 매수세가 다시 유입되며 4
가우디 3 발표와 함께 기업용 AI 구축 위한 에코시스템 형성 및 개방성 강조 인텔코리아가 11일인 오늘 여의도 FKI타워 루비홀에서 '인텔 비전 2024 브리핑'을 진행했다. 인텔 연례행사인 인텔 비전 2024는 지난 9일(현지시간) 미국 애리조나주 피닉스에서 열렸다. 이 행사에서 업계의 이목을 끈 것은 단연 '가우디 3'의 출시 발표였다. 인텔은 가우디 3 가속기와 함께 기업의 생성형 AI 도입 가속화를 위한 새로운 개방형 스케일러블 시스템 스위트, 차세대 제품 및 전략적 협력을 언급했다. 특히 가우디 3는 공통 표준을 따르는 이더넷으로 최대 수만 개의 가속기를 연결해 AI 시스템을 구동할 것으로 보인다. 인텔 가우디 3는 BF16에 대해 4배 더 많은 AI 컴퓨팅 및 기존 모델 대비 1.5배 커진 메모리 대역폭을 지원한다. 인텔은 "가우디 3를 통해 생성형 AI를 대규모로 배포하려는 기업에 AI 학습 및 추론 분야에서 획기적인 도약을 지원할 것"이라고 밝혔다. 가우디 3가 주목받은 이유 중 하나는 엔비디아의 대항마로 떠올랐다는 점이다. 인텔은 엔비디아 H100과 비교하며 "가우디 3는 70억 개 및 130억 개의 매개변수가 있는 라마2 모델과 GPT-3
챗RTX 등으로 제3자와의 데이터 공유, 인터넷 관계 없이 로컬 PC에서 민감한 데이터 처리 엔비디아가 엔비디아 지포스와 엔비디아 RTX GPU가 탑재된 PC와 워크스테이션에서 파운데이션 모델을 로컬로 실행할 수 있다고 밝혔다. 파운데이션 모델은 일반적으로 비지도형 기계 학습을 통해 방대한 양의 원시 데이터로 학습된 AI 신경망이다. 이는 인간과 유사한 언어를 이해하고 생성하도록 훈련된 일종의 인공지능 모델이다. 이제 컴퓨터가 인간처럼 단어와 문장의 문맥과 의미를 이해하도록 방대한 양의 책을 읽고 학습할 수 있는 라이브러리를 제공할 수 있게 됐다. 파운데이션 모델은 심층적인 지식 기반과 자연어 의사소통 능력을 갖추고 있다. 이는 텍스트 생성과 요약, 코파일럿 제작과 컴퓨터 코드 분석, 이미지와 비디오 제작, 오디오 변환과 음성 합성 등 광범위한 애플리케이션에 유용하게 활용될 수 있다. 가장 주목할 만한 생성형 AI 애플리케이션 중 하나인 챗GPT는 오픈AI의 GPT 파운데이션 모델로 구축된 챗봇이다. 현재 네 번째 버전인 GPT-4는 텍스트나 이미지를 수집하고 텍스트 또는 이미지를 생성할 수 있는 대규모 멀티모달 모델이다. 파운데이션 모델을 기반으로 구축된