헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

일반뉴스 롯데이노베이트, 편의성·정확도 높인 AI 플랫폼 ‘아이멤버’ 공개

롯데이노베이트가 성능과 기능을 대폭 강화한 AI 플랫폼 ‘아이멤버’를 공개했다. 올해 초 선보인 아이멤버는 다양한 자체 파운데이션 모델 라인업을 구축해 기업 내부 정보를 학습시켜 성능이 뛰어나면서도 안전한 프라이빗 AI 서비스를 제공한다. 롯데그룹에 도입된 아이멤버의 누적 사용자는 6월까지 약 2만2000명을 돌파했다. 1월에는 약 9000명으로 시작해 매월 약 20% 이상 증가하며 꾸준히 높은 성장세를 보이고 있다. 이는 업무에 적합한 메뉴와 기능을 지속적으로 고도화하며 업무의 활용성을 높기 때문이다. 아이멤버의 활용도와 확장성에 대한 기대가 높아짐에 따라 롯데이노베이트는 시스템을 한층 고도화했다. 아이멤버 2.0은 ▲사용자 화면(UI) 및 사용자 경험(UX) 리뉴얼 ▲기능 중심 메뉴 재구성 ▲롯데GPT 및 챗봇 품질 고도화 ▲신규 기능 추가 ▲롯데API센터 신설 등 전방위적으로 변화를 줬다. 새롭게 선보인 아이멤버는 사용자 편의에 초점을 맞춰 직관성을 높이기 위해 UI와 UX를 대폭 개선해 화면 구성을 새롭게 바꾸고, 메뉴 또한 기능별로 개편했다. AI 모델도 더 뛰어난 성능으로 향상됐다. 기존 라마2에서 최신 버전인 라마3로 변경되었을 뿐만 아니라 미스

이창현 기자

2024-08-05 10:28

일반뉴스 카카오엔터프라이즈, 엔비디아와 AI 개발자 부트캠프 개최

카카오엔터프라이즈는 11일 삼성동에 위치한 카카오 강남오피스에서 ‘NVIDIA X 카카오클라우드 원데이 AI 개발자 부트캠프’를 성황리에 개최했다고 밝혔다. 이번 행사는 카카오클라우드의 엔비디아 GPU 인스턴스를 활용한 온·오프라인 행사로 ‘AI와 클라우드 기술세미나’ 및 ‘카카오클라우드와 엔비디아 AI를 활용한 AI인퍼런스 부트캠프’로 나눠 진행됐다. 1부 행사인 ‘AI와 클라우드 기술세미나'에서는 엔비디아의 AI 솔루션 소개 및 카카오클라우드의 기술과 서비스를 주제로 한 세션이 진행됐다. 온라인으로 진행된 1부 행사는 200명 모집에 400여 명이 넘게 신청해 신청자 전원 참여로 확대 실시할 만큼 AI와 클라우드를 향한 높은 관심도를 보였다. 2부 행사는 카카오클라우드 기반 엔비디아 GPU를 활용해 거대 언어 모델 라마3(LLaMa3)의 인퍼런스 최적화 및 배포 관련 최신 기술을 실습했다. 오프라인으로 진행된 2부 행사는 깊이 있는 양질의 교육을 위해 30명으로 제한해 진행됐는데 다양한 산업군의 개발자들이 참석해 높은 만족도를 나타냈다. 특히 2부 행사인 부트캠프에서는 엔비디아의 솔루션 아키텍트가 직접 카카오클라우드 기반 환경부터 인퍼런스 실습까지 진행해

이창현 기자

2024-07-11 15:40

일반뉴스 메타, 라마 3 오픈소스로 공개....'추론·코드 생성 도약했다'

두 모델, 동급의 오픈소스 모델 중 최고 수준의 성능인 것으로 평가받아 메타가 다양한 목적으로 사용 가능한 최신 대규모 언어모델(LLM) ‘라마 3(Llama 3)’를 오픈소스로 공개했다. 메타의 차세대 대규모 언어모델 라마3는 사전훈련과 미세조정을 마친 80억 개(8B)와 700억 개(70B) 매개변수 모델 두 가지로 공개됐다. 이 두 모델은 현재 동급의 오픈소스 모델 중 최고 수준의 성능인 것으로 평가받는다. ‘대규모 다중작업 언어 이해(MMLU)’를 포함한 다양한 업계 표준 벤치마크에서 높은 성적을 받았으며 추론과 코드 생성, 지시 수행에 있어 전보다 성능이 크게 개선됐다. 라마3의 성능 향상은 모델의 사전 훈련과 사후 훈련 과정을 고도화함으로써 이뤄졌다. 사전 훈련을 위해 데이터셋의 양을 늘리고, 필터링 과정을 거쳐 고품질 데이터만을 선별했다. 라마3는 15조 이상의 토큰으로 훈련되었으며, 이는 라마2 대비 7배 이상 많으며 코드량은 4배 더 많다. 라마3의 사전 훈련에는 일상적인 질문부터 과학, 기술, 공학, 수학(STEM) 분야, 코딩, 역사 지식에 이르기까지 다양한 분야의 데이터셋이 사용되었다. 이를 통해 모델이 보다 여러 영역에서 활용될 수 있

서재창 기자

2024-04-22 17:55