헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

일반뉴스 벤츠, ‘업계 최초’ 차량 내 챗GPT 탑재...베타테스트 실시

美서 3개월 동안 음성명령 기능 시범 적용 자동차에서도 챗GPT 기술을 활용하는 시대가 올까? 메르세데스 벤츠(이하 벤츠)가 마이크로소프트(이하 MS)와 손잡고 자동차 업계 최초로 챗GPT 도입을 위한 베타테스트를 실시한다고 밝혔다. CNN·로이터 등 외신은 지난 15일(현지시간) 벤츠가 MS와 벤츠 인포테인먼트 시스템 ‘MBUX’ 내 챗GPT 도입을 위해 협력하기로 했다고 밝혔다. 이번 협력을 통해 기존 벤츠 차량에 탑재된 MBUX 음성 제어 기능에 챗GPT를 심는다. 양사는 우선, 이달 16일(현지시간)부터 3개월 동안 미국에서 판매된 MBUX 적용 차량 약 90만 대에 대해 베타테스트를 시행하기로 했다. 이번 베타테스트는 이용 희망자가 벤츠 공식앱 Mercedes me 또는 MBUX에 “Hey Mercedes. 베타테스트 참여하게 해줘”라는 음성 명령으로 참여 가능하다. 현재 베타테스트를 통한 서비스는 목적지 찾기·공조 기능 등 비교적 단순한 명령에 대한 기능을 수행할 것으로 보인다. 벤츠·MS 양사는 높은 수준의 명령에도 반응하도록 기능을 추가할 계획이다. 벤츠 관계자는 “챗GPT를 도입해 일방적 명령만 가능했던 기존 음성 제어 시스템에서 대화형 음성

최재규 기자

2023-06-18 11:46

일반뉴스 인티그리트, 챗GPT 연동 로봇 GPT-플래티...RaaS 서비스 개시

“GPT-플래티를 시작으로 로봇 및 모빌리티 제품에 신기술 탑재할 것” 인티그리트가 생성형 AI ‘챗GPT’ 기술과 연동하는 로봇인 GPT-플래티의 RaaS 서비스를 시작한다고 알렸다. 챗GPT는 초거대 언어 모델(Large Language Model 이하 LLM) 및 생성형 인공지능 중 하나로, 지난해 미국 OpenAI사가 공개해 전 세계 돌풍을 일으키고 있는 인공지능 기술이다. 인티그리트는 챗GPT 연동 로봇인 GPT-플래티에 로봇 구독 서비스인 RaaS(Robot as a Service)를 실시한다. GPT-플래티는 이벤트장·전시회 등 다중 복합시설에서 멀티미디어 콘텐츠 서비스를 제공할 예정이다. 이창석 인티그리트 대표는 “최근 대전 독립기념관, 코엑스 전시장, 현대백화점 등과 계약을 통해 챗GPT 연동 로봇을 공급할 예정”이라며 “앞으로 지능형 로봇 및 모빌리티에 다양한 LLM 기반 기술을 탑재하겠다”고 말했다. 한편, 인티그리트는 지난 달 백화점 및 전시장 등에 GPT-플래티를 제공해 실증 테스트를 진행했다. 헬로티 최재규 기자 |

최재규 기자

2023-06-17 09:50

일반뉴스 프렌들리에이아이, 초거대 언어 모델 추론 효율성 높이는 시스템 공개

반복 단위 스케줄링, 선택적 배치 처리 등 핵심 기술 적용...작업 효율↑ 비용↓ 프렌들리에이아이(FriendliAI)가 GPT-3와 같은 생성 모델의 효율을 획기적으로 끌어올리는 ‘오르카(Orca)’ 시스템을 발표했다. 오르카는 초거대 AI 모델의 효율적인 추론을 가능하게 하는 서빙 시스템이다. 기존 서빙 시스템에서 일어나던 비효율적인 지연을 없애기 위해 ‘반복 단위 스케줄링’과 ‘선택적 배치 처리’라는 핵심 기술을 적용했다. 가령 기존 시스템이 가장 목마를 오래 타고 싶은 사람이 만족할 때까지 아무도 회전목마에서 내리거나 올라탈 수 없도록 하는 방식이었다면, 오르카는 매번 회전목마가 돌 때마다 사람들이 내리거나 올라탈 수 있게 해 더 효율적이고 만족도 높은 운행이 가능하도록 한다는 것이다. 이를 통해 기존에 사용되던 시스템보다 수십 배 이상 빠른 속도로 초거대 언어 모델의 생성 작업을 수행할 수 있다. 특히 초거대 언어 모델을 사용하기 위한 비용이 수십 배나 줄어들어 이용자들의 접근성도 향상시킬 수 있을 것으로 기대된다. 프렌들리에이아이는 오르카를 사용하는 초거대 AI 서비스를 제공하고 있다. 전병곤 프렌들리에이아이 대표는 “OpenAI GPT-3 등의

이동재 기자

2022-07-13 11:35