스포트라이트 추론하는 AI, ‘파라미터 전쟁'에서 '반사신경의 시대'로

GPT-3의 파라미터 수는 1750억 개. 한때 이 수치는 AI의 위용을 상징했다. 하지만 2025년 현재, 그런 숫자 놀이는 더 이상 중요하지 않다. AI 기술의 중심축이 바뀌고 있다. ‘얼마나 학습했는가’에서 ‘얼마나 빠르게 반응하고 정확하게 추론하는가’로 말이다. OpenAI의 o3, 구글의 Gemini 1.5, 마이크로소프트의 Phi-3, 메타의 LLaMA3까지, 최근 공개된 모든 신형 모델은 공통적으로 ‘추론 최적화’를 전면에 내세운다. 한마디로 말해, 지금의 AI는 더 이상 천천히 생각하는 철학자가 아니라, 실시간 대응하는 전술가여야 한다. AI 성능 기준의 변화 이른바 GPT로 대표되는 LLM은 통계적으로 가장 가능성 높은 답을 과거 학습 데이터를 기반으로 예측하는 구조다. 이른바 ‘확률적 언어 생성기’다. 하지만 여기엔 한계가 있었다. 새로운 상황에 대한 실시간 판단, 문맥에 따른 논리적 전개, 시각 정보와 복합 입력의 해석 등에서는 유연하지 못했다. 그런 의미에서 AI 성능은 오랫동안 ‘얼마나 많은 데이터를 학습했는가’, ‘모델의 크기가 얼마나 큰가’로 측정됐다. GPT-4는 GPT-3 대비 수배의 연산량을 요구했고, 이를 학습하기 위해선 수

• 서재창 기자
• 2025-05-07 18:59