구글 딥마인드의 온디바이스 멀티모달 혁신

구글 딥마인드(Google DeepMind)가 차세대 오픈소스 멀티모달 모델 패밀리 Gemma 4를 허깅 페이스(Hugging Face)를 통해 공식 출시했다. 아파치 2.0(Apache 2.0) 라이선스로 완전 공개된 이 모델은 이미지·텍스트·오디오 입력을 모두 지원한다. 31B 덴스(dense) 모델의 LMArena 점수(텍스트 전용)는 1,452점, 26B 혼합 전문가(MoE, Mixture of Experts) 모델은 단 40억 개의 활성 파라미터만으로 1,441점을 기록했다. transformers, llama.cpp, MLX, WebGPU, Rust 등 주요 추론 엔진을 전방위 지원하며 커뮤니티 호환성을 극대화했다.

왜 지금 Gemma 4인가

Gemma 4는 단순한 성능 업그레이드가 아니다. 오픈소스 AI 생태계에서 프론티어(frontier) 수준의 멀티모달 인텔리전스를 온디바이스(on-device)로 구현한다는 점에서 산업적 의미가 크다.

기존 오픈소스 멀티모달 모델들이 이미지-텍스트 입력에 머물렀던 반면, Gemma 4 소형 변형(E2B, E4B)은 오디오까지 지원한다. 엣지 디바이스(edge device)에서 실시간 음성 인식과 텍스트 생성을 동시에 처리할 수 있음을 의미한다.

가변 화면 비율(variable aspect ratio) 지원과 5단계 이미지 토큰 수 조절(70·140·280·560·1,120)은 속도·메모리·품질 간 트레이드오프(trade-off)를 사용자가 직접 제어할 수 있게 한다. 모바일 환경부터 서버 환경까지 동일한 모델 패밀리를 유연하게 활용할 수 있다는 뜻이다.

허깅 페이스 측은 "사전 출시 체크포인트 테스트에서 파인튜닝(fine-tuning) 예시를 찾기 어려울 정도로 기본 성능이 우수했다"고 밝혔다. 이는 모델 자체의 내재적 품질이 프론티어 수준임을 시사한다.

이전 버전과 무엇이 달라졌나

핵심 아키텍처 혁신 3가지

레이어별 임베딩(PLE, Per-Layer Embeddings): 기존 트랜스포머(transformer)는 각 토큰에 단일 임베딩 벡터만 제공한다. PLE는 두 번째 임베딩 테이블을 추가해 각 디코더 레이어에 소규모 잔차(residual) 신호를 주입한다. 레이어마다 컨텍스트 의존적 특징을 더 정밀하게 포착할 수 있다.

공유 KV 캐시(Shared KV Cache): 모델의 마지막 N개 레이어가 이전 레이어의 키-값(key-value) 상태를 재사용해 중복 KV 프로젝션을 제거한다. 메모리 사용량 감소와 추론 속도 향상이 동시에 가능하다.

이중 RoPE 구성(Dual RoPE): 슬라이딩 윈도우 레이어에는 표준 RoPE를, 글로벌 어텐션 레이어에는 가지치기된(pruned) RoPE를 적용해 긴 컨텍스트(long context)를 효율적으로 처리한다. 소형 덴스 모델은 512토큰, 대형 모델은 1,024토큰 슬라이딩 윈도우를 사용한다.

Gemma의 여정: 구글의 오픈소스 AI 전략 (Historical Thread)

구글이 오픈소스 AI 모델 경쟁에 본격 참여한 것은 비교적 최근이다. 2023년 챗GPT(ChatGPT)의 폭발적 성장 이후, 메타(Meta)가 라마(LLaMA) 시리즈를, 미스트랄(Mistral)이 Mistral 7B를 오픈소스로 공개하며 상용 모델 대비 오픈소스의 경쟁력이 본격적으로 부각됐다.

구글 딥마인드는 2024년 초 Gemma 1을 출시하며 오픈소스 진영에 합류했다. Gemma 2에서는 파라미터 대비 성능 효율을 높여 소형 모델 시장을 공략했고, Gemma 3에서는 이미지-텍스트 멀티모달 기능을 추가했다. Gemma 3n은 온디바이스 최적화에 집중하며 PLE와 오디오 지원을 처음 도입했다.

Gemma 4는 이 모든 혁신을 하나의 패밀리로 통합하며 "오픈소스 모델로도 프론티어 성능을 달성할 수 있다"는 명제를 실증하고 있다. TRL, Unsloth Studio, Vertex AI 파인튜닝 지원까지 더해 생태계 완결성을 높였다.

앞으로 어떻게 될까 [전문가 분석]

Gemma 4의 출시는 오픈소스 AI 경쟁 지형을 재편할 가능성이 높다.

온디바이스 AI의 주류화: E2B·E4B 소형 모델이 스마트폰과 엣지 디바이스에서 오디오까지 처리할 수 있게 되면서, 클라우드 API 의존도를 낮추는 프라이버시 중심 애플리케이션이 빠르게 확산될 가능성이 높다.

비용 효율적 기업 배포의 새 기준: 26B MoE 모델이 4B 활성 파라미터만으로 LMArena 1,441점을 기록했다는 사실은 추론 비용을 획기적으로 낮출 수 있음을 시사한다. 유사 성능의 상용 API 대비 총소유비용(TCO) 절감 효과가 커 중소 스타트업의 Gemma 4 채택이 가속화될 가능성이 높다.

멀티모달 표준 경쟁 심화: 가변 화면 비율과 5단계 이미지 토큰 조절이라는 혁신은 경쟁사들도 유사 기능을 도입하게 만들 가능성이 높다. GPT-4o, 클로드(Claude) 등 주요 모델의 다음 업데이트에서 이 기능이 표준화될 수 있다.

Apache 2.0의 전략적 파급력: 상업적 이용이 가능한 완전 개방 라이선스는 Gemma 4를 기업 제품에 직접 내장할 수 있게 한다. 이는 구글 클라우드 생태계와의 연결고리를 강화하는 동시에, 오픈소스 AI 커뮤니티에서 구글의 영향력을 확대하는 이중 효과를 노린 전략으로 해석된다.

오픈소스 AI가 프론티어 모델을 따라잡는 속도는 2024년 이후 급격히 빨라졌다. Gemma 4는 그 흐름에서 중요한 이정표가 될 것으로 보인다.