Gemma 4 12B 공개, 16GB 노트북급 멀티모달 AI

무엇이 새로 나왔나

이번 발표의 주인공은 Gemma 4 12B입니다. 이름만 보면 중간 크기 모델 같지만, 발표 포인트는 숫자보다 방향에 있습니다. Google은 이 모델을 노트북에서 돌아가는 멀티모달·에이전트용 AI로 설명했습니다. 즉 거대한 서버에 올려 쓰는 모델이 아니라, 개인 장비와 로컬 개발 흐름에 더 가까운 위치를 노린 셈입니다.

Google 공식 글에 따르면 Gemma 4 12B는 표준 벤치마크에서 더 큰 26B MoE 모델에 가까운 성능을 목표로 하면서도, 총 메모리 발자국은 그보다 훨씬 작게 잡았습니다. 그래서 소비자용 노트북이나 데스크톱에서도 멀티모달 입력과 에이전트 작업을 시험해볼 수 있다는 설명이 붙었습니다.

왜 ‘인코더 없는 멀티모달’이 중요할까

보통 멀티모달 모델은 사진이나 소리를 먼저 별도 인코더가 번역한 뒤 언어 모델로 넘깁니다. 쉽게 비유하면 통역 직원을 한 번 더 거쳐 본체에 전달하는 구조입니다. Gemma 4 12B는 이 중간 단계를 최대한 줄여 시각·오디오 입력을 LLM 본체로 더 직접 흘려보내는 방식을 강조했습니다.

Google 설명대로라면 비전 쪽은 가벼운 임베딩 모듈로, 오디오 쪽은 원신호를 텍스트 토큰과 비슷한 공간으로 바로 투영하는 식으로 단순화했습니다. 회사가 노리는 효과는 두 가지입니다. 첫째, 지연을 줄이는 것, 둘째, 멀티모달 모델을 더 작은 메모리 예산에서도 돌릴 수 있게 하는 것입니다.

일반 독자와 개발자가 볼 포인트

일반 독자 기준으로는 “클라우드에 보내야만 보이는 AI”가 아니라, 앞으로는 내 장비 안에서 사진·소리까지 보는 AI가 더 많아질 수 있다는 신호로 보면 이해가 쉽습니다. 개발자 기준으로는 Apache 2.0 라이선스, Hugging Face·Kaggle 배포, LM Studio·Ollama·vLLM·llama.cpp 같은 생태계 연동이 즉시 붙었다는 점이 실무 포인트입니다.

다만 발표 문구를 곧바로 체감 성능으로 받아들이면 과장될 수 있습니다. Google이 말한 16GB급 메모리는 어디까지나 출발선에 가깝고, 실제 응답 속도와 안정성은 양자화 방식, 추론 툴, 운영체제, GPU 여부에 따라 크게 달라집니다. 그래서 이번 소식은 “누구나 완벽하게 돌린다”보다 로컬 멀티모달 AI의 진입선이 한 단계 내려왔다는 정도로 보는 편이 안전합니다.