요즘 정말 모델이 미칠듯이 많이 나오네요. 2026년 들어서만 29개 제공사에서 181개 모델이 출시됐대요. 저도 따라가기 힘들 정도네요.
특히 6월에 구글의 Gemma 4 26B가 나왔는데, MoE 아키텍처에 AIME 2026에서 89% 점수를 받았다더라고요. Gemma 4 E2B는 2GB 정도의 RAM에서도 구동되니까 자체 서버에서 운영하기도 괜찮을 것 같아요. 가벼운 작업에는 충분할 듯합니다.
다만 지난 3년 사이에 추론 API 가격이 백만 토큰당 30달러에서 0.5달러 아래로 내려왔다고 하니 요즘은 로컬 운영보다 API 써도 괜찮을 것 같긴 해요. 다들 어떤 모델 써보셨어요?
추천 1 비추천 0