벤치마크 수치는 좋은데 실무에서는 아직 꽤 차이가 있더라고요. 특히 한국어 처리나 미묘한 뉘앙스 이해할 때 오픈소스들이 부족한 느낌이 많이 들어요. 비용은 확실히 장점지만 결국 쓸 때 마다 체크해봐야 할 것 같습니다.
AI연구
요즘 오픈소스 AI 모델들이 정말 미쳤더라고요
오픈소스와 독점 AI 모델 간의 성능 격차가 2025년 주요 벤치마크에서 17.5%포인트에서 단 0.3%로 축소되었다고 하네요. 진짜 충격적이지 않나요? 몇 개월 전만 해도 클로드나 GPT-4 쓸 때가 갈려 있다고 생각했는데, 이제는 오픈소스만 가지고도 거의 같은 수준의 결과를 얻을 수 있다는 거더라고요.
특히 최근 나온 모델들이 정말 좋아요. 구글이 역대 가장 지능적인 오픈소스 모델인 '젬마 4(Gemma 4)'를 2일(현지시간) 공개했고, DeepSeek V3.2, Qwen3-235B, Llama 4 Scout는 이제 GPT-5.2 및 Claude Opus 4.5와 비용의 일부로 경쟁한다니까요. 비용까지 싼데 성능은 비슷하다는 게 정말 마크다운 아닌가 싶어요.
미스트랄 라지 3와 3가지 소형 밀집 모델(14B, 8B, 3B)이 아파치 2.0 라이선스로 제공돼 개발자 커뮤니티의 자유로운 활용이 가능하다고 하니까, 이제는 정말 클라우드 API 서비스에 종속될 필요가 없을 것 같아요. 우리 회사도 지금까지는 OpenAI API 월 몇백 달러 내면서 썼는데, 혹시 이런 오픈소스 모델로 갈아타도 괜찮을까 싶은 생각까지 들어요.
다만 한 가지 고민이 생겼어요. 성능은 좋은데 실제 업프로덕션 환경에서 쓸 때 유지보수 비용이나 인프라 셋업 과정은 어떻게 되는지 궁금하네요. 혹시 이런 오픈소스 모델 써보신 분 계신가요? 실제로 도입했을 때
특히 최근 나온 모델들이 정말 좋아요. 구글이 역대 가장 지능적인 오픈소스 모델인 '젬마 4(Gemma 4)'를 2일(현지시간) 공개했고, DeepSeek V3.2, Qwen3-235B, Llama 4 Scout는 이제 GPT-5.2 및 Claude Opus 4.5와 비용의 일부로 경쟁한다니까요. 비용까지 싼데 성능은 비슷하다는 게 정말 마크다운 아닌가 싶어요.
미스트랄 라지 3와 3가지 소형 밀집 모델(14B, 8B, 3B)이 아파치 2.0 라이선스로 제공돼 개발자 커뮤니티의 자유로운 활용이 가능하다고 하니까, 이제는 정말 클라우드 API 서비스에 종속될 필요가 없을 것 같아요. 우리 회사도 지금까지는 OpenAI API 월 몇백 달러 내면서 썼는데, 혹시 이런 오픈소스 모델로 갈아타도 괜찮을까 싶은 생각까지 들어요.
다만 한 가지 고민이 생겼어요. 성능은 좋은데 실제 업프로덕션 환경에서 쓸 때 유지보수 비용이나 인프라 셋업 과정은 어떻게 되는지 궁금하네요. 혹시 이런 오픈소스 모델 써보신 분 계신가요? 실제로 도입했을 때
추천 14 비추천 0
- 이전글요즘 AI 기업들 정신 차렸나요? 규제와 반독점 조사 줄줄이네요26.06.16
- 다음글국내 AI 기업 차세대 반도체 경쟁 시작된 듯... 리벨리온, 퓨리오사 뭐가 어떤 건지 정리해주실 분?26.06.15