최근에 깔끔하게 정리되는 뉴스들만 봐도 오픈소스 AI 진영이 정말 뜨거운 상황이더라고요. Recursive에서 Flint라는 40B MoE 모델을 오픈으로 공개했는데, 로컬 코딩 에이전트용으로 쓸 수 있고 M4 Pro에서 125+ tok/s 나온다고 하네요. 개인 기기에서 돌릴 수 있다는 게 요즘 추세인 것 같아요.
한편 DeepSeek도 자체 추론 프레임워크 '딥인퍼'를 오픈소스로 공개했고, Hugging Face에서는 DNA 서열을 처리할 수 있는 Carbon-X 같은 특화 모델들도 나오고 있어요. 진짜 매주 뭔가 새로운 모델이 튀어나오는 느낌이라 따라가기가 힘들 정도네요 ㅋㅋ
결국 대형 회사들도 오픈소스로 가는 흐름이 확실해진 것 같은데, 개발자들 입장에선 선택지가 많아지는 거라 좋긴 한데 어떤 걸 써야 할지 헷갈리는 부분도 있더라고요. 혹시 이쪽 분야에서 실제로 써보신 분들 의견 듣고 싶습니다요.