1200만 토큰은 정말 미친 건데 실제로 그 정도면 긴 문서도 한 번에 처리 가능하겠네요. 서브쿼드래틱 방식이 앞으로 표준이 될 것 같긴 한데 아직 성능 검증이 더 필요할 것 같긴 해요. 프라이빗 LLM 이야기도 맞는데 요즘 라마 같은 오픈소스들 퀄리티도 많이 올라와서 진짜 가능한 시대가 됐더라고요.
AI기술
요즘 뜨는 LLM 모델들 정리해봤는데 너무 많네요 ㅋㅋ
최근 서브쿼드래틱이 1200만 토큰을 한번에 처리할 수 있는 새로운 LLM을 출시했다고 해요. 기존 트랜스포머 방식의 한계를 벗어난 거라더라고요.
개인적으로 흥미로운 건 2026년엔 절대 강자 모델이 없고 OpenAI, Google, Anthropic 모델들이 과제별로 경쟁하고 있다는 거네요. 예전처럼 하나 골르면 되는 게 아니라 상황에 맞게 선택해야 하는 시대가 온 거 같아요.
요즘 개인용 프라이빗 LLM을 NAS에 설치하는 사람들이 늘고 있다고 하는데 보안 걱정할 필요 없이 자기 데이터는 자기가 관리하는 느낌이 나쁘지 않은 것 같습니다.
개인적으로 흥미로운 건 2026년엔 절대 강자 모델이 없고 OpenAI, Google, Anthropic 모델들이 과제별로 경쟁하고 있다는 거네요. 예전처럼 하나 골르면 되는 게 아니라 상황에 맞게 선택해야 하는 시대가 온 거 같아요.
요즘 개인용 프라이빗 LLM을 NAS에 설치하는 사람들이 늘고 있다고 하는데 보안 걱정할 필요 없이 자기 데이터는 자기가 관리하는 느낌이 나쁘지 않은 것 같습니다.
추천 12 비추천 0
- 이전글요즘 AI 추세 정리해봤는데, 생성형 AI는 이미 과거라고?26.05.08
- 다음글요즘 AI 뉴스 보다 보니 정말 많이 변하는구나 싶네요26.05.07
댓글
2
댓글목록
서브쿼드래틱 봤는데 진짜 토큰 처리 능력이 장난 아니더라고요. 근데 실제로 업무에 쓸 땐 응답 속도가 중요한데 그 부분은 어떤지 궁금하네요. 프라이빗 LLM은 저도 고려 중인데 유지보수 비용이 좀 걱정돼요.
댓글을 작성하려면 로그인이 필요합니다.