# 998달러로 3.8B LLM을 학습해 CORE 0.384 달성하기

little-lm 3.8B 는 무작위 초기화부터 653억 토큰을 사전학습해 CORE 0.384를 달성한 개인 프로젝트로, B200 8대에서 43시간 동안 학습하는 데 998달러 가 들었음 초기 실험의 낮은 성능을 개선하기 위해 Muon , 사다리꼴 학습률 스케줄, ClimbMix 데...



## 질문과 답변



## 출처
- GeekNews (news.hada.io) 공식 RSS: https://hugovergnes.github.io/little-lm-3-8b/ (발표 2026-10-30T02:46:32.000Z)

작성: TUMN 큐레이션 · AI 보조: false
발행: 2026-10-30T02:46:32.000Z
확인: 2026-10-30T15:26:53.704Z
검토: 원문 제목과 공개된 발췌를 인용하고 원문으로 연결합니다. 내용을 재작성하거나 요약하지 않았습니다.
정식 URL: https://api.tumn.com/news/1e439b6a-4963-4bea-b532-256f1071939c