딥러닝의 수학 | Scientific Theory of Deep Learning
📐 딥러닝의 과학적 이론과 학습 역학(Learning Mechanics)을 소개합니다.
Standing-O
기계번역 톺아보기 (2) | LLM을 번역기로 쓰기
💬 LLM을 번역에 활용하는 LoRA와 QLoRA, 인간 선호 방법으로 학습하는 RLHF와 DPO, 그리고 그 평가지표를 공부합니다.
기계번역 톺아보기 (1) | 통계 모델과 Transformer
🔤 Noisy Channel부터 Transformer까지, 통계 기계번역과 신경망 기계번역의 전반을 정리합니다.
LLM은 GPU 위에서 어떻게 동작할까 | How LLMs Run on GPUs (2)
🔗 LLM 분산 학습을 위한 GPU 병렬화 전략과 통신 방식을 정리합니다.
LLM은 GPU 위에서 어떻게 동작할까 | How LLMs Run on GPUs (1)
🖥️ GPU의 기본 작동 원리부터 LLM이 GPU 메모리를 사용하는 방식, 메모리 계산법까지 처음부터 짚어봅니다.