결과 먼저 — 회차당 100명 이상(신청 최대 약 200명)이 참여한 온라인 과정에서, 참여자들이 RAG 챗봇 구현부터 LoRA 파인튜닝·배포·평가까지 40시간 동안 직접 해냈습니다. "배포를 이렇게 쉽게 할 수 있다니 놀랐다", "부트캠프보다 더 내용이 좋았다"는 후기가 이어졌습니다.
용어(Transformer, RAG, LoRA)는 익숙한데 코드로 연결이 안 되고, GPU 학습과 배포는 '특정 환경에서만 가능한 일'처럼 느껴지는 상태. 온라인에서 수백 명이 동시에 듣는 환경에서, LLM을 '아는 수준'에서 **'직접 학습·구현·배포·평가해본 경험'**으로 바꾸는 40시간을 진행했습니다.
이번 과정이 집중한 건 하나, 연결입니다. 이론은 이해했는데 코드로 못 옮기고, 코드는 따라 쳤는데 뭘 한 건지 모르겠고, 구현은 했는데 배포에서 멈추는 단절을 끊기 위해 이론 → 구현 → 학습 → 서비스화 → 운영·평가를 한 흐름으로 이었습니다.
5일 커리큘럼
| Day | 내용 |
|---|---|
| 1 | 딥러닝 → NLP → Transformer를 '코드로' 연결 (PyTorch, HuggingFace) |
| 2 | GCP GPU 인스턴스에서 언어모델 직접 학습 — MLM/NSP 구현, 데이터·모델 형상 관리 |
| 3 | RAG를 '구조로' 이해 — 임베딩 검색기, Solar API + FAISS 챗봇, Streamlit 멀티턴 |
| 4 | 챗봇을 인터넷에 올려 서비스처럼 — Streamlit 배포, Redis 대화 저장, 프롬프트 파일 관리 |
| 5 | Unsloth LoRA 파인튜닝 + Ollama/ngrok 배포 + MMLU 평가, 운영(Ops) 관점 |
"멘토님 강의자료에 애니메이션으로 설명해주시니까 작동 원리 이해하는데 많이 도움이 됐어요."
교육 후 달라진 점
- "RAG 개념을 어렴풋이 알던 수준 → 어느 정도 구체화됐다"
- "배포는 어렵다고 생각했는데 → 생각보다 쉽게 올릴 수 있었다"
- "AI 사용자 관점 → 개발자 관점으로 보게 됐다"
"부트캠프보다 더 내용이 좋았습니다… 끝이 아니라 시작을 하고자 합니다."
"앞으로 나아갈 길이 더 명확해졌습니다."
'어렵다'는 피드백도 있었지만, 처음으로 LLM을 진짜로 만지기 시작했다는 신호로 읽습니다. LLM은 이제 "들어본 기술"이 아니라, 한 번이라도 직접 학습·배포·평가까지 해본 사람이 확실히 유리한 영역이 됐습니다.