대구디지털혁신진흥원 LLM 과정 40시간을 Transformer 이론에서 배포·평가까지 한 흐름으로 이었다. 회차마다 100명 이상이 들었고, 후기에는 어렵다는 말과 배포가 쉬웠다는 말이 같이 나왔다. 같은 과정을 열려면 이론·구현·배포 중 어디서 끊기는지와 실습 시간 확보 여부부터 확인해야 한다.
LLM 교육이 무너지는 자리는 대개 세 곳이다. 이론은 이해했는데 코드로 옮기지 못하는 자리, 코드는 따라 쳤는데 자기가 무엇을 했는지 모르는 자리, 구현은 됐는데 배포와 운영 앞에서 멈추는 자리. 우리가 대구디지털혁신진흥원 LLM 과정(2026년 2월 4일 기록)에서 40시간 동안 붙든 것은 이 세 자리를 끊지 않고 잇는 일 하나였다. 공공기관이 연 온라인 실시간 과정이었다.
현장에서 자주 보는 모습도 그 세 자리와 겹친다. Transformer, RAG, LoRA 같은 용어는 익숙한데 코드와 연결되지 않고, HuggingFace나 LangChain은 어디서 시작할지 애매하며, GPU 학습과 배포는 특정 환경에서만 가능한 일처럼 느껴진다. 실습 중 에러가 나면 복습 경로가 끊기기 쉽다는 문제도 있다.
우리는 목표를 쉽게 설명하기가 아니라 한 번이라도 직접 실행해 본 사람으로 바꾸기에 두었다. 교육이 끝난 뒤 후기에는 서로 반대로 보이는 두 문장이 함께 실렸다.
40시간을 다섯 단계로 나누되 흐름은 끊지 않았다
| 항목 | 내용 |
|---|---|
| 주관 | 대구디지털혁신진흥원 (공공교육) |
| 형태 | 온라인 실시간 |
| 일정 | 화·목·화·목·토, 총 5회 |
| 총 시간 | 40시간 |
| 규모 | 회차마다 100명 이상 참여, 신청 최대 약 200명 |
| 세션 | 1세션(화·목)과 2세션(화·목·토), 참가자 대부분이 연속 참여 |
과정의 뼈대는 다섯 단계다. Transformer를 이해하고, HuggingFace로 언어모델을 직접 학습시키고, RAG 챗봇을 구현하고, Streamlit으로 배포하고, Unsloth로 파인튜닝한 뒤 평가한다. 이론 강의 뒤에 실습이 따로 붙는 구성이 아니라, 이론·구현·학습·서비스화·운영/평가가 한 줄로 이어지는 구성이다.
이론 파트에서 우리가 힘을 준 것은 애니메이션이었다. 작동 원리를 그림으로 먼저 이해한 뒤 곧바로 코드로 확인하는 순서를 지켰고, 한 참가자는 "멘토님 강의자료에 애니메이션으로 설명해주시니까 작동 원리 이해하는데 많이 도움이 됐어요"라고 적었다. 다른 참가자는 "부트캠프에서도 못 들었던 Transformer 강의였어요"라는 후기를 남겼다.
학습 단계는 GCP에서 인스턴스를 만들고 SSH로 접속해 GPU를 할당하는 데서 시작한다. 학습을 남의 환경의 일로 두지 않으려는 배치다. 우리 경험으로는 학습을 한 번이라도 자기 손으로 돌려 본 사람이 뒤이은 파인튜닝과 배포를 더 빨리 이해한다.
배포는 데모 코드가 아니라 사람이 쓰는 형태까지 올렸다
배포 단계의 기준은 사람이 쓰는 형태였다. Streamlit으로 웹서빙을 하고, 대화방과 사용자별로 멀티턴 기억을 분리하고, Redis에 대화를 저장한다. 데모 코드 한 장이 아니라 세션과 저장이 붙은 서비스 형태로 올리는 것이 목표였다.
마지막 단계는 Unsloth로 빌리언 단위 LLM을 LoRA 튜닝하고, Ollama와 ngrok으로 배포한 뒤, MMLU 기반으로 추론과 평가를 돌리는 루프다. 학습·배포·평가를 한 바퀴 돌아 본 사람을 만드는 것이 이 단계의 목적이다.
배포에 관한 후기는 한 방향이었다. "배포를 이렇게 쉽게 할 수 있다니 놀랐습니다"라는 문장이 나왔고, 배포는 어렵다고 생각했는데 생각보다 쉽게 올렸다는 후기, RAG를 어렴풋이 알던 수준에서 어느 정도 구체화했다는 후기도 있었다. 한 참가자는 "ai사용자 입장이 아니라 개발자의 입장에서 바라볼 수 있었던 시간이었습니다"라고 썼다. 교육 전에 흔했던, 배포는 특정 환경에서만 가능하다는 감각과는 반대 방향이다.
'어렵다'는 후기는 실패가 아니라 처음 직접 실행했다는 신호였다
같은 과정에서 어렵다는 말도 많이 나왔다. 우리는 이를 실패 신호로 읽지 않는다. LLM을 처음으로 자기 손으로 실행해 본 사람에게서 나오는 반응이다. 그렇게 읽는 근거는 후기 안에 있다. "살짝 어려웠지만 집에서 복습하면서 다시 해보겠습니다!"라는 문장이 있었고, 다른 참가자는 "개념들이 낯설어서 복습강의로 무조건 봐야할 것 같지만, 공부해볼 의지가 생기도록 너무 잘 들었습니다"라고 적었다.
교육 전 우리가 꼽은 문제 하나가 실습 중 에러가 나면 복습 경로가 끊기기 쉽다는 점이었다. 후기에 복습 강의와 집에서 다시 해 보겠다는 말이 나온 것은, 어렵다고 느낀 뒤에도 돌아올 경로가 남아 있었다는 뜻으로 읽는다. "앞으로 나아갈 길이 더 명확해졌습니다"라는 후기에서 우리가 읽은 것은 지식 몇 가지를 얻었다는 말이 아니라 다음에 무엇을 공부하고 만들지 정해졌다는 말이다. "끝이 아니라 시작을 하고자 합니다"라는 후기도 같은 방향으로, 듣는 데서 멈추지 않고 직접 해 보는 쪽으로 넘어갔다는 뜻이다.
가져갈 것
- 우리 LLM 과정이 이론→구현→학습→배포→평가 중 어느 단계에서 끊기는지 적어 봤는가
- 참가자가 클라우드에서 GPU 인스턴스를 직접 만들고 접속해 학습을 돌리는 시간이 과정 안에 있는가
- 배포 실습이 데모 코드에서 끝나지 않고 멀티턴·세션 분리·대화 저장이 붙은 서비스 형태로 올라가는가
- 튜닝한 모델을 직접 배포하고 벤치마크로 평가하는 마지막 루프가 있는가
- 실습 중 에러로 멈춘 참가자가 돌아올 복습 강의 경로를 준비했는가
- 총 40시간에 준하는 실습 시간을 확보할 수 있는가
안 되는 경우
- 원문이 밝히지 않은 것: 교육 일자, 참가자의 직군·소속, 실습 완주율, 배포에 성공한 인원, 만족도 수치, 복습 강의의 제공 형태.
- 우리가 이 과정을 권하지 않는 경우: 당장 결과물만 빠르게 뽑아야 하는 단기 프로젝트, 실습 시간을 확보하기 어려운 환경, 이론 없이 코드만 받기를 원하는 경우.
- GCP 인스턴스, Solar API, ngrok처럼 외부 클라우드와 외부 API 호출이 전제다. 외부 접속이 막힌 환경에서는 학습·배포 단계를 같은 도구 구성으로 돌릴 수 없다.
- 회차마다 100명 이상이 연속 참여한 온라인 실시간 환경에서 나온 결과다. 소규모 오프라인이나 단발 회차에는 그대로 옮기지 못한다.
이번 주에 바꿀 것은 LLM 교육 계획서의 배포 항목이다. 배포가 강사 시연으로만 적혀 있다면 참가자가 자기 손으로 올리는 시간으로 바꾸고, 그 앞뒤에 학습과 평가가 붙어 있는지 확인한다. 이론에서 배포·평가까지 끊지 않는 LLM 과정을 설계할 조직은 조녁컴퍼니의 교육 구성을 참고할 수 있다. 사업영역 →