본문 바로가기

전체 글

 (108)
[44편 - 마지막] MLOps 기초 : 모델을 실전에 배포하는 법 한 줄 요약: MLOps는 ML 모델을 개발(Dev)하고 운영(Ops)하는 전체 생애주기를 관리하는 방법론이다. 모델을 만드는 것은 전체 ML 프로젝트의 20%에 불과하고, 나머지 80%는 데이터 파이프라인, 모델 서빙, 모니터링, 재학습 자동화에 있다. 왜 이걸 알아야 하는가1편부터 43편까지 수학 기초, 알고리즘, ML, 딥러닝, NLP, LLM을 다뤘다. 이 모든 지식으로 만든 모델이 Jupyter Notebook 안에 머물러 있다면, 실제 비즈니스에 아무런 가치를 제공하지 못한다. 모델을 실제 서비스에 배포하고, 실시간 트래픽을 받아 예측하고, 성능이 떨어지면 자동으로 재학습시키는 것까지가 ML 엔지니어의 책임 범위다. 이것이 MLOps다. 소프트웨어 엔지니어링에 DevOps가 있듯, 머신러닝에 ..
[43편] LLM의 세계 : GPT에서 오픈소스 모델까지 한 줄 요약: LLM(대규모 언어 모델)은 37편의 Transformer Decoder를 수십~수천억 파라미터로 확장한 것이다. GPT 계열이 상업적 성공을 이끌었고, RLHF로 인간의 선호에 맞게 정렬되며, RAG로 환각(Hallucination) 문제를 완화하고, Llama 같은 오픈소스 모델이 생태계를 확장하고 있다. 왜 이걸 알아야 하는가42편에서 BERT가 Transformer의 Encoder를 사용한다고 했다. GPT는 Transformer의 Decoder를 사용한다. BERT가 "문장을 이해하는 것"에 특화되었다면, GPT는 "다음 단어를 생성하는 것"에 특화되었다. 이 "다음 단어 예측"이라는 단순한 과제를 수천억 파라미터 규모로 확장했을 때, 번역, 요약, 코딩, 추론 등 다양한 능력이 ..
[42편] Word2Vec에서 BERT까지 : NLP의 진화 한 줄 요약: NLP는 "단어를 숫자로 바꾸는 방법"의 진화 역사다. Bag of Words(30편)의 빈도 기반에서, Word2Vec의 의미 벡터로, ELMo의 문맥 임베딩으로, 그리고 BERT의 양방향 Transformer 기반 사전 학습으로 발전해왔다. 왜 이걸 알아야 하는가30편에서 Bag of Words와 TF-IDF를 다뤘다. 이 방법들은 단어의 순서와 의미를 무시한다. "좋다"와 "훌륭하다"가 비슷한 의미라는 것을 알지 못한다. 이 한계를 극복하기 위해 단어 임베딩(Word Embedding)이 등장했고, 이것이 현대 NLP의 기반이 되었다. 1편에서 다뤘던 "왕 - 남자 + 여자 = 여왕" 벡터 연산이 바로 Word2Vec의 결과물이다. 그리고 37편의 Transformer가 BERT라는 ..
[41편] YOLO, R-CNN, U-Net : 컴퓨터 비전이 물체를 찾는 법 한 줄 요약: 이미지 분류(32편)가 "이 사진에 뭐가 있나?"라면, 객체 탐지는 "어디에 뭐가 있나?"이고, 세그멘테이션은 "각 픽셀이 뭐에 해당하나?"다. R-CNN은 정확도 중심, YOLO는 속도 중심의 객체 탐지 모델이며, U-Net은 의료 영상 세그멘테이션의 표준이다. 왜 이걸 알아야 하는가32편의 CNN은 이미지 전체를 보고 "이 이미지는 고양이다"라고 분류했다. 하지만 자율주행 차량은 "도로 위 3미터 앞에 보행자가 있다"를 알아야 하고, 의료 영상 시스템은 "이 CT 이미지에서 종양의 정확한 윤곽"을 알아야 한다. 분류를 넘어 "어디에, 무엇이, 어떤 모양으로" 있는지까지 파악하는 것이 컴퓨터 비전의 핵심 과제다. 비유로 이해하기이미지 분류는 "이 사진에 개가 있다"고 말하는 것이다. 객체..
[40편] Transfer Learning, Fine-tuning : 거인의 어깨에 올라타기 한 줄 요약: Transfer Learning(전이학습)은 대규모 데이터로 사전 학습된 모델의 지식을 새로운 문제에 재활용하는 기법이다. Feature Extraction은 사전 학습된 특성 추출기를 그대로 쓰고 마지막 분류기만 교체하는 것이고, Fine-tuning은 모델의 일부 또는 전체 가중치를 새 데이터로 추가 학습하는 것이다. 왜 이걸 알아야 하는가32편의 CNN을 처음부터 학습시키려면 수십만 장의 이미지와 수일의 GPU 학습 시간이 필요하다. 하지만 실무에서 그만큼의 데이터와 자원을 가진 팀은 드물다. Transfer Learning은 이 문제를 해결한다. ImageNet(1,400만 장)으로 학습된 ResNet이나 VGG의 가중치를 가져와서, 내 문제(예: 의료 영상 분류)에 맞게 약간만 조..
[39편] BatchNorm, Dropout, Adam : 딥러닝 학습을 안정시키는 기술들 한 줄 요약: 딥러닝 모델을 효과적으로 학습시키려면 정규화(BatchNorm), 과적합 방지(Dropout), 최적화(Adam) 세 가지 기술이 필수다. 이것들은 모델 구조만큼이나 학습 성패를 좌우하는 "학습 테크닉"이다. 왜 이걸 알아야 하는가31편에서 ANN을 만들고, 32편에서 CNN, 36편에서 LSTM을 다뤘다. 하지만 모델 구조를 아무리 잘 설계해도, 학습 과정이 불안정하면 성능이 나오지 않는다. 학습률이 너무 크면 발산하고, 너무 작으면 학습이 안 되며, 과적합되면 훈련 데이터만 외우고 새로운 데이터에서 실패한다. 이번 편에서 다루는 기술들은 이런 문제를 해결하는 "학습의 비법"이다. 핵심 개념1. Batch Normalization각 층의 입력을 미니배치 단위로 정규화(평균 0, 분산 1)..
[38편] GAN, VAE, Diffusion (생성모델) : AI가 만들어내는 세상 한 줄 요약: 생성모델은 데이터의 분포를 학습해서 새로운 데이터를 만들어내는 모델이다. GAN은 생성자와 판별자의 대결 구조로, VAE는 잠재 공간의 확률 분포를 학습해서, Diffusion은 노이즈를 점진적으로 제거하는 방식으로 고품질 이미지를 생성한다. 왜 이걸 알아야 하는가지금까지 다뤘던 모든 모델은 "분류" 또는 "예측"이었다. 기존 데이터의 패턴을 학습해서 새로운 데이터의 라벨이나 값을 맞히는 것이다. 생성모델은 방향이 다르다. 데이터의 분포 자체를 학습해서, 존재하지 않았던 새로운 데이터를 "만들어낸다". Midjourney, DALL-E, Stable Diffusion 같은 이미지 생성 AI가 모두 이 기술 위에 있다. 비유로 이해하기GAN은 "위조범과 감정사의 대결"이다. 위조범(생성자, ..
[37편] Transformer : Attention is All You Need 한 줄 요약: Transformer는 RNN의 순차 처리 없이, Self-Attention 메커니즘만으로 시퀀스의 모든 위치를 동시에 참조하는 아키텍처다. 병렬 처리가 가능해 학습 속도가 비약적으로 빨라졌고, BERT, GPT 등 현대 AI의 거의 모든 대형 모델이 Transformer 기반이다. 왜 이걸 알아야 하는가36편의 RNN/LSTM은 시퀀스를 한 시점씩 순서대로 처리해야 했다. 100개 단어짜리 문장이면 100번 순차적으로 계산해야 한다. 이러면 두 가지 문제가 생긴다. 첫째, 병렬화가 불가능해 학습이 느리다. 둘째, 아무리 LSTM이라도 문장이 길어지면 초기 단어의 정보가 약해진다. 2017년 Google의 "Attention is All You Need" 논문이 이 모든 것을 바꿨다. RN..

티스토리툴바