본문으로 건너뛰기
홈
기술
기술 전체
프로그래밍68
컴퓨터 과학63
AI48
웹 개발36
인프라33
데이터31
소프트웨어 공학18
소개

최신 글

기술과 일상을 함께 기록합니다.

기술

297

9. LLM 애플리케이션 개발하기

검색 증강 생성으로 근거를 연결하고 권한, 출력 검증, 프롬프트 인젝션과 평가를 다루는 애플리케이션 구성법을 정리한다.

· 5분 읽기

8. sLLM 서빙하기

sLLM을 API로 서빙할 때 필요한 모델 구성, 로컬 호출 예시, 지연 시간과 장애 점검 방법을 설명한다.

· 4분 읽기

7. 모델 가볍게 만들기

양자화, 지식 증류, 가지치기가 줄이는 자원을 비교하고 품질과 추론 속도를 함께 측정하는 방법을 정리한다.

· 5분 읽기

6. sLLM 학습하기

작은 언어 모델의 과제를 정의하고 데이터를 분리한 뒤 LoRA로 미세 조정하고 평가하는 흐름을 설명한다.

· 4분 읽기

5. GPU 효율적인 학습

GPU 학습 메모리의 사용처를 살펴보고 기울기 누적, 혼합 정밀도, 체크포인팅, LoRA의 선택 기준을 정리한다.

· 5분 읽기

4. 말 잘 듣는 모델 만들기

지시 미세 조정과 선호 학습으로 모델의 답변 방식을 다듬고, 지시 준수와 사실성을 평가하는 방법을 정리한다.

· 5분 읽기

3. 트랜스포머 모델을 다루기 위한 허깅 페이스 트랜스포머 라이브러리

Transformers의 pipeline, 토크나이저, 모델을 연결해 텍스트 분류 추론이 이루어지는 과정을 살펴본다.

· 4분 읽기

2. LLM 중추, 트랜스포머 아키텍처 살펴보기

토큰과 위치 표현부터 셀프 어텐션, 인코더·디코더, 인과 마스크까지 텐서 모양과 파이토치 예제로 살펴본다.

· 8분 읽기

1. LLM 지도

딥러닝과 임베딩에서 언어 모델, 트랜스포머, RAG까지 LLM의 핵심 개념을 한 흐름으로 살펴보기

· 8분 읽기

12. 생성 모델 미세 튜닝하기

지도 미세 튜닝 데이터와 LoRA 학습, 근거에 충실한 생성 답변의 평가 방법

· 8분 읽기

11. 분류용 표현 모델 미세 튜닝하기

레이블 설계부터 인코더 미세 튜닝, 클래스별 평가와 오류 분석까지 살펴보기

· 8분 읽기

10. 텍스트 임베딩 모델 만들기

질문과 문서를 벡터로 표현하고 대조 학습과 검색 지표로 임베딩 모델을 개선하는 방법

· 9분 읽기