최신 글
기술과 일상을 함께 기록합니다.
기술
297기술AI › 언어 모델 › 응용
9. LLM 애플리케이션 개발하기
검색 증강 생성으로 근거를 연결하고 권한, 출력 검증, 프롬프트 인젝션과 평가를 다루는 애플리케이션 구성법을 정리한다.
· 5분 읽기
기술AI › 언어 모델 › 응용
8. sLLM 서빙하기
sLLM을 API로 서빙할 때 필요한 모델 구성, 로컬 호출 예시, 지연 시간과 장애 점검 방법을 설명한다.
· 4분 읽기
기술AI › 언어 모델 › 응용
7. 모델 가볍게 만들기
양자화, 지식 증류, 가지치기가 줄이는 자원을 비교하고 품질과 추론 속도를 함께 측정하는 방법을 정리한다.
· 5분 읽기
기술AI › 언어 모델 › 응용
6. sLLM 학습하기
작은 언어 모델의 과제를 정의하고 데이터를 분리한 뒤 LoRA로 미세 조정하고 평가하는 흐름을 설명한다.
· 4분 읽기
기술AI › 언어 모델 › 응용
5. GPU 효율적인 학습
GPU 학습 메모리의 사용처를 살펴보고 기울기 누적, 혼합 정밀도, 체크포인팅, LoRA의 선택 기준을 정리한다.
· 5분 읽기
기술AI › 언어 모델 › 응용
4. 말 잘 듣는 모델 만들기
지시 미세 조정과 선호 학습으로 모델의 답변 방식을 다듬고, 지시 준수와 사실성을 평가하는 방법을 정리한다.
· 5분 읽기
기술AI › 언어 모델 › 응용
3. 트랜스포머 모델을 다루기 위한 허깅 페이스 트랜스포머 라이브러리
Transformers의 pipeline, 토크나이저, 모델을 연결해 텍스트 분류 추론이 이루어지는 과정을 살펴본다.
· 4분 읽기
기술AI › 언어 모델 › 응용
2. LLM 중추, 트랜스포머 아키텍처 살펴보기
토큰과 위치 표현부터 셀프 어텐션, 인코더·디코더, 인과 마스크까지 텐서 모양과 파이토치 예제로 살펴본다.
· 8분 읽기
기술AI › 언어 모델 › 응용
1. LLM 지도
딥러닝과 임베딩에서 언어 모델, 트랜스포머, RAG까지 LLM의 핵심 개념을 한 흐름으로 살펴보기
· 8분 읽기
기술AI › 언어 모델 › 개념
12. 생성 모델 미세 튜닝하기
지도 미세 튜닝 데이터와 LoRA 학습, 근거에 충실한 생성 답변의 평가 방법
· 8분 읽기
기술AI › 언어 모델 › 개념
11. 분류용 표현 모델 미세 튜닝하기
레이블 설계부터 인코더 미세 튜닝, 클래스별 평가와 오류 분석까지 살펴보기
· 8분 읽기
기술AI › 언어 모델 › 개념
10. 텍스트 임베딩 모델 만들기
질문과 문서를 벡터로 표현하고 대조 학습과 검색 지표로 임베딩 모델을 개선하는 방법
· 9분 읽기