최신 글
기술과 일상을 함께 기록합니다.
기술AI › 언어 모델 › 개념
4. 텍스트 분류
영화 리뷰를 긍정·부정으로 분류하며 작업별 모델, 임베딩 분류기, 제로샷, 생성 모델을 같은 평가 기준으로 비교한다.
· 10분 읽기
기술AI › 언어 모델 › 개념
3. 대규모 언어 모델 자세히 살펴보기
프롬프트 입력부터 다음 토큰 선택, KV 캐시, 어텐션과 피드포워드 층까지 생성 모델의 계산 흐름을 따라간다.
· 12분 읽기
기술AI › 언어 모델 › 개념
2. 토큰과 임베딩
같은 문장도 토크나이저에 따라 토큰 수가 달라진다. 토큰 ID가 문맥 벡터가 되기까지의 과정과 코드 출력의 의미를 살펴본다.
· 5분 읽기
기술AI › 언어 모델 › 개념
1. 대규모 언어 모델 소개
BoW의 단어 빈도부터 문맥 임베딩, 어텐션, 트랜스포머까지: 언어를 숫자로 표현하고 생성하는 방식이 어떻게 달라졌는지 살펴본다.
· 12분 읽기