에피소드 2. 생성형 AI의 학습과 글 처리

원본 영상: 06:05–13:29. 공식 슬라이드 9~12장.

분류하는 AI와 생성하는 AI

영상 06:34은 기존 AI의 예로 이메일 분류, 상품 추천, 사진 속 얼굴 식별을 든다. 주어진 대상을 분류하거나 점수를 매기는 일이다.

생성형 AI는 학습 자료에서 배운 패턴을 이용해 새로운 결과를 만든다. 글, 그림, 코드, 소리 등이 결과가 될 수 있다. 같은 이메일을 다루더라도 하는 일이 다르다.

요청	결과	어떤 일을 하는가?
‘이 이메일이 스팸인가?’	스팸 여부	분류
‘이 이메일을 세 문장으로 요약해 줘’	새 요약문	생성

이 표는 영상의 구분을 이메일에 적용한 교재용 예다. 생성은 학습 문장 하나를 그대로 찾는 일로만 설명할 수 없다. 지금 입력된 요청과 자료에 맞춰 결과를 만든다.

영상 07:03은 이를 자동 완성에 비유한다. 문장 끝을 이어 쓰는 데서 출발하지만 긴 글이나 코드까지 만들 수 있다는 뜻이다. 글을 만드는 언어 모델은 앞에 주어진 내용을 보고 다음 글 조각의 후보를 계산하고, 조각을 골라 붙인 뒤 다음 조각을 다시 고르는 일을 반복한다.

큰 모델, 작은 모델, 여러 종류의 자료를 다루는 모델

영상 07:16은 GPT-3의 파라미터 1,750억 개를 예로 든다. 파라미터는 모델의 계산에 사용하는 조정 가능한 숫자다. 학습하면서 이 숫자들이 바뀐다. 뒤에서 설명할 가중치도 이런 숫자다. 수치는 GPT-3 논문에서도 확인할 수 있다.

강의는 사람의 뇌에 있는 뉴런 약 860억 개와 비교해 규모를 설명한다. 860억은 인간 뇌 세포 수 연구에서 나온 대표적인 추정치다. 뉴런과 모델 파라미터는 역할과 단위가 다르므로 개수로 지능을 비교하는 뜻은 아니다.

그다음에는 모델을 다른 기준으로 나눈다.

구분	뜻	영상에 나오는 예
대형 언어 모델	많은 파라미터를 사용하는 언어 모델	GPT-3
소형 언어 모델	더 작은 규모로 특정 작업이나 로컬 장치에 맞춘 언어 모델	Phi, Gemma
멀티모달 모델	글뿐 아니라 이미지·소리 등 여러 종류의 자료를 다루는 모델	GPT-4o, Gemini

멀티모달에서 ‘모달’은 자료의 종류를 뜻한다. 글을 읽고 그림에 대해 답하는 모델을 생각하면 된다. 소형 언어 모델(SLM)과 대형 언어 모델(LLM)은 크기를 구분하는 말이다. 멀티모달은 크기가 아니라 다루는 자료의 종류에 관한 말이다.

영상은 작은 모델이 제한된 장치나 좁은 작업 범위에 맞을 수 있다고 설명한다. 작은 모델이 모든 작업에서 더 안전하거나, 큰 모델이 언제나 더 정확하다는 뜻은 아니다. 어떤 모델을 어떤 일에 쓰는지 확인해야 한다. 영상은 특정 작업에 맞춰 만든 작은 모델이 그 범위를 벗어난 입력에 덜 견고할 수 있다고도 설명한다. 작은 모델 전체가 위험하다는 뜻은 아니다. 사용할 작업과 공격 조건에서 직접 확인해야 한다. 위 이름은 강의의 예이며 현재 모델 선택 추천 목록은 아니다.

1. 사전 학습: 많은 글에서 다음 글을 예측한다

영상 08:38은 첫 단계를 사전 학습이라고 부른다. 책, 웹사이트, 코드 등 많은 자료로 기본 능력을 배우는 단계다.

다음 말을 예측한다는 설명을 작은 예로 풀어 보자. 아래는 실제 훈련 기록이 아니라 교재용 문장이다.

학습 자료에 있는 문장: 비가 오면 우산을 챙긴다.
모델에 보여 주는 앞부분: 비가 오면 우산을
자료에서 실제로 이어지는 부분: 챙긴다

모델은 ‘비가 오면 우산을’ 다음에 올 후보들에 점수를 계산한다. 학습 프로그램은 그 예측과 자료의 실제 다음 부분을 비교한다. ‘챙긴다’를 잘 예측하지 못했다면 다음에는 더 잘 예측하도록 계산에 쓰는 숫자를 바꾼다.

그 숫자를 가중치라고 부른다. ‘내부 숫자를 조정한다’는 말은 후보의 점수를 계산하는 가중치를, 틀린 예측을 줄이는 방향으로 조금씩 바꾼다는 뜻이다. 많은 자료에서 이 일을 반복한다.

그림 왼쪽의 화살표가 돌아오는 이유는 예측과 비교를 반복하기 때문이다. 이 과정은 문장이 이어지는 방식과 개념의 관계를 배우게 한다. 반대로 자료의 잘못된 정보, 편향, 유해한 내용도 학습에 영향을 줄 수 있다. 자연스러운 문장을 만드는 능력과 사실을 검증하는 능력을 같다고 보면 안 된다.

2. 후속 학습: 질문에 답하고 지시를 따르게 가르친다

문장을 이어 쓰는 기본 능력만으로 사용자의 질문에 적절히 답한다고 보장할 수는 없다. 질문을 다시 반복하거나 요청한 형식과 다른 글을 쓸 수도 있다.

영상 09:26은 질문과 바람직한 답변의 예 등을 이용해 응답 방식을 더 가르치는 후속 학습을 설명한다. 원본에서는 post-training이라고 부른다.

가르치려는 행동	교재용 예
질문에 답함	질문을 그대로 이어 쓰는 대신 요청한 정보를 설명함
형식을 따름	‘세 문장으로 요약’에 세 문장으로 답함
적절하지 않은 요청을 거절함	보호해야 할 연습값을 공개하지 않음
모르는 내용은 꾸미지 않음	장소가 없는 공지에서는 ‘장소가 나와 있지 않다’고 답함

지도 미세 조정은 좋은 입력·답변 예 등을 사용해 모델을 더 훈련하는 방법을 뜻한다. 영상은 supervised fine-tuning이라는 이름과 안전 관련 후속 학습을 소개한다. 어떤 요청에 답하고 어떤 요청을 거절할지도 이 단계에서 가르친다.

거절 행동이 처음부터 모든 상황에 적용되는 고정 규칙으로 들어 있는 것은 아니라는 점이 중요하다. 훈련으로 배운 행동이라면 표현, 말투, 앞의 대화가 달라졌을 때 잘 지키지 못하는 경우가 생길 수 있다. 에피소드 5에서 같은 목표를 여러 표현으로 요청하는 이유와 연결된다.

영상은 이 설명에서 모델의 ‘위쪽 레이어’를 훈련한다고 표현한다. 레이어는 입력을 여러 단계로 계산할 때의 한 처리 단계를 말한다. 후속 학습 전체가 반드시 맨 위 레이어만 바꾸는 방식이라는 뜻으로 외우지 않는다. 실제로 어떤 부분을 훈련하는지는 모델과 방법에 따라 다르다. 이 수업에서 구분할 것은 기본 언어 능력을 배우는 목적과 질문에 응답하는 행동을 더 가르치는 목적이다.

3. 문제를 찾고 고친 뒤 다시 시험한다

영상 10:13은 출시 전에 레드팀이 문제를 찾는다고 설명한다. 훈련한 모델이 여전히 유해한 답을 하거나 보호 기준을 어기는지 시험한다.

문제를 찾고, 개발팀이 고치고, 다시 시험하는 반복을 영상에서는 break-fix loop라고 부른다. ‘한 번 검사하고 끝낸다’는 뜻이 아니다. 고친 뒤 같은 문제를 다시 확인해야 한다.

4. 앱에서도 추가 방어를 붙인다

영상 10:36은 지금까지는 모델 쪽 설명이었다고 짚는다. 모델을 사용하는 앱에서도 별도의 검사와 방어를 붙일 수 있다.

가령 모델이 파일 내용을 공개하지 않도록 훈련돼 있어도, 앱에서 파일 접근 권한을 검사할 필요가 있다. 모델의 응답 방식과 앱의 기능 제한은 다른 단계다. 이러한 추가 방어를 가드레일(guardrail)이라고 부르며 에피소드 7에서 자료 구분 방법을 배운다.

공식 슬라이드 10의 네 항목을 읽을 때는 무엇을 바꾸는지 구분한다.

항목	하는 일
사전 학습	많은 자료로 기본 능력을 배움
후속 학습	지시·질문·안전 기준에 맞는 응답을 더 가르침
문제 발견과 수정 반복	실제 시험에서 문제를 찾고 고친 뒤 다시 확인함
추가 가드레일	모델을 사용하는 앱에도 검사와 제한을 붙임

토큰화: 글을 작은 조각으로 나눈다

이제 영상 10:50의 토큰 설명으로 넘어간다. 모델이 글을 처리할 때는 문장 전체를 작은 단위로 나눈다. 이 조각 하나가 토큰(token)이다. 나누는 프로그램을 토크나이저(tokenizer)라고 한다.

공식 슬라이드 11의 문장은 I love dogs.와 얼굴 기호다. 뜻은 ‘나는 개를 좋아한다’다. 그림 위쪽은 사람이 보는 글, 아래쪽은 토큰으로 나눈 예다.

I와 love는 각각 한 조각이다.
dogs는 dog와 복수형을 표시하는 #s로 나눠 보여 준다.
마침표와 얼굴 기호도 각각 조각이 된다.

따라서 토큰은 단어 하나일 수도 있지만 단어 일부, 숫자, 문장 부호, 이모지일 수도 있다. 실제 모든 모델이 dogs를 이렇게 나누거나 #s라는 표기를 쓰는 것은 아니다. 분할 결과는 토크나이저마다 다르다.

영상 11:35은 공격자가 이런 글의 처리 방식을 이용할 수 있다고 설명한다. 글자를 띄어 쓰거나 표기를 바꾸면 단순한 금지어 검사와 모델의 의미 해석이 다르게 반응할 수 있다. 이 내용은 에피소드 5의 실제 변형 예로 이어진다.

임베딩: 토큰을 계산할 숫자 묶음으로 표현한다

영상 12:00은 토큰을 벡터(vector)로 바꾼다고 설명한다. 여기서 벡터는 여러 숫자를 순서대로 묶은 것이다. 이 숫자 표현을 임베딩(embedding)이라고 부른다.

컴퓨터가 글을 계산에 쓰려면 숫자로 표현해야 한다. 먼저 토큰마다 구별용 번호가 있다고 생각해 보자. 번호는 조각을 찾는 이름표일 뿐이다. 설명용으로 ‘고양이’를 24번, ‘새끼 고양이’를 91번이라고 정해도, 번호 자체가 두 말의 관계를 설명해 주지는 않는다.

임베딩은 모델이 계산할 때 쓰는 여러 숫자를 담는다. 학습을 통해 관련 있는 말의 숫자 표현이 비슷해질 수 있다.

공식 슬라이드 12에서는 고양이와 새끼 고양이가 가까이 놓인다. 개와 강아지도 가깝고, 하늘·비와는 떨어져 있다. 새는 동물 쪽과 하늘 쪽 사이에 놓여 있다. 거리를 이용해 개념의 관계를 보여 주는 설명 그림이다.

실제 임베딩 값이나 거리 측정 결과는 아니다. 실제 모델에서는 그림처럼 가로·세로 두 숫자만 사용하는 것도 아니다. 차원은 숫자가 몇 개 있는지를 뜻한다. 두 숫자를 쓰면 2차원이며, 실제 임베딩은 훨씬 많은 숫자를 사용하는 고차원 표현이다.

아래 값은 숫자 묶음이 어떻게 위치가 되는지 설명하기 위한 가상 값이다.

말	구별용 번호	가로·세로 위치를 그릴 두 숫자
고양이	24	[0.8, 0.2]
새끼 고양이	91	[0.75, 0.25]
하늘	7	[0.1, 0.9]

고양이 두 점은 가까운 위치에 놓이고 하늘은 떨어진다. 번호는 이름표, 임베딩은 계산용 숫자 표현이다. 두 단계를 섞지 않는다.

어텐션: 떨어져 있는 글의 관계도 참고한다

영상 12:32은 트랜스포머(Transformer) 구조와 어텐션(attention)을 설명한다. 토큰을 숫자로 바꾸는 것만으로는 문장을 처리하는 설명이 끝나지 않는다. 그 표현들 사이의 관계를 계산해야 한다.

아래는 이 관계를 설명하기 위한 교재용 문장이다.

민수는 강아지를 키운다. 그는 매일 산책한다.

두 번째 문장의 ‘그’가 누구인지 알려면 앞의 ‘민수’를 참고해야 한다. 바로 앞 토큰 하나만으로는 충분하지 않다.

어텐션은 이런 계산에서 입력의 어떤 부분을 얼마나 참고할지 정하는 방식이다. 토큰 사이의 관계를 이용해 필요한 앞부분을 참고할 수 있다. 위 화살표는 원리를 설명하기 위한 관계 표시이며, 실제 모델에서 측정한 어텐션 값은 아니다.

트랜스포머 원 논문은 어텐션을 중심으로 입력을 처리하는 구조를 제안한다. 강의가 강조하는 것은 긴 문장에서도 여러 토큰에 걸친 관계를 참고할 수 있다는 점이다. 그렇다고 모든 생성형 AI의 내부 구조가 완전히 같다는 뜻은 아니다.

이 성질은 긴 자료에 맞는 답변을 만드는 데 도움이 된다. 동시에 공격자가 문맥에 끼워 넣은 설명이나 명령도 응답에 영향을 줄 수 있다. 다음 수업은 앱이 모델에게 어떤 문맥을 전달하는지 다룬다.

질문할 때마다 사전 학습을 다시 하는가?

일반적인 질문 응답에서는 이미 학습한 모델에 현재 요청과 자료를 넣어 답변을 만든다. 이를 추론(inference)이라고 한다. 앞의 ‘학습과 실행’ 그림 오른쪽이다.

사전 학습 때 사용한 책·웹페이지와 이번 답변을 위해 앱이 가져온 웹페이지는 다르다. 이번 웹페이지의 내용 때문에 답이 바뀌었다고 가중치를 다시 학습했다고 판단하지 않는다. 현재 문맥에 대한 반응일 수 있다.

이해 확인

문제 1. 소형 모델과 멀티모달 모델은 같은 기준으로 나눈 말인가?

소형은 모델의 규모, 멀티모달은 다루는 자료의 종류를 말한다.

문제 2. 토큰·번호·임베딩은 각각 무엇인가?

토큰은 글을 나눈 조각, 번호는 조각을 구별하는 이름표, 임베딩은 계산에 쓰는 여러 숫자의 묶음이다.

문제 3. ‘그’를 이해하려고 앞의 ‘민수’를 참고하는 예는 어떤 설명과 연결되는가?

어텐션과 문맥 처리다. 실제 모델의 수치를 측정한 예는 아니지만, 떨어진 부분의 관계가 필요하다는 점을 보여 준다.

문제 4. 안전 관련 후속 학습을 했다면 앱의 권한 검사를 생략해도 되는가?

모델이 배운 응답 방식과 앱이 허용하는 실제 실행은 다른 단계이므로 생략하지 않는다.

원본 자료

에피소드 2 영상
공식 슬라이드: 9장 생성형 AI, 10장 네 학습·방어 항목, 11장 토큰, 12장 임베딩.

교재 이동

전체 목록 · 이전 수업 · 다음 수업