❻ 학습(Training), AI는 어떻게 틀리면서 똑똑해질까?

우리는 흔히 이런 말을 합니다.
“AI가 수많은 데이터를 학습했다.”
“새로운 AI 모델을 학습시키는 데 몇 달이 걸렸다.”
“이 AI는 아직 학습이 부족한 것 같다.”
그런데 여기서 조금 이상한 점이 있습니다.
컴퓨터는 사람처럼 책을 읽고 내용을 이해하는 것도 아니고, 시험을 보고 반성하는 것도 아닙니다.
그런데 어떻게 학습한다는 표현을 사용하는 걸까요?
더 재미있는 사실은 AI가 처음부터 정답을 잘 맞히는 경우는 많지 않다는 것입니다.
오히려 수없이 틀리고, 그 차이를 계산하고, 내부의 숫자를 조정하는 과정을 반복합니다.
AI의 학습은 사람이 지식을 이해하는 과정과 다릅니다. 데이터를 이용해 모델의 내부 값을 조정하면서 원하는 작업을 더 잘 수행하도록 만드는 과정입니다.
오늘은 AI가 어떻게 학습하는지 그 과정을 들여다보겠습니다.

---

1. 처음부터 정답을 아는 AI는 없다

어린아이가 처음 사과와 토마토를 구분하는 상황을 생각해 보겠습니다.
처음에는 둘 다 둥글고 빨간색이라 헷갈릴 수 있습니다.
하지만 여러 번 보고 이름을 들으면서 조금씩 차이를 익힙니다.
AI도 이와 비슷한 방식으로 설명할 수 있습니다.
예를 들어 사과와 토마토를 구분하는 이미지 분류 모델을 만든다고 가정해 보겠습니다.
먼저 사과 사진과 토마토 사진을 준비합니다.
각 사진에는 정답도 함께 표시합니다.
사과 사진에는 ‘사과’, 토마토 사진에는 ‘토마토’라는 이름을 붙이는 것입니다.
그리고 모델에 사진을 보여줍니다.
처음에는 사과를 토마토라고 예측할 수도 있습니다.
그렇다면 학습 과정에서는 모델이 예측한 결과와 실제 정답이 얼마나 다른지 계산합니다.
그리고 다음번에는 더 나은 예측을 할 수 있도록 모델 내부의 값을 조정합니다.
이 과정이 계속 반복됩니다.
여기서 중요한 점은 AI가 사진을 보고 스스로 의미를 깨닫는 것이 아니라, 정해진 학습 절차에 따라 예측 오차를 줄이도록 계산한다는 것입니다.

---

2. AI 학습의 핵심은 ‘예측하고, 비교하고, 수정하기’

AI 학습을 이해할 때 가장 중요한 흐름이 있습니다.
입력 → 예측 → 정답과 비교 → 오차 계산 → 내부 값 수정
이 과정을 조금 더 자세히 살펴보겠습니다.
사과 사진 한 장을 모델에 입력했다고 생각해 보겠습니다.
모델은 다음과 같은 예측을 내놓을 수 있습니다.
사과일 가능성 : 30%
토마토일 가능성 : 70%
하지만 실제 정답은 사과입니다.
모델이 틀린 것이지요.
이때 학습 과정에서는 단순히 “틀렸다”라고 판단하는 데서 끝나지 않습니다.
예측이 얼마나 잘못되었는지를 숫자로 계산합니다.
이 숫자를 계산하는 데 사용되는 것이 손실 함수(Loss Function)입니다.
 
손실 함수는 모델의 예측이 학습 목표에서 얼마나 벗어났는지 측정하는 기준입니다.
쉽게 말해 AI에게 주어지는 일종의 채점 기준이라고 생각할 수 있습니다.
다만 손실 함수의 값이 언제나 실제 정답률과 같은 의미를 갖는 것은 아닙니다. 문제의 종류에 따라 계산 방식도 달라집니다.
모델은 이렇게 계산된 손실을 줄이는 방향으로 내부 값을 조정합니다.
그 결과 다음에는 사과일 가능성을 50%, 그다음에는 70%로 예측할 수도 있습니다.
물론 실제 학습 과정에서 예측이 매번 이렇게 일정하게 좋아지는 것은 아닙니다.
중간에 결과가 나빠지거나 손실이 일시적으로 증가할 수도 있습니다.
그래도 전체적인 목표는 같습니다.
학습 알고리즘을 이용해 모델의 손실을 줄이고, 새로운 데이터에서도 좋은 결과를 내도록 만드는 것입니다.
 

---

3. AI는 무엇을 수정하면서 배우는 걸까?

지난 ❺ 모델 편에서 파라미터(Parameter)라는 용어를 소개했습니다.
파라미터는 모델 내부에 존재하는 조정 가능한 값입니다.
대표적으로 가중치(Weight)와 편향(Bias)이 있습니다.
조금 쉽게 비유해 보겠습니다.
우리가 요리를 할 때 소금, 설탕, 간장의 양을 조절한다고 생각해 보겠습니다.
처음 만든 음식이 너무 짜다면 소금의 양을 줄일 수 있습니다.
너무 싱겁다면 소금을 조금 더 넣을 수도 있습니다.
여러 번 조절하면서 원하는 맛에 가까워지는 것입니다.
AI 학습도 이와 비슷합니다.
모델에는 수많은 파라미터가 있고, 학습 과정에서 이 값들이 조정됩니다.
예를 들어 어떤 입력 특징은 결과에 큰 영향을 주도록, 다른 특징은 상대적으로 작은 영향을 주도록 값이 바뀔 수 있습니다.
다만 AI는 실제로 맛을 보거나 결과를 느끼는 것이 아닙니다.
손실 함수로 계산한 값을 이용하여 파라미터를 수학적으로 조정합니다.
이때 중요한 역할을 하는 기술이 경사하강법(Gradient Descent)입니다.
이름이 어렵지만 원리는 비교적 단순합니다.
산 위에서 가장 낮은 곳을 찾아 내려간다고 상상해 보겠습니다.
현재 위치에서 어느 방향으로 움직이면 높이가 낮아지는지 확인하고 조금씩 이동합니다.
이 과정을 반복하면 낮은 지점에 가까워질 수 있습니다.
경사하강법도 이와 비슷하게 손실이 작아지는 방향으로 파라미터를 조정합니다.
그리고 신경망에서는 역전파(Backpropagation)라는 방법을 사용하여 각 파라미터가 손실에 어떤 영향을 미쳤는지 효율적으로 계산할 수 있습니다.
정리하면 다음과 같습니다.

• 파라미터(Parameter): 학습 과정에서 조정되는 모델 내부의 값
• 손실 함수(Loss Function): 예측이 학습 목표에서 얼마나 벗어났는지 계산하는 기준
• 역전파(Backpropagation): 손실이 각 파라미터에 얼마나 영향을 받는지 계산하는 방법
• 경사하강법(Gradient Descent): 손실을 줄이는 방향으로 파라미터를 조정하는 방법

이 네 가지 개념은 딥러닝 학습 과정을 이해하는 데 중요한 기초가 됩니다.

---

4. AI는 데이터를 한 번만 보면 학습이 끝날까?

대부분의 경우 그렇지 않습니다.
모델은 같은 학습 데이터를 여러 번 반복해서 살펴보며 학습할 수 있습니다.
이때 등장하는 용어가 에포크(Epoch)입니다.
에포크는 학습 데이터 전체를 한 번 사용하는 학습 주기를 의미합니다.
예를 들어 학습 데이터가 1,000개 있다고 생각해 보겠습니다.
모델이 1,000개의 데이터를 모두 한 번씩 학습에 사용했다면 1에포크가 완료된 것입니다.
이 과정을 다시 반복하면 2에포크가 됩니다.
그런데 실제 딥러닝에서는 데이터를 한꺼번에 처리하기보다 작은 묶음으로 나누어 처리하는 경우가 많습니다.
이 작은 데이터 묶음을 배치(Batch)라고 합니다.
예를 들어 데이터 1,000개를 100개씩 나누면 총 10개의 배치가 만들어집니다.
모델이 각 배치를 처리하며 파라미터를 조정하고, 전체 데이터를 한 번 사용하면 1에포크가 완료됩니다.
이때 파라미터를 한 번 갱신하는 학습 단계를 스텝(Step)이라고 부르기도 합니다.
다만 데이터를 많이 반복해서 학습한다고 무조건 좋은 것은 아닙니다.
지나치게 학습하면 오히려 새로운 데이터에서 성능이 나빠질 수 있기 때문입니다.

---

5. 공부를 많이 했는데 시험을 못 보는 AI?

시험을 앞둔 학생이 문제집의 정답을 통째로 외웠다고 생각해 보겠습니다.
문제집에 있는 문제는 거의 다 맞힙니다.
그런데 실제 시험에서 숫자나 문장이 조금만 바뀌어도 답을 찾지 못합니다.
AI에서도 이와 비슷한 문제가 발생할 수 있습니다.
바로 과적합(Overfitting)입니다.
과적합은 모델이 학습 데이터의 특징에 지나치게 맞춰져서 새로운 데이터에서는 좋은 성능을 내지 못하는 현상입니다.
예를 들어 사과와 토마토를 구분하는 모델이 학습 사진에서는 정답을 거의 모두 맞혔다고 해보겠습니다.
그런데 새로운 사진을 입력하자 정답률이 크게 떨어졌습니다.
학습 데이터에 너무 맞춰진 나머지 다양한 실제 상황에 대응하지 못한 것일 수 있습니다.
반대로 학습이 충분하지 않거나 모델이 필요한 패턴을 제대로 표현하지 못하는 경우도 있습니다.
이를 과소적합(Underfitting)이라고 합니다.
과소적합 상태에서는 학습 데이터에서도 좋은 결과를 내지 못하는 경우가 많습니다.
여기서 중요한 개념이 하나 더 있습니다.
바로 일반화(Generalization)입니다.
좋은 AI 모델은 학습 데이터를 잘 맞히는 모델이 아니라, 처음 보는 데이터에서도 좋은 결과를 내는 모델입니다.
그래서 AI를 학습시킬 때는 학습에 사용한 데이터뿐 아니라 별도로 준비한 검증 데이터와 테스트 데이터를 이용하여 성능을 확인합니다.
학습 데이터에서 높은 성능을 보였다는 사실만으로 실제 환경에서도 잘 작동한다고 판단해서는 안 됩니다.

---

6. 모든 AI가 정답을 보면서 배우는 것은 아니다

지금까지는 사과와 토마토 사진에 정답을 표시하고 학습시키는 사례를 살펴봤습니다.
하지만 AI가 학습하는 방법은 이것만 있는 것이 아닙니다.
대표적인 학습 방식에는 다음과 같은 종류가 있습니다.

지도학습(Supervised Learning)

입력 데이터와 정답을 함께 제공하는 학습 방식입니다.
예를 들어 사진과 함께 '고양이', '강아지'라는 정답을 제공하는 것입니다.
모델은 자신의 예측과 정답을 비교하며 학습합니다.

비지도학습(Unsupervised Learning)

미리 정해진 정답 없이 데이터의 구조나 패턴을 찾는 학습 방식입니다.
예를 들어 고객의 구매 행동을 분석하여 비슷한 특징을 가진 고객끼리 그룹으로 나눌 수 있습니다.

자기지도학습(Self-supervised Learning)

데이터 자체에서 학습에 필요한 목표를 만들어 사용하는 방식입니다.
예를 들어 문장에서 일부 단어를 가리고 그 단어를 예측하도록 학습할 수 있습니다.
대규모 언어 모델을 학습시키는 데도 자기지도학습이 널리 활용됩니다.

강화학습(Reinforcement Learning)

모델이 어떤 행동을 했을 때 얻는 보상 신호를 이용하여 더 좋은 행동을 선택하도록 학습하는 방식입니다.
게임이나 로봇 제어 등에서 활용될 수 있습니다.
이처럼 AI 학습은 반드시 사람이 모든 데이터에 정답을 붙여줘야만 가능한 것은 아닙니다.
학습 목표와 데이터의 특성에 따라 서로 다른 방법을 사용할 수 있습니다.
각 학습 방식은 앞으로 별도의 글에서 조금 더 자세히 살펴볼 예정입니다.

---

7. 학습이 끝난 AI는 계속 공부하고 있을까?

우리가 ChatGPT 같은 AI와 대화하다 보면 이런 생각이 들 수 있습니다.
“내가 질문을 많이 하면 AI가 점점 더 똑똑해지는 걸까?”
여기서는 학습(Training)과 추론(Inference)을 구분할 필요가 있습니다.
 
학습은 모델의 파라미터를 조정하는 과정입니다.
반면 추론은 이미 학습된 모델을 이용해 새로운 입력에 대한 결과를 만들어내는 과정입니다.
예를 들어 사과와 토마토를 구분하도록 학습된 모델에 새로운 사진을 보여주는 것은 추론에 해당합니다.
ChatGPT에 질문을 입력하고 답변을 받는 것도 기본적으로 추론 과정입니다.
일반적인 대화 과정에서는 사용자가 질문할 때마다 모델의 파라미터가 자동으로 수정되는 것은 아닙니다.
다만 대화의 앞뒤 내용을 참고하여 답변이 달라질 수는 있습니다.
이것은 대화 맥락을 활용하는 것이지, 반드시 모델 자체가 새롭게 학습했다는 뜻은 아닙니다.
물론 별도로 설계된 시스템에서는 사용자 피드백을 모아 추후 모델 개선이나 추가 학습에 활용할 수도 있습니다.
AI가 새로운 정보를 대화에 활용하는 것과, 학습을 통해 모델의 내부 값이 바뀌는 것은 서로 다른 일입니다.
이 차이를 이해하면 AI가 무엇을 배우고 무엇을 기억하는지 훨씬 명확하게 구분할 수 있습니다.

---

8. AI 학습을 이해하면 달라지는 질문

우리는 흔히 AI가 똑똑한지 아닌지를 결과만 보고 판단합니다.
질문에 정확하게 답하면 똑똑하다고 생각하고, 틀린 답을 하면 학습이 부족하다고 생각합니다.
하지만 실제로는 조금 더 다양한 요소를 살펴봐야 합니다.
어떤 데이터를 사용했는지, 어떤 방식으로 학습했는지, 학습 목표는 무엇이었는지, 처음 보는 데이터에서도 좋은 성능을 내는지 등이 모두 중요합니다.
AI 학습은 단순히 많은 데이터를 넣는 과정이 아닙니다.
학습 목표에 맞춰 모델의 내부 값을 조정하고, 그 결과가 새로운 상황에서도 잘 작동하도록 만드는 과정입니다.
오늘 살펴본 내용을 하나의 흐름으로 연결해 보겠습니다.
데이터를 입력합니다.
모델이 결과를 예측합니다.
예측 결과와 학습 목표를 비교합니다.
손실을 계산합니다.
손실을 줄이도록 파라미터를 조정합니다.
그리고 이 과정을 반복합니다.
이렇게 학습된 모델은 새로운 입력을 받았을 때 결과를 만들어낼 수 있습니다.
이제 AI가 학습한다는 말이 조금은 구체적으로 느껴질 것입니다.
그런데 여기서 다음 질문이 자연스럽게 이어집니다.
학습을 마친 AI가 실제로 질문을 받거나 새로운 데이터를 입력받으면 어떤 일이 일어날까요?
모델은 어떤 과정을 거쳐 답변을 만들어낼까요?
다음 글에서는 AI가 배운 내용을 실제로 사용하는 과정인 추론(Inference)을 살펴보겠습니다.