학습의 비밀
많은 분이 이렇게 생각합니다. "내가 어제 틀린 걸 고쳐줬으니 AI가 그걸 배웠겠지." 대화를 하면 할수록 AI가 나를 학습해서 점점 똑똑해진다는 생각입니다. 배우지 않았습니다. 이번 절에서 그 이유를 눈으로 확인하겠습니다. 시뮬레이터의 '학습의 비밀' 페이지를 열어 주세요.
1. 다이얼은 잠겨 있다
화면에는 '단어 맞히기' 절에서 본 신경망의 다이얼(파라미터)들이 펼쳐져 있고, 위에 대화할 때 (추론)과 학습할 때 (훈련)이라는 모드 버튼 두 개가 있습니다.
- 먼저 기본 상태인
대화할 때 (추론)모드를 지켜보세요. 토큰이 다이얼 사이를 계속 흘러가는데, 다이얼은 하나도 움직이지 않습니다. - 다이얼 아무거나 하나를 클릭해 보세요. 아래 돋보기 카드에 그 다이얼이 품고 있는 수식 속 숫자가 나타납니다.
대화 중에는 토큰이 지나가도 다이얼이 전부 고정입니다. 돋보기 속 숫자도 잠겨 있어서, 계산에 쓰일 뿐 절대 바뀌지 않습니다.
- 이제
학습할 때 (훈련)버튼을 클릭해 보세요. 그제야 다이얼들이 일제히 움직이기 시작합니다.
훈련 모드에서는 다이얼이 미세하게 계속 조정되고, 돋보기 속 숫자도 실시간으로 고쳐집니다. 이것이 바로 '학습'입니다.
2. 학습은 별도의 공정이다
학습이란 다이얼을 고쳐 맞추는 별도의 공정입니다. '단어 맞히기' 절에서 본 수식으로 말하면, P(다음 단어 | 지금까지의 문장)이라는 확률을 실제 세상의 글과 비슷해지도록 조정하는 작업입니다. 그리고 그 공정은 개발사가 모델을 만들 때 이미 끝났습니다. 여러분과 대화하는 동안 모델은 왼쪽 화면, 그러니까 다이얼이 잠긴 추론 모드로만 돌아갑니다. 여러분과의 대화는 모델을 1g도 바꾸지 못합니다. 대화는 사용이지, 학습이 아닙니다.
- 학습: 방대한 데이터로 다이얼(확률)을 조정해 모델을 만드는 일. 개발사가 가끔, 엄청난 비용을 들여서 합니다.
- 대화: 완성된 모델이라는 함수에 문장을 넣고 답을 받는 일. 모델은 조금도 변하지 않습니다.
이 구분이 잡히면 "AI가 나를 점점 알아간다"는 느낌이 왜 착각인지 분명해집니다. 알아가는 것처럼 보였다면, 그것은 앞 절에서 본 대로 같은 채팅방 안에서 대화 전체가 매번 함수에 다시 들어가고 있었거나, 메모리 노트가 앞에 붙고 있었기 때문입니다.
3. 발전해도 초기화는 사라지지 않는다
"그건 지금 기술이 부족해서고, AI가 더 발전하면 진짜로 기억하고 배우게 되지 않을까요?"라는 질문이 남습니다. 이 책에서 꼭 전하고 싶은 답이 여기 있습니다. 모델이 발전해도 이 구조는 쉽게 사라지지 않습니다.
실제로 모델은 눈부시게 발전해 왔습니다. 컨텍스트 창은 수천 토큰에서 수십만 토큰 이상으로 커졌고, 메모리 같은 보조 장치도 정교해지고 있습니다. 하지만 그 발전의 방향을 잘 보세요. 전부 "더 큰 작업대"와 "더 똑똑한 노트"입니다. "기억하는 모델"이 아닙니다. 함수에 매번 전체를 다시 넣는 구조, 즉 대화가 계속 초기화되는 구조 자체는 그대로입니다.
여기에는 이유가 있습니다. 사용자 한 명 한 명과의 대화로 모델을 그때그때 다시 학습시키는 것은 천문학적인 비용이 들고, 한 사용자의 잘못된 정보나 악의적인 입력이 모두가 쓰는 모델을 오염시킬 위험도 있습니다. 모델을 고정해 두면 모든 사용자가 검증된 같은 품질을 받고, 잘못된 대화는 그 채팅방을 닫는 것으로 끝납니다. 초기화는 결함이 아니라 선택인 셈입니다.
사용자 입장에서도 초기화가 오히려 고마운 순간이 있습니다. 대화가 이상한 방향으로 꼬였을 때 새 채팅 하나로 깨끗하게 리셋할 수 있고, 어제의 잘못된 전제가 오늘 작업에 스며들 걱정도 없습니다.
그러니 생성형 AI를 잘 쓴다는 것의 한 축은 분명해집니다. 기억해 주기를 기대하는 대신, 매번 좋은 맥락을 작업대에 차려주는 것입니다. 필요한 배경, 지켜야 할 조건, 참고할 자료를 매 대화마다 직접 챙겨주는 사람이 같은 모델에서 훨씬 좋은 답을 받습니다. 환각을 줄이는 방법으로 "근거 자료를 함께 주라"고 했던 이야기와 같은 줄기입니다.
여기까지 본 모델은 글자 토큰이 들어가서 글자 토큰이 나오는 함수였습니다. 그런데 요즘 AI에는 사진을 올리고 목소리로 말할 수도 있습니다. 글자만 읽는 함수가 사진과 소리를 어떻게 다루는지 다음 절에서 확인하겠습니다.