사용자는 몰라서 ‘학습’이라 부르는 게 아니다

AI에 사내 문서를 연결했더니 어제 모르던 내용을 오늘은 답한다. 회의록을 넣으면 맥락을 따라오고, 업무 규정을 연결하면 회사 사정을 아는 사람처럼 말한다.

그래서 많은 사람이 이렇게 표현한다.

“AI가 우리 문서를 학습했다.”

기술적으로는 정확하지 않다. 일반적인 RAG의 추론 과정에서는 모델의 가중치가 바뀌지 않는다. 모델을 새로 훈련하는 파인튜닝과도 다르다. 질문과 관련된 문서를 찾아 답변할 때 참고자료로 제공하는 방식이다.

그렇다고 사용자의 감각까지 틀린 것은 아니다.

사용자는 모델의 가중치를 보지 않는다. 행동의 변화를 본다. 어제 답하지 못했던 질문에 오늘 답하면, 사용자는 그것을 학습으로 느낀다.

일상에서 말하는 학습은 원래 내부 구조보다 행동 변화에 가깝다. 아이가 어제 풀지 못한 문제를 오늘 풀거나, 동료가 지난번 피드백을 다음 보고서에 반영하면 우리는 학습했다고 말한다.

AI를 보는 방식도 같다.

RAG는 모델의 학습이라기보다 사용자가 관찰하는 학습 효과에 가깝다.

사전학습은 많은 책을 읽어 기본 지식을 몸에 익히는 일이다. 파인튜닝은 특정 업무 방식이나 출력 형태를 다시 훈련하는 과정이다.

RAG는 오픈북 시험에 가깝다. 머릿속 지식이 바뀐 것이 아니라 옆에 펼쳐진 자료가 달라졌다. 시험이 끝났다고 그 자료가 모델 안에 새겨지는 것은 아니다.

대화 메모리는 저장되는 위치가 다르다. 자주 만나는 사람이 내 취향을 수첩에 적어두었다가 다음 만남에 꺼내보는 것에 가깝다. 답할 때 자료를 참고한다는 점은 RAG와 같고, 그 자료를 누가 언제 쌓는지가 다르다. 검색은 질문할 때마다 찾아오지만 메모리는 나에 대해 축적된다.

사용자에게는 모두 “AI가 나를 더 잘 알게 됐다”로 보인다. 하지만 운영하는 조직에는 전혀 다른 시스템이다.

이 차이는 보안과 개인정보를 다룰 때 중요해진다.

RAG라면 원문과 검색 인덱스뿐 아니라 로그·캐시·백업 정책까지 확인해야 한다. 파인튜닝이라면 학습 데이터와 생성된 모델 산출물의 관리 범위를 따져야 한다. 메모리라면 사용자별 저장 범위와 삭제 방법이 명확해야 한다.

“모델이 학습했다”는 말 하나로 이 차이를 묶어버리면 무엇이 저장됐고, 무엇을 삭제해야 하며, 누가 책임지는지가 흐려진다.

그렇다고 사용자에게 “그건 학습이 아닙니다”라고 지적하는 것만으로는 충분하지 않다. 기술적으로는 맞지만 사용자가 경험한 변화를 설명하지 못하기 때문이다.

이렇게 말하는 편이 낫다.

“모델 자체가 바뀐 것은 아닙니다. 답할 때 참고하는 자료가 바뀌어서 학습한 것처럼 보이는 겁니다.”

사용자 언어는 경험을 설명한다. 운영 언어는 책임을 설명한다.

좋은 AI Literacy는 두 언어 중 하나를 틀렸다고 지적하는 데서 시작하지 않는다. 사용자가 느낀 변화를 인정하고, 실제로 무엇이 바뀌었는지 구분하는 데서 시작한다.

여러분이 “AI가 학습했다”고 느꼈던 순간에는 실제로 무엇이 바뀌었을까. 모델이었을까, 참고 문서였을까, 아니면 별도로 저장된 메모리였을까.