지표는 무엇을 말하고, 무엇을 말하지 못하나

이 글은 PI Lab AI 과정을 들으면서 정리한 노트입니다. RAG 파이프라인을 만들며 떠오른 생각들을 남겨둡니다.

강의만 들어서는 AI 서비스를 만들 수 없습니다. 파이랩에서는 직접 만들고, 직접 배포합니다. 수료생 전원 현직 병행 완주 — 4주 집중 과정·강의·뉴스레터·이력서 피드백.

RAG 품질을 끌어올리는 길은 분명해 보입니다. 글자만 세는 키워드 포함율은 조잡하니 사람이 직접 매기는 평가로 올리고, 사람은 느리고 비싸니 의미까지 보는 LLM 채점관에 맡기고, 그것도 못 미더우면 RAGAS 같은 표준 평가로 올라가면 된다는 거죠. 더 정교한 지표 하나를 찾아 한 단계씩 올라가는 길입니다.

하지만 "더 나은 지표" 하나를 찾는 게 정말 답일까요?

검색기를 고치고 프롬프트를 다듬는 일은, 그 자체로는 길이 비교적 또렷했어요. 정말 어려운 건 따로 있었습니다. "좋아졌다"를 무엇으로 판정할 것인가. 청크 크기를 바꿨더니 답이 나아진 것 같은데, 정말 나아진 걸까요, 아니면 내가 쓰는 지표가 그렇게 말해줄 뿐일까요? 검색과 생성의 모든 개선은 결국 이 판정을 통과해야 합니다. 그런데 그 판정을 맡길 지표는 어느 것도 온전하지 않습니다.

그래서 진짜 질문은 "어떤 지표가 가장 좋은가"가 아닙니다. 저마다 다른 것을 보는 지표들을 어떻게 겹쳐서 서로의 빈자리를 메울까, 이게 진짜 문제예요.

지표는 저마다 다른 것을 본다

키워드 포함율부터 보죠. "AES-256 암호화 방식을 알려줘"라는 질문에, 정작 "AES-256"이라는 글자는 없지만 그 방식을 정확히 설명하는 청크가 검색됐다고 해봅시다. 키워드 지표는 이걸 실패로 셉니다. 반대로 "AES-256"이라는 단어는 들어 있지만 맥락이 완전히 틀린 답은 성공으로 세고요. 이 지표는 글자를 정확히 봅니다. 다만 우리가 정작 신경 쓰는 의미는 못 봐요.

그럼 사람이 직접 매기면 어떨까요. 의미를 이해하니 키워드가 놓친 걸 잡아냅니다. 대신 느리고 비싸고, 사람마다 다릅니다. 같은 답을 두고도 채점자 두 명의 점수가 갈리죠. 사람은 의미를 보는 대신, 일관성과 규모를 내줍니다.

LLM 채점관은 이 둘을 한 번에 해결할 것처럼 보입니다. 의미도 이해하고 빠르고, 겉보기엔 일관돼 보입니다. 실제로 키워드 매칭보다 의미를 훨씬 잘 잡고요. 그런데 채점 프롬프트에 "한국어 답변은 관대하게 평가하세요"라는 문장 하나만 넣어도 점수가 올라가고, 채점 기준을 5단계에서 3단계로 줄이면 일관성은 오르지만 세밀함은 떨어집니다. 같은 답인데도 채점관에게 건넨 지시에 따라 숫자가 달라져요. 게다가 이 결함은 키워드 포함율의 결함과 달리 잘 드러나지 않습니다. "정확성 4점, 근거성 5점"이라고 또박또박 답하면 정말 이해하고 채점한 것처럼 보이니까요. 무엇을 못 보는지조차 알기 어려운 셈입니다.

서로의 사각지대를 덮는다

그렇다고 측정을 포기하자는 얘긴 아니에요. 작동하는 RAG는 실제로 만들어지고, 실제 사용자 신호(과제 완료율, 재질문 빈도)는 분명히 쓸모가 있습니다.

어떤 지표든 무언가는 정직하게 보고, 무언가는 끝내 못 봅니다. 그러니 답은 한 지표를 더 정교하게 만드는 게 아니라, 서로의 사각지대를 덮어 주는 지표 여러 개를 함께 쓰는 것입니다. 키워드가 놓친 의미는 사람이 잡고, 사람이 놓친 일관성과 규모는 키워드 같은 자동 지표가 채웁니다. 어느 하나도 혼자선 충분하지 않지만, 사각지대가 서로 다른 지표들을 겹쳐 두면 빈자리가 줄어듭니다.

그리고 개선은, 그렇게 서로 다르게 틀리는 지표들이 동시에 좋아졌을 때 비로소 신뢰할 만합니다. 하나만 좋아졌다면 진짜 개선일 수도 있고, 그 하나의 사각지대를 건드렸을 뿐일 수도 있으니까요. 물론 그 지표들이 함께 못 보는 자리라면, 모두 좋아졌다고 해도 여전히 틀릴 수 있습니다. 그래서 일치는 확신이 아니라 잠정적인 신뢰일 뿐이에요.

오히려 가장 값진 정보는 지표들이 일치할 때가 아니라 엇갈릴 때 나옵니다. 사람이 보기엔 정답인데 키워드 포함율이 낮다면, 내 키워드 목록이 의미를 못 따라간다는 신호입니다. 키워드는 잔뜩 들어 있는데 사람이 보기엔 오답이라면, 할루시네이션을 의심할 만한 신호고요. LLM 채점관이 후한 점수를 줬는데 사람과 키워드는 모두 낮다면, 거기가 바로 채점관이 못 보던 자리입니다. 결함이 빤히 보이는 지표가, 결함이 숨은 지표의 사각지대를 드러내 주는 셈이죠. 그러니 지표끼리 엇갈리는 건 피해야 할 잡음이 아니라, 가장 또렷한 단서예요. 어긋남이 곧 진단입니다.

한계를 교재로 삼는다는 것

돌아보면, 제가 다닌 PI Lab 과정이 이 감각을 길러준 방식은 좀 남달랐어요. 보통의 강의는 가장 좋은 도구를 먼저 손에 쥐여 주고, 그 한계는 뒤로 미뤄 둡니다. 이 과정은 순서가 반대였어요. 키워드 포함율처럼 단순한 지표를 가장 먼저 쓰게 하고, 그걸로 청킹과 파라미터를 평가하게 하고, 그 지표가 어디서 어긋나는지를 직접 겪게 한 뒤에야 다음 단계로 넘어갑니다. 그 한계를 여러 실습 노트북에 걸쳐 거듭 만나면서요. 도구의 장점만 보여 주는 대신 장점과 한계를 함께 쥐여 주고, 한 지표의 빈자리를 다른 지표로 메워 보게 한 거죠. 그 반복이 없었다면, 저는 아마 "가장 좋은 지표" 하나를 찾는 데만 매달렸을 거예요.

덕분에 제게 남은 건 더 나은 평가 지표의 목록이 아니었어요. 그보다 오래 갈 습관 하나였습니다. 어떤 숫자를 보든 먼저 이렇게 묻게 됐어요. "이 지표는 정확히 무엇을 보고, 무엇을 못 보고 있을까."