AI 활용에 앞서

사내 AI 활용 발표

얼마 전에 사내에서 AI 활용 발표를 진행했습니다. 제목은 "AI 활용. 채팅창을 넘어, 파이프라인으로". 제목에서 알 수 있다시피 주제는 파이프라인 설계였습니다. AI에게 한꺼번에 모든 것을 맡기지 말고, AI에게 AI가 잘하는 일만, 잘할 수 있도록, 한 번에 하나씩 시키라는 내용이었어요. 이를 위해서 파이프라인의 개념을 설명했습니다. 데이터의 입력, 가공, 저장, 검증까지의 방법을 AI 앞뒤에 붙여서 활용해 보자는 내용이었습니다. 많은 분들이 귀 기울여 들어주시고 발표를 칭찬해 주셔서 얼마나 감사한지 모르겠습니다. 사실 AI 활용 발표 주제로서 '파이프라인 설계'를 꼽은 것은 제 나름의 극약처방이었습니다. 짧은 시간 내에 응용과 사례를 중심적으로 보여드려야 했기 때문에 큰 맥락 없이 방법론을 이야기한 감이 있었죠.

여기서는 좀 더 중요한 이야기를 해볼까 합니다. 데이터를 보는 안목입니다. AI를 활용할 때 데이터는 그 무엇보다 중요한 필수 재료이긴 하지만 그보다 저는 '안목'이라는 단어를 좀 더 강조하고 싶어요.

느닷없는 이야기지만...

제 동생은 치지직에서 방송 활동을 하는 스트리머입니다. AI를 공부하고 활용을 연습하기 위해 프로젝트 기획을 하고 있었을 때 동생의 방송을 보며 문득 재밌는 생각이 떠올랐습니다. 인터넷 방송을 AI로 분석해 보면 어떨까 하는 생각이었습니다. 단순 영상 콘텐츠와 다르게 인터넷 방송은 정말 많은 데이터가 있습니다. 방송 화면, 소리뿐만 아니라 시청자들의 채팅, 시청자의 수, 지금 하고 있는 콘텐츠 카테고리(예를 들면 음악 혹은 특정 게임) 등등 말이죠. 이를 활용하면 더 많은 시청자를 방송에 데려오는 데에 도움이 될 만한 정보를 만들 수 있지 않을까 하는 생각이었습니다.

설계는 이러했습니다. 방송 화면은 키프레임으로 자른 후 멀티모달 AI에게 분석시켜서 텍스트화하기, 소리는 STT로 텍스트화하기, 그렇게 만들어진 영상 데이터를 시간 단위로 청킹하기. 이를 시청자들의 채팅 텍스트, 시간별 시청자 수 데이터와 함께 대응시켜서 분석시킬 생각이었습니다. 여기에 스트리머나 시청자의 문장의 정서적 긍정성-부정성 등을 분석하여 시청자 수 추이와 맞춰볼 생각이었죠. 파이프라인은 그럴듯했습니다. 청크 사이즈를 어떻게 할지, 화면 해석을 어떻게 할지 등 디테일한 결정은 더 해야 했지만 파이프라인 설계 자체는 논리적으로 문제가 없었죠.

그런데 뭔가 이상하지 않나요? 기술적으로는 문제가 없습니다. 기술적으로는 말이죠. 눈치채신 분도 계시겠지만 저 파이프라인은 가설에 기대고 있습니다. 예를 들면 이런 것이죠. "스트리머의 발화 문장이 시청자 수에 영향을 줄 것이다.", "방송을 이루는 문장의 정서적 긍정 정도가 시청자 수에 영향을 줄 것이다." 혹은 "시청자와의 상호작용 빈도가 시청자 수에 영향을 줄 것이다." 등등. 당연하지만 저 가설은 틀렸습니다. 동생에게 물어보니 보통 시청자 수는 방송 내적인 요인보다 외적 요인으로 결정되는 경우가 더 많다고 하더라고요. 예를 들면 시청자 수가 유독 적은 날은 알고 보니 월드컵 축구 경기가 있는 날이어서 시청자들이 축구 보러 갔다거나 하는 식인 거죠.

명시적 프로그래밍과의 차이

AI는 명시적 프로그래밍과 다릅니다. 데이터와 정답(label)에 의존하죠. 입력받은 데이터를 보고 이에 근거한 결과를 냅니다. 여기서 중요한 두 가지 사실이 있습니다.

구분	명시적 프로그래밍	AI(머신러닝)
기본 구조	규칙 + 데이터 → 결과	데이터 + 정답 → 규칙
규칙을 만드는 주체	사람이 직접 작성	AI가 데이터에서 학습
사람의 역할	로직을 설계하고 코드로 작성	데이터와 정답을 고르고 준비
결과의 근거	작성된 규칙	입력받은 데이터 속 패턴
전제가 틀렸을 때	에러가 나거나 결과가 눈에 띄게 이상함	틀린 전제 위에서도 그럴듯한 결과를 냄
잘하는 일	규칙이 명확한 일 (계산, 정렬, 조건 처리)	규칙을 말로 정의하기 어려운 일 (이미지 인식, 문장 이해, 패턴 발견)

AI가 입력받는 데이터는 사람이 고른 데이터다.

그렇습니다. 입력할 데이터는 사람이 고릅니다. 고르는 그 순간 우리는 이미 판단을 내린 셈입니다. 위 사례의 경우, 잘못된 가설이 그 판단이었습니다. "방송 내적 요인이 시청자 수에 영향을 줄 것이다."라는 판단 때문에 그와 관련된 데이터만 입력하고 있었죠.

AI는 가설을 의심하지 않는다.

가설과 방향이 이미 정해진 재료를 받으면 AI는 당연히 그에 맞는 가장 그럴듯한 답을 줍니다. 문제는 바로 이 '그럴듯함'에 있습니다.

만약 제가 그 파이프라인을 그대로 완성해서 돌렸다면 어떤 결과가 나왔을까요? 아마 AI는 꽤 그럴싸한 보고서를 써줬을 겁니다. "스트리머의 발화가 긍정적인 구간에서 시청자 수가 증가하는 경향이 있습니다.", "채팅 상호작용이 활발한 시간대에 시청자 이탈이 적습니다." 같은 문장들로요. 실제로 데이터 안에서 그런 상관관계가 보였을 수도 있습니다. 시청자가 많으면 채팅이 많아지고, 채팅이 많으면 스트리머도 신이 나서 말투가 밝아질 테니까요. 원인과 결과가 뒤바뀐 해석이지만 데이터만 놓고 보면 충분히 말이 되는 이야기입니다.

그리고 저는 아마 그 결과를 믿었을 겁니다. 제가 세운 가설을 AI가 데이터로 '증명'해 줬으니까요.

여기서 무서운 건 틀린 가설이 틀렸다는 신호를 주지 않는다는 점입니다. 명시적 프로그래밍에서 로직이 틀리면 에러가 나거나 결과가 눈에 띄게 이상해집니다. 하지만 AI는 틀린 전제 위에서도 매끄럽고 논리적인 답을 내놓습니다. 월드컵이라는 진짜 원인은 애초에 입력 데이터에 없었으니, AI 입장에서는 존재하지 않는 변수인 셈이죠. AI는 우리가 보여준 세계 안에서 최선을 다할 뿐, 우리가 보여주지 않은 세계를 대신 상상해 주지 않습니다.

그래서, 안목

이게 '데이터'보다 '안목'이라는 단어를 강조하고 싶었던 이유입니다.

데이터가 중요하다는 말은 이제 누구나 합니다. 그런데 데이터가 많다고 해서 좋은 결과가 나오는 건 아닙니다. 제 파이프라인에도 데이터는 넘쳐났습니다. 화면, 소리, 채팅, 시청자 수까지. 부족했던 건 데이터의 양이 아니라 무엇을 봐야 하는지 가려내는 판단이었습니다.

제가 말하는 안목은 이런 질문을 던질 줄 아는 능력입니다.

"이 데이터는 정말 내가 알고 싶은 것과 관련이 있는가?" "내가 고른 데이터 바깥에, 더 중요한 무언가가 있지는 않은가?" "나는 지금 어떤 가설을 당연하게 전제하고 있는가?"

돌이켜보면 제 프로젝트에서 가장 결정적인 순간은 파이프라인을 설계할 때가 아니라, 동생에게 "보통 시청자 수는 뭐 때문에 바뀌어?"라고 물어봤을 때였습니다. 방송을 직접 하는 사람의 한마디가 제가 며칠 동안 고민한 설계의 전제를 통째로 흔들었죠. 그 분야를 오래 들여다본 사람의 감각이 바로 안목이었습니다. 그리고 그런 안목이 나에게 없다면, 가진 사람에게 묻는 것도 안목의 일부라고 생각합니다.

다시, 파이프라인으로

사내 발표에서 저는 AI에게 한 번에 하나씩, 잘하는 일만 시키라고 말씀드렸습니다. 그 이야기는 여전히 유효합니다. 다만 그 앞에 한 단계가 더 필요하다는 걸 이번 글에서 말씀드리고 싶었습니다.

파이프라인이 '어떻게'에 대한 답이라면, 안목은 '무엇을, 왜'에 대한 답입니다. 아무리 정교하게 설계된 파이프라인이라도 입구에 들어가는 재료를 고르는 건 결국 사람입니다. 그리고 AI는 그 선택을 의심하지 않고 충실하게, 그럴듯하게 결과를 만들어 냅니다.

그러니 AI를 활용하기 전에 한 번쯤 스스로에게 물어보시면 좋겠습니다. 내가 지금 AI에게 건네려는 이 데이터는 누가, 어떤 가정으로 고른 것인가요?