비개발자가 Claude Code로 AI 검증 게이트를 직접 만들어본 하루

📝 한줄 요약

AI가 만든 요약이 진짜 근거가 있는지 없는지, "감"이 아니라 자동으로 걸러주는 검증 절차를 실제 논문 데이터로 하루 만에 손으로 직접 돌려봤습니다.

바쁘시면 이것만 읽어도 돼요:

• Claude Code로 arXiv에서 논문을 실제로 가져와서, 근거 없는 요약은 자동으로 거부되고 페이지 인용까지 있는 요약만 통과되는 걸 눈으로 확인했다

• 검색어를 잘못 넣어서 전혀 관련 없는 물리학 논문이 쏟아진 사고도 있었지만, 원인을 찾아 고치는 과정 자체가 좋은 공부가 됐다

• 핵심 깨달음: AI한테 "근거 없이는 답하지 마"라는 규칙을 미리 정해두면 결과물의 신뢰도가 완전히 달라진다

• 내가 만든 가설을, 대화 맥락을 전혀 모르는 별도의 AI에게 냉정하게 채점받아보니 "보류(재검토)" 판정을 받는 신선한 경험도 했다

• 워크스페이스 자체의 규칙 문서가 꽤 복잡해서 처음엔 버거웠지만, 한 단계씩 실행하면서 따라가니 결국 다 이해됐다

🎯 이런 분들께 도움돼요

• AI로 결과물을 만들긴 하지만, 그게 맞는지 틀린지는 결국 "감"으로만 판단하고 있는 비개발자

• AI 결과물 검수·품질 관리에 관심은 있는데 어디서부터 시작해야 할지 막막한 분

• "AI가 그럴듯하게 말하는데 진짜인지 모르겠다"는 불안을 느껴본 적 있는 분

😫 문제 상황 (Before)

평소 AI 결과물을 어떻게 검수해야 하는지, AI끼리 서로 검증하게 만드는 방법(이른바 "하네스")에 관심이 많았습니다. 마침 참여 중인 스터디에서 이 주제로 강의를 들었는데, 실시간 녹화본(음성 인식 자동 전사) 파일만 보고는 개념이 잘 안 잡혔습니다. "워크스페이스", "인제스트", "위키 승격" 같은 용어들이 계속 나오는데, 말로만 들어서는 그게 정확히 뭘 하는 건지 감이 오지 않았어요. 그래서 이번 기회에 아예 강사가 실제로 쓰던 워크스페이스를 직접 받아서, 하나씩 손으로 돌려보며 이해해보기로 했습니다.

🛠️ 사용한 도구

• 도구: Claude Code

• 모델: Claude Sonnet 5

• 특이사항: PDF 텍스트를 읽기 위해 작업 중간에 pypdf라는 파이썬 도구 하나를 추가로 설치했습니다.

🔧 작업 과정

강의 전사를 읽어달라고 했더니, 잡음 속에서 핵심만 뽑아줬다

1400줄이 넘는 STT 전사 파일을 통째로 던져주고 "이 강의가 너무 어려운데 좀 더 쉽게 설명해줄 수 있어?"라고 물었습니다. 줌 접속 오류, 자기소개, 잡담까지 다 섞여있는 지저분한 파일이었는데, Claude Code가 그 안에서 핵심 개념 3가지(워크스페이스, 인제스트, 위키)와 강사가 보여준 두 개의 시연 내용을 깔끔하게 정리해줬습니다. 그러고 나서 "그럼 이번 주에 뭘 해야 하는지"까지 과제 안내를 다시 짚어줬어요.

워크스페이스 규칙 문서가 생각보다 복잡해서 살짝 버거웠다

강사가 공유한 실제 워크스페이스 폴더를 받아서 Claude Code에게 "이거 실행하지 말고, 읽어서 구조만 설명해줘"라고 부탁했습니다. 그랬더니 이 워크스페이스 안에는 진행 규칙, 말투 규약, 안전 수칙 같은 걸 담은 문서가 여러 겹으로 쌓여 있다는 걸 알게 됐어요. 솔직히 처음에는 "이렇게까지 복잡하게 규칙을 짜둘 일인가" 싶어서 따라가기 버거웠는데, 나중에 하나씩 실제로 실행해보면서 왜 이런 규칙들이 필요한지 자연스럽게 이해가 됐습니다.

논문을 가져오려다 엉뚱한 물리학 논문 폭탄을 맞았다

강의에서 봤던 "논문을 자동으로 모아오는" 기능을 실제로 재현해보기로 하고, 관심 주제로 "LLM as a judge"(AI가 AI 결과물을 평가하는 방법론)를 골랐습니다. 그런데 첫 시도에서

"LLM as a judge" 관련 논문 10편을 arXiv에서 가져와줘

라고 요청했더니, 중력파 검출이니 뉴트리노니 하는 전혀 상관없는 물리학 논문들이 쏟아졌습니다. 알고 보니 검색어에 따옴표를 안 써서, "LLM 또는 as 또는 a 또는 judge" 중 아무 단어 하나만 들어가도 걸리는 식으로 검색이 돼버린 거였어요. 흔한 단어("a", "as")가 껴 있으니 사실상 아무 논문이나 다 잡힌 셈이죠. 따옴표로 문구 전체를 감싸서 다시 요청하니 그제야 딱 맞는 논문 10편이 나왔습니다.

맨몸 요약과 근거 요약을 나란히 비교해봤다

논문 한 편을 골라서, (1) 파일을 보지 않고 AI가 원래 알던 지식만으로 쓴 요약과 (2) 실제로 받아온 논문 내용을 근거로 인용하며 쓴 요약을 나란히 만들어봤습니다. (1)은 "아마도", "~것으로 보입니다" 같은 애매한 표현이 많았고, (2)는 문장마다 원문 내용을 그대로 붙여서 훨씬 확실했습니다. 말로만 듣던 "할루시네이션 위험"이 뭔지 이 대조 하나로 확 와닿았어요.

검증 게이트가 실제로 요약을 거부하는 걸 봤을 때 — 가장 인상 깊었던 순간

가장 신기했던 순간은 바로 여기였습니다. 일부러 페이지 번호 인용 없이 요약을 하나 써서 검증 절차에 넣었더니, 정말로 "근거 부족"이라며 자동으로 거부당했습니다. 그동안 "AI 검증이 중요하다"는 말은 많이 들었지만, 실제로 눈앞에서 게이트가 작동하며 결과물을 되돌려보내는 걸 보니 왜 이런 절차가 필요한지 몸으로 이해가 됐습니다.

그다음엔 실제 논문 PDF를 다운로드받아서 진짜 페이지 번호와 표 데이터를 근거로 요약을 다시 썼습니다. 이번엔 검증을 통과했고, Before/After를 비교해보니 차이가 명확했습니다.

위키에 저장하고, 실제로 물어봐서 근거 있는 답을 받았다

통과한 요약을 워키(지식 저장소)에 정식으로 등록하고, "어떤 모델이 편향에 가장 강건한가?"라고 한국어로 질문해봤습니다. 그랬더니 AI가 대충 답하지 않고, 저장해둔 근거(표 번호·페이지)를 그대로 인용하며 답을 줬습니다. "질문 → 검증된 근거를 찾아서 답한다"는 흐름을 처음부터 끝까지 제 눈으로 확인한 순간이었어요.

내가 만든 가설이 완전히 새로운 AI에게 "보류" 판정을 받았다

한 단계 더 나아가서, 지금까지 모은 논문들에서 새로운 연구 가설을 하나 만들어봤습니다. 그런데 이 가설을 제가 직접 채점하면 공정하지 않다는 걸 알게 됐어요(내가 만든 걸 내가 좋다고 하면 당연하니까요). 그래서 지금까지의 대화를 전혀 모르는 완전히 새로운 AI를 불러서 냉정하게 심사를 맡겼습니다. 결과는 "보류" — 제가 새롭다고 생각했던 아이디어가 사실은 이미 다른 논문에서 밝혀진 내용을 다르게 포장한 것에 가깝다는 지적을 받았습니다. 살짝 아쉬웠지만, 이게 바로 "제대로 된 검증"이라는 게 무엇인지 제대로 체감한 순간이었습니다.

마지막 단계는 서버 문제로 완주하지 못했다 (그리고 정직하게 인정했다)

마지막으로 "매주 새로 나온 논문만 자동으로 추가하기" 기능을 시도했는데, 이번엔 외부 서버(arXiv) 쪽이 그 순간 계속 불안정해서 세 번 연속 실패했습니다. 무작정 계속 두드리는 대신, 네트워크 없이도 이 기능의 로직 자체는 정상이라는 걸 별도로 검증하고, "라이브 실행은 오늘 완주하지 못했다"고 있는 그대로 인정하고 마무리했습니다.

✅ 결과 (After)

Before vs After

결과물

• 논문 10편을 검색·분류·검증·저장까지 마친 개인 실습용 워크스페이스 폴더

• 근거 있는 논문 요약 1건이 실제로 위키에 등록되어 검색 가능한 상태

• 새 가설 1건 + 독립 심사 판정 결과 기록

💬 이 과정에서 배운 AI 활용 팁

효과적이었던 것

1. AI에게 작업을 시키기 전에 "근거 없이는 답하지 마"라는 규칙을 미리 정해두면 결과물 신뢰도가 확 달라진다

2. 내가 만든 결과물(가설, 요약 등)을 채점할 때는, 지금까지의 대화를 전혀 모르는 별도의 새 AI 세션에게 맡겨야 공정한 판정이 나온다

이렇게 하면 안 돼요

1. "페이지 번호가 적혀 있다"고 무조건 믿으면 안 된다 — 형식만 검사하는 절차와, 진짜 내용이 맞는지 확인하는 절차는 다르다는 걸 알아둬야 한다

2. 외부 서비스(API)가 계속 실패하면 무작정 반복해서 두드리지 말고, 잠깐 멈추고 원인이 내 쪽 문제인지 상대 서버 문제인지부터 구분하는 게 낫다

🌍 다른 업무에 적용한다면?

꼭 논문 서베이가 아니어도, "AI가 요약해준 보고서가 진짜 맞는 말인지 확인하고 싶다", "회의록 요약에 근거 없는 내용이 섞여 있지 않은지 걸러내고 싶다" 같은 상황에도 같은 원리(근거 규칙 미리 정하기 + 별도 AI로 교차 검증)를 그대로 적용할 수 있을 것 같습니다.

🚀 앞으로의 계획

이번에 배운 구조를 그대로 참고해서, 제 실제 업무나 관심 도메인에 맞는 나만의 검수 워크스페이스를 새로 만들어볼 계획입니다.

📋 재사용 가능한 프롬프트

프롬프트 1: AI 요약에 근거 규칙 미리 걸어두기

앞으로 이 자료를 요약할 때는, 모든 수치·주장 뒤에 원문의 어느 부분(페이지·표·문단)에서
나온 건지 반드시 표시해줘. 원문에서 확인 안 되는 내용은 "확인 안 됨"이라고 솔직히 말하고,
지어내지 마.
[자료 종류나 인용 형식은 본인 상황에 맞게 변경하세요]

프롬프트 2: 내가 만든 결과물을 공정하게 채점받기

지금까지 우리가 나눈 대화 내용을 전혀 모르는 상태에서, 아래 산출물만 보고 냉정하게
평가해줘. 좋게 봐주려고 하지 말고, 문제가 있으면 문제가 있다고 명확히 말해줘.
[평가받고 싶은 산출물]은 본인 상황에 맞게 채워 넣으세요