본문으로 건너뛰기
Hoegun You
뒤로

맥락이 실력이다

어지러운 책상에서 헤매는 로봇과, 정리된 서랍에서 필요한 파일을 꺼내는 로봇

10월의 어느 날, 우리 Slack 에이전트가 한 스레드에 빈 메시지를 올렸다. 그리고 또 올렸다. 모두 열네 번이었다. 그 스레드에서는 두 사람이 서로 이야기하고 있었고, 에이전트에게 묻는 사람은 없었다.

메시지는 사실 비어 있지 않았다. 하나하나에 눈에 보이지 않는 문자가 한 글자씩 들어 있었다. 스레드에서는 새 메시지가 올 때마다 에이전트에게 차례가 돌아갔다. 빈 답은 실패로 처리돼 다시 시도됐고, 지시문 어디에도 조용히 있는 방법은 적혀 있지 않았다. 그래서 모델은 아무 말도 하지 않는 자기만의 방법을 찾았다. 사람 눈에는 보이지 않는 문자 하나. 그 문자는 빈 답을 걸러 내는 필터를 빠져나가 그대로 전송됐다.

모델이 고장 난 게 아니었다. 맥락에 한 줄이 빠져 있었다. 그래서 답하지 않는 정확한 방법을 규칙으로 적어 넣었다.

이 글의 주제가 그것이다. 이제 에이전트가 엉뚱한 일을 하면 “모델이 충분히 좋은가?”보다 “무엇을 들고 시작했나?”를 먼저 묻는다.

내 일에 AI 에이전트를 들이면서 배운 것을 정리하는 시리즈의 4편이다.

에이전트가 들고 시작하는 것

새로 온 동료가 아무리 뛰어나도 첫날에는 쓸모가 없을 수 있다. 우리 규칙도, 무엇이 어디 있는지도, 지난달에 무엇을 정했는지도, 이번에 정말 원하는 게 무엇인지도 모르니까. 에이전트와 일할 때는 다음 세션이 이번 맥락을 갖고 있다고 가정하지 않는다. 지속되는 기록을 주고, 그 기록이 실제로 읽혔는지 확인한다.

에이전트가 들고 시작하는 것: 규칙 파일, 폴더, 기록, 요청, 데이터

그래서 에이전트의 맥락을 내가 통제하는 다섯 가지로 본다. 그리고 각각을 준비 작업이 아니라 일의 일부로 다룬다.

  1. 무엇보다 먼저 읽어야 할 규칙 파일
  2. 일하는 폴더
  3. 전에 무엇을 정했는지 담은 기록 (5편에서 다룬다)
  4. “다 됐다”가 무엇인지까지 담은 요청
  5. 데이터, 그리고 데이터가 들어오는 문

일 하나에 폴더 하나

에이전트는 폴더를 직접 읽는다. 그러니 폴더도 지시의 일부다. 내가 쓰는 모양을 새 예시로 보이면 이렇다. 에이전트와 함께 계약서를 검토하는 폴더다.

contract-review-2026-11/
├── RULES.md        ← 이 폴더의 용도, 확인할 것, 절대 하지 않을 것
├── originals/      ← 받은 초안 그대로. 에이전트는 읽기만 한다
├── reference/      ← 우리 표준 조건 체크리스트, 예전에 합의한 버전
├── results/        ← 에이전트가 만든 모든 것. 새 파일로
└── log.md          ← 세션마다 한 줄: 한 일, 남은 일

RULES.md는 예시로 붙인 이름이다. 도구가 인식하는 지침 파일 이름을 쓰거나, 이 파일부터 읽으라고 명시한다. 그리고 실제로 읽혔는지 확인한다.

밑에 깔린 원칙은 이렇다.

원칙 이유
원본은 절대 고치지 않는다 에이전트가 틀려도 언제든 처음으로 돌아갈 수 있다
결과는 새 파일로 무엇이 에이전트가 만든 것인지 보이고, 버전을 비교할 수 있다
파일 이름에 날짜와 주제 final-v2.md보다 2026-11-19-redline-summary.md. 사람에게도 에이전트에게도
폴더 하나에 일 하나 상관없는 파일이 엉뚱한 답의 “근거”가 된다
옛 버전은 치운다 에이전트는 지난달 초안도 기꺼이 읽는다
의미는 색이 아니라 글로 빨간 칸이 아니라 “상태: 취소”라는 열로

공유 드라이브를 정리해 본 사람에게는 새로울 게 없다. 새로운 건 정리하지 않았을 때의 대가다. 사람은 오래된 파일인 줄 기억하니 건너뛴다. 에이전트는 읽는 무언가가 그렇다고 알려 줘야만 오래된 파일인 줄 안다.

어디서 시작하느냐가 무엇을 읽을지 정한다

Slack 에이전트를 만들며 처음 배운 건 기계적인 사실이었다. 런타임은 맥락 파일 하나를 에이전트의 프로필 폴더에서, 다른 하나를 세션이 시작되는 폴더에서 읽는다. 그러니 “이 에이전트는 어디서 시작하나?”가 어떤 규칙을 보게 될지를 정한다. 이제는 규칙을 한 줄 쓰기 전에 그것부터 정한다.

두 번째는 범위에 관한 것이었다. 처음에는 Slack 에이전트의 규칙을 워크스페이스 맨 위에 이미 있던 규칙 파일, 그러니까 코딩 에이전트들이 읽는 파일에 넣으려 했다. 그 생각을 접었다. 그렇게 하면 코딩 에이전트는 답변 형식과 인계에 관한 규칙을 읽고, Slack 에이전트는 코드를 고치고 문서를 갱신하는 규칙을 읽게 된다. 역할별 규칙은 저장소 지침과 구분한다. 두 종류의 파일은 함께 있을 수 있다. 다만 Slack 에이전트와 코딩 에이전트가 서로의 업무 규칙을 물려받게 하지 않는다.

규칙 파일은 실수 하나에 한 줄씩 자란다

내 규칙 파일들은 처음부터 완성돼 있지 않았고, 완성하려고 하지도 않는다. 에이전트가 다시 일어날 만한 방식으로 틀릴 때마다 한 줄씩 자란다.

규칙 파일이 자라는 방식: 에이전트가 틀린다 → 대화에서 바로잡는다 → 규칙 파일에 한 줄 → 다음 세션은 바로잡은 내용을 읽고 시작한다

지금 Slack 에이전트가 따르는 규칙 중 세 줄은 첫 주의 실제 사례 하나씩에서 나왔다.

  • 버그로 보이면 빨리 넘긴다. 첫 실전 버그에서 에이전트가 직접 조사하고 재현하려다 너무 오래 붙잡고 있었다. 그건 조사 담당 에이전트의 일이고, 두 번 하면 낭비다. 이제는 문제가 있을 법한 위치만 짚고 넘긴 뒤, 질문한 사람에게 지금까지의 판단을 알려 준다.
  • 기본은 쉬운 말로 답한다. 다른 팀에서 답이 너무 기술적이라고 했다. 기본 형식을 쉬운 말 먼저, 기술 근거는 요청할 때로 바꿨다.
  • 아무 말도 하지 않는 정확한 방법은 이것이다. 앞에서 쓴 보이지 않는 문자 이야기다.

규칙 자체가 잘못되는 경우에서 배운 것도 두 가지 있다.

  • 규칙은 썩는다. 저장소 몇 개의 이름을 바꾼 뒤에도 에이전트의 규칙은 옛 경로를 가리키고 있었다. 다음 날 문서를 쓰다가 알았다. 프롬프트에 박힌 경로는 코드처럼 낡는다. 그래서 워크스페이스가 바뀌면 규칙 파일도 같이 뒤져 본다.
  • 일회성 지시가 상시 절차를 조용히 덮을 수 있다. 조사 담당에게 맡긴 점검 작업에 “코드와 데이터는 바꾸지 않는다”는 문장을 덧붙였다. 그런데 로컬 테스트 환경의 필수 준비 단계에는 상태 변경이 포함돼 있었고, 내가 붙인 “데이터를 바꾸지 말라”는 포괄적 지시가 정상 절차까지 막았다. 에이전트는 내 지시를 정확히 지켰다. 다른 길을 찾다가 찾지 못하고 멈췄다. 이제는 작업에 제약을 더하기 전에 어느 상시 절차와 부딪치는지부터 본다.

에이전트가 스스로 관리하는 메모도 있다. 처음 이틀 동안 Slack 에이전트가 스스로 만든 절차 하나는 25번 고쳐졌다. 맥락은 한 번 쓰고 끝나는 문서가 아니라 계속 고쳐 가는 것이다.

“다 됐다”를 일 시작 전에 적는다

요청에서 가장 쓸모 있는 줄은 끝났을 때의 모습을 적은 줄이다. 에이전트는 그걸로 자기 일을 점검하고, 나는 무엇을 검토할지 안다.

이게 구체적인 모양이 된 곳이 두 군데 있다.

  • 에이전트끼리의 인계. 조사 담당 에이전트는 Slack 대화를 볼 수 없다. 그래서 모든 인계는 같은 틀을 쓴다. 원래 질문, 이미 확인한 것, 아직 확인할 것, 결과를 읽을 사람. 이 틀이 없으면 조사 담당은 0에서 시작한다.
  • 감시 규칙을 바꿀 때. 2편의 운영 감시에서는 재생이 여전히 통과해야만 규칙 변경이 끝난 것으로 본다. 조용한 날은 여전히 긴급 경보가 0건이고 중간 등급이 세 건 이하여야 하며, 사고가 있던 두 날은 여전히 긴급 경보가 떠야 한다.

자기 일이라면 요청 끝에 세 줄을 붙이는 정도로 충분하다. 만들어져 있어야 할 파일, 그 안에 들어 있어야 할 것, 그리고 “확실하지 않으면 멈추고 물어봐”.

데이터는 안전한 문으로만

에이전트가 들고 시작하는 다섯 번째는 데이터이고, 다칠 수 있는 건 이것이다.

Slack 에이전트가 실시간 데이터를 읽기 전에는 “이번 주 자동 거절된 주문이 몇 건이에요?”라는 질문에 할 수 있는 최선이 다른 사람이 돌려 볼 조회문을 제안하는 것이었다. 개인정보를 가리는 읽기 전용 창구로 데이터를 읽게 되자, 답이 숫자가 됐다.

데이터보다 문이 중요하다. 문을 둘러싼 규칙은 단순하다.

  • 읽기 전용, 그리고 창구를 통해서만. 관리자 화면을 복사해 대화창에 붙이지 않는다.
  • 개인정보는 가려진 채로, 그리고 에이전트는 애초에 그런 열을 조회하지 않는다.
  • 밖으로 나가는 건 집계와 식별자뿐. 주문 번호는 되고, 이름은 안 된다.
  • 질문 하나에 작은 조회 한도. 호기심 많은 에이전트가 데이터베이스를 헤매지 못하게.

나와 에이전트가 지키는 규칙은 3편에 더 있다.

시작하는 사람에게 해 주고 싶은 말

  • 에이전트가 틀리면 모델을 탓하기 전에 무엇을 들고 시작했는지부터 본다.
  • 반복되는 일마다 폴더를 따로 둔다. 원본은 그대로, 결과는 새 파일로, 이름에는 날짜를.
  • 에이전트마다 어디서 시작하는지 정하고, 역할별 규칙은 저장소 지침과 구분하고, 규칙이 실제로 읽혔는지 확인한다.
  • 다시 일어날 만한 실수를 할 때마다 규칙 파일에 한 줄을 더한다. 자주 고치게 될 거라고 생각한다.
  • 이름을 바꾸면 규칙 파일도 뒤져 본다.
  • “다 됐다”는 일 시작 전에 적는다.
  • 데이터는 읽기 전용이고 개인정보를 가리는 문으로 주거나, 아예 주지 않는다.

시리즈 목차

  1. 직접 하던 사람에서 맡기는 사람으로
  2. 판정은 코드가, 설명은 LLM이
  3. 내가 절대 어기지 않는 규칙
  4. 맥락이 실력이다 (이 글)
  5. 에이전트는 잊는다, 그래서 적는다
  6. kenny: 내 일을 대신하는 에이전트
  7. Hermes: 확인할 일을 챙겨 주는 리마인더
  8. 2주 만에 시작하는 법

지금 여러분 에이전트의 규칙 파일에 빠져 있는 한 줄은 무엇인가?



이전 글
내가 절대 어기지 않는 규칙
다음 글
에이전트는 잊는다, 그래서 적는다