프롬프트 다음에 필요한 것은 ‘권한 설계’입니다
AI에게 일을 잘 시키는 방법을 이야기할 때 가장 먼저 떠올리는 것은 프롬프트입니다.
무엇을 원하는지. 어떤 형식으로 결과를 받을지. 어떤 맥락을 참고해야 하는지.
하지만 AI의 역할이 ‘생성’에서 ‘실행’으로 확장되면서 질문도 달라지고 있습니다.
AI에게 무엇을 시킬 것인가보다 AI가 어디까지 접근하고 행동할 수 있는가가 중요해지고 있습니다.
AI는 초안을 만듭니다.
하지만 실무 결과물은 마지막 20%의 판단과 통제에서 결정됩니다.
들어가며
예전의 AI는 질문에 답하거나 결과물을 생성하는 역할에 가까웠습니다.
지금의 AI 에이전트는 여기에서 한 단계 더 나아갑니다.
파일을 읽고, 웹을 탐색하고, 코드를 수정하고, 외부 도구를 사용하며, 조건에 따라 다음 행동을 이어갈 수 있습니다.
즉, AI의 역할이 단순한 생성에서 실행으로 이동하고 있습니다.
이 변화에서 중요한 것은 더 복잡한 프롬프트를 작성하는 일이 아닙니다.
AI가 실제 업무 환경에 접근하기 시작했다면, 사람은 그 접근 범위를 함께 정의해야 합니다.
공통 컨텍스트 — AI의 입력은 ‘지시’만이 아닙니다
AI에게 다음과 같이 요청했다고 가정해보겠습니다.
“지난달 광고 성과를 분석하고 다음 캠페인을 준비해줘.”
문장만 보면 간단합니다.
하지만 실제로 AI가 이 업무를 수행하려면 훨씬 많은 조건이 필요합니다.
| 구분 | 결정해야 할 것 |
|---|---|
| 접근 범위 | 어떤 파일과 데이터까지 볼 수 있는가 |
| 도구 권한 | 브라우저, 코드, 메일 등 어떤 도구를 사용할 수 있는가 |
| 실행 범위 | 분석만 가능한가, 수정까지 가능한가 |
| 승인 조건 | 어떤 행동부터 사람의 승인이 필요한가 |
| 검수 방식 | 결과와 실행 기록을 어떻게 확인할 것인가 |
| 중단 조건 | 문제가 생겼을 때 언제 작업을 멈출 것인가 |
좋은 입력은 이제 단순히 무엇을 해달라는 문장이 아닙니다.
업무의 경계까지 포함해야 합니다.
프롬프트 01 — 접근할 수 있는 범위를 먼저 정의하기
원칙: AI가 볼 수 있는 정보의 범위를 먼저 제한합니다.
카드뉴스에 인용한 Anthropic의 ‘Defense in depth for agents’ 구조에서도 모델 내부의 정렬만으로 끝내지 않고, 모델 주변의 권한 제한과 모니터링, 위험 행동 차단과 같은 여러 층의 안전장치를 함께 제시합니다.
프롬프트에서도 비슷한 사고방식을 적용할 수 있습니다.
당신은 이 업무를 수행하는 AI 에이전트입니다.
[목표]
지정된 자료를 분석하고 필요한 결과물을 작성합니다.
[접근 가능한 범위]
- 프로젝트 폴더 A
- 업무 가이드 문서 B
- 지정된 참고 URL
[접근 금지 범위]
- 개인 정보가 포함된 문서
- 다른 프로젝트 폴더
- 별도로 허용하지 않은 외부 서비스
허용된 범위를 벗어난 정보가 필요하다면
임의로 접근하지 말고 먼저 사용자에게 요청하세요.
활용 팁
처음부터 모든 자료를 열어두기보다 업무에 필요한 최소 범위부터 지정하는 방식이 관리하기 쉽습니다.
AI가 더 많은 것을 볼 수 있다고 해서 항상 결과가 좋아지는 것은 아닙니다.
프롬프트 02 — 사용할 수 있는 도구를 분리하기
원칙: ‘정보를 볼 수 있는 것’과 ‘행동할 수 있는 것’을 분리합니다.
AI가 웹페이지를 읽을 수 있는 것과 웹페이지에서 실제 작업을 수행하는 것은 다른 권한입니다.
메일을 읽는 것과 메일을 보내는 것도 다릅니다.
파일을 읽는 것과 파일을 수정하는 것도 다릅니다.
[도구 사용 권한]
허용:
- 파일 읽기
- 웹 검색 및 자료 확인
- 데이터 분석
- 초안 작성
조건부 허용:
- 기존 파일 수정
- 새로운 파일 생성
금지:
- 외부 메시지 발송
- 결제
- 계정 설정 변경
- 기존 데이터 삭제
조건부 허용 항목을 실행하기 전에는
수정 대상과 변경 내용을 먼저 사용자에게 보여주고
승인을 받은 뒤 실행하세요.
활용 팁
‘웹 사용 가능’처럼 크게 묶기보다 읽기 / 작성 / 수정 / 삭제 / 전송 단위로 나누면 실행 경계를 훨씬 명확하게 만들 수 있습니다.
프롬프트 03 — 되돌리기 어려운 행동에는 승인 단계를 넣기
AI 에이전트에서 중요한 것은 모든 작업을 자동화하는 것이 아닙니다.
어떤 단계까지 자동화하고, 어디에서 사람에게 판단을 돌려줄지 결정하는 것이 중요합니다.
다음 행동은 사용자 승인 없이 실행하지 마세요.
- 외부 사용자에게 메시지를 보내는 행동
- 공개 게시물을 발행하는 행동
- 파일을 삭제하는 행동
- 기존 데이터를 덮어쓰는 행동
- 비용이 발생하는 행동
- 계정 또는 서비스 설정을 변경하는 행동
승인이 필요한 경우 아래 형식으로 보고하세요.
1. 실행하려는 행동
2. 실행 이유
3. 예상되는 변경 사항
4. 되돌릴 수 있는지 여부
5. 사용자에게 필요한 결정
활용 팁
특히 삭제, 발행, 전송, 결제처럼 되돌리기 어려운 행동은 사람이 최종 판단하도록 두는 편이 좋습니다.
자동화의 목적은 사람을 완전히 없애는 것이 아니라, 사람이 판단해야 할 지점을 줄이는 것입니다.
프롬프트 04 — 실행 결과를 검수할 수 있게 만들기
원칙: 더 많은 실행 권한을 줄수록 검수 구조도 함께 강화합니다.
AI에게 더 많은 일을 맡길수록 사람의 역할은 직접 작업에서 판단과 통제로 이동합니다.
그래서 결과만 받는 구조보다 무엇을 했는지 확인할 수 있는 구조가 필요합니다.
업무가 완료되면 반드시 아래 내용을 함께 보고하세요.
[작업 결과]
최종적으로 완료한 내용을 요약합니다.
[참고한 정보]
판단에 사용한 파일, 데이터, 자료를 정리합니다.
[실행한 행동]
어떤 도구를 사용했고 무엇을 변경했는지 정리합니다.
[변경 사항]
기존 상태에서 달라진 부분을 명시합니다.
[확신이 낮은 부분]
추가 검토가 필요한 내용을 별도로 표시합니다.
[사용자 확인 필요]
최종적으로 사람이 판단해야 하는 항목을 정리합니다.
활용 팁
AI가 결과만 보여주게 하지 마세요.
무엇을 보고, 무엇을 바꾸고, 무엇을 판단했는지까지 확인할 수 있어야 수정 범위를 통제할 수 있습니다.
마스터 프롬프트 — AI 에이전트 권한 설계 템플릿
앞의 기준을 하나로 합치면 다음과 같이 사용할 수 있습니다.
당신은 [업무명]을 수행하는 AI 에이전트입니다.
[1. 목표]
이번 작업에서 달성해야 하는 목표:
-
[2. 접근 가능한 정보]
다음 정보만 사용할 수 있습니다.
-
-
-
[3. 접근 금지 정보]
다음 영역에는 접근하지 마세요.
-
-
[4. 사용 가능한 도구]
허용:
-
조건부 허용:
-
금지:
-
[5. 자율 실행 범위]
사용자 승인 없이 실행할 수 있는 작업:
-
[6. 반드시 승인이 필요한 작업]
다음 행동은 실행 전에 반드시 승인을 요청하세요.
- 외부 전송
- 공개 발행
- 삭제
- 결제
- 데이터 덮어쓰기
- 계정 및 시스템 설정 변경
[7. 승인 요청 형식]
승인이 필요한 경우 다음을 먼저 보고하세요.
1. 실행하려는 행동
2. 실행 이유
3. 변경되는 내용
4. 되돌릴 수 있는지 여부
5. 사용자에게 필요한 결정
[8. 중단 조건]
다음 상황에서는 임의로 진행하지 말고 작업을 멈추세요.
- 필요한 정보가 부족한 경우
- 지시가 서로 충돌하는 경우
- 허용된 범위를 넘어가야 하는 경우
- 결과에 대한 확신이 낮은 경우
- 예상하지 못한 외부 변경이 필요한 경우
[9. 완료 보고]
업무 완료 후 다음을 정리하세요.
- 최종 결과
- 참고한 정보
- 실행한 행동
- 변경 사항
- 확신이 낮은 부분
- 사용자 확인이 필요한 항목
Practical Checklist. AI 에이전트 권한 체크리스트
1. AI가 무엇을 볼 수 있는지 정했는가
업무와 직접 관련된 자료의 범위가 명확해야 합니다.
‘필요한 자료를 알아서 찾아라’보다 접근 가능한 데이터와 접근해서는 안 되는 영역을 구분하는 편이 좋습니다.
2. 읽기와 실행 권한을 구분했는가
파일을 읽을 수 있다고 해서 수정할 수 있어야 하는 것은 아닙니다.
웹을 탐색할 수 있다고 해서 외부 서비스에서 행동할 수 있어야 하는 것도 아닙니다.
3. 되돌리기 어려운 행동에 승인 단계가 있는가
삭제. 발송. 발행. 결제. 설정 변경.
이런 행동은 실행 전에 사람이 다시 판단할 수 있어야 합니다.
4. AI가 한 일을 나중에 확인할 수 있는가
결과만 보는 것으로 끝내지 않습니다.
어떤 자료를 사용했고 무엇을 변경했는지 추적할 수 있어야 검수가 가능합니다.
5. 문제가 생겼을 때 멈추는 조건이 있는가
좋은 에이전트는 무조건 일을 끝까지 진행하는 에이전트가 아닙니다.
판단할 수 없는 상황에서 멈추고 사람에게 결정권을 돌려주는 구조도 중요합니다.
마치며
AI에게 더 많은 일을 맡길수록 사람의 역할이 사라지는 것은 아닙니다.
오히려 역할이 바뀝니다.
무엇을 맡길지. 어디까지 자동화할지. 어디에서 검수할지. 언제 사람이 개입할지.
AI의 자유도가 커질수록 이런 기준은 더 중요해집니다.
좋은 프롬프트가 AI에게 무엇을 할지 알려준다면, 권한 설계는 AI에게 어디까지 해도 되는지 알려줍니다.
그리고 그 경계를 정하고 결과를 검수하는 과정이 AI 실무의 **마지막 20%**입니다.
AI는 70점짜리 초안을 빠르게 만들 수 있습니다.
그 초안을 실제 업무에서 사용할 수 있는 90점 결과물로 만드는 것은 결국 생성 이후의 판단, 검수, 수정 통제입니다.
정리
AI 에이전트를 사용할 때 입력해야 하는 것은 프롬프트만이 아닙니다.
목표 + 접근 범위 + 도구 권한 + 실행 범위 + 승인 조건 + 중단 조건 + 검수 방식까지 함께 설계해야 합니다.
AI에게 더 많은 권한을 주는 것 자체가 목표가 되어서는 안 됩니다.
필요한 만큼 맡기고, 위험한 지점에서는 사람이 판단하고, 실행 이후에는 결과를 검수할 수 있어야 합니다.
다음 콘텐츠에서는 실제 업무 유형별로 AI에게 어디까지 권한을 줄 수 있는지 더 구체적인 사례를 정리합니다.
더 많은 콘텐츠는 아래에서 확인할 수 있습니다.
AI는 초안을 만듭니다. 실무 결과물은 마지막 20%에서 결정됩니다.
유령제작소에 대하여
유령제작소는 AI가 만든 초안을 그대로 사용하는 방법보다, 실제 업무에서 어떻게 판단하고 수정하고 통제할 것인지를 다룹니다.
생성 이후의 검수와 후처리, AI와 사람이 역할을 나누는 방식, 그리고 70점짜리 초안을 90점 결과물로 만드는 기준을 기록합니다.