기업이 낸 침해사고 신고 메일·신고서·증빙을 분석해 정보통신망법상 인지시점 기준 24시간 초과 여부와 과태료 대상 여부를 검토 초안으로 분류한다. LLM은 사실 추출만 맡고 기산점 계산과 인정·불인정 판정은 코드가 결정론적으로 다시 계산하며, 최종 판단은 담당자 대시보드에서 사람이 남긴다. 원문과 이미지는 내부망 로컬 모델만 보고 외부로 나가는 문장은 자동 마스킹한다.
사례 대상 바로가기 · 공유 링크 · 아카이브에서 보기
상세 정보
- 사례 성격
- 개인 개발
- 출처 채널
- 오픈채팅
- 수집일
- 2026-09-28
- 태그
- #침해사고 #과태료 #검증자동화 #로컬LLM
- 실행 환경
- 서버 구축
- 망 요건
- 폐쇄망 가능
- AI 모델
- 미상 — 자체호스팅 vLLM(모델 미명시)
- 라이선스
- 명시 없음 (확인 2026-09-28)
- 저장소
- ★ 3 · 유지보수 활발
- 링크 점검
- 정상 (2026-11-02)
개발자
GitHub·공공 GitLab 공개 프로필 기준 — 공공AX 챔피언 디렉토리와 같은 자료입니다.
4축 평가
| AX 단계 | AI-Enabled |
|---|---|
| 업무 범위 | S2 Workflow |
| 업무 완결성 | C2 부분 완결 |
| 권한(P축) | P1 산출물 생성(잠정) |
| 위험도 | R2 보통(행정처분 검토) |
| 인간 통제 | H2 Human-in-the-loop |
| 증거 등급 | E1 코드·도구 확인 |
| 신뢰도 | 중간 |
신고 자료 분석부터 24시간 초과·과태료 대상 분류, 정정신청·콜백 질문·의견제출서 검토까지 같은 구조로 처리하고 담당자 대시보드로 판단을 남겨 S2·C2다. LLM은 사실 추출만 하고 기산점·판정은 코드가 결정론적으로 재계산하는 설계, 원문은 내부망 로컬 모델만 보고 밖으로 나가는 문장은 마스킹하는 경계를 README에서 확인해 E1이다. 행정처분이라 출력은 늘 검토 초안이라는 원칙을 문서화한 점이 근거이며, 사용한 로컬 모델명은 밝히지 않았다.
디자인 패턴 분석
『모두의 공공AX 디자인 패턴』 카탈로그 v0.7.1 기준 — 사례를 기관이 함께 쓰는 AI 부품과 그 조립으로 읽은 결과입니다. · 패턴 성좌에서 전체 보기 ↗
업무 패턴 B4 인식 파이프라인 보조 B1 코파일럿 변형: VLM 문서이해 + 결정론 판정 게이트(신고서 사실 추출→코드 재계산)
환경 축 배포:행정망 네트워크:폐쇄망 가능 모델:LLM(모델 미상) 런타임:서버 구축 권한:P1 산출물 생성
- 제어 흐름(B′)
- B′1 순차 파이프라인 B′9 결정론 판정 게이트
- 공통 서비스(A)
- A2.2 모델 서빙 · 주권형 온프레미스 A10 문서 형식 어댑터 A7 자체 제작 환경
- 운영(C)
- C1 검토 큐 구현 확인 C5 가드레일 필터 구현 확인
- 보안(S)
- S12 데이터 비도달 설계 구현 확인
- 신뢰할 수 없는 입력
- 기업이 제출한 침해사고 신고 메일·신고서·증빙 이미지
- 서비스 블록(D)
- D8.4 대조·점검 D8.2 요약·추출
- 부품 배선
- A10 → B4 · A2.2 → B4 · B4 → B′9 · B′9 → C1 · C5 → D8.2 · C1 → D8.4
- 참조 구현 후보
- B′9 결정론 판정 게이트 LLM은 사실 추출만, 24시간 기산점 계산과 인정·불인정 판정은 코드가 결정론적으로 재계산하고 사람이 대시보드에서 확정하는 분리가 요약에 명시됨
판정 근거
기업 제출 침해사고 신고 자료(메일·신고서·증빙 이미지)에서 내부망 자체호스팅 vLLM(A2.2, 모델명 미명시)이 사실만 추출하고(B4 VLM 문서이해), 정보통신망법상 인지시점 기준 24시간 초과 여부와 과태료 대상 여부는 코드가 결정론적으로 재계산한다(B′9 결정론 판정 게이트). 산출물은 검토 초안이고 최종 판단은 담당자 대시보드에서 사람이 남긴다(C1). 추출 결과가 사람 확정 전에 규칙 판정 단계로 흐르므로 R5에 따라 주 부품을 B4로, 초안 성격을 secondary B1로 두었다. 판정 목적(과태료 대상 여부)이 있어 서비스 유형은 2(R23 경계 참고). 외부 전송 문장 자동 마스킹은 C5, 원문·이미지는 내부망 로컬 모델만 보는 구조는 S12로 보되 시제품(Prototype)이고 운영 기록이 없어 모두 implemented. 신고서는 기관 밖에서 작성된 신뢰 불가 입력이지만 P1이라 S4~S6 규칙 미적용. URL 없음(요약만으로 판정).
구현 가이드
주 패턴 B4 인식 파이프라인을 구현할 때
구현 단계
- 입력 종류와 추출할 필드, 필드별 기준정보(대장·코드표)를 정의한다.
- 인식 단계는 정형 출력(JSON 스키마)만 내게 하고, 판정·산수는 규칙 단계로 분리한다(B′9).
- 신뢰도 임계와 보류 조건을 정해 C1 검토 큐로 보내고, C3로 재처리 경로를 둔다.
- E5 민감 서류면 행정망 + 로컬 모델로 두고, 제출 서류를 읽는 P2 이상 구성은 S6 문서별 격리를 둔다.
- C9 시험 세트로 필드별 정확도를 재고 C4로 보류율·수정률을 집계한다.
점검표
- 인식과 판정이 서로 다른 단계로 분리되어 있는가
- 저신뢰 건이 보류되어 사람에게 가는가
- 오인식 건을 되돌리는 경로가 있는가(C3)
- 필드별 정확도를 잰 시험 세트가 있는가
환경 조건
E5 민감 서류면 E1 행정망 + A2 로컬(Whisper 로컬 등). E4는 P1~P2이며, 건별 검수 없이 운영 DB로 직행하면 P2, 승인·반려에 직결되면 P3다. 제출 서류는 신뢰 불가 입력이므로 P2 이상이면 S6 문서별 격리 + 규칙 집계가 필수다(§7.4 유형 ②).
주의할 점
- 오인식이 판정으로 번질 위험(C3 필수)
- 민감 서류는 로컬 모델 제약
- 제출 서류 속 숨은 지시로 판정이 조작될 위협
기본 배선 예
A10 → B4 (B′1 → B′9) → C1 → D3 · B4 → C3 (재처리)
보완이 필요한 필수 부품
이 조합에서 카탈로그가 함께 갖추라고 권하는 부품 가운데 아직 확인되지 않은 것이다.
- C2 위험도 라우터 건별 위험도·신뢰도를 매겨 저위험은 자동 처리, 중간은 검토 큐, 고위험은 숙련자에게 보내 사람의 검토를 필요한 곳에 집중시킨다.
- C3 상태 머신·롤백 건이 끝났음을 시스템이 알게 하고, 잘못 처리된 건을 되돌리는 경로(롤백·재처리·이의제기)를 제공한다. 여러 시스템에 걸친 처리는 보상 트랜잭션으로 되돌린다.
- C4 감사 로그·지표 처리 건마다 흔적을 적재하고 수정률·처리시간·자동처리율·가용성을 집계해, '지난달 수정률'을 숫자로 말할 수 있게 한다.
- F2 편집 가능한 출력 생성물을 이용자가 직접 고쳐 확정하게 한다. 통제감의 실체이며, 수정 내역은 C4 지표와 C6 환류의 입력이 된다.
피해야 할 안티패턴
- X13 도구 출력이 지시가 되는 에이전트 검색 결과·첨부·API 응답을 읽은 모델이 그 안의 문장을 새 명령으로 받아 도구를 부르는 구조를, 탐지 필터 하나로 지키려는 함정이다. 대처: 과제의 AI가 읽는 입력 중 기관 밖에서 작성된 것을 untrusted_inputs로 나열하고, §4.2 신뢰 불가 입력 규칙대로 S4 행동 선택기(미리 정한 행동 중 선택만, 결과가 LLM으로 돌아가지 않음), S5 계획 후 실행(외부 데이터를 읽기 전에 도구 호출 계획을 고정), S6 격리 LLM(도구 있는 LLM은 외부 데이터를 읽지 않고, 읽는 LLM은 도구가 없음) 중 하나를 갖춘다. S3 컨텍스트 방화벽과 S8 독립 검증기는 보조로 붙이되 S8만으로는 규칙을 충족하지 못한다. C8 승인 게이트도 신뢰 불가 입력 규칙의 대체 통제로 인정되지 않는다(R6). 그 전 단계에서는 E4를 P0~P1 읽기·산출물 범위에 묶어 두는 것이 곧 보안이다.
- X16 기준을 노출하는 위조 탐지 진위 판정 근거를 이용자 화면에 그대로 보여 줘 위조범이 탐지 기준을 역추적하게 만드는 함정이다. F9 근거 표시가 적대적 접점에서는 취약점이 된다. 대처: F9 판정 근거·기여도 표시를 역할별로 나눈다. 이용자 화면에는 '정상/위조의심'만 노출하고, 의심 부위·사유 코드·기여도 같은 세부 근거는 관리자 화면에만 보여 준다(근거 은닉, anti-oracle — 카탈로그가 S 계층 후보로 둔 반대편 부품). 관리자 화면 접근은 C8 권한 경계로 제한하고, '위조의심' 건은 C1 검토 큐에서 담당자가 세부 근거를 보고 확정한다. 이용자에게는 F7 한계·신뢰도 안내로 추가 확인 절차를 알리고, 반복 제출·판정 이력은 C4·S10에 남겨 역추적 시도를 탐지할 근거로 삼는다.
관련 가이드라인
이 사례가 쓰는 부품과 이어지는 공공 AX 안내서·지침이다 (부록 E 공공 AX 가이드라인 문서 해설 기준, 겹치는 부품이 많은 순).
- 공공기관 신뢰가능 AI 구현 실용가이드 이 사례와 겹치는 부품 C1 검토 큐 C2 위험도 라우터쓰는 작업: 기관 AI 윤리 지침이나 내부 거버넌스 규정을 처음 만드는 기획 부서가 원칙의 뼈대를 잡을 때 참고한다. 인간개입과 고객소통 항목은 검토 절차와 이용자 안내 문구를 설계하는 데 아직 쓸 만하다.주의: 생성형 AI 이전 문서다. PAX 목록은 원칙 참고용이며 구축 절차는 최신 문서를 우선하라고 적었다.
- 금융분야 AI 위험관리프레임워크 이 사례와 겹치는 부품 C2 위험도 라우터 C1 검토 큐쓰는 작업: 금융회사의 리스크관리 부서가 업무별 AI에 위험등급을 매기고, 등급마다 독립 검증을 누가 언제 하는지와 사람이 어느 단계에서 결과를 확인하는지를 내규 초안에 적을 때 편다. 등급이 높을수록 사람이 개입하는 지점이 앞당겨진다.주의: 문서 원문은 금융감독원 배포본으로 확인한다.
- 공공 AX 프라이버시 보호 안내서 이 사례와 겹치는 부품 S12 데이터 비도달 설계 C5 가드레일 필터쓰는 작업: 공공 AX 사업 기획 단계에서 개인정보 담당자와 사업 담당자가 함께 편다. 먼저 사업이 세 활용 유형 가운데 어디에 드는지 정한다. 문서 요약이나 챗봇 상담 같은 기초업무 보조라면 허용·금지 활용 사례를 정해 사용자 교육 자료에 넣고 입출력 데이터의 관리체계를 세운다. 여러 DB를 이어 분석·추천하는 사업이면 연계하는 DB마다 처리 근거와 접근권한을 적은 표를 만든다. 그다음 RAG 연계와 결과 출력 지점의 안전조치를 과업지시서의 보안 요구사항으로 옮긴다. 선별·판단 유형이면 아래 자동화된 결정 안내서와 AI기본법 고영향 판단 가이드라인이 함께 걸린다.주의: 10대 점검사항의 개별 항목은 보도자료 본문에서 확인하지 못했다. 안내서 원문을 기준으로 옮긴다.
- AI 프라이버시 리스크 관리 모델 이 사례와 겹치는 부품 C2 위험도 라우터 S12 데이터 비도달 설계쓰는 작업: 개인정보 담당자가 AI 사업의 프라이버시 위험 평가표를 짜는 틀이다. 영향평가 대상이 아닌 사업에서도 위험을 스스로 관리하는 틀로 쓸 만하다.주의: 2021년 AI 개인정보보호 자율점검표(6대 원칙, 점검분야 16개, 세부항목 54개로 보도됨)는 개보위가 과거 안내서로 분류했다. PAX 목록은 이 모델과 공공 AX 안내서를 대신 쓰라고 적었다.
- 개인정보 영향평가 수행안내서 이 사례와 겹치는 부품 C4 감사 로그·지표 S12 데이터 비도달 설계쓰는 작업: 영향평가 대상 시스템이면 검증·인수 단계의 필수 산출물인 영향평가서를 이 문서로 쓴다. 평가 기관과 계약할 때 AI 분야 평가항목을 범위에 넣었는지 확인한다.주의: 10월 초안과 12월 수정본이 있으므로 12월 판을 쓴다.
- 고영향 인공지능 사업자 책무 가이드라인 이 사례와 겹치는 부품 C1 검토 큐 C4 감사 로그·지표쓰는 작업: 고영향으로 판단된 사업은 설계 단계에서 책무 이행 계획을 세우며, 그 항목을 이 문서에서 가져온다. 사람의 감독 지점, 설명 제공 방식, 기록 보존을 설계서에 반영한다.주의: 구체 책무 항목은 첨부 원문으로 확인한다.
- 생성형 인공지능 활용 저작물의 저작권 등록 안내서 이 사례와 겹치는 부품 F2 편집 가능한 출력 C4 감사 로그·지표쓰는 작업: 기관이 AI를 써서 만든 홍보 영상, 교재, 디자인을 기관 저작물로 등록하거나 관리하려 할 때 쓴다. 사람이 고친 부분을 기록해 두어야 하는 이유가 여기서 나온다.주의: 등록 실무는 원문과 한국저작권위원회 안내로 확인한다.
- 생성형 인공지능 결과물에 의한 저작권 분쟁 예방 안내서 이 사례와 겹치는 부품 C1 검토 큐 C4 감사 로그·지표쓰는 작업: 운영 단계에서 AI 결과물을 외부로 배포하는 부서가 배포 전 확인 절차를 만들 때 쓴다. PAX 목록이 꼽은 결과물 유사성과 AI 이용 사실 기록이 이 절차의 항목이다.주의: 지식베이스 문서를 그대로 옮겨 답하는 RAG 서비스도 결과물 유사성 문제를 안는다.
같은 주 패턴(B4)을 쓰는 다른 사례
같은 업무 패턴으로 조립된 사례를 서비스 유형이 같은 것부터 모았다 외 14건. 구현할 때 비교해 볼 수 있다.
이 사례에 쓰인 패턴
B1 코파일럿 업무 컴포넌트
사람이 하던 문서·판단 작업 옆에 AI가 초안·요약·검토안을 놓고, 사람이 고쳐서 확정한다.
PAX 사례 111건이 이 부품을 쓴다
맥락
문서·기안·검토의견처럼 산출물 형식이 정해져 있고 최종 확정자가 사람인 업무에 쓴다. BYO 코딩 에이전트와 A9 스킬을 쓰는 스킬 코파일럿이 PAX 자생 도구에 많다.
맞서는 힘(긴장)
- 초안 속도 vs 전건 검토에 드는 사람 시간
- 상용 모델 품질 vs 행정망·민감정보 제약(E1·E5)
- 양식 일관성(A9 규범) vs 사안별 유연성
해법
업무 서식과 참고 자료를 입력으로 받아 모델(A2 또는 BYO 구독)이 초안·근거·신뢰도를 내고, 사람이 편집 가능한 형태(F2)로 받아 고쳐서 확정한다. 보고서 구조·문체·검증 절차는 A9 규범 스킬로 코드 밖에 두고, 공공 문서 형식은 A10 어댑터로 입출력한다. 확정 전 검토는 C1 검토 큐로 운영하고 수정 내역을 C4·C6의 입력으로 남긴다. First로 가려면 저위험 건을 C2로 자동 확정하는 분기를 더한다.
이럴 때 쓴다
- 산출물 형식이 정해진 문서를 반복 작성할 때
- 최종 판단과 책임이 사람에게 남아야 할 때(P1 산출물 생성)
- 유형 ④ 내부 문서·기안, 유형 ⑫ 개발 코파일럿의 기본 조립일 때
이럴 때는 쓰지 않는다
- 답이 기관 규정·선례 속에 있어 접지와 출처가 핵심일 때(B3)
- 추출 결과가 사람 확정 없이 다음 판정 단계로 흐를 때(B4)
- 런타임에 모델이 필요 없는 정형 취합일 때(B0)
얻는 것
- 문서 작성 시간 단축
- 책임 소재가 사람에게 명확히 남음
- 도입이 쉬워 Enabled의 전형 경로
점검표
- 담당자가 최종 확정한다는 절차가 운영되는가
- 서식·문체 규범이 A9 스킬로 분리되어 있는가
- 초안을 이용자가 직접 고칠 수 있는가(F2)
- 수정 내역이 기록되어 품질 개선에 쓰이는가
구조 — 참여 부품
- A2 모델 서빙 계층 — 초안 생성 모델 호출(행정망이면 내부망 프록시)
- A9 업무 규범 스킬 — 서식·문체·검증 절차를 프롬프트 템플릿으로 고정
- A10 문서 형식 어댑터 — HWPX·엑셀 입출력
- C1 검토 큐 — 담당자가 초안을 확인·수정·확정
- 담당자 — 최종 확정자이자 책임자
변형
- 시스템 내장형: 기관 업무 시스템 안에 초안 기능을 넣은 형태
- 스킬 코파일럿: BYO 코딩 에이전트 + A9 스킬로 배포되는 형태(PAX Enabled 사례에서 가장 흔한 형태)
참조 구현 예
- PAX gov-report-skill — 기획보고서 7대 항목 스킬 코파일럿(카드 참조 구현)
관련 부품
C1 짝 — 사람 확정 절차 · F2 이용자 쪽 대응 — 편집 가능 출력은 B1의 필수 면 · A9 끼울 자리 — 서식·규범 스킬 · B′5 기본 배선 — 유형 ④·⑫ 조립 템플릿의 생성자-비평가 · C2 다음 단계 — 저위험 자동 확정으로 First · B3 승급 경로 — §7.2 진행 경로 1 → 4
참고 자료
Fowler Direct Prompting · InfoQ Editable Output · GoF Decorator
이 부품과 이어지는 가이드라인
B4 인식 파이프라인 업무 컴포넌트
서류·음성·영상·도면 같은 비정형 입력을 인식 → 구조화 → 판정으로 연쇄 처리해 사람이 옮겨 적던 단계를 없앤다.
PAX 사례 34건이 이 부품을 쓴다
맥락
접수·심사(유형 ②), 서류 진위확인, 민원 통화 정리, 실시간 자막, 원격탐사·도면 판독처럼 비정형 입력이 업무의 출발점인 경우에 쓴다. 민감 서류가 많아 행정망·로컬 모델 조건이 자주 붙는다.
맞서는 힘(긴장)
- 자동 연결의 효율 vs 오인식이 판정으로 번지는 위험
- 인식 정확도 vs 로컬 모델 제약(E1·E5)
- 단계 분리의 추적 용이성 vs 단계 간 지연
해법
인식(OCR·STT·비전·VLM)은 정형 필드만 내게 하고, 기준정보와의 대조·요건 판정은 규칙 단계가 맡는다(B′1 + B′9). 저신뢰·불일치 건은 보류해 C1 검토 큐로 보내고, 오인식은 C3 상태 머신으로 되돌린다. 공공 문서 형식은 A10으로 받으며 OCR·STT 엔진은 A2 공통 후보를 쓴다. 제출 서류처럼 신뢰 불가 입력을 읽고 시스템 쓰기가 있으면 문서별 격리(S6)로 서류 속 지시가 판정을 바꾸지 못하게 한다.
이럴 때 쓴다
- 비정형 입력을 사람이 옮겨 적는 단계가 업무의 병목일 때
- 추출값이 규칙 판정·다음 처리로 이어질 수 있을 때
- 유형 ② 접수·심사 자동화의 기본 조립일 때
이럴 때는 쓰지 않는다
- 추출 결과가 초안으로 멈추고 사람이 확정할 때(B1)
- 추출 뒤 질의응답이 핵심 산출물일 때(B3)
- 상시 관측 스트림 감시가 핵심일 때(B5)
얻는 것
- 옮겨 적기 단계 제거
- 판정 기준이 규칙으로 남아 설명 가능
- OCR·STT 엔진을 범정부 공통으로 공유 가능
점검표
- 인식과 판정이 서로 다른 단계로 분리되어 있는가
- 저신뢰 건이 보류되어 사람에게 가는가
- 오인식 건을 되돌리는 경로가 있는가(C3)
- 필드별 정확도를 잰 시험 세트가 있는가
구조 — 참여 부품
- A10 문서 형식 어댑터 — PDF·HWPX·이미지 입력
- A2 모델 서빙 계층 — OCR·STT·VLM 엔진
- 규칙 대조기 — 기준정보와 대조하고 요건을 판정
- C1 검토 큐 — 저신뢰·불일치 건 확인
- C3 상태 머신·롤백 — 오인식 되돌림·재처리
변형
- OCR·서류: 제출 서류 필드 추출·요건 검토
- STT·음성: 통화·회의 음성의 텍스트화와 키워드 추출
- 비전 판독·정량화: 결함·손상 판독과 정량화(R5)
- VLM 문서이해(단일 모델): VLM 하나로 문서 이해·추출(R5)
- 배치 원격탐사·시계열 차분: 항공·위성 영상의 회차 간 변화 판독(R5)
- 통역(STT→MT→TTS): 음성 인식·번역·합성 연쇄(R5)
- CAD·BIM 도면 파싱: 도면에서 구조 정보 추출(R5)
참조 구현 예
- PAX 경기도의회 실시간 자막 — 개인 개발 → 기관 도메인 정식 개통(카드 참조 구현)
관련 부품
B′1 기본 배선 — 순차 파이프라인 · B′9 배선 — 인식은 추출만, 판정은 규칙 · C3 First 관문 — 오인식 되돌림 · S6 보안 짝 — 제출 서류별 격리 처리 · F9 이용자 쪽 대응 — 판정 근거 표시(위조 탐지는 관리자에게만)
참고 자료
Heiland Workflow Pipeline·AI Pipeline·Multi-layer · GoF Chain of Responsibility
이 부품과 이어지는 가이드라인
B′1 순차 파이프라인 제어 흐름
한 단계의 출력을 다음 단계의 입력으로 넘기는 고정 순서 배선이다. 한 프롬프트에 많은 일을 몰아 시켜 품질이 떨어지는 문제를 막는다.
PAX 사례 109건이 이 부품을 쓴다
맥락
B4 인식 파이프라인의 기본 배선이며, B1·B0·B5 안에서도 흔하다. 단계 순서가 업무 절차로 미리 정해져 있고 AI가 순서를 고를 필요가 없을 때 쓴다.
맞서는 힘(긴장)
- 디버깅·출처 추적의 쉬움 vs 병렬화 불가로 인한 지연
- 단계 분리의 품질 이점 vs 단계가 늘수록 오류 누적
- 고정 순서의 예측 가능성 vs 예외 경로 처리의 경직성
해법
업무 절차를 단계로 나누고 각 단계의 입력·출력 형식을 정해 앞 단계 출력을 다음 단계에 넘긴다. 단계 사이에 형식 검증(스키마)을 두어 오류가 번지기 전에 멈추고, 멈춘 건은 C1 검토 큐나 C3 재처리로 보낸다. 판정·산수 단계는 가능한 한 규칙(B′9)으로 두고 모델은 추출·서술 단계만 맡긴다. 단계 순서를 AI가 바꿔야 한다면 B′8이나 B′7로 옮긴다.
이럴 때 쓴다
- 업무 절차가 고정 순서로 정해져 있을 때
- 각 단계를 따로 검증·추적해야 할 때(유형 ② 접수·심사, ⑧ 취합·변환)
- 단일 에이전트에서 시작하는 첫 배선일 때
이럴 때는 쓰지 않는다
- 하위 작업이 서로 독립이라 동시에 돌려야 지연이 줄 때(B′3)
- 입력에 따라 AI가 다음 도구를 골라야 할 때(B′7)
- 긴 업무를 계획부터 세워야 할 때(B′8)
얻는 것
- 디버깅과 출처 추적이 쉬움
- 단계별 품질 검증 가능
- 구현이 가장 단순
점검표
- 단계마다 입력·출력 형식이 정의되어 있는가
- 단계 사이 검증에서 실패하면 멈추는가
- 단계별 중간 결과를 추적할 수 있는가
구조 — 참여 부품
- 단계 처리기 — 각 단계에서 추출·변환·작성 수행
- 단계 간 형식 검증 — 다음 단계로 넘기기 전 스키마 확인
- C3 상태 머신·롤백 — 실패 단계 재처리
관련 부품
B4 기본 배선 — 인식 파이프라인 · B′8 대안 — 순서를 계획으로 정할 때 · B′9 짝 — 판정 단계를 규칙으로 · C3 기록처·되돌림 — 실패 단계 재처리
참고 자료
Google ADK #1 Sequential · Gulli ch.1 Prompt Chaining · Heiland Multi-layer · adaptive.live 프롬프트 체이닝
B′9 결정론 판정 게이트 제어 흐름
판정 모델(LLM·VLM·비전 분류기·통계 모델)은 정형 출력만 내고, 규칙 엔진이 최종 판정·산수·분기를 하며, 사람 또는 시스템이 확정한다.
PAX 사례 17건이 이 부품을 쓴다
맥락
법정 기준·지침 임계값이 있는 심사·점검·감시 업무에 쓴다. B4 인식 파이프라인, B5 감지·경보(유형 ③), B2 위험 예측(유형 ⑩)에서 판정 단계를 맡는다. v0.6에서 LLM·VLM 한정으로 신설하고 R11에서 판정 모델 일반으로 확장했다.
맞서는 힘(긴장)
- 모델의 추출 유연성 vs 판정의 재현성·설명 가능성
- 기준 변경 시 설정만 바꾸는 편의 vs 규칙 유지보수 부담
- 강등·기각의 보수성 vs 자동 처리율
해법
판정 모델은 JSON 스키마로 제약된 정형 출력(추출값·근거 문장·신뢰도·확률)만 낸다. 규칙 엔진이 기준 임계값·산식·대조로 판정과 산수를 수행하고, 기준이 바뀌면 재학습 없이 설정만 고친다. 서버가 근거 문장을 원문과 재대조해 '문서확인/AI추정/문서에없음'으로 강등하는 비루프 검증을 둘 수 있다. 불합격·저신뢰 건은 재생성하지 않고 기각·강등해 사람 확정(C1)으로 보낸다.
이럴 때 쓴다
- 판정 기준이 법령·지침·임계값으로 정해져 있을 때
- 판정 재현성과 근거 설명이 필요할 때
- 기준 변경 시 재학습 없이 설정만 바꾸고 싶을 때
이럴 때는 쓰지 않는다
- 판정 기준을 규칙으로 적을 수 없는 서술형 평가일 때
- 불통과 시 다시 생성해 품질을 올려야 할 때(B′5)
- 추출 없이 규칙만으로 판정할 수 있을 때(B0)
얻는 것
- 임의 확정·환각 수치 방지
- 기준 변경 시 재학습 불필요
- 판정 근거를 조항 단위로 설명 가능
- C2 자동 분기의 신뢰 근거
점검표
- 모델이 판정·산수를 하지 않는가
- 기준 변경이 재학습 없이 설정 변경으로 가능한가
- 저신뢰·근거 불일치 건이 강등되어 사람에게 가는가
- 같은 입력에 같은 판정이 나오는가
구조 — 참여 부품
- 판정 모델 — 정형 출력(추출값·근거·신뢰도·확률)만 생성
- 규칙 엔진 — 임계값·산식·대조로 판정과 산수
- C5 가드레일 필터 — 구조적 출력 제약·스키마 검증, 근거 재대조
- C1 검토 큐 — 강등·저신뢰 건의 사람 확정
변형
- LLM·VLM 추출형: LLM·VLM은 추출·서술만 하고 규칙이 판정한다(v0.6 원정의)
- 비전·통계 판정 모델형: 비전 분류기·통계 모델 확률을 규칙이 판정한다(R11 확장)
- 근거 재대조 강등형: 근거 문장을 원문과 재대조해 문서확인/AI추정/문서에없음으로 강등한다(비루프 검증)
- 병렬 교차 검증형: LLM 추출과 규칙 파서를 병렬로 돌려 불일치를 규칙으로 잡는다
- 정형 IR → 결정론 컴파일: 에이전트가 정형 중간표현을 내고 결정론적으로 변환한다(§13 해외 참고)
참조 구현 예
- PAX 90f8afce65c6f327 — VLM 추출 + 차량 대장 규칙 대조 + 담당자 확정, 소형 실물(§13)
관련 부품
S4 동형 — 보안 목적이면 행동 선택기 · S6 동시 태깅 가능(R27) · C5 짝 — 구조적 출력 제약 · B′10 역방향 — 선게이트·후보축소 · B′5 대안 — 재생성 루프 · F9 이용자 쪽 대응 — 판정 사유 코드 표시
참고 자료
Beurer-Kellner 외 Action-Selector(동형) · InfoQ Output Guardrails
A2.2 모델 서빙 · 주권형 온프레미스 공통 서비스
오픈웨이트 모델을 기관 서버·폐쇄망·로컬 PC 안에서 Ollama·vLLM 등으로 구동해 데이터를 기관 밖으로 내보내지 않고 추론한다.
PAX 사례 54건이 이 부품을 쓴다
맥락
E1은 폐쇄망·행정망·로컬 PC, E2는 해외 오픈웨이트(로컬) 또는 국산 오픈웨이트, E5는 S 이상이다. 폐쇄망 B3·B6·B8, 유형 3(현장 폐쇄망 서버 추론), 유형 12 개발 코파일럿은 이 변형을 기본으로 쓴다.
맞서는 힘(긴장)
- 데이터 주권 vs 상용 최신 모델 대비 성능
- GPU·서버 고정비 vs 종량 과금
- 모델 운영·갱신 역량 vs 외부 의존 제거
- 저사양 장비 구동 vs 모델 크기
해법
오픈웨이트 모델을 기관 안에 설치하고 서빙 계층(Ollama·vLLM·LM Studio 등)으로 업무 부품에 노출한다. 임베딩 모델도 로컬로 두어 B3 검색까지 망 안에서 끝낸다(§5 E1 폐쇄망 행 '로컬 임베딩'). 모델 선정은 C9 평가 세트로 상용·온프레미스 후보를 같은 조건에서 비교해 정한다. 폐쇄망에서 C7 경로는 수동 전환·다른 로컬 모델로 제한되므로 둘 이상의 로컬 모델이나 수동 절차를 미리 둔다. 모델·패키지 반입은 S11 인제스천 검증을 거친다.
이럴 때 쓴다
- E1이 폐쇄망·행정망이거나 문서가 PC 밖으로 나가면 안 될 때
- E5가 S 이상인데 내부망 프록시(A2.4)를 쓸 수 없을 때
- 현장 폐쇄망 서버에서 추론해야 하는 유형 3
- C7의 대체 경로로 로컬 모델을 둘 때
이럴 때는 쓰지 않는다
- 추론 인프라·운영 인력을 확보할 수 없을 때
- 현장 기기 자체에서 돌아야 하면 A5(엣지 런타임)
- 모델을 재학습했으면 A2.3
얻는 것
- 데이터가 기관 밖으로 나가지 않음
- 호출 비용이 고정비로 바뀜
- 폐쇄망에서도 LLM 사용 가능
- C7의 대체 경로 후보
점검표
- 추론·임베딩 어디에서도 데이터가 망 밖으로 나가지 않는가
- 모델 선정 근거(평가 세트 비교)가 남아 있는가
- 반입한 모델·패키지의 무결성 검사 기록이 있는가
- 대체 로컬 모델 또는 수동 전환 절차가 있는가
구조 — 참여 부품
- A2 서빙 계층 — 로컬 모델을 업무 부품에 노출
- 오픈웨이트 모델·로컬 임베딩 — 기관 안에서 추론·색인
- GPU 서버 또는 워크스테이션 — 추론 인프라
- S11 인제스천·공급망 검증 — 폐쇄망 반입 모델·패키지 검사
변형
- 기관 서버형: vLLM 등으로 기관 GPU 서버에서 다수 이용자에게 서빙한다.
- 로컬 PC·워크스테이션형: Ollama·LM Studio로 개인 PC나 단일 워크스테이션에서 돌린다(온나라 sAIde).
- 범정부 공통기반 내부망 설치형: 국산 독자모델·오픈웨이트를 공통기반 내부망에 직접 설치해 여러 부처에 제공한다(PAX 행정안전부 사례).
참조 구현 예
- PAX 58420e002644542c — 행정안전부, 엑사원·Gemma4를 범정부 공통기반 내부망에 설치해 약 8천 명에 롤아웃(§13 A2.2)
- PAX 01963ce2b093182c — 양산시, 저사양 온프레미스 로컬 LLM으로 보고서 작성 전 과정을 폐쇄망 안에서 처리(§13 A2.2)
- PAX 온나라 sAIde — 온나라 사이드패널 + 로컬 Ollama 요약(§9)
관련 부품
C7 대체 경로 — 상용 API 장애 시 전환 대상 · A8 짝 — 폐쇄망 로컬 MCP 호스트 · S11 선행 — 폐쇄망 반입 검증 · A5 대안 — 현장 기기 추론 · C9 선행 — 모델 선정 근거
참고 자료
Heiland '업무 로직과 ML 모델 분리' · GoF Strategy
이 부품과 이어지는 가이드라인
A10 문서 형식 어댑터 공통 서비스
HWP·HWPX·엑셀·한셀·PDF 같은 한국 공공 문서 형식을 AI 부품이 읽고(구조화) 쓰게(서식 생성) 하는 변환 계층이다.
PAX 사례 136건이 이 부품을 쓴다
맥락
문서를 입력으로 받거나 기안·보고서·취합본을 산출하는 과제라면 거의 다 쓴다. 유형 2·4·8에서는 필수 기반이고 유형 6·7에서도 쓰인다. E1 로컬 PC 조건에서 도는 경우가 많다.
맞서는 힘(긴장)
- 형식 충실도(표·각주·조항 구조 보존) vs 파서 구현 비용
- 로컬 처리(무반출) vs 클라우드 변환 도구의 편의
- 기관별 서식 다양성 vs 공통 어댑터 재사용
해법
입력 쪽에서는 HWPX 압축 구조·PDF에서 조·항·호·별표 계층과 표를 보존해 구조화 텍스트·표로 바꾸고, 머리말·각주 같은 잡음을 걷어 조항 단위로 정규화한다. 출력 쪽에서는 스킬(A9)의 출력 서식을 받아 HWPX·XLSX 기안 서식을 역방향으로 생성한다. 민감 문서는 PC 밖으로 보내지 않도록 로컬에서 변환하고, 파서를 라이브러리·CLI·MCP로 함께 제공하면 다른 부품과 기관이 그대로 쓴다. 형식 변환 정확도는 C9 판정 체계로 잰다.
이럴 때 쓴다
- 입력이 HWP·HWPX·엑셀·PDF 공공 문서일 때
- 산출물을 기안·보고 서식으로 내보내야 할 때
- 유형 2·4·8 조립
이럴 때는 쓰지 않는다
- 스캔 이미지·음성처럼 인식이 필요한 입력은 B4 인식 파이프라인(OCR·STT)
- 입출력이 이미 정형 데이터·API인 경우
얻는 것
- 공공 문서를 AI 입력·출력으로 연결
- 기관 간 재사용 가능한 공통 부품
- 로컬 처리로 무반출
점검표
- 표·조항 계층이 변환 후에도 보존되는가
- 출력이 기관 기안 서식 그대로 열리는가
- 민감 문서가 변환 과정에서 PC 밖으로 나가지 않는가
- 변환 정확도 판정 기록이 있는가
구조 — 참여 부품
- 입력 파서 — 조·항·호·표 구조를 보존해 구조화
- 서식 생성기 — 구조화 결과를 HWPX·엑셀 서식으로 출력
- A9 업무 규범 스킬 — 출력 서식 규범 제공
- B3 지식 접지 상담 — 구조화된 규정을 색인해 검색
변형
- 규정 구조 파서: HWP/HWPX·PDF 규정을 조항 단위로 정규화한다.
- 엑셀·한셀 취합: 폐쇄망에서 엑셀·한셀 파일을 취합한다(GatherFlow).
- 서식 출력: HWPX 직무기술서·보도자료 등 공공 서식으로 역방향 생성한다(NCS JD, ReleasePick 입력).
- 완결형 문서 엔진: HWP/HWPX 파싱·조판·렌더링·편집·PDF 출력을 자체 구현하고 MCP·CLI로 제공한다(PAX e18d5e018e0cd10d).
- AI 친화 병행 등록: 기관이 발간자료를 마크다운으로 함께 등록하도록 표준화한다(PAX 17329009668eb397).
참조 구현 예
- PAX GatherFlow — 엑셀·한셀 취합(폐쇄망)(§6 A10 카드)
- PAX 7ad16f34cfb6cca7 — HWP·HWPX·PDF에서 신구대비표 초안을 로컬 생성(§13 A10)
- PAX e18d5e018e0cd10d — HWP/HWPX 파싱·조판·렌더링·편집·PDF 출력 + MCP·CLI(§13 A10)
관련 부품
A9 짝 — 스킬 출력 서식 · B4 경계 — 인식이 필요한 입력 · A12 대칭 — 사람 쪽 모달리티 어댑터 · A7 짝 — 유형 8 필수 · B0 소비처 — 문서·엑셀 자동화
참고 자료
GoF Adapter
이 부품과 이어지는 가이드라인
A7 자체 제작 환경 공통 서비스
외부 용역 없이 기관 인력이 저작도구·AI 코딩 에이전트로 도구를 직접 만들고 고치는 제작 환경이다.
PAX 사례 317건이 이 부품을 쓴다
맥락
업무 담당자가 AI 코딩 도구·저작도구·오픈소스로 직접 만드는 과제에 쓴다. 유형 8(취합·변환 자동화)에서는 필수 기반이다. PAX 557건에서 A7이 붙고 BYO 모델을 쓰는 사례는 29건이다.
맞서는 힘(긴장)
- 제작 속도·현장 적합성 vs 유지보수 연속성
- 개인 역량 의존 vs 조직 인수인계
- 무예산 제작 vs 보안 검토·기관 공식화 절차
해법
기관 인력이 AI 코딩 에이전트·저작도구·오픈소스로 직접 만들되, 처음부터 전이를 전제로 한다. 설정·데이터(연락처·업무분장 등)는 코드 밖 파일로 빼 비개발자도 고치게 하고, 작업 지시서 자체를 코딩 에이전트가 수행할 프롬프트로 설계해 제작 절차를 남긴다. MIT·Apache 등 라이선스를 명시하고 공공 깃랩(A3)이나 혁신24 자료실에 등재해 담당자가 바뀌어도 이어지게 한다. 실사용 건수로 성과를 재 기관 공식으로 올린다.
이럴 때 쓴다
- 반복 업무를 줄이는 소규모 도구를 빠르게 만들 때
- 용역 없이 작은 수정을 계속해야 할 때
- 유형 8 취합·변환 자동화
이럴 때는 쓰지 않는다
- P2 이상 시스템 쓰기·처분이 걸려 보안 검토·통제 부품이 먼저 필요한데 이를 갖출 수 없을 때
- 라이선스·저장소·인수인계를 정할 수 없어 전이가 불가능할 때(X9 위험)
얻는 것
- 제작 속도와 현장 적합성
- 내부 유지보수 역량 축적
- 무예산·소예산 제작
점검표
- 라이선스가 명시되어 있는가
- 저장소가 개인 PC가 아닌 공유 위치에 있는가
- 담당자가 바뀌어도 고칠 수 있는 문서·설정 분리가 있는가
- 실사용 지표가 있는가
구조 — 참여 부품
- 업무 담당자 — 요구를 알고 직접 만드는 제작자
- AI 코딩 에이전트·저작도구 — 코드·화면·워크플로 생성
- A3 공공 깃랩·자료실 — 등재처 — 담당자 이동 후에도 이어지게
- A9 업무 규범 스킬 — 제작 규범·지시서를 재사용 가능한 형태로
변형
- 비개발자 바이브코딩: 교육 후 비개발 직원이 AI 코딩으로 웹앱을 만들고 실사용 지표까지 잰다.
- 용역 탈피 단계형: 1단계는 전문기업과, 2단계는 직원이 도구를 대여해 라벨링·학습·개발을 직접 한다.
- 오픈소스 조립형: n8n·FastAPI·Qdrant·LM Studio 등 오픈소스로 워크플로를 직접 조립하고 설정을 공유한다.
- 사람+에이전트 작업 단위형: 작업 지시서를 코딩 에이전트 입력 프롬프트로 설계해 '사람 1인 + 에이전트 1세션' 단위로 일한다.
참조 구현 예
- PAX 145a534a79c6fc53 — 공무원 1인 개발 도구가 혁신24 자료실로 여러 기관에 확산(§13 A7)
관련 부품
A3 등재처 — 공공 깃랩 · A9 짝 — 제작 규범을 스킬로 · B0 주 산출물 — 결정적 도구 · A10 짝 — 유형 8 필수 · X9 주의 — 담당자와 함께 사라지는 도구
참고 자료
GoF Prototype · PAX 전이 플레이북
C1 검토 큐 운영 컴포넌트
AI 산출물이 다음 단계로 넘어가기 전에 사람이 맞고 틀림을 확인·수정·확정하는 대기열을 두어, 오류가 업무 결과로 흘러가지 않게 한다.
PAX 사례 46건이 이 부품을 쓴다
맥락
AI 산출물이 공문·처분·대민 안내·기록으로 이어지는 모든 B 부품(B1 코파일럿, B4 인식 파이프라인, B2 예측기, B7 콘텐츠 생성기 등). 이용자 본인이 최종 확정자인 자기서비스형 도구도 포함한다(R16).
맞서는 힘(긴장)
- 정확성·책임성 vs 처리 속도(전건 검토는 자동화 이득을 깎는다)
- 검토자의 숙련 vs 자동화 편향(AI 결과를 그대로 승인하는 경향)
- 전건 검토의 안전 vs 위험도별 분기(C2)로 가야 하는 효율 압력
해법
AI 산출물에 신뢰도·근거를 붙여 검토 대기열에 올리고, 검토자가 승인·수정·반려 중 하나를 고르게 한다. 수정·반려 내역은 C4 감사 로그에 남겨 수정률을 집계하고 C6 환류의 입력으로 쓴다. 검토 화면은 원문 위치·근거를 함께 보여 줘 확인 비용을 줄인다. 전건 검토로 시작하되, 수정률 실측이 쌓이면 C2 위험도 라우터로 저위험 건을 자동 종결하는 단계로 옮긴다.
이럴 때 쓴다
- AI 산출물이 공문·처분·대민 안내로 그대로 이어질 때
- E4가 P1 이상이고 되돌리는 데 사람 시간이 많이 드는 조치가 있을 때
- 서비스 유형 ② 접수·심사, ④ 기안 코파일럿, ⑥ 콘텐츠 제작, ⑦ 대조·점검, ⑩ 위험 예측, ⑪ 추천·매칭, ⑫ 개발 코파일럿처럼 C1이 필수인 유형
이럴 때는 쓰지 않는다
- B0 결정적 도구처럼 런타임 AI 산출물이 없을 때
- 쉽게 되돌릴 수 있고 저위험인 조치를 이미 C2로 자동 종결하도록 실측 근거를 갖춘 구간(전건 검토를 영원히 남기지 않는다)
얻는 것
- 오류가 업무 결과로 나가기 전에 차단
- 책임 소재가 명확해짐
- 수정 내역이 C4 지표와 C6 환류의 원천 데이터가 됨
점검표
- AI 산출물이 확정 전 상태로 머무는 지점이 명시되어 있는가
- 검토자와 승인·수정·반려 선택지가 정해져 있는가
- 검토 결정과 수정 내역이 로그로 남는가
- 실증 기간의 검토·수정 건수가 기록되어 있는가
- 전건 검토에서 분기로 옮길 조건이 정해져 있는가
구조 — 참여 부품
- 검토 대기열 — AI 산출물을 확정 전 상태로 보관하고 검토자에게 배정
- 검토자(담당자 또는 이용자 본인) — 승인·수정·반려를 결정하는 최종 책임자
- F2 편집 가능한 출력 — 검토자가 산출물을 직접 고치는 화면
- C4 감사 로그·지표 — 검토 결정과 수정 내역을 적재해 수정률로 집계
변형
- 전건 검토형: 모든 AI 산출물을 담당자가 확인·확정
- 예외 검수형: 정상 건은 일괄 승인하고 저신뢰 항목만 개별 검수하는 검수 UI
- 파이프라인 내장 관문형: 멀티에이전트·다단계 파이프라인의 각 관문에 승인·보완·재작성 선택지를 둠
- 자기서비스형: 이용자 본인이 최종 확정자인 HITL. 실제 운영 중이면 C1 present(R16)
- 심의 게이트: 팩트체크·법무·윤리처럼 제3자 전문가가 수행하는 승인 게이트
참조 구현 예
- PAX 9dc1a7081bc869b1 — 광진구 — 담당자·팀장 최종 판단 책임 등 4대 관리 원칙 명문화
관련 부품
C2 다음 단계 — 전건 검토에서 위험도 분기로 승급 · C1.2 변형 — 제3자 전문가 심의 게이트 · F2 이용자 쪽 대응 — 검토자가 직접 고치는 화면 · F6 이용자 쪽 대응 — 에이전트 행동 실행 전 확인 · C4 기록처 — 검토 결정·수정 내역 · C6 후속 — 수정 내역이 환류의 입력
참고 자료
Google ADK HITL · Gulli ch.13 Human-in-the-Loop · Towards AI 동기·비동기 HITL · Chain of Responsibility
이 부품과 이어지는 가이드라인
C5 가드레일 필터 운영 컴포넌트
개인정보·환각·편향·형식 오류가 프롬프트나 산출물에 들어가지 못하게 시스템이 경계에서 걸러낸다. 비식별 전처리, 출처 검증, 구조적 출력 제약이 대표 변형이다.
PAX 사례 44건이 이 부품을 쓴다
맥락
외부 모델을 부르거나 대민에 답하는 모든 B 부품. 특히 E2 해외 상용 API, E5 S 이상 데이터, B3 지식 접지 상담, 유형 ① 대민 상담, ④ 기안, ⑥ 콘텐츠, ⑦ 대조·점검, ⑨ 인수인계, ⑬ 비식별·정제 도구.
맞서는 힘(긴장)
- 차단의 엄격함 vs 과잉 차단으로 인한 유용성 저하
- 비식별 강도 vs 문맥 보존
- 결정적 검증의 신뢰성 vs 구현 범위
해법
프롬프트가 기관 밖으로 나가기 전 PII를 마스킹하고 원복 키를 보관하는 비식별 전처리기를 둔다. 응답에는 인용을 원본(법령정보센터·통계표 등)과 대조하는 출처 검증기와, JSON 스키마·허용 목록 같은 구조적 출력 제약을 건다. 근거가 없으면 답하지 않거나 '확인 필요'로 표시한다. 차단 사유는 C4에 남기고, 이용자에게는 F1 출처와 F7 한계 안내로 보인다. 사람이 하는 팩트체크·법무 심의는 C5가 아니라 C1.2에 둔다.
이럴 때 쓴다
- E2 해외 상용 API로 행정망 본문이 외부로 나갈 때(필수)
- E5 S 이상 개인정보·민감정보를 다룰 때
- B3 대민 응답처럼 인용·수치의 정확성이 신뢰의 핵심일 때
- C5가 필수인 유형 ①④⑥⑦⑨⑪⑬
이럴 때는 쓰지 않는다
- E1 로컬 PC 완결로 데이터가 밖으로 나가지 않을 때 비식별은 불필요해질 수 있다(§5 매트릭스, 단 출처 검증은 별개)
- 사람이 수행하는 심의만 있을 때(C1.2로 태그)
- 적대적 입력 탐지가 목적일 때(S8)
얻는 것
- 개인정보 외부 유출 차단
- 환각 인용 감소
- 상용 API 사용 조건 충족
점검표
- 외부 전송 전 무엇이 걸러지는지 답할 수 있는가
- 인용이 원본과 대조되는가
- 근거 없을 때의 동작이 정해져 있는가
- 차단 사유가 기록되는가
구조 — 참여 부품
- 비식별 전처리기 — 외부 전송 전 PII 마스킹과 원복
- 출처 검증기 — 인용을 원본과 대조해 환각을 걸러냄
- 출력 제약 — 스키마·허용 목록·금칙어로 출력 형식 제한
- F1 출처 표시 — 검증된 출처를 이용자에게 보임
변형
- 로컬 비식별 전처리기: 외부 전송 전 PII 마스킹·원복(PAX에서 독립 부품으로 확인)
- 출처 검증기: 인용을 법령정보센터·KCI·CrossRef 원본과 대조
- 구조적 출력 제약·스키마 검증: JSON 스키마·허용 목록으로 출력 범위를 고정(v0.6 식별 신호 추가)
- 근거 재대조형 환각 검증: 추출값의 근거 문장을 원문에서 재대조해 '문서확인/AI추정/문서에없음'으로 재분류
참조 구현 예
- PAX Korean Stats MCP — KOSIS 통계 출처 자동 인용
관련 부품
F1 이용자 쪽 대응 — 검증된 출처 표시 · F7 이용자 쪽 대응 — 근거 없을 때 한계 안내 · A2.4 짝 — 민감정보 외부 유출 대응 · C1.2 구분 — 사람이 하는 심의 · S8 구분 — 적대적 입력 탐지 · S13 변형 후보 — 로컬 비식별 게이트
참고 자료
Fowler Guardrails · InfoQ Output Guardrails·Model Critic · Gulli ch.18 Guardrails · Heiland 규칙 기반 안전장치 · Proxy · Decorator
이 부품과 이어지는 가이드라인
S12 데이터 비도달 설계 보안 패턴
개인정보·원문을 단말(브라우저·PC·기기)에서 처리해 서버나 외부로 아예 보내지 않는다. v0.6 후보 부품으로, 카드 없이 R4 한 줄 정의와 §13 레지스트리로만 등재되어 있다.
PAX 사례 36건이 이 부품을 쓴다
맥락
PAX 자생 도구처럼 브라우저 단독 HTML·데스크톱 앱·로컬 모델로 업무 PC 안에서 완결되는 도구(E1 로컬 PC 완결). PAX 557건 태깅에서 S 부품 중 최다(36건)로 관측되었다. 카탈로그상 후보이며 위협 매트릭스·조립 템플릿에는 아직 들어가 있지 않다.
맞서는 힘(긴장)
- 유출 경로 제거 vs 중앙 로그·감사 기록 부재(C4 소실)
- 로컬 처리의 단순함 vs 단말 성능·로컬 모델 품질 한계
- 개인 도구의 자율성 vs 기관 전이 시 운영 통제 재장착
해법
개인정보·원문을 다루는 처리를 브라우저 내 로컬 처리·데스크톱 앱·로컬 모델(A2.2·A5)로 단말 안에서 끝낸다. 외부 호출이 꼭 필요하면 호출 범위를 한 기능(예: 음성 인식)으로 좁히고 키·원문·결과는 호스트 밖으로 내보내지 않는다. 무통신 여부를 이용자가 직접 확인할 수 있게(인터넷 차단 후 동작, 개발자 도구로 네트워크 확인) 안내한다. 기관으로 전이할 때는 사라진 C4 로그를 다시 붙인다. ^[inferred]
이럴 때 쓴다
- 개인정보가 담긴 문서를 마스킹·취합하는 개인·부서 도구
- 외부 전송이 허용되지 않는 데이터(E5 S 이상)를 다루는 소규모 도구
- 인터넷 차단 환경에서 쓰는 문서 도구
이럴 때는 쓰지 않는다
- 여러 사용자의 데이터를 모아야 하는 기관 서비스(중앙 저장이 과업 자체)
- 감사 로그(C4·S10)가 필수인 처분 관여(P3) 과제에서 기록 없이 로컬 완결만 주장할 때
- 단말 성능으로 필요한 모델 품질을 낼 수 없을 때
얻는 것
- 서버 쪽 유출 경로 제거
- 비식별 전처리(C5)가 불필요해짐
- 1인 개발 도구도 개인정보를 다룰 수 있음
점검표
- 원문·개인정보가 단말 밖으로 전송되는 경로가 없는가
- 외부 호출이 있다면 무엇이 나가는지 문서화되어 있는가
- 이용자가 무통신을 검증할 수 있는가
- 기관 전이 시 기록 재장착 계획이 있는가
구조 — 참여 부품
- 단말 처리기 — 브라우저·데스크톱 앱에서 파싱·마스킹·취합 수행
- A2.2 주권형 온프레미스 — 로컬 Ollama 등으로 추론을 단말에서 수행
- A5 엣지 추론 런타임 — 현장 기기에서 추론
- 이용자 검증 안내 — 무통신을 이용자가 직접 확인하도록 안내
변형
- 브라우저 단독형: 단독 HTML 한 파일 또는 브라우저 내 로컬 처리로 파일이 서버에 도달하지 않음
- 로컬 모델 오프라인형: 데스크톱 앱과 로컬 모델로 완전 오프라인 동작
- 부분 외부 호출형: 키·원문·결과는 호스트에 두고 특정 기능 호출만 범정부 공통기반으로 내보냄
참조 구현 예
- PAX 2f27c87e6f7c7614 — 단독 HTML 한 파일로 업무망에서 돌고 인터넷 차단·F12로 무통신을 이용자가 검증하게 한 로컬 완결 설계(§13)
- PAX b0808306ddb06317 — 키·관리자 토큰·음성·회의록은 호스트에 두고 음성 인식 호출만 범정부 공통기반으로(§13)
- PAX 73bb12bf461ceb4c — 브라우저 내 로컬 처리로 파일이 서버에 도달하지 않음을 도구 포털 단위로 명시(§13)
- PAX 9d115930495a1e65 — Tauri 데스크톱 앱과 로컬 Ollama·Gemma-4 E2B로 완전 오프라인 동작(§13)
- PAX 918bddd1b60d8a74 — 서버 전송 없이 PC 안에서만 개인정보를 마스킹·취합(§13)
- PAX 8d17b8feee1af705 — 브라우저 로컬 처리 문서 도구, 교육청 공식 배포로 전이 완료(§13)
관련 부품
S13 대안 — 전송이 필요하면 단말 비식별 후 전송 · C5 대체 — 데이터가 도달하지 않으면 비식별 필터가 불필요 · C4 트레이드오프 — 로컬 완결 시 사라지는 기록, 전이 시 재장착 · E1 환경 조건 — 로컬 PC 완결 · A2.2 끼울 자리 — 로컬 모델
참고 자료
카탈로그 §0 v0.6 개정표(S 부품 판정 전제) · 분류기준 R4
이 부품과 이어지는 가이드라인
D8.4 대조·점검 서비스 블록
법령·규정·서식·인용·근태·보안 기준과 대조해 확인할 대상을 먼저 골라 주는 내부 운영 블록이다. "최종 판단은 사람"이 가장 자주 붙는다.
PAX 사례 81건이 이 부품을 쓴다
맥락
기관 내부 문서·자료를 기준과 대조하는 업무. §7.3 유형 ⑦ 대조·점검 도우미(D8.4, P0~P1)와 유형 ⑩ 위험 예측·표적 선별(D6·D3·D8.4)의 무대. PAX 81건(주 부품 B0 73%, B1 12%), 감사·법무 25건·문서·기안 12건.
맞서는 힘(긴장)
- 점검 범위 확대 vs 오탐으로 인한 확인 부담
- 규칙 점검의 결정성 vs LLM 대조의 유연성
- 점검 대상이 점검기를 속이는 위협 vs 자동 점검
- 출처 대조의 엄격성 vs 원문 접근 권한(공공 API 인가)
해법
기준이 규칙으로 옮겨지면 B0 규칙 점검기로, 해석이 필요하면 B3 법령 접지로 대조한다. 기준 원문은 A3 공공 API(법령·판례)에서 가져와 C5 출처 검증으로 인용이 실제 원문과 일치하는지 확인한다. 결과는 판정이 아니라 "확인할 대상 목록"으로 내고, C1으로 "최종 판단은 사람"을 명시하며, F7 한계와 F1 출처를 붙인다. 점검 대상 문서·코드가 점검기를 속이지 못하게 대상별 격리(S6)나 고정 규칙 실행(S4)을 쓰고, 코드 점검이면 S9 샌드박스를 둔다. C9 평가 세트로 누락률을 잰다.
이럴 때 쓴다
- 문서·자료를 법령·규정·서식과 한 줄씩 대조하는 업무
- 인용·근거가 원문과 맞는지 확인해야 할 때
- 점검 대상이 많아 확인 대상을 먼저 좁혀야 할 때
이럴 때는 쓰지 않는다
- 국민 신청 건의 자격 판정이면 D3
- 현장 시설을 관측해 점검하면 D6
- 대조 없이 자료를 찾아 보여 주면 D8.1
얻는 것
- 대조 시간 단축과 누락 감소
- 사람 판단을 확인 대상에 집중
- 인용 오류의 사전 차단
점검표
- 결과가 판정이 아닌 확인 대상으로 표시되는가
- 근거 원문 출처가 연결되는가
- 누락률을 평가 세트로 재는가
- 점검 대상 속 문장이 점검 결과를 바꾸지 못하는가
구조 — 참여 부품
- 담당자 — 확인 대상을 검토해 최종 판단
- B0 결정적 도구(규칙 점검기) — 규칙화된 기준으로 대조
- B3 지식 접지 상담 — 법령·규정에 접지해 해석 대조
- A3 공공 API 제공자 — 법령·판례 원문 제공
- C5 가드레일·출처 검증 — 인용을 원문과 대조
- C1 검토 큐 — 최종 판단은 사람
변형
- 규칙 점검기형: B0로 서식·근태·보안 기준을 결정적으로 대조(Attendance Checker).
- 법령 접지 대조형: B3가 법령·규정에 접지해 해석 필요 항목을 대조(Legal Reviewer).
- 인용 검증형: 보고서·논문의 법령·판례·문헌 인용을 원본과 대조(paper-verify).
- 표적 선별형: B2 위험 예측이 점검 대상을 좁힘(유형 ⑩, B′9).
참조 구현 예
- paper-verify — 카탈로그 D8.4 카드·§7.3 유형 ⑦ 참조 구현: 인용을 원본과 대조
- 민원 답변 작성 스킬 팩 — 카탈로그 D8.4 카드 예
- Attendance Checker — §7.3 유형 ⑦ 참조 구현
- Legal Reviewer — §7.3 유형 ⑦ 참조 구현
관련 부품
C1 필수 통제 — 최종 판단은 사람 · C5 필수 통제 — 출처 검증 · A3 필수 기반 — 법령·기준 출처 · D3 대민 버전 — 자격·심사 · S6 필수 보안 — 대상별 격리
참고 자료
카탈로그 §7.3 유형 ⑦·⑩ · 카탈로그 §7.4 유형 ⑦ 위협 모델
D8.2 요약·추출 서비스 블록
공문·회의록·공람 문서에서 무엇을 언제까지 해야 하는지를 뽑아 카드·일정으로 만드는 내부 운영 블록이다. B1, B8 오버레이, B4가 전형 부품이다.
PAX 사례 24건이 이 부품을 쓴다
맥락
기관 내부 문서를 읽고 할 일·핵심을 뽑는 업무. §7.3 유형 ④ 내부 문서·기안 코파일럿(D8.3 초안 · D8.2 요약, P1)에 속한다. PAX 24건(주 부품 B1 38%, B3 21%).
맞서는 힘(긴장)
- 요약 속도 vs 누락·오독
- 표준 시스템 무수정 vs 연동 안정성(B8 오버레이는 정식 연동 시 소멸)
- 외부에서 온 공문·첨부(간접 인젝션) vs 자동 요약
- 등급 문서 요약의 외부 유출 vs 상용 모델 성능
해법
문서는 A10 어댑터로 첨부까지 읽고, B1이 요약·할 일·기한을 정형 카드로 뽑는다. 표준 시스템을 고칠 수 없으면 B8 레거시 오버레이(브라우저 사이드패널)로 화면 위에 붙인다. 문서가 PC·기관 밖으로 나가지 않아야 하면 A2 로컬 변형(A2.2)이나 A2.4 내부망 프록시를 쓴다. 외부에서 온 공문·첨부는 S3 컨텍스트 방화벽으로 지시가 섞이지 않게 하고, 요약에는 F1 원문 위치를 붙여 담당자가 C1로 확인한다. 기한 알림까지 보내면 D5와 함께 설계한다.
이럴 때 쓴다
- 공문·회의록을 읽고 할 일·기한을 손으로 옮길 때
- 표준 시스템을 고칠 수 없지만 요약을 붙이고 싶을 때
- 첨부까지 열어 봐야 핵심을 알 수 있을 때
이럴 때는 쓰지 않는다
- 요약을 넘어 보고서·공문 첫 판을 만들면 D8.3(우선순위가 더 높음)
- 문서를 담당자에게 배분하면 D8.6
- 문서를 찾는 것이 목적이면 D8.1
얻는 것
- 문서 읽기 시간 절감
- 기한 누락 방지
- 표준 시스템 무수정 도입
점검표
- 요약마다 원문 위치가 연결되는가
- 문서가 허용된 망 밖으로 나가지 않는가
- 외부 공문 속 지시가 요약·행동을 바꾸지 못하는가
- 요약 확인 절차가 서술되어 있는가
구조 — 참여 부품
- 담당자 — 요약 카드를 확인하고 할 일을 처리
- B8 레거시 오버레이 — 표준 시스템 화면 위 사이드패널
- A10 문서 형식 어댑터 — HWPX·PDF 첨부를 읽음
- B1 직접 프롬프트 코파일럿 — 요약·할 일·기한 추출
- A2 모델 서빙 계층 — 로컬·내부망 프록시 모델 제공
- C1 검토 큐 — 요약 확인 절차
변형
- 사이드패널 오버레이형: 표준 시스템 화면 위 브라우저 사이드바(B8, 온나라 sAIde).
- 문서 리소스 추출형: 문서에서 항목·자원을 정형으로 뽑음(B4).
- 할 일 카드형: 공문 → 할 일 카드(D-day). 알림을 보내면 D5와 함께.
참조 구현 예
- 온나라 sAIde — §9 조립 예시: B8 → A2 로컬 Ollama → A10 첨부 파싱 → 공문 요약 카드
- 범정부 내부망 AI 브라우저 사이드바 어시스턴트 — 카탈로그 D8.2 카드 예
- 문서 리소스 추출기 — 카탈로그 D8.2 카드 예(공공 AX 로컬 시리즈 5)
관련 부품
B8 전형 부품 — 레거시 오버레이 · D8.3 이웃 블록 — 같은 유형 ④ · D5 후속 블록 — 기한 알림 · S3 필수 보안 — 외부 공문 방화벽
참고 자료
카탈로그 §7.3 유형 ④ · 카탈로그 §7.4 유형 ④ 위협 모델 · 카탈로그 §6 B8 카드
이 부품과 이어지는 가이드라인
C2 위험도 라우터 운영 컴포넌트
건별 위험도·신뢰도를 매겨 저위험은 자동 처리, 중간은 검토 큐, 고위험은 숙련자에게 보내 사람의 검토를 필요한 곳에 집중시킨다.
PAX 사례 4건이 이 부품을 쓴다
맥락
C1 검토 큐가 이미 운영되고 수정률 실측이 쌓인 B 부품. 특히 E4 P2 이상이거나 D3 자격·심사, D6 점검·감시, ⑩ 위험 예측처럼 건수가 많고 위험 편차가 큰 업무.
맞서는 힘(긴장)
- 자동 처리율 vs 오류 비용
- 임계값의 보수성 vs 검토 인력 부담
- 분기 기준의 일관성 vs 기관·업무별 기준 차이
해법
건마다 위험도(업무 규칙상 위험 유형)와 신뢰도(모델 확신·정합도)를 산출하고, 버전이 붙은 분기 기준으로 자동 종결·검토 큐·숙련자 이관 중 하나로 보낸다. 사람 개입 조건(근거 없음·신뢰도 미달·안전·개인정보 등)은 명문화한다. 분기 결과와 자동 처리율은 C4에 적재하고, 이관 시 이용자에게는 F11로 진행 상태를 알린다. 임계값은 실측 오류율로 조정하고 조정 이력을 남긴다.
이럴 때 쓴다
- C1 전건 검토가 병목이고 수정률 실측이 있을 때
- E4 P2 이상(§7.1 필수)
- 유형 ② 접수·심사, ③ 현장 감시(등급 분기), ⑩ 위험 예측에서 등급 자동분류가 있을 때
이럴 때는 쓰지 않는다
- 실측 수정률이 없어 임계값 근거가 없을 때(먼저 C1·C4로 데이터를 쌓는다)
- 연속값 예측·참고용 순위만 내고 등급 분류가 없을 때(R10: 유형 ⑩에서 면제)
- P0 조회 도구처럼 자동 처리할 조치가 없을 때
얻는 것
- 사람의 검토를 고위험 건에 집중
- 자동화 범위를 실측 근거로 넓힐 수 있음
- 업무 순서가 실제로 바뀜(First 진입)
점검표
- 분기 기준과 사람 개입 조건이 문서로 명시되어 있는가
- 분기 기준에 버전이 있는가
- 자동 처리율·검토 비율 실측치가 있는가
- 고위험 건이 자동 종결되지 않음을 확인했는가
구조 — 참여 부품
- 위험도·신뢰도 산정기 — 업무 규칙과 모델 신호로 건별 점수 산출
- 분기 기준표 — 버전이 붙은 임계값·사람 개입 조건
- C1 검토 큐 — 중간 위험 건의 사람 확인
- 숙련자 — 고위험 건의 최종 판단
- C4 감사 로그·지표 — 경로별 건수·자동 처리율 기록
변형
- 등급 자동분류형: 위험 등급(예: 5단계)으로 자동 종결·검수·중점 검수를 분기
- 신뢰도 임계형: 필드별·건별 신뢰도 점수가 임계값 미만이면 사람 검토
- 조치 위험도형: 복구 가능한 저위험 조치는 자동, 차단·신고·설비 중단 같은 고위험 조치는 운영자 승인
관련 부품
C1 선행 — 전건 검토의 실측이 임계값 근거 · F11 이용자 쪽 대응 — 사람 이관 시 진행 상태·핸드오프 안내 · C4 기록처 — 경로별 건수·자동 처리율 · C8 짝 — 고위험 도구는 사람 승인으로 보냄 · B′2 구분 — 유형 라우팅 제어 흐름
참고 자료
Google ADK Coordinator · Gulli Routing·Prioritization · API Gateway · Triage
이 부품과 이어지는 가이드라인
C3 상태 머신·롤백 운영 컴포넌트
건이 끝났음을 시스템이 알게 하고, 잘못 처리된 건을 되돌리는 경로(롤백·재처리·이의제기)를 제공한다. 여러 시스템에 걸친 처리는 보상 트랜잭션으로 되돌린다.
PAX 사례 6건이 이 부품을 쓴다
맥락
E4 P2 이상으로 업무 시스템에 쓰는 B 부품, 접수→처리→승인/거부→통지→종료의 상태가 있는 D2·D3·D5 서비스, 여러 시스템에 걸쳐 쓰는 B6·B8.
맞서는 힘(긴장)
- 되돌림 가능성 vs 구현 복잡도(여러 시스템에 걸친 보상 처리)
- 상태 정의의 엄격함 vs 현장 업무의 예외
- 이의제기 개방 vs 처리 부담
해법
건의 상태(접수→처리→승인/거부→통지→종료)와 전이 조건을 정의하고 시스템이 현재 상태를 기록한다. 잘못 처리된 건은 롤백·재처리 경로로 이전 상태로 되돌리고, 여러 시스템에 걸친 처리는 단계마다 보상 동작을 정의해 Saga로 되돌린다. 이용자에게는 이의제기 절차와 F8 되돌리기를 제공한다. 상태 전이·롤백·이의제기 이력은 C4에 남긴다.
이럴 때 쓴다
- E4 P2 이상으로 업무 시스템·운영 DB에 쓰는 경우(필수)
- 유형 ② 접수·심사처럼 건의 상태가 있는 서비스
- B8 레거시 오버레이처럼 DOM 조작에 원자성이 없는 경우
- B4 인식 파이프라인의 오인식 되돌림
이럴 때는 쓰지 않는다
- P0 읽기 전용 도구로 되돌릴 상태가 없을 때
- 산출물이 업무 시스템 밖 초안에 머무는 P1 코파일럿(F2 편집·F8 이력으로 충분)
얻는 것
- 누락·중복 건 방지
- 잘못된 처리의 신속한 복구
- 시민 이의제기 권리 보장
점검표
- 건의 상태 코드와 종료 조건이 정의되어 있는가
- 쓰기 단계마다 되돌림 방법이 있는가
- 이의제기 경로가 이용자에게 열려 있는가
- 롤백·재처리 이력이 기록되는가
구조 — 참여 부품
- 상태 정의·전이 규칙 — 건의 상태 코드와 허용 전이
- 보상 동작 — 단계별 되돌림 처리(Saga)
- 이의제기 창구 — 이용자·담당자가 재처리를 요청하는 경로
- C4 감사 로그·지표 — 전이·롤백·이의제기 이력 기록
변형
- 종료 추적: 상태 코드로 건의 종결을 시스템이 확인
- 롤백·재처리: 오인식·오분류 건을 이전 상태로 되돌려 다시 처리
- 이의제기 절차: 이용자가 결과에 이의를 제기하는 공식 경로
- 보상 트랜잭션(Saga): 여러 시스템에 걸친 처리를 단계별 보상 동작으로 되돌림
- 원복: 취합·변환 자동화에서 변환 전 원본으로 되돌림(유형 ⑧)
참조 구현 예
- PAX 시장실 결재 대기 현황판 — 퇴실 키오스크로 건을 종료 처리하는 상태 머신. 557건 태깅에서 C3가 운영 중(present)으로 확인된 2건 가운데 하나
- PAX 내편안전(서울 중구 중대재해·산업안전 통합관리시스템) — 점검·사후조치 건의 상태를 끝까지 추적. C3 운영 중(present) 태깅
관련 부품
F8 이용자 쪽 대응 — 대화 이력·되돌리기 · C4 기록처 — 전이·롤백 이력 · B′8 짝 — 계획-실행 원형의 단계 추적 · C8 짝 — 되돌릴 수 없는 조치는 권한 경계로 먼저 막음 · C7 구분 — 시스템 경로 전환
참고 자료
Gulli ch.12 Exception Handling·Recovery · Microservice Saga · Memento · Command
이 부품과 이어지는 가이드라인
C4 감사 로그·지표 운영 컴포넌트
처리 건마다 흔적을 적재하고 수정률·처리시간·자동처리율·가용성을 집계해, '지난달 수정률'을 숫자로 말할 수 있게 한다.
PAX 사례 16건이 이 부품을 쓴다
맥락
AI 산출물이 업무 결과에 영향을 주는 모든 B 부품. 특히 C2·C6·C7을 붙이려는 서비스, E4 P2 이상, 기관 공식으로 전이하려는 자생 도구.
맞서는 힘(긴장)
- 기록의 완전성 vs 저장·개인정보 부담
- 지표의 단순성 vs 업무 실상 반영
- 로그 적재 vs 실제로 지표를 보고 조치하는 조직 습관
해법
모든 부품의 이벤트(요청·응답·검토 결정·수정·전환·오류)를 건 단위로 적재한다. 로그 집계, 성능 지표(수정률·처리시간·자동처리율), 분산 추적(에이전트 호출 연쇄), 헬스체크(도구·모델 가용성)의 네 하위 항목으로 나눠 구현한다. 지표는 대시보드나 정기 보고로 실제로 보고, C2·C6·C7이 이 지표를 읽어 판단하게 한다. 개인정보가 들어가는 로그는 E5 등급에 맞춰 보관 범위를 정한다.
이럴 때 쓴다
- C2·C6·C7 중 하나라도 붙이려 할 때(이들이 C4를 읽는다)
- E4 P2 이상
- 유형 ② 접수·심사, ③ 현장 감시, ⑤b 데이터 에이전트(호출 추적), ⑧ 취합·변환의 기관 전이
- 자생 도구가 부서 공유·기관 공식으로 전이하려 할 때
이럴 때는 쓰지 않는다
- E1 로컬 PC 완결 개인 도구로 개인 사용에 머물 때(단, 기관 전이 시 재장착 — §5 매트릭스)
얻는 것
- 성과를 숫자로 말할 수 있음
- C2·C6·C7의 판단 근거
- 사고 시 원인 추적
점검표
- 건별 로그가 적재되는가
- 수정률·처리시간 등 지표가 정의되어 있는가
- 실증 기간 지표가 실제로 집계되었는가
- C2·C6·C7이 읽는 지표가 C4에서 나오는가
구조 — 참여 부품
- 로그 집계 — 건별 이벤트 적재
- 성능 지표 — 수정률·처리시간·자동처리율 산출
- 분산 추적 — 에이전트·도구 호출 연쇄 추적
- 헬스체크 — 도구·모델 가용성 감시(C7의 입력)
- 감사 대시보드 — 지표를 사람이 보고 조치하는 화면
변형
- 로그 집계: 건별 처리 이력 적재
- 성능 지표: 수정률·처리시간·자동처리율·이용량 집계
- 분산 추적: 에이전트 호출 연쇄를 추적해 '왜 그렇게 답했는지' 복원
- 헬스체크: 도구·모델 가용성 감시
참조 구현 예
- PAX 55f606c2835337ba — 전북특별자치도 — 운영 3개월 누적 이용 10만 건·이용자 3천 명 지표 공개
- PAX 망분리 환경용 로컬 AI 에이전트 — 감사 대시보드(§9 조립 예시)
관련 부품
C2 이용처 — 자동처리율·임계값 조정 · C6 이용처 — 수정·이의·오탐 기록이 환류 입력 · C7 이용처 — 헬스체크가 전환 신호 · S10 구분 — 재현 가능한 순서 기록 · C9 짝 — 배포 전 평가와 운영 지표 대조
참고 자료
Gulli ch.19 Evaluation & Monitoring · Microservice 관측 4종(Log Aggregation · Metrics · Tracing · Health Check)
이 부품과 이어지는 가이드라인
F2 편집 가능한 출력 상호작용 패턴
생성물을 이용자가 직접 고쳐 확정하게 한다. 통제감의 실체이며, 수정 내역은 C4 지표와 C6 환류의 입력이 된다.
PAX 사례 50건이 이 부품을 쓴다
맥락
B1 코파일럿(필수 면), B7 콘텐츠 생성기, B4 인식 결과 확정. 유형 ② 접수·심사, ④ 기안 코파일럿, ⑫ 개발 코파일럿, 5a-agg(R19), 2b 시민 제출 준비(R20).
맞서는 힘(긴장)
- 편집 자유도 vs 원본 추적(무엇을 고쳤는지)
- 편집 가능한 공공 서식(HWPX 등) 출력 vs 구현 비용
해법
생성물을 이용자가 바로 고칠 수 있는 형식(편집 화면, HWPX·PPTX 등 네이티브 파일)으로 내고, 이용자가 고친 뒤 확정하게 한다. AI 원안과 수정본의 차이를 기록해 C4 수정률과 C6 환류 입력으로 쓴다. 문서 형식 출력은 A10 어댑터가 받친다.
이럴 때 쓴다
- B1 코파일럿 전반(필수 면)
- 대민 서비스 D1~D7(F1·F2·F7이 최소 요건)
- 유형 ②④⑫, 5a-agg, 2b처럼 F2가 필수인 유형
이럴 때는 쓰지 않는다
- 이용자가 결과를 수정하면 안 되는 판정 결과(판정은 C1 확정 절차로 다룸)
- 조회 결과만 보여 주는 P0 도구
얻는 것
- 이용자 통제감
- 수정 내역이 품질 지표·환류 데이터가 됨
- 공공 서식 재작업 감소
점검표
- 산출물을 이용자가 직접 고칠 수 있는가
- 원안과 수정본 차이가 기록되는가
- 공공 서식 형식으로 편집 가능한가
구조 — 참여 부품
- 편집 화면·네이티브 파일 — 이용자가 직접 고치는 면
- A10 문서 형식 어댑터 — HWPX·PPTX 등 편집 가능한 형식 출력
- C4 감사 로그·지표 — 수정 내역 기록
변형
- 화면 내 편집: 생성 결과를 화면에서 바로 수정·확정
- 네이티브 파일 출력: PPTX·HWPX·피그마 등 이어서 고칠 수 있는 형식으로 산출
참조 구현 예
- PAX cb0abc29707cc710 — PPTX 네이티브·피그마(로컬 MCP)·HTML 세 형식으로 수정 가능한 산출물 출력
관련 부품
C1 짝 — 확정 절차 · B1 끼울 자리 — 코파일럿의 필수 면 · A10 의존 — 편집 가능한 문서 형식 출력 · C6 후속 — 수정 내역이 환류 입력
참고 자료
InfoQ UX Editable Output
이 부품과 이어지는 가이드라인
X13 도구 출력이 지시가 되는 에이전트 안티패턴
검색 결과·첨부·API 응답을 읽은 모델이 그 안의 문장을 새 명령으로 받아 도구를 부르는 구조를, 탐지 필터 하나로 지키려는 함정이다.
맥락
E4가 P2 이상(시스템 쓰기·처분 보조)이면서 민원 입력·제출 서류·웹 문서·타 기관 API 응답 같은 신뢰 불가 입력을 읽는 에이전트. 특히 B6·5b 데이터 에이전트.
맞서는 힘(긴장)
- 범용 에이전트의 유연성 vs 신뢰 불가 입력 뒤의 행동 제약
- 단일 LLM 구조의 단순함 vs 격리·계획 고정의 설계 비용
- 탐지 필터의 손쉬움 vs 증명 가능한 보증
해법
과제의 AI가 읽는 입력 중 기관 밖에서 작성된 것을 untrusted_inputs로 나열하고, §4.2 신뢰 불가 입력 규칙대로 S4 행동 선택기(미리 정한 행동 중 선택만, 결과가 LLM으로 돌아가지 않음), S5 계획 후 실행(외부 데이터를 읽기 전에 도구 호출 계획을 고정), S6 격리 LLM(도구 있는 LLM은 외부 데이터를 읽지 않고, 읽는 LLM은 도구가 없음) 중 하나를 갖춘다. S3 컨텍스트 방화벽과 S8 독립 검증기는 보조로 붙이되 S8만으로는 규칙을 충족하지 못한다. C8 승인 게이트도 신뢰 불가 입력 규칙의 대체 통제로 인정되지 않는다(R6). 그 전 단계에서는 E4를 P0~P1 읽기·산출물 범위에 묶어 두는 것이 곧 보안이다.
이럴 때 쓴다
- E4가 P2 이상이고 untrusted_inputs가 비어 있지 않은데 S4·S5·S6이 모두 없다(신뢰 불가 입력 규칙 위반)
- 외부 문서를 읽는 LLM이 같은 컨텍스트에서 쓰기 도구를 호출할 수 있다
- 인젝션 대책이 탐지 필터·프롬프트 경고문뿐이다
- 읽은 텍스트 중 어떤 것이 어떤 도구를 부를 수 있는지 답하지 못한다
이럴 때는 쓰지 않는다
- E4가 P0~P1로 읽기·산출물 생성에만 묶여 도구 호출·시스템 쓰기가 없는 경우(S4·S5·S6 판정 전제 불충족, R6)
- S4·S5·S6 중 하나가 구조적으로 갖춰진 경우(보안 목적 서술이 없어도 구조가 일치하면 충족)
- AI가 읽는 입력이 모두 기관 내부에서 작성된 경우
얻는 것
- 단일 LLM 범용 에이전트로 구조가 단순하다
- 새 입력·새 도구를 자유롭게 붙인다
점검표
- untrusted_inputs가 나열되어 있는가
- 신뢰 불가 입력을 읽은 LLM이 쓰기 도구를 직접 부를 수 없는가
- S4·S5·S6 중 하나가 구조로 구현되어 있는가
- S8 탐지를 유일한 방어로 두지 않았는가
구조 — 참여 부품
- S4 행동 선택기 — LLM이 정해진 행동 중 선택만 하게 제약
- S5 계획 후 실행·코드 후 실행 — 외부 데이터를 읽기 전에 도구 계획 고정
- S6 격리 LLM·맵리듀스 — 읽는 LLM과 도구 있는 LLM을 분리
- S8 독립 검증기·이중 심판 — 보조 탐지. 단독으로는 보증이 아님
변형
- 문서 속 지시: 첨부·제출 서류 안의 문장대로 에이전트가 도구를 호출
- API 응답 오염: 타 기관 API·웹 검색 결과에 섞인 지시가 후속 행동을 바꿈
- 탐지 단독 방어: 인젝션 탐지 필터(S8) 하나만 두고 구조적 제약이 없음
관련 부품
S6 대체 — 읽는 LLM과 도구 있는 LLM 격리 · S5 대체 — 외부 데이터 읽기 전 계획 고정 · S4 대체 — 정해진 행동 중 선택만 · S3 보조 — 신뢰 구역 분리 표기 · S8 보조 — 탐지(단독으로는 보증 아님) · S10 기록처 — 사고 재현
참고 자료
Beurer-Kellner 외(2025) 지도 원칙 '신뢰 불가 입력을 읽은 뒤에는 그 입력이 결과적 행동을 촉발할 수 없도록 제약' · Beurer-Kellner #1 Action-Selector, #2·#5 Plan-Then-Execute, #3·#4 Dual LLM
이 부품과 이어지는 가이드라인
X16 기준을 노출하는 위조 탐지 안티패턴
진위 판정 근거를 이용자 화면에 그대로 보여 줘 위조범이 탐지 기준을 역추적하게 만드는 함정이다. F9 근거 표시가 적대적 접점에서는 취약점이 된다.
맥락
D3 자격·심사, D2 접수·제출에서 제출 서류·이미지의 진위를 판정하는 B4 인식 파이프라인·B2 분류기. 이용자 중 일부가 탐지를 회피하려는 동기를 가진 경우.
맞서는 힘(긴장)
- 설명 가능성·투명성 vs 적대적 이용자의 기준 역추적
- 이용자 자기확인 편의 vs 판정 기준 보호
- 행정 절차상 사유 고지 vs 탐지 성능 유지
해법
F9 판정 근거·기여도 표시를 역할별로 나눈다. 이용자 화면에는 '정상/위조의심'만 노출하고, 의심 부위·사유 코드·기여도 같은 세부 근거는 관리자 화면에만 보여 준다(근거 은닉, anti-oracle — 카탈로그가 S 계층 후보로 둔 반대편 부품). 관리자 화면 접근은 C8 권한 경계로 제한하고, '위조의심' 건은 C1 검토 큐에서 담당자가 세부 근거를 보고 확정한다. 이용자에게는 F7 한계·신뢰도 안내로 추가 확인 절차를 알리고, 반복 제출·판정 이력은 C4·S10에 남겨 역추적 시도를 탐지할 근거로 삼는다.
이럴 때 쓴다
- 진위·위조 판정 결과와 함께 세부 근거(의심 부위·사유 코드·점수)가 제출자 화면에 표시된다
- 제출자가 근거를 보고 수정해 반복 재제출할 수 있다
- 이용자 중 탐지 회피 동기를 가진 적대자가 있을 수 있다
- 관리자와 이용자의 판정 화면이 같다
이럴 때는 쓰지 않는다
- 내부 담당자만 쓰는 판독 도구로 제출자에게 결과가 노출되지 않는 경우
- 이용자가 적대자가 아닌 접점(예: 내부 품질 점검, 자기 서류 오류 안내)에서 F9로 근거를 보여 주는 경우 — 이때 F9는 정상 부품이다
- 이용자에게 '정상/위조의심'만 보여 주고 세부 근거는 관리자 화면에 둔 경우
얻는 것
- 투명성·설명 가능성 요구를 쉽게 충족한다
- 선의의 이용자가 오류를 스스로 고칠 수 있다
점검표
- 제출자 화면에 세부 판정 근거가 노출되지 않는가
- 세부 근거가 관리자 화면에서만 보이고 접근이 제한되는가
- 위조의심 건을 사람이 확정하는가
- 반복 재제출 이력이 기록되는가
구조 — 참여 부품
- F9 판정 근거·기여도 표시 — 적대적 접점에서 역할별로 나눠야 할 설명
- 근거 은닉(anti-oracle, S 후보) — 이용자에게는 판정만, 세부 근거는 관리자에게만
- C1 검토 큐 — 위조의심 건을 담당자가 세부 근거로 확정
- C8 권한 경계 — 관리자 화면 접근 제한
변형
- 의심 부위 표시형: 이용자 화면에 BBox·히트맵으로 위조 의심 부위를 표시
- 사유 코드 노출형: 반려 사유 코드·점수를 이용자에게 그대로 반환
- 무제한 재제출형: 근거를 보고 고쳐 무제한 재제출할 수 있어 기준 탐색이 가능
관련 부품
F9 교정 대상 — 적대적 접점에서 관리자 화면 전용으로 · C8 끼울 자리 — 관리자 화면 접근 제한 · C1 짝 — 위조의심 건의 사람 확정 · F7 이용자 쪽 대응 — 판정만 알리고 다음 절차 안내 · D3 발생 접점 — 자격·심사
참고 자료
카탈로그 §6 F9 카드(적대적 D3에서는 관리자에게만 노출)
실무 도입 카드
필요한 것
실행환경: 서버 구축 · 망 요건: 폐쇄망 가능 · 라이선스: 명시 없음
첫 3단계
① 원문·저장소에서 실체 확인 → ② 소규모 업무로 시험 → ③ 결과를 동료와 교차 검증
주의사항
실사용 피드백이 미확인입니다 — 도입 전 소규모 검증을 권합니다 · 성과 수치는 출처가 확인된 것만 신뢰하세요
전이 절차(보안검토→품의→배포)는 전이 플레이북을 참고하세요.