KID — 공공문서 개인정보 자동 검출·마스킹 데스크톱 도구 화면

공직 현장(개인 개발) · 공직 개인 · 감사·법무 · 2026-08-18 게시

기록물관리 전문요원(기록연구사)이 만든 개인정보 비식별화 도구. HWP·워드·엑셀·PDF·이미지에서 개인정보 15종을 자동 검출하면 검수자가 공개/가명/비공개를 판단해 마스킹된 PDF 사본을 만든다. 외부 서버 없이 PC 안에서 모든 처리가 끝나는 완전 오프라인 설계로, 정보공개·기록물 업무의 비식별화 부담을 줄인다. AGPL 오픈소스.

상세 정보

사례 성격
개인 개발
출처 채널
오픈채팅
수집일
2026-08-21
태그
#개인정보 #비식별화 #기록물 #오프라인
실행 환경
설치 필요
망 요건
폐쇄망 가능
AI 모델
없음(비LLM)
라이선스
AGPL-3.0 (확인 2026-08-21)
저장소
★ 3 · 유지보수 정체
링크 점검
정상 (2026-11-02)

개발자

문찬일

공직(소속 미상) · 사례 기준

사례 1건 · 최고 AI-Enabled

공공 GitLab @chanili2

아카이브에 등재된 다른 프로젝트가 아직 없습니다.

GitHub·공공 GitLab 공개 프로필 기준 — 공공AX 챔피언 디렉토리와 같은 자료입니다.

4축 평가

AX 단계AI-Enabled
업무 범위S1 Single tool
업무 완결성C1 결과 제공
권한(P축)P1 산출물 생성(잠정)
위험도R1 낮음
인간 통제H2 Human-in-the-loop
증거 등급E1 코드·도구 확인
신뢰도중간

개인정보 15종 자동 검출 후 검수자가 공개/가명/비공개를 판단하는 명시적 휴먼인더루프 설계(H2) — 완전 오프라인 처리로 비식별화 도구 자신이 개인정보를 유출하지 않게 한 구조가 돋보인다. 기록연구사라는 전문 직렬의 도메인 지식이 반영된 사례.

디자인 패턴 분석

『모두의 공공AX 디자인 패턴』 카탈로그 v0.7.1 기준 — 사례를 기관이 함께 쓰는 AI 부품과 그 조립으로 읽은 결과입니다. · 패턴 성좌에서 전체 보기 ↗

업무 패턴 B4 인식 파이프라인 변형: OCR·서류(개인정보 15종 검출)

서비스 유형 8 취합·변환 자동화 · 전이 단계 개인 사용 · 판정 카탈로그 v0.6

환경 축 배포:로컬 PC 네트워크:폐쇄망 가능 모델:없음(비LLM) 런타임:설치 필요 권한:P1 산출물 생성

이 사례의 패턴 구성도 — 층별 부품과 배선서비스 블록업무 컴포넌트공통 서비스운영보안상호작용D8.8D8.8 보호·정제B4 · 주 패턴B4 인식 파이프라인A2.5A2.5 모델 서빙 ·…A10A10 문서 형식 어댑터A7A7 자체 제작 환경C1C1 검토 큐C5C5 가드레일 필터S12S12 데이터 비도달 …F2F2 편집 가능한 출력F9F9 판정 근거·기여도…
패턴 구성도 — 층별 부품과 배선. 실선은 확인된 부품, 점선은 계획, 회색 점선은 보완이 필요한 필수 부품. 부품을 누르면 아래 상세로 간다.
공통 서비스(A)
A2.5 모델 서빙 · 비LLM 학습 모델 A10 문서 형식 어댑터 A7 자체 제작 환경
운영(C)
C1 검토 큐 C5 가드레일 필터
보안(S)
S12 데이터 비도달 설계
신뢰할 수 없는 입력
기록물관리 업무에서 업로드되는 공공문서(HWP·워드·엑셀·PDF·이미지)
상호작용(F)
F2 편집 가능한 출력 F9 판정 근거·기여도 표시
서비스 블록(D)
D8.8 보호·정제
부품 배선
A10 → B4 · A2.5 → B4 · B4 → C1 · B4 → C5 · B4 → S12 · C1 → D8.8

판정 근거

기록연구사가 만든 개인정보 비식별화 도구로, HWP·워드·엑셀·PDF·이미지에서 개인정보 15종을 자동 검출(B4 인식 파이프라인)한 뒤 검수자가 공개/가명/비공개를 판단해 마스킹 PDF를 만든다. 추출 결과가 사람 확정 없이 곧바로 판정으로 흐르지 않고 검수자가 최종 확정하므로 C1 present, 마스킹 필터 구현이 확인돼 C5 present다. 외부 서버 없이 PC 안에서 모든 처리가 끝나는 설계가 S12 데이터 비도달 설계에 정확히 부합한다. AGPL 오픈소스로 완전 오프라인 동작을 강조한다.

구현 가이드

주 패턴 B4 인식 파이프라인을 구현할 때

구현 단계

  1. 입력 종류와 추출할 필드, 필드별 기준정보(대장·코드표)를 정의한다.
  2. 인식 단계는 정형 출력(JSON 스키마)만 내게 하고, 판정·산수는 규칙 단계로 분리한다(B′9).
  3. 신뢰도 임계와 보류 조건을 정해 C1 검토 큐로 보내고, C3로 재처리 경로를 둔다.
  4. E5 민감 서류면 행정망 + 로컬 모델로 두고, 제출 서류를 읽는 P2 이상 구성은 S6 문서별 격리를 둔다.
  5. C9 시험 세트로 필드별 정확도를 재고 C4로 보류율·수정률을 집계한다.

점검표

환경 조건

E5 민감 서류면 E1 행정망 + A2 로컬(Whisper 로컬 등). E4는 P1~P2이며, 건별 검수 없이 운영 DB로 직행하면 P2, 승인·반려에 직결되면 P3다. 제출 서류는 신뢰 불가 입력이므로 P2 이상이면 S6 문서별 격리 + 규칙 집계가 필수다(§7.4 유형 ②).

주의할 점

기본 배선 예

A10 → B4 (B′1 → B′9) → C1 → D3 · B4 → C3 (재처리)

피해야 할 안티패턴

관련 가이드라인

이 사례가 쓰는 부품과 이어지는 공공 AX 안내서·지침이다 (부록 E 공공 AX 가이드라인 문서 해설 기준, 겹치는 부품이 많은 순).

같은 주 패턴(B4)을 쓰는 다른 사례

같은 업무 패턴으로 조립된 사례를 서비스 유형이 같은 것부터 모았다 외 14건. 구현할 때 비교해 볼 수 있다.

이 사례에 쓰인 패턴

B4 인식 파이프라인 업무 컴포넌트

서류·음성·영상·도면 같은 비정형 입력을 인식 → 구조화 → 판정으로 연쇄 처리해 사람이 옮겨 적던 단계를 없앤다.

PAX 사례 34건이 이 부품을 쓴다

맥락

접수·심사(유형 ②), 서류 진위확인, 민원 통화 정리, 실시간 자막, 원격탐사·도면 판독처럼 비정형 입력이 업무의 출발점인 경우에 쓴다. 민감 서류가 많아 행정망·로컬 모델 조건이 자주 붙는다.

맞서는 힘(긴장)

  • 자동 연결의 효율 vs 오인식이 판정으로 번지는 위험
  • 인식 정확도 vs 로컬 모델 제약(E1·E5)
  • 단계 분리의 추적 용이성 vs 단계 간 지연

해법

인식(OCR·STT·비전·VLM)은 정형 필드만 내게 하고, 기준정보와의 대조·요건 판정은 규칙 단계가 맡는다(B′1 + B′9). 저신뢰·불일치 건은 보류해 C1 검토 큐로 보내고, 오인식은 C3 상태 머신으로 되돌린다. 공공 문서 형식은 A10으로 받으며 OCR·STT 엔진은 A2 공통 후보를 쓴다. 제출 서류처럼 신뢰 불가 입력을 읽고 시스템 쓰기가 있으면 문서별 격리(S6)로 서류 속 지시가 판정을 바꾸지 못하게 한다.

이럴 때 쓴다

  • 비정형 입력을 사람이 옮겨 적는 단계가 업무의 병목일 때
  • 추출값이 규칙 판정·다음 처리로 이어질 수 있을 때
  • 유형 ② 접수·심사 자동화의 기본 조립일 때

이럴 때는 쓰지 않는다

  • 추출 결과가 초안으로 멈추고 사람이 확정할 때(B1)
  • 추출 뒤 질의응답이 핵심 산출물일 때(B3)
  • 상시 관측 스트림 감시가 핵심일 때(B5)

얻는 것

  • 옮겨 적기 단계 제거
  • 판정 기준이 규칙으로 남아 설명 가능
  • OCR·STT 엔진을 범정부 공통으로 공유 가능

점검표

  • 인식과 판정이 서로 다른 단계로 분리되어 있는가
  • 저신뢰 건이 보류되어 사람에게 가는가
  • 오인식 건을 되돌리는 경로가 있는가(C3)
  • 필드별 정확도를 잰 시험 세트가 있는가

구조 — 참여 부품

  • A10 문서 형식 어댑터 — PDF·HWPX·이미지 입력
  • A2 모델 서빙 계층 — OCR·STT·VLM 엔진
  • 규칙 대조기 — 기준정보와 대조하고 요건을 판정
  • C1 검토 큐 — 저신뢰·불일치 건 확인
  • C3 상태 머신·롤백 — 오인식 되돌림·재처리

변형

  • OCR·서류: 제출 서류 필드 추출·요건 검토
  • STT·음성: 통화·회의 음성의 텍스트화와 키워드 추출
  • 비전 판독·정량화: 결함·손상 판독과 정량화(R5)
  • VLM 문서이해(단일 모델): VLM 하나로 문서 이해·추출(R5)
  • 배치 원격탐사·시계열 차분: 항공·위성 영상의 회차 간 변화 판독(R5)
  • 통역(STT→MT→TTS): 음성 인식·번역·합성 연쇄(R5)
  • CAD·BIM 도면 파싱: 도면에서 구조 정보 추출(R5)

참조 구현 예

  • PAX 경기도의회 실시간 자막 — 개인 개발 → 기관 도메인 정식 개통(카드 참조 구현)

관련 부품

B′1 기본 배선 — 순차 파이프라인 · B′9 배선 — 인식은 추출만, 판정은 규칙 · C3 First 관문 — 오인식 되돌림 · S6 보안 짝 — 제출 서류별 격리 처리 · F9 이용자 쪽 대응 — 판정 근거 표시(위조 탐지는 관리자에게만)

참고 자료

Heiland Workflow Pipeline·AI Pipeline·Multi-layer · GoF Chain of Responsibility

이 부품과 이어지는 가이드라인

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

A2.5 모델 서빙 · 비LLM 학습 모델 공통 서비스

XGBoost·LightGBM·YOLO·U-Net처럼 기관이 직접 학습한 비LLM 예측·비전 모델을 서빙하고 재학습·버전 롤백이 붙을 자리를 제공한다.

PAX 사례 15건이 이 부품을 쓴다

맥락

B2 예측·추천기, B5 현장 감지·경보, B4 비전 판독의 추론 엔진이 된다. 서비스 유형 5a·10에서는 필수이고(R7, R10 'A2.5 또는 결정론 점수 엔진'), 유형 3에서는 A5·A2.2와 함께 셋 중 하나를 고른다. 학습 기준선(A1)이 먼저 있어야 한다.

맞서는 힘(긴장)

  • 모델 성능 vs 설명 가능성(F9)
  • 배포 후 데이터 드리프트 vs 재학습 비용
  • 모델 교체 속도 vs 이전 안정판으로의 복귀 보장

해법

학습한 모델을 서빙 계층에 버전과 함께 올려 업무 부품이 점수·등급·탐지 결과만 받게 한다. 서빙 계층은 모델 버전과 드리프트 지표를 함께 내보내 C4에 기록하고, 재학습 파이프라인(C6)이 새 버전을 올리는 자리와 이전 안정판으로 되돌리는 자리(모델 버전 롤백, C7 변형)를 둔다. 재학습 버전은 C9 독립 시험세트에서 이전 버전을 넘을 때만 배포한다. 판정 근거는 F9로 이용자에게 보인다.

이럴 때 쓴다

  • 기관이 자체 데이터로 비LLM 모델을 학습해 운영할 때
  • 유형 5a-brief가 아닌 분석·위험 예측(유형 10)·현장 감시(유형 3) 조립
  • 재학습과 버전 롤백이 필요한 예측·탐지 서비스

이럴 때는 쓰지 않는다

  • LLM을 튜닝했으면 A2.3
  • 벤더 장비·솔루션에 내장돼 기관이 모델을 못 바꾸면 A2.6
  • 학습 없는 규칙 점수 엔진이면 B0(R10 대안)

얻는 것

  • 비LLM 과제가 A2 계층에 정식 자리를 가짐
  • 재학습·버전 롤백으로 운영 개선
  • C6·C7을 끼울 자리 확보

점검표

  • 모델 버전과 학습 데이터 버전이 짝지어 기록되는가
  • 독립 시험세트가 학습 데이터와 분리되어 있는가
  • 이전 안정판으로 되돌릴 수 있는가
  • 재학습 버전 배포 기준이 수치로 있는가

구조 — 참여 부품

  • A1 데이터 자산 서비스 — 학습·재학습 기준선
  • A2 서빙 계층 — 모델 버전별 노출과 롤백
  • C6 환류 파이프라인 — 재학습 주기·트리거
  • C9 평가 세트 — 재학습 버전 배포 게이트
  • F9 판정 근거·기여도 표시 — SHAP·BBox 등 근거를 이용자에게 표시

변형

  • 정형 예측기: XGBoost·LightGBM 등으로 위험 순위·등급·수요를 예측한다(B2와 짝).
  • 비전 탐지·분할: YOLO·U-Net 등으로 영상·이미지를 탐지·분할한다(B5·B4와 짝).
  • 경량 온디바이스 모델: 소형 자체 학습 모델을 전처리 앞단에 붙인다(A2.5+S13 조합, 40M 파라미터 PII 검출 모델).

참조 구현 예

  • PAX dcba0f654467bdc9 — 40M 파라미터 소형 자체 학습 PII 모델(§13 A2.5+S13 조합)

관련 부품

B2 소비처 — 예측·추천기의 추론 엔진 · C6 짝 — 재학습 파이프라인이 붙는 자리 · C7 짝 — 이전 안정판 복귀(모델 버전 롤백) · F9 이용자 쪽 대응 — 판정 근거 표시 · B5 소비처 — 현장 감지의 탐지 모델

참고 자료

GoF Strategy · Microservice 패턴 Blue-Green

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

A10 문서 형식 어댑터 공통 서비스

HWP·HWPX·엑셀·한셀·PDF 같은 한국 공공 문서 형식을 AI 부품이 읽고(구조화) 쓰게(서식 생성) 하는 변환 계층이다.

PAX 사례 136건이 이 부품을 쓴다

맥락

문서를 입력으로 받거나 기안·보고서·취합본을 산출하는 과제라면 거의 다 쓴다. 유형 2·4·8에서는 필수 기반이고 유형 6·7에서도 쓰인다. E1 로컬 PC 조건에서 도는 경우가 많다.

맞서는 힘(긴장)

  • 형식 충실도(표·각주·조항 구조 보존) vs 파서 구현 비용
  • 로컬 처리(무반출) vs 클라우드 변환 도구의 편의
  • 기관별 서식 다양성 vs 공통 어댑터 재사용

해법

입력 쪽에서는 HWPX 압축 구조·PDF에서 조·항·호·별표 계층과 표를 보존해 구조화 텍스트·표로 바꾸고, 머리말·각주 같은 잡음을 걷어 조항 단위로 정규화한다. 출력 쪽에서는 스킬(A9)의 출력 서식을 받아 HWPX·XLSX 기안 서식을 역방향으로 생성한다. 민감 문서는 PC 밖으로 보내지 않도록 로컬에서 변환하고, 파서를 라이브러리·CLI·MCP로 함께 제공하면 다른 부품과 기관이 그대로 쓴다. 형식 변환 정확도는 C9 판정 체계로 잰다.

이럴 때 쓴다

  • 입력이 HWP·HWPX·엑셀·PDF 공공 문서일 때
  • 산출물을 기안·보고 서식으로 내보내야 할 때
  • 유형 2·4·8 조립

이럴 때는 쓰지 않는다

  • 스캔 이미지·음성처럼 인식이 필요한 입력은 B4 인식 파이프라인(OCR·STT)
  • 입출력이 이미 정형 데이터·API인 경우

얻는 것

  • 공공 문서를 AI 입력·출력으로 연결
  • 기관 간 재사용 가능한 공통 부품
  • 로컬 처리로 무반출

점검표

  • 표·조항 계층이 변환 후에도 보존되는가
  • 출력이 기관 기안 서식 그대로 열리는가
  • 민감 문서가 변환 과정에서 PC 밖으로 나가지 않는가
  • 변환 정확도 판정 기록이 있는가

구조 — 참여 부품

  • 입력 파서 — 조·항·호·표 구조를 보존해 구조화
  • 서식 생성기 — 구조화 결과를 HWPX·엑셀 서식으로 출력
  • A9 업무 규범 스킬 — 출력 서식 규범 제공
  • B3 지식 접지 상담 — 구조화된 규정을 색인해 검색

변형

  • 규정 구조 파서: HWP/HWPX·PDF 규정을 조항 단위로 정규화한다.
  • 엑셀·한셀 취합: 폐쇄망에서 엑셀·한셀 파일을 취합한다(GatherFlow).
  • 서식 출력: HWPX 직무기술서·보도자료 등 공공 서식으로 역방향 생성한다(NCS JD, ReleasePick 입력).
  • 완결형 문서 엔진: HWP/HWPX 파싱·조판·렌더링·편집·PDF 출력을 자체 구현하고 MCP·CLI로 제공한다(PAX e18d5e018e0cd10d).
  • AI 친화 병행 등록: 기관이 발간자료를 마크다운으로 함께 등록하도록 표준화한다(PAX 17329009668eb397).

참조 구현 예

  • PAX GatherFlow — 엑셀·한셀 취합(폐쇄망)(§6 A10 카드)
  • PAX 7ad16f34cfb6cca7 — HWP·HWPX·PDF에서 신구대비표 초안을 로컬 생성(§13 A10)
  • PAX e18d5e018e0cd10d — HWP/HWPX 파싱·조판·렌더링·편집·PDF 출력 + MCP·CLI(§13 A10)

관련 부품

A9 짝 — 스킬 출력 서식 · B4 경계 — 인식이 필요한 입력 · A12 대칭 — 사람 쪽 모달리티 어댑터 · A7 짝 — 유형 8 필수 · B0 소비처 — 문서·엑셀 자동화

참고 자료

GoF Adapter

이 부품과 이어지는 가이드라인

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

A7 자체 제작 환경 공통 서비스

외부 용역 없이 기관 인력이 저작도구·AI 코딩 에이전트로 도구를 직접 만들고 고치는 제작 환경이다.

PAX 사례 317건이 이 부품을 쓴다

맥락

업무 담당자가 AI 코딩 도구·저작도구·오픈소스로 직접 만드는 과제에 쓴다. 유형 8(취합·변환 자동화)에서는 필수 기반이다. PAX 557건에서 A7이 붙고 BYO 모델을 쓰는 사례는 29건이다.

맞서는 힘(긴장)

  • 제작 속도·현장 적합성 vs 유지보수 연속성
  • 개인 역량 의존 vs 조직 인수인계
  • 무예산 제작 vs 보안 검토·기관 공식화 절차

해법

기관 인력이 AI 코딩 에이전트·저작도구·오픈소스로 직접 만들되, 처음부터 전이를 전제로 한다. 설정·데이터(연락처·업무분장 등)는 코드 밖 파일로 빼 비개발자도 고치게 하고, 작업 지시서 자체를 코딩 에이전트가 수행할 프롬프트로 설계해 제작 절차를 남긴다. MIT·Apache 등 라이선스를 명시하고 공공 깃랩(A3)이나 혁신24 자료실에 등재해 담당자가 바뀌어도 이어지게 한다. 실사용 건수로 성과를 재 기관 공식으로 올린다.

이럴 때 쓴다

  • 반복 업무를 줄이는 소규모 도구를 빠르게 만들 때
  • 용역 없이 작은 수정을 계속해야 할 때
  • 유형 8 취합·변환 자동화

이럴 때는 쓰지 않는다

  • P2 이상 시스템 쓰기·처분이 걸려 보안 검토·통제 부품이 먼저 필요한데 이를 갖출 수 없을 때
  • 라이선스·저장소·인수인계를 정할 수 없어 전이가 불가능할 때(X9 위험)

얻는 것

  • 제작 속도와 현장 적합성
  • 내부 유지보수 역량 축적
  • 무예산·소예산 제작

점검표

  • 라이선스가 명시되어 있는가
  • 저장소가 개인 PC가 아닌 공유 위치에 있는가
  • 담당자가 바뀌어도 고칠 수 있는 문서·설정 분리가 있는가
  • 실사용 지표가 있는가

구조 — 참여 부품

  • 업무 담당자 — 요구를 알고 직접 만드는 제작자
  • AI 코딩 에이전트·저작도구 — 코드·화면·워크플로 생성
  • A3 공공 깃랩·자료실 — 등재처 — 담당자 이동 후에도 이어지게
  • A9 업무 규범 스킬 — 제작 규범·지시서를 재사용 가능한 형태로

변형

  • 비개발자 바이브코딩: 교육 후 비개발 직원이 AI 코딩으로 웹앱을 만들고 실사용 지표까지 잰다.
  • 용역 탈피 단계형: 1단계는 전문기업과, 2단계는 직원이 도구를 대여해 라벨링·학습·개발을 직접 한다.
  • 오픈소스 조립형: n8n·FastAPI·Qdrant·LM Studio 등 오픈소스로 워크플로를 직접 조립하고 설정을 공유한다.
  • 사람+에이전트 작업 단위형: 작업 지시서를 코딩 에이전트 입력 프롬프트로 설계해 '사람 1인 + 에이전트 1세션' 단위로 일한다.

참조 구현 예

  • PAX 145a534a79c6fc53 — 공무원 1인 개발 도구가 혁신24 자료실로 여러 기관에 확산(§13 A7)

관련 부품

A3 등재처 — 공공 깃랩 · A9 짝 — 제작 규범을 스킬로 · B0 주 산출물 — 결정적 도구 · A10 짝 — 유형 8 필수 · X9 주의 — 담당자와 함께 사라지는 도구

참고 자료

GoF Prototype · PAX 전이 플레이북

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

C1 검토 큐 운영 컴포넌트

AI 산출물이 다음 단계로 넘어가기 전에 사람이 맞고 틀림을 확인·수정·확정하는 대기열을 두어, 오류가 업무 결과로 흘러가지 않게 한다.

PAX 사례 46건이 이 부품을 쓴다

맥락

AI 산출물이 공문·처분·대민 안내·기록으로 이어지는 모든 B 부품(B1 코파일럿, B4 인식 파이프라인, B2 예측기, B7 콘텐츠 생성기 등). 이용자 본인이 최종 확정자인 자기서비스형 도구도 포함한다(R16).

맞서는 힘(긴장)

  • 정확성·책임성 vs 처리 속도(전건 검토는 자동화 이득을 깎는다)
  • 검토자의 숙련 vs 자동화 편향(AI 결과를 그대로 승인하는 경향)
  • 전건 검토의 안전 vs 위험도별 분기(C2)로 가야 하는 효율 압력

해법

AI 산출물에 신뢰도·근거를 붙여 검토 대기열에 올리고, 검토자가 승인·수정·반려 중 하나를 고르게 한다. 수정·반려 내역은 C4 감사 로그에 남겨 수정률을 집계하고 C6 환류의 입력으로 쓴다. 검토 화면은 원문 위치·근거를 함께 보여 줘 확인 비용을 줄인다. 전건 검토로 시작하되, 수정률 실측이 쌓이면 C2 위험도 라우터로 저위험 건을 자동 종결하는 단계로 옮긴다.

이럴 때 쓴다

  • AI 산출물이 공문·처분·대민 안내로 그대로 이어질 때
  • E4가 P1 이상이고 되돌리는 데 사람 시간이 많이 드는 조치가 있을 때
  • 서비스 유형 ② 접수·심사, ④ 기안 코파일럿, ⑥ 콘텐츠 제작, ⑦ 대조·점검, ⑩ 위험 예측, ⑪ 추천·매칭, ⑫ 개발 코파일럿처럼 C1이 필수인 유형

이럴 때는 쓰지 않는다

  • B0 결정적 도구처럼 런타임 AI 산출물이 없을 때
  • 쉽게 되돌릴 수 있고 저위험인 조치를 이미 C2로 자동 종결하도록 실측 근거를 갖춘 구간(전건 검토를 영원히 남기지 않는다)

얻는 것

  • 오류가 업무 결과로 나가기 전에 차단
  • 책임 소재가 명확해짐
  • 수정 내역이 C4 지표와 C6 환류의 원천 데이터가 됨

점검표

  • AI 산출물이 확정 전 상태로 머무는 지점이 명시되어 있는가
  • 검토자와 승인·수정·반려 선택지가 정해져 있는가
  • 검토 결정과 수정 내역이 로그로 남는가
  • 실증 기간의 검토·수정 건수가 기록되어 있는가
  • 전건 검토에서 분기로 옮길 조건이 정해져 있는가

구조 — 참여 부품

  • 검토 대기열 — AI 산출물을 확정 전 상태로 보관하고 검토자에게 배정
  • 검토자(담당자 또는 이용자 본인) — 승인·수정·반려를 결정하는 최종 책임자
  • F2 편집 가능한 출력 — 검토자가 산출물을 직접 고치는 화면
  • C4 감사 로그·지표 — 검토 결정과 수정 내역을 적재해 수정률로 집계

변형

  • 전건 검토형: 모든 AI 산출물을 담당자가 확인·확정
  • 예외 검수형: 정상 건은 일괄 승인하고 저신뢰 항목만 개별 검수하는 검수 UI
  • 파이프라인 내장 관문형: 멀티에이전트·다단계 파이프라인의 각 관문에 승인·보완·재작성 선택지를 둠
  • 자기서비스형: 이용자 본인이 최종 확정자인 HITL. 실제 운영 중이면 C1 present(R16)
  • 심의 게이트: 팩트체크·법무·윤리처럼 제3자 전문가가 수행하는 승인 게이트

참조 구현 예

  • PAX 9dc1a7081bc869b1 — 광진구 — 담당자·팀장 최종 판단 책임 등 4대 관리 원칙 명문화

관련 부품

C2 다음 단계 — 전건 검토에서 위험도 분기로 승급 · C1.2 변형 — 제3자 전문가 심의 게이트 · F2 이용자 쪽 대응 — 검토자가 직접 고치는 화면 · F6 이용자 쪽 대응 — 에이전트 행동 실행 전 확인 · C4 기록처 — 검토 결정·수정 내역 · C6 후속 — 수정 내역이 환류의 입력

참고 자료

Google ADK HITL · Gulli ch.13 Human-in-the-Loop · Towards AI 동기·비동기 HITL · Chain of Responsibility

이 부품과 이어지는 가이드라인

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

C5 가드레일 필터 운영 컴포넌트

개인정보·환각·편향·형식 오류가 프롬프트나 산출물에 들어가지 못하게 시스템이 경계에서 걸러낸다. 비식별 전처리, 출처 검증, 구조적 출력 제약이 대표 변형이다.

PAX 사례 44건이 이 부품을 쓴다

맥락

외부 모델을 부르거나 대민에 답하는 모든 B 부품. 특히 E2 해외 상용 API, E5 S 이상 데이터, B3 지식 접지 상담, 유형 ① 대민 상담, ④ 기안, ⑥ 콘텐츠, ⑦ 대조·점검, ⑨ 인수인계, ⑬ 비식별·정제 도구.

맞서는 힘(긴장)

  • 차단의 엄격함 vs 과잉 차단으로 인한 유용성 저하
  • 비식별 강도 vs 문맥 보존
  • 결정적 검증의 신뢰성 vs 구현 범위

해법

프롬프트가 기관 밖으로 나가기 전 PII를 마스킹하고 원복 키를 보관하는 비식별 전처리기를 둔다. 응답에는 인용을 원본(법령정보센터·통계표 등)과 대조하는 출처 검증기와, JSON 스키마·허용 목록 같은 구조적 출력 제약을 건다. 근거가 없으면 답하지 않거나 '확인 필요'로 표시한다. 차단 사유는 C4에 남기고, 이용자에게는 F1 출처와 F7 한계 안내로 보인다. 사람이 하는 팩트체크·법무 심의는 C5가 아니라 C1.2에 둔다.

이럴 때 쓴다

  • E2 해외 상용 API로 행정망 본문이 외부로 나갈 때(필수)
  • E5 S 이상 개인정보·민감정보를 다룰 때
  • B3 대민 응답처럼 인용·수치의 정확성이 신뢰의 핵심일 때
  • C5가 필수인 유형 ①④⑥⑦⑨⑪⑬

이럴 때는 쓰지 않는다

  • E1 로컬 PC 완결로 데이터가 밖으로 나가지 않을 때 비식별은 불필요해질 수 있다(§5 매트릭스, 단 출처 검증은 별개)
  • 사람이 수행하는 심의만 있을 때(C1.2로 태그)
  • 적대적 입력 탐지가 목적일 때(S8)

얻는 것

  • 개인정보 외부 유출 차단
  • 환각 인용 감소
  • 상용 API 사용 조건 충족

점검표

  • 외부 전송 전 무엇이 걸러지는지 답할 수 있는가
  • 인용이 원본과 대조되는가
  • 근거 없을 때의 동작이 정해져 있는가
  • 차단 사유가 기록되는가

구조 — 참여 부품

  • 비식별 전처리기 — 외부 전송 전 PII 마스킹과 원복
  • 출처 검증기 — 인용을 원본과 대조해 환각을 걸러냄
  • 출력 제약 — 스키마·허용 목록·금칙어로 출력 형식 제한
  • F1 출처 표시 — 검증된 출처를 이용자에게 보임

변형

  • 로컬 비식별 전처리기: 외부 전송 전 PII 마스킹·원복(PAX에서 독립 부품으로 확인)
  • 출처 검증기: 인용을 법령정보센터·KCI·CrossRef 원본과 대조
  • 구조적 출력 제약·스키마 검증: JSON 스키마·허용 목록으로 출력 범위를 고정(v0.6 식별 신호 추가)
  • 근거 재대조형 환각 검증: 추출값의 근거 문장을 원문에서 재대조해 '문서확인/AI추정/문서에없음'으로 재분류

참조 구현 예

  • PAX Korean Stats MCP — KOSIS 통계 출처 자동 인용

관련 부품

F1 이용자 쪽 대응 — 검증된 출처 표시 · F7 이용자 쪽 대응 — 근거 없을 때 한계 안내 · A2.4 짝 — 민감정보 외부 유출 대응 · C1.2 구분 — 사람이 하는 심의 · S8 구분 — 적대적 입력 탐지 · S13 변형 후보 — 로컬 비식별 게이트

참고 자료

Fowler Guardrails · InfoQ Output Guardrails·Model Critic · Gulli ch.18 Guardrails · Heiland 규칙 기반 안전장치 · Proxy · Decorator

이 부품과 이어지는 가이드라인

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

S12 데이터 비도달 설계 보안 패턴

개인정보·원문을 단말(브라우저·PC·기기)에서 처리해 서버나 외부로 아예 보내지 않는다. v0.6 후보 부품으로, 카드 없이 R4 한 줄 정의와 §13 레지스트리로만 등재되어 있다.

PAX 사례 36건이 이 부품을 쓴다

맥락

PAX 자생 도구처럼 브라우저 단독 HTML·데스크톱 앱·로컬 모델로 업무 PC 안에서 완결되는 도구(E1 로컬 PC 완결). PAX 557건 태깅에서 S 부품 중 최다(36건)로 관측되었다. 카탈로그상 후보이며 위협 매트릭스·조립 템플릿에는 아직 들어가 있지 않다.

맞서는 힘(긴장)

  • 유출 경로 제거 vs 중앙 로그·감사 기록 부재(C4 소실)
  • 로컬 처리의 단순함 vs 단말 성능·로컬 모델 품질 한계
  • 개인 도구의 자율성 vs 기관 전이 시 운영 통제 재장착

해법

개인정보·원문을 다루는 처리를 브라우저 내 로컬 처리·데스크톱 앱·로컬 모델(A2.2·A5)로 단말 안에서 끝낸다. 외부 호출이 꼭 필요하면 호출 범위를 한 기능(예: 음성 인식)으로 좁히고 키·원문·결과는 호스트 밖으로 내보내지 않는다. 무통신 여부를 이용자가 직접 확인할 수 있게(인터넷 차단 후 동작, 개발자 도구로 네트워크 확인) 안내한다. 기관으로 전이할 때는 사라진 C4 로그를 다시 붙인다. ^[inferred]

이럴 때 쓴다

  • 개인정보가 담긴 문서를 마스킹·취합하는 개인·부서 도구
  • 외부 전송이 허용되지 않는 데이터(E5 S 이상)를 다루는 소규모 도구
  • 인터넷 차단 환경에서 쓰는 문서 도구

이럴 때는 쓰지 않는다

  • 여러 사용자의 데이터를 모아야 하는 기관 서비스(중앙 저장이 과업 자체)
  • 감사 로그(C4·S10)가 필수인 처분 관여(P3) 과제에서 기록 없이 로컬 완결만 주장할 때
  • 단말 성능으로 필요한 모델 품질을 낼 수 없을 때

얻는 것

  • 서버 쪽 유출 경로 제거
  • 비식별 전처리(C5)가 불필요해짐
  • 1인 개발 도구도 개인정보를 다룰 수 있음

점검표

  • 원문·개인정보가 단말 밖으로 전송되는 경로가 없는가
  • 외부 호출이 있다면 무엇이 나가는지 문서화되어 있는가
  • 이용자가 무통신을 검증할 수 있는가
  • 기관 전이 시 기록 재장착 계획이 있는가

구조 — 참여 부품

  • 단말 처리기 — 브라우저·데스크톱 앱에서 파싱·마스킹·취합 수행
  • A2.2 주권형 온프레미스 — 로컬 Ollama 등으로 추론을 단말에서 수행
  • A5 엣지 추론 런타임 — 현장 기기에서 추론
  • 이용자 검증 안내 — 무통신을 이용자가 직접 확인하도록 안내

변형

  • 브라우저 단독형: 단독 HTML 한 파일 또는 브라우저 내 로컬 처리로 파일이 서버에 도달하지 않음
  • 로컬 모델 오프라인형: 데스크톱 앱과 로컬 모델로 완전 오프라인 동작
  • 부분 외부 호출형: 키·원문·결과는 호스트에 두고 특정 기능 호출만 범정부 공통기반으로 내보냄

참조 구현 예

  • PAX 2f27c87e6f7c7614 — 단독 HTML 한 파일로 업무망에서 돌고 인터넷 차단·F12로 무통신을 이용자가 검증하게 한 로컬 완결 설계(§13)
  • PAX b0808306ddb06317 — 키·관리자 토큰·음성·회의록은 호스트에 두고 음성 인식 호출만 범정부 공통기반으로(§13)
  • PAX 73bb12bf461ceb4c — 브라우저 내 로컬 처리로 파일이 서버에 도달하지 않음을 도구 포털 단위로 명시(§13)
  • PAX 9d115930495a1e65 — Tauri 데스크톱 앱과 로컬 Ollama·Gemma-4 E2B로 완전 오프라인 동작(§13)
  • PAX 918bddd1b60d8a74 — 서버 전송 없이 PC 안에서만 개인정보를 마스킹·취합(§13)
  • PAX 8d17b8feee1af705 — 브라우저 로컬 처리 문서 도구, 교육청 공식 배포로 전이 완료(§13)

관련 부품

S13 대안 — 전송이 필요하면 단말 비식별 후 전송 · C5 대체 — 데이터가 도달하지 않으면 비식별 필터가 불필요 · C4 트레이드오프 — 로컬 완결 시 사라지는 기록, 전이 시 재장착 · E1 환경 조건 — 로컬 PC 완결 · A2.2 끼울 자리 — 로컬 모델

참고 자료

카탈로그 §0 v0.6 개정표(S 부품 판정 전제) · 분류기준 R4

이 부품과 이어지는 가이드라인

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

F2 편집 가능한 출력 상호작용 패턴

생성물을 이용자가 직접 고쳐 확정하게 한다. 통제감의 실체이며, 수정 내역은 C4 지표와 C6 환류의 입력이 된다.

PAX 사례 50건이 이 부품을 쓴다

맥락

B1 코파일럿(필수 면), B7 콘텐츠 생성기, B4 인식 결과 확정. 유형 ② 접수·심사, ④ 기안 코파일럿, ⑫ 개발 코파일럿, 5a-agg(R19), 2b 시민 제출 준비(R20).

맞서는 힘(긴장)

  • 편집 자유도 vs 원본 추적(무엇을 고쳤는지)
  • 편집 가능한 공공 서식(HWPX 등) 출력 vs 구현 비용

해법

생성물을 이용자가 바로 고칠 수 있는 형식(편집 화면, HWPX·PPTX 등 네이티브 파일)으로 내고, 이용자가 고친 뒤 확정하게 한다. AI 원안과 수정본의 차이를 기록해 C4 수정률과 C6 환류 입력으로 쓴다. 문서 형식 출력은 A10 어댑터가 받친다.

이럴 때 쓴다

  • B1 코파일럿 전반(필수 면)
  • 대민 서비스 D1~D7(F1·F2·F7이 최소 요건)
  • 유형 ②④⑫, 5a-agg, 2b처럼 F2가 필수인 유형

이럴 때는 쓰지 않는다

  • 이용자가 결과를 수정하면 안 되는 판정 결과(판정은 C1 확정 절차로 다룸)
  • 조회 결과만 보여 주는 P0 도구

얻는 것

  • 이용자 통제감
  • 수정 내역이 품질 지표·환류 데이터가 됨
  • 공공 서식 재작업 감소

점검표

  • 산출물을 이용자가 직접 고칠 수 있는가
  • 원안과 수정본 차이가 기록되는가
  • 공공 서식 형식으로 편집 가능한가

구조 — 참여 부품

  • 편집 화면·네이티브 파일 — 이용자가 직접 고치는 면
  • A10 문서 형식 어댑터 — HWPX·PPTX 등 편집 가능한 형식 출력
  • C4 감사 로그·지표 — 수정 내역 기록

변형

  • 화면 내 편집: 생성 결과를 화면에서 바로 수정·확정
  • 네이티브 파일 출력: PPTX·HWPX·피그마 등 이어서 고칠 수 있는 형식으로 산출

참조 구현 예

  • PAX cb0abc29707cc710 — PPTX 네이티브·피그마(로컬 MCP)·HTML 세 형식으로 수정 가능한 산출물 출력

관련 부품

C1 짝 — 확정 절차 · B1 끼울 자리 — 코파일럿의 필수 면 · A10 의존 — 편집 가능한 문서 형식 출력 · C6 후속 — 수정 내역이 환류 입력

참고 자료

InfoQ UX Editable Output

이 부품과 이어지는 가이드라인

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

F9 판정 근거·기여도 표시 상호작용 패턴

SHAP 요인 문장, 의심 부위 BBox, 판정 사유 코드, 자연어 판독 이유, 예측-실제 잔차로 모델이 왜 그렇게 판정했는지 보인다. B2·B4·B5의 필수 면이다.

PAX 사례 23건이 이 부품을 쓴다

맥락

B2 예측·추천기, B4 인식 파이프라인, B5 감지·경보. 유형 ③ 현장 감시, 5a 분석, ⑩ 위험 예측, ⑪ 추천·매칭(추천 사유). v0.6에서 추가.

맞서는 힘(긴장)

  • 설명의 충실성 vs 이해 가능성
  • 근거 공개 vs 적대적 이용자에게 탐지 기준 노출(X16)

해법

판정마다 기여 요인(SHAP)·의심 부위(BBox)·사유 코드·자연어 근거를 결과와 함께 보인다. 담당자가 근거를 열어 확인하고 최종 판단하게 한다. 위조 탐지처럼 적대적 이용자가 있는 D3 접점에서는 이용자에게 '정상/위조의심'만 보이고 세부 근거는 관리자 화면에만 둔다(근거 은닉).

이럴 때 쓴다

  • B2·B4·B5의 판정 결과를 사람이 검토할 때
  • 유형 ③⑤a⑩⑪처럼 F9가 필수인 유형

이럴 때는 쓰지 않는다

  • 위조 탐지 등 적대적 이용자에게 근거를 그대로 보이는 경우(X16 — 관리자 전용으로)
  • 문서 출처만 보이면 되는 지식 접지 응답(F1)

얻는 것

  • 담당자가 판정을 검토할 근거
  • 오판 원인 파악
  • 추천·선별 결과의 설명 책임

점검표

  • 판정마다 근거가 보이는가
  • 적대적 접점에서 근거가 관리자에게만 노출되는가
  • 최종 판단 주체가 명시되는가

구조 — 참여 부품

  • A2.5 비LLM 학습 모델 서빙 — 판정과 기여도 산출
  • 근거 표시 화면 — 요인·BBox·사유 코드 제시
  • 담당자 — 근거를 보고 최종 판단

변형

  • 요인 기여도: SHAP 등 요인 문장
  • 위치 표시: 의심 부위 BBox
  • 사유 코드·자연어 근거: 판정 사유 코드와 판독 이유 문장
  • 관리자 전용 근거(근거 은닉): 적대적 접점에서 세부 근거를 관리자에게만 노출

참조 구현 예

  • PAX 3b195a5faf820769 — 정비 대상 판정의 근거를 따로 열어 확인하게 하고 오류 가능성을 화면에 명시한 F9+F7 표준형
  • PAX 8c461c4901e30775 — 실험마다 의도·판정 근거·실제 프롬프트를 함께 공개

관련 부품

F1 구분 — 문서 출처 · F7 짝 — F9+F7 표준형 · B2 끼울 자리 — 예측·추천기의 필수 면 · B′9 짝 — 판정 게이트의 근거 출력 · X16 안티패턴 — 적대적 접점의 근거 노출

참고 자료

카탈로그 v0.6 개정 F9 · aiuxpatterns Results

이 부품과 이어지는 가이드라인

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

D8.8 보호·정제 서비스 블록

공유·전송 전에 개인정보를 비식별하고, 생성 코드를 보안 기준으로 점검하고, 파일을 이중 보관하는 내부 운영 블록이다. C5의 업무 블록 버전이다.

PAX 사례 18건이 이 부품을 쓴다

맥락

공유·전송·AI 투입 전에 자료를 보호하는 업무. 서비스 유형 13 비식별·정제 도구(D8.8 전용, 필수 C5·F7, R17)가 이 블록에 대응한다. PAX 18건(주 부품 B0 72%, B4 28%), 감사·법무 7건.

맞서는 힘(긴장)

  • 비식별 강도 vs 자료의 활용도
  • 로컬 처리(PII 서버 미도달) vs 모델 성능
  • 자동 점검의 편의 vs 누락에 대한 과신
  • 보호 도구 자체의 신뢰성 vs 검증 비용

해법

보호 조치를 자료가 기관 밖이나 모델로 나가기 직전에 둔다. 개인정보는 C5 비식별 전처리기로 거르되, 가능하면 단말에서 처리해 PII가 서버에 닿지 않게 하는 S12 데이터 비도달 설계나 S13 로컬 비식별 게이트(온디바이스 소형 모델)를 쓴다. 규칙으로 잡히는 항목은 B0 결정적 탐지로, 문맥이 필요한 항목만 소형 모델로 처리한다. 생성 코드 점검은 공공 보안 기준을 규칙 세트로 만들어 1차 린터로 돌리고 S9 샌드박스에서 실행한다. 결과에는 F7 한계("1차 점검", 누락 가능성)를 명시하고 C9로 탐지 누락률을 잰다.

이럴 때 쓴다

  • 자료를 외부·AI로 보내기 전에 개인정보를 가려야 할 때
  • 직접 만든 코드의 보안 기준 준수를 점검해야 할 때
  • 보호 조치가 반복 업무로 담당자 시간을 쓸 때

이럴 때는 쓰지 않는다

  • 비식별이 다른 도구의 내부 단계일 뿐이면 그 도구의 블록에 두고 C5만 태그
  • 규정·서식 대조가 목적이면 D8.4
  • 인수인계가 목적이면 D8.7(우선순위 높음)

얻는 것

  • 외부 모델 활용의 전제 조건 확보
  • 담당자 수작업 마스킹 절감
  • 보안 기준 1차 점검의 일상화

점검표

  • PII가 서버·외부 모델에 닿기 전에 걸러지는가
  • 탐지 누락률을 재는가
  • "1차 점검" 한계가 고지되는가
  • 점검 규칙의 출처(보안 기준)가 명시되어 있는가

구조 — 참여 부품

  • 담당자 — 보호 조치 결과를 확인하고 공유
  • C5 가드레일·비식별 — 개인정보 탐지·마스킹
  • B0 결정적 도구 — 규칙 기반 탐지·보안 린터
  • S13 로컬 비식별 게이트 — 외부 전송 전 온디바이스 비식별
  • F7 한계·신뢰도 안내 — 1차 점검임과 누락 가능성 고지

변형

  • 비식별 전처리형: 문서·설문·엑셀의 개인정보를 가림(C5, S13).
  • 생성 코드 보안 점검형: AI 생성 코드를 공공 보안 기준으로 1차 점검(vibecode-checker).
  • 이중 보관·백업형: 파일을 이중 보관해 손실을 막음.

참조 구현 예

  • vibecode-checker — 카탈로그 D8.8 카드 예: AI 생성 코드를 공공 보안 기준으로 점검하는 1차 보안 린터
  • AI Survey Insight — 카탈로그 D8.8 카드 예: 설문 주관식 정리 도구
  • VHLookup — 카탈로그 B0 카드 참조 구현: 엑셀 마스킹·병합

관련 부품

C5 부품 버전 — 비식별 전처리기 · S13 보안 부품 — 로컬 비식별 게이트 · S12 보안 부품 — 데이터 비도달 설계 · D8.4 이웃 블록 — 대조·점검 · 유형 13 대응 서비스 유형 — 비식별·정제 도구

참고 자료

카탈로그 §6 C5 카드 · 카탈로그 §2 v0.6 변경(S12·S13 후보 등재) · 카탈로그 §13 S12·S13 참조 구현

이 부품과 이어지는 가이드라인

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

X13 도구 출력이 지시가 되는 에이전트 안티패턴

검색 결과·첨부·API 응답을 읽은 모델이 그 안의 문장을 새 명령으로 받아 도구를 부르는 구조를, 탐지 필터 하나로 지키려는 함정이다.

맥락

E4가 P2 이상(시스템 쓰기·처분 보조)이면서 민원 입력·제출 서류·웹 문서·타 기관 API 응답 같은 신뢰 불가 입력을 읽는 에이전트. 특히 B6·5b 데이터 에이전트.

맞서는 힘(긴장)

  • 범용 에이전트의 유연성 vs 신뢰 불가 입력 뒤의 행동 제약
  • 단일 LLM 구조의 단순함 vs 격리·계획 고정의 설계 비용
  • 탐지 필터의 손쉬움 vs 증명 가능한 보증

해법

과제의 AI가 읽는 입력 중 기관 밖에서 작성된 것을 untrusted_inputs로 나열하고, §4.2 신뢰 불가 입력 규칙대로 S4 행동 선택기(미리 정한 행동 중 선택만, 결과가 LLM으로 돌아가지 않음), S5 계획 후 실행(외부 데이터를 읽기 전에 도구 호출 계획을 고정), S6 격리 LLM(도구 있는 LLM은 외부 데이터를 읽지 않고, 읽는 LLM은 도구가 없음) 중 하나를 갖춘다. S3 컨텍스트 방화벽과 S8 독립 검증기는 보조로 붙이되 S8만으로는 규칙을 충족하지 못한다. C8 승인 게이트도 신뢰 불가 입력 규칙의 대체 통제로 인정되지 않는다(R6). 그 전 단계에서는 E4를 P0~P1 읽기·산출물 범위에 묶어 두는 것이 곧 보안이다.

이럴 때 쓴다

  • E4가 P2 이상이고 untrusted_inputs가 비어 있지 않은데 S4·S5·S6이 모두 없다(신뢰 불가 입력 규칙 위반)
  • 외부 문서를 읽는 LLM이 같은 컨텍스트에서 쓰기 도구를 호출할 수 있다
  • 인젝션 대책이 탐지 필터·프롬프트 경고문뿐이다
  • 읽은 텍스트 중 어떤 것이 어떤 도구를 부를 수 있는지 답하지 못한다

이럴 때는 쓰지 않는다

  • E4가 P0~P1로 읽기·산출물 생성에만 묶여 도구 호출·시스템 쓰기가 없는 경우(S4·S5·S6 판정 전제 불충족, R6)
  • S4·S5·S6 중 하나가 구조적으로 갖춰진 경우(보안 목적 서술이 없어도 구조가 일치하면 충족)
  • AI가 읽는 입력이 모두 기관 내부에서 작성된 경우

얻는 것

  • 단일 LLM 범용 에이전트로 구조가 단순하다
  • 새 입력·새 도구를 자유롭게 붙인다

점검표

  • untrusted_inputs가 나열되어 있는가
  • 신뢰 불가 입력을 읽은 LLM이 쓰기 도구를 직접 부를 수 없는가
  • S4·S5·S6 중 하나가 구조로 구현되어 있는가
  • S8 탐지를 유일한 방어로 두지 않았는가

구조 — 참여 부품

  • S4 행동 선택기 — LLM이 정해진 행동 중 선택만 하게 제약
  • S5 계획 후 실행·코드 후 실행 — 외부 데이터를 읽기 전에 도구 계획 고정
  • S6 격리 LLM·맵리듀스 — 읽는 LLM과 도구 있는 LLM을 분리
  • S8 독립 검증기·이중 심판 — 보조 탐지. 단독으로는 보증이 아님

변형

  • 문서 속 지시: 첨부·제출 서류 안의 문장대로 에이전트가 도구를 호출
  • API 응답 오염: 타 기관 API·웹 검색 결과에 섞인 지시가 후속 행동을 바꿈
  • 탐지 단독 방어: 인젝션 탐지 필터(S8) 하나만 두고 구조적 제약이 없음

관련 부품

S6 대체 — 읽는 LLM과 도구 있는 LLM 격리 · S5 대체 — 외부 데이터 읽기 전 계획 고정 · S4 대체 — 정해진 행동 중 선택만 · S3 보조 — 신뢰 구역 분리 표기 · S8 보조 — 탐지(단독으로는 보증 아님) · S10 기록처 — 사고 재현

참고 자료

Beurer-Kellner 외(2025) 지도 원칙 '신뢰 불가 입력을 읽은 뒤에는 그 입력이 결과적 행동을 촉발할 수 없도록 제약' · Beurer-Kellner #1 Action-Selector, #2·#5 Plan-Then-Execute, #3·#4 Dual LLM

이 부품과 이어지는 가이드라인

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

X16 기준을 노출하는 위조 탐지 안티패턴

진위 판정 근거를 이용자 화면에 그대로 보여 줘 위조범이 탐지 기준을 역추적하게 만드는 함정이다. F9 근거 표시가 적대적 접점에서는 취약점이 된다.

맥락

D3 자격·심사, D2 접수·제출에서 제출 서류·이미지의 진위를 판정하는 B4 인식 파이프라인·B2 분류기. 이용자 중 일부가 탐지를 회피하려는 동기를 가진 경우.

맞서는 힘(긴장)

  • 설명 가능성·투명성 vs 적대적 이용자의 기준 역추적
  • 이용자 자기확인 편의 vs 판정 기준 보호
  • 행정 절차상 사유 고지 vs 탐지 성능 유지

해법

F9 판정 근거·기여도 표시를 역할별로 나눈다. 이용자 화면에는 '정상/위조의심'만 노출하고, 의심 부위·사유 코드·기여도 같은 세부 근거는 관리자 화면에만 보여 준다(근거 은닉, anti-oracle — 카탈로그가 S 계층 후보로 둔 반대편 부품). 관리자 화면 접근은 C8 권한 경계로 제한하고, '위조의심' 건은 C1 검토 큐에서 담당자가 세부 근거를 보고 확정한다. 이용자에게는 F7 한계·신뢰도 안내로 추가 확인 절차를 알리고, 반복 제출·판정 이력은 C4·S10에 남겨 역추적 시도를 탐지할 근거로 삼는다.

이럴 때 쓴다

  • 진위·위조 판정 결과와 함께 세부 근거(의심 부위·사유 코드·점수)가 제출자 화면에 표시된다
  • 제출자가 근거를 보고 수정해 반복 재제출할 수 있다
  • 이용자 중 탐지 회피 동기를 가진 적대자가 있을 수 있다
  • 관리자와 이용자의 판정 화면이 같다

이럴 때는 쓰지 않는다

  • 내부 담당자만 쓰는 판독 도구로 제출자에게 결과가 노출되지 않는 경우
  • 이용자가 적대자가 아닌 접점(예: 내부 품질 점검, 자기 서류 오류 안내)에서 F9로 근거를 보여 주는 경우 — 이때 F9는 정상 부품이다
  • 이용자에게 '정상/위조의심'만 보여 주고 세부 근거는 관리자 화면에 둔 경우

얻는 것

  • 투명성·설명 가능성 요구를 쉽게 충족한다
  • 선의의 이용자가 오류를 스스로 고칠 수 있다

점검표

  • 제출자 화면에 세부 판정 근거가 노출되지 않는가
  • 세부 근거가 관리자 화면에서만 보이고 접근이 제한되는가
  • 위조의심 건을 사람이 확정하는가
  • 반복 재제출 이력이 기록되는가

구조 — 참여 부품

  • F9 판정 근거·기여도 표시 — 적대적 접점에서 역할별로 나눠야 할 설명
  • 근거 은닉(anti-oracle, S 후보) — 이용자에게는 판정만, 세부 근거는 관리자에게만
  • C1 검토 큐 — 위조의심 건을 담당자가 세부 근거로 확정
  • C8 권한 경계 — 관리자 화면 접근 제한

변형

  • 의심 부위 표시형: 이용자 화면에 BBox·히트맵으로 위조 의심 부위를 표시
  • 사유 코드 노출형: 반려 사유 코드·점수를 이용자에게 그대로 반환
  • 무제한 재제출형: 근거를 보고 고쳐 무제한 재제출할 수 있어 기준 탐색이 가능

관련 부품

F9 교정 대상 — 적대적 접점에서 관리자 화면 전용으로 · C8 끼울 자리 — 관리자 화면 접근 제한 · C1 짝 — 위조의심 건의 사람 확정 · F7 이용자 쪽 대응 — 판정만 알리고 다음 절차 안내 · D3 발생 접점 — 자격·심사

참고 자료

카탈로그 §6 F9 카드(적대적 D3에서는 관리자에게만 노출)

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

실무 도입 카드

필요한 것

실행환경: 설치 필요 · 망 요건: 폐쇄망 가능 · 라이선스: AGPL-3.0

첫 3단계

① 설치 파일·요구 사양 확인 → ② 개인 환경에서 기능 검증 → ③ 부서 공유 전 관리자 권한 확인

주의사항

저장소 유지보수가 정체 상태입니다 · 실사용 피드백이 미확인입니다 — 도입 전 소규모 검증을 권합니다 · 성과 수치는 출처가 확인된 것만 신뢰하세요

전이 절차(보안검토→품의→배포)는 전이 플레이북을 참고하세요.

비슷한 업무의 사례