
한국어 개인정보(PII)를 검출·마스킹하는 경량 오픈 모델이 Hugging Face에 공개됐다. 개발팀은 대형 상용 모델 대비 40배 작으면서 성능이 앞선다고 소개하며, 마스킹 원복·일괄 재마스킹을 지원해 공공 문서의 AI 전처리 단계에 붙이는 활용이 커뮤니티에서 곧바로 논의됐다. 공공기관 개인정보 전처리 병목을 겨냥할 수 있는 민간 참고 사례다. 2026-09-05 후속 버전 v7이 공개돼 성능을 보존하며 경량화가 이어지고 있다.
사례 대상 바로가기 · 공유 링크 · 아카이브에서 보기
상세 정보
- 사례 성격
- 참고
- 출처 채널
- 오픈채팅
- 수집일
- 2026-08-23
- 태그
- #개인정보 #PII #마스킹 #경량모델 #전처리
- 실행 환경
- 서버 구축
- AI 모델
- 국산 독자모델 — schift-ko-pii-v6(자체 학습)
- 링크 점검
- 정상 (2026-11-02)
4축 평가
| AX 단계 | AI-Ready |
|---|---|
| 업무 범위 | S1 Script/보조 |
| 업무 완결성 | C0 기능 제공 |
| 권한(P축) | P1 산출물 생성(잠정) |
| 위험도 | R1 낮음 |
| 인간 통제 | 해당 없음 |
| 증거 등급 | E1 코드·도구 확인 |
| 신뢰도 | 중간 |
한국어 PII 검출·마스킹(원복·재마스킹 포함) 경량 모델의 공개 — 공공 문서 AI 전처리의 공통 병목을 겨냥하는 준비자산. 모델 카드로 확인되며 공공 실사용 증거는 없어 참고(Ready).
디자인 패턴 분석
『모두의 공공AX 디자인 패턴』 카탈로그 v0.7.1 기준 — 사례를 기관이 함께 쓰는 AI 부품과 그 조립으로 읽은 결과입니다. · 패턴 성좌에서 전체 보기 ↗
업무 패턴 B4 인식 파이프라인 변형: 비전·텍스트 인식(경량 PII 검출 모델, 참고사례)
환경 축 배포:미확인 네트워크:미확인 모델:국산 독자모델 런타임:서버 구축 권한:P1 산출물 생성
- 공통 서비스(A)
- A2.5 모델 서빙 · 비LLM 학습 모델
- 보안(S)
- S13 로컬 비식별 게이트
- 서비스 블록(D)
- D8.8 보호·정제
- 부품 배선
- A2.5 → B4 · B4 → S13 · B4 → D8.8
- 참조 구현 후보
- A2.5+S13 조합(경량 온디바이스 PII 검출·마스킹 모델) 40M 파라미터 소형 자체 학습 모델로 공공문서 전처리 파이프라인 앞단에 붙일 수 있는 로컬 비식별 게이트의 실물 예시
판정 근거
한국어 개인정보를 검출·마스킹하는 경량 오픈 모델이 Hugging Face에 공개됐다. 대형 상용 모델 대비 40배 작은 자체 학습 판별 모델이라 A2.5(비LLM 학습 모델 서빙)로 태그했고, 검출·마스킹 자체가 인식→구조화 작업이라 B4로 분류했다. request-local 방식으로 외부 전송 전 소형 모델이 비식별을 수행하는 구조가 S13 로컬 비식별 게이트 정의에 부합한다. 공공기관 개인정보 전처리 병목을 겨냥할 수 있는 민간 참고 사례로, 마스킹 원복·일괄 재마스킹 지원이 커뮤니티에서 곧바로 논의됐다.
구현 가이드
주 패턴 B4 인식 파이프라인을 구현할 때
구현 단계
- 입력 종류와 추출할 필드, 필드별 기준정보(대장·코드표)를 정의한다.
- 인식 단계는 정형 출력(JSON 스키마)만 내게 하고, 판정·산수는 규칙 단계로 분리한다(B′9).
- 신뢰도 임계와 보류 조건을 정해 C1 검토 큐로 보내고, C3로 재처리 경로를 둔다.
- E5 민감 서류면 행정망 + 로컬 모델로 두고, 제출 서류를 읽는 P2 이상 구성은 S6 문서별 격리를 둔다.
- C9 시험 세트로 필드별 정확도를 재고 C4로 보류율·수정률을 집계한다.
점검표
- 인식과 판정이 서로 다른 단계로 분리되어 있는가
- 저신뢰 건이 보류되어 사람에게 가는가
- 오인식 건을 되돌리는 경로가 있는가(C3)
- 필드별 정확도를 잰 시험 세트가 있는가
환경 조건
E5 민감 서류면 E1 행정망 + A2 로컬(Whisper 로컬 등). E4는 P1~P2이며, 건별 검수 없이 운영 DB로 직행하면 P2, 승인·반려에 직결되면 P3다. 제출 서류는 신뢰 불가 입력이므로 P2 이상이면 S6 문서별 격리 + 규칙 집계가 필수다(§7.4 유형 ②).
주의할 점
- 오인식이 판정으로 번질 위험(C3 필수)
- 민감 서류는 로컬 모델 제약
- 제출 서류 속 숨은 지시로 판정이 조작될 위협
기본 배선 예
A10 → B4 (B′1 → B′9) → C1 → D3 · B4 → C3 (재처리)
피해야 할 안티패턴
- X13 도구 출력이 지시가 되는 에이전트 검색 결과·첨부·API 응답을 읽은 모델이 그 안의 문장을 새 명령으로 받아 도구를 부르는 구조를, 탐지 필터 하나로 지키려는 함정이다. 대처: 과제의 AI가 읽는 입력 중 기관 밖에서 작성된 것을 untrusted_inputs로 나열하고, §4.2 신뢰 불가 입력 규칙대로 S4 행동 선택기(미리 정한 행동 중 선택만, 결과가 LLM으로 돌아가지 않음), S5 계획 후 실행(외부 데이터를 읽기 전에 도구 호출 계획을 고정), S6 격리 LLM(도구 있는 LLM은 외부 데이터를 읽지 않고, 읽는 LLM은 도구가 없음) 중 하나를 갖춘다. S3 컨텍스트 방화벽과 S8 독립 검증기는 보조로 붙이되 S8만으로는 규칙을 충족하지 못한다. C8 승인 게이트도 신뢰 불가 입력 규칙의 대체 통제로 인정되지 않는다(R6). 그 전 단계에서는 E4를 P0~P1 읽기·산출물 범위에 묶어 두는 것이 곧 보안이다.
- X16 기준을 노출하는 위조 탐지 진위 판정 근거를 이용자 화면에 그대로 보여 줘 위조범이 탐지 기준을 역추적하게 만드는 함정이다. F9 근거 표시가 적대적 접점에서는 취약점이 된다. 대처: F9 판정 근거·기여도 표시를 역할별로 나눈다. 이용자 화면에는 '정상/위조의심'만 노출하고, 의심 부위·사유 코드·기여도 같은 세부 근거는 관리자 화면에만 보여 준다(근거 은닉, anti-oracle — 카탈로그가 S 계층 후보로 둔 반대편 부품). 관리자 화면 접근은 C8 권한 경계로 제한하고, '위조의심' 건은 C1 검토 큐에서 담당자가 세부 근거를 보고 확정한다. 이용자에게는 F7 한계·신뢰도 안내로 추가 확인 절차를 알리고, 반복 제출·판정 이력은 C4·S10에 남겨 역추적 시도를 탐지할 근거로 삼는다.
관련 가이드라인
이 사례가 쓰는 부품과 이어지는 공공 AX 안내서·지침이다 (부록 E 공공 AX 가이드라인 문서 해설 기준, 겹치는 부품이 많은 순).
- 가명정보 처리 가이드라인 이 사례와 겹치는 부품 S13 로컬 비식별 게이트 D8.8 보호·정제쓰는 작업: AI 학습이나 분석에 가명정보를 쓰는 사업이면 가명처리 계획서와 적정성 검토 결과서를 이 문서대로 작성한다. 첨부 서식을 그대로 산출물 양식으로 쓴다.주의: 2026년 3월 개정판이다. 이전 판 서식으로 쓴 문서는 새 서식과 대조한다.
- 챗GPT 활용방법 및 주의사항 안내 이 사례와 겹치는 부품 S13 로컬 비식별 게이트쓰는 작업: 지금은 단독으로 쓰지 않는다. 직원용 생성형 AI 이용 지침을 개정하는 부서가 2023년 이후 무엇이 바뀌었는지 비교할 때 편다.주의: PAX 목록은 국정원 보안 가이드라인, KISA 문서, 2026년 행안부 가이드와 함께 적용하라고 적었다. 직원 이용 지침의 현행 근거는 개보위의 생성형 AI 서비스 이용자 가이드(2026.5)다.
- 인공지능 위험 사례집 이 사례와 겹치는 부품 X13 도구 출력이 지시가 되는 에이전트쓰는 작업: 위험 평가표와 레드티밍 시나리오를 만들 때 출발점으로 쓴다. 기획 단계의 위험 식별 회의에서 "우리 서비스에 이런 일이 일어나면"을 묻는 재료다. 운영 단계에서는 사고 대응 훈련 시나리오의 소재가 된다.주의: 시나리오 모음이지 통제 기준이 아니다. 대책은 가이드북과 KISA 문서에서 찾는다.
- 내부업무망 SaaS 망분리 예외 적용 보안 해설서 이 사례와 겹치는 부품 S13 로컬 비식별 게이트쓰는 작업: 금융회사 직원이 업무망에서 생성형 AI SaaS를 쓰도록 허용할 때, 허용 범위와 보안 관리 방안을 정하는 근거다.주의: FAQ가 바뀌었으므로 해설서와 변경된 FAQ를 함께 본다.
- 공공 AX 프라이버시 보호 안내서 이 사례와 겹치는 부품 S13 로컬 비식별 게이트쓰는 작업: 공공 AX 사업 기획 단계에서 개인정보 담당자와 사업 담당자가 함께 편다. 먼저 사업이 세 활용 유형 가운데 어디에 드는지 정한다. 문서 요약이나 챗봇 상담 같은 기초업무 보조라면 허용·금지 활용 사례를 정해 사용자 교육 자료에 넣고 입출력 데이터의 관리체계를 세운다. 여러 DB를 이어 분석·추천하는 사업이면 연계하는 DB마다 처리 근거와 접근권한을 적은 표를 만든다. 그다음 RAG 연계와 결과 출력 지점의 안전조치를 과업지시서의 보안 요구사항으로 옮긴다. 선별·판단 유형이면 아래 자동화된 결정 안내서와 AI기본법 고영향 판단 가이드라인이 함께 걸린다.주의: 10대 점검사항의 개별 항목은 보도자료 본문에서 확인하지 못했다. 안내서 원문을 기준으로 옮긴다.
- 생성형 AI 개발·활용을 위한 개인정보 처리 안내서 이 사례와 겹치는 부품 S13 로컬 비식별 게이트쓰는 작업: 개인정보 담당자와 개발사는 개발 단계에서 이 문서를 펴 놓고, 학습 데이터와 프롬프트에 개인정보가 들어가는지, 들어간다면 어떤 근거로 처리하는지를 정리한다. 상용 API를 쓸지, 공개 모델을 내부에 둘지, 직접 튜닝할지에 따라 검토 항목이 달라진다.주의: 공공기관 사업은 공공 AX 프라이버시 보호 안내서(2026.7)를 먼저 보고, 이 문서로 생성형 AI 고유 항목을 채운다.
- AI 프라이버시 리스크 관리 모델 이 사례와 겹치는 부품 S13 로컬 비식별 게이트쓰는 작업: 개인정보 담당자가 AI 사업의 프라이버시 위험 평가표를 짜는 틀이다. 영향평가 대상이 아닌 사업에서도 위험을 스스로 관리하는 틀로 쓸 만하다.주의: 2021년 AI 개인정보보호 자율점검표(6대 원칙, 점검분야 16개, 세부항목 54개로 보도됨)는 개보위가 과거 안내서로 분류했다. PAX 목록은 이 모델과 공공 AX 안내서를 대신 쓰라고 적었다.
- 생성형 AI 서비스 이용자를 위한 개인정보 보호 가이드 이 사례와 겹치는 부품 S13 로컬 비식별 게이트쓰는 작업: 공무원과 직원이 외부 생성형 AI를 쓸 때 무엇을 입력하지 말아야 하는지 정하는 직원 이용 지침과 교육 자료의 기본 문서다. 정보화 부서는 기관이 허용한 서비스마다 학습 거부와 기록 삭제 설정을 확인해 지침 부록으로 붙인다. 2023년 행안부·국정원 지침을 갱신할 때 이 문서를 중심에 둔다.주의: 이용자 관점의 문서다. 기관이 서비스를 만드는 경우의 의무는 위 안내서들에 있다.
같은 주 패턴(B4)을 쓰는 다른 사례
같은 업무 패턴으로 조립된 사례를 서비스 유형이 같은 것부터 모았다 외 14건. 구현할 때 비교해 볼 수 있다.
이 사례에 쓰인 패턴
B4 인식 파이프라인 업무 컴포넌트
서류·음성·영상·도면 같은 비정형 입력을 인식 → 구조화 → 판정으로 연쇄 처리해 사람이 옮겨 적던 단계를 없앤다.
PAX 사례 34건이 이 부품을 쓴다
맥락
접수·심사(유형 ②), 서류 진위확인, 민원 통화 정리, 실시간 자막, 원격탐사·도면 판독처럼 비정형 입력이 업무의 출발점인 경우에 쓴다. 민감 서류가 많아 행정망·로컬 모델 조건이 자주 붙는다.
맞서는 힘(긴장)
- 자동 연결의 효율 vs 오인식이 판정으로 번지는 위험
- 인식 정확도 vs 로컬 모델 제약(E1·E5)
- 단계 분리의 추적 용이성 vs 단계 간 지연
해법
인식(OCR·STT·비전·VLM)은 정형 필드만 내게 하고, 기준정보와의 대조·요건 판정은 규칙 단계가 맡는다(B′1 + B′9). 저신뢰·불일치 건은 보류해 C1 검토 큐로 보내고, 오인식은 C3 상태 머신으로 되돌린다. 공공 문서 형식은 A10으로 받으며 OCR·STT 엔진은 A2 공통 후보를 쓴다. 제출 서류처럼 신뢰 불가 입력을 읽고 시스템 쓰기가 있으면 문서별 격리(S6)로 서류 속 지시가 판정을 바꾸지 못하게 한다.
이럴 때 쓴다
- 비정형 입력을 사람이 옮겨 적는 단계가 업무의 병목일 때
- 추출값이 규칙 판정·다음 처리로 이어질 수 있을 때
- 유형 ② 접수·심사 자동화의 기본 조립일 때
이럴 때는 쓰지 않는다
- 추출 결과가 초안으로 멈추고 사람이 확정할 때(B1)
- 추출 뒤 질의응답이 핵심 산출물일 때(B3)
- 상시 관측 스트림 감시가 핵심일 때(B5)
얻는 것
- 옮겨 적기 단계 제거
- 판정 기준이 규칙으로 남아 설명 가능
- OCR·STT 엔진을 범정부 공통으로 공유 가능
점검표
- 인식과 판정이 서로 다른 단계로 분리되어 있는가
- 저신뢰 건이 보류되어 사람에게 가는가
- 오인식 건을 되돌리는 경로가 있는가(C3)
- 필드별 정확도를 잰 시험 세트가 있는가
구조 — 참여 부품
- A10 문서 형식 어댑터 — PDF·HWPX·이미지 입력
- A2 모델 서빙 계층 — OCR·STT·VLM 엔진
- 규칙 대조기 — 기준정보와 대조하고 요건을 판정
- C1 검토 큐 — 저신뢰·불일치 건 확인
- C3 상태 머신·롤백 — 오인식 되돌림·재처리
변형
- OCR·서류: 제출 서류 필드 추출·요건 검토
- STT·음성: 통화·회의 음성의 텍스트화와 키워드 추출
- 비전 판독·정량화: 결함·손상 판독과 정량화(R5)
- VLM 문서이해(단일 모델): VLM 하나로 문서 이해·추출(R5)
- 배치 원격탐사·시계열 차분: 항공·위성 영상의 회차 간 변화 판독(R5)
- 통역(STT→MT→TTS): 음성 인식·번역·합성 연쇄(R5)
- CAD·BIM 도면 파싱: 도면에서 구조 정보 추출(R5)
참조 구현 예
- PAX 경기도의회 실시간 자막 — 개인 개발 → 기관 도메인 정식 개통(카드 참조 구현)
관련 부품
B′1 기본 배선 — 순차 파이프라인 · B′9 배선 — 인식은 추출만, 판정은 규칙 · C3 First 관문 — 오인식 되돌림 · S6 보안 짝 — 제출 서류별 격리 처리 · F9 이용자 쪽 대응 — 판정 근거 표시(위조 탐지는 관리자에게만)
참고 자료
Heiland Workflow Pipeline·AI Pipeline·Multi-layer · GoF Chain of Responsibility
이 부품과 이어지는 가이드라인
A2.5 모델 서빙 · 비LLM 학습 모델 공통 서비스
XGBoost·LightGBM·YOLO·U-Net처럼 기관이 직접 학습한 비LLM 예측·비전 모델을 서빙하고 재학습·버전 롤백이 붙을 자리를 제공한다.
PAX 사례 15건이 이 부품을 쓴다
맥락
B2 예측·추천기, B5 현장 감지·경보, B4 비전 판독의 추론 엔진이 된다. 서비스 유형 5a·10에서는 필수이고(R7, R10 'A2.5 또는 결정론 점수 엔진'), 유형 3에서는 A5·A2.2와 함께 셋 중 하나를 고른다. 학습 기준선(A1)이 먼저 있어야 한다.
맞서는 힘(긴장)
- 모델 성능 vs 설명 가능성(F9)
- 배포 후 데이터 드리프트 vs 재학습 비용
- 모델 교체 속도 vs 이전 안정판으로의 복귀 보장
해법
학습한 모델을 서빙 계층에 버전과 함께 올려 업무 부품이 점수·등급·탐지 결과만 받게 한다. 서빙 계층은 모델 버전과 드리프트 지표를 함께 내보내 C4에 기록하고, 재학습 파이프라인(C6)이 새 버전을 올리는 자리와 이전 안정판으로 되돌리는 자리(모델 버전 롤백, C7 변형)를 둔다. 재학습 버전은 C9 독립 시험세트에서 이전 버전을 넘을 때만 배포한다. 판정 근거는 F9로 이용자에게 보인다.
이럴 때 쓴다
- 기관이 자체 데이터로 비LLM 모델을 학습해 운영할 때
- 유형 5a-brief가 아닌 분석·위험 예측(유형 10)·현장 감시(유형 3) 조립
- 재학습과 버전 롤백이 필요한 예측·탐지 서비스
이럴 때는 쓰지 않는다
- LLM을 튜닝했으면 A2.3
- 벤더 장비·솔루션에 내장돼 기관이 모델을 못 바꾸면 A2.6
- 학습 없는 규칙 점수 엔진이면 B0(R10 대안)
얻는 것
- 비LLM 과제가 A2 계층에 정식 자리를 가짐
- 재학습·버전 롤백으로 운영 개선
- C6·C7을 끼울 자리 확보
점검표
- 모델 버전과 학습 데이터 버전이 짝지어 기록되는가
- 독립 시험세트가 학습 데이터와 분리되어 있는가
- 이전 안정판으로 되돌릴 수 있는가
- 재학습 버전 배포 기준이 수치로 있는가
구조 — 참여 부품
- A1 데이터 자산 서비스 — 학습·재학습 기준선
- A2 서빙 계층 — 모델 버전별 노출과 롤백
- C6 환류 파이프라인 — 재학습 주기·트리거
- C9 평가 세트 — 재학습 버전 배포 게이트
- F9 판정 근거·기여도 표시 — SHAP·BBox 등 근거를 이용자에게 표시
변형
- 정형 예측기: XGBoost·LightGBM 등으로 위험 순위·등급·수요를 예측한다(B2와 짝).
- 비전 탐지·분할: YOLO·U-Net 등으로 영상·이미지를 탐지·분할한다(B5·B4와 짝).
- 경량 온디바이스 모델: 소형 자체 학습 모델을 전처리 앞단에 붙인다(A2.5+S13 조합, 40M 파라미터 PII 검출 모델).
참조 구현 예
- PAX dcba0f654467bdc9 — 40M 파라미터 소형 자체 학습 PII 모델(§13 A2.5+S13 조합)
관련 부품
B2 소비처 — 예측·추천기의 추론 엔진 · C6 짝 — 재학습 파이프라인이 붙는 자리 · C7 짝 — 이전 안정판 복귀(모델 버전 롤백) · F9 이용자 쪽 대응 — 판정 근거 표시 · B5 소비처 — 현장 감지의 탐지 모델
참고 자료
GoF Strategy · Microservice 패턴 Blue-Green
S13 로컬 비식별 게이트 보안 패턴
외부로 전송하기 전에 단말·현장 서버의 소형 모델로 개인정보를 탐지·마스킹해 비식별 결과만 내보낸다. v0.6 후보 부품으로, 카드 없이 R4 한 줄 정의와 §13 레지스트리로만 등재되어 있다.
PAX 사례 5건이 이 부품을 쓴다
맥락
현장 기기(스마트글라스·CCTV)·업무 PC에서 만든 데이터를 서버·외부 LLM으로 보내는 구조, 공공문서 전처리 파이프라인의 앞단, 비식별·정제 도구(유형 13, D8.8). 카탈로그상 후보이며 위협 매트릭스·조립 템플릿에는 아직 들어가 있지 않다.
맞서는 힘(긴장)
- 외부 모델·클라우드 활용 vs 원문 유출
- 소형 모델의 단말 구동성 vs 탐지 누락
- 처리 지연(실시간 영상) vs 비식별 정확도
해법
데이터가 단말·현장 서버를 떠나기 직전에 소형 PII 탐지 모델(A2.5 자체 학습 모델 등)을 돌려 얼굴·개인정보를 마스킹하고, 비식별된 결과와 통계·이벤트만 전송한다. 원본은 현장에서 처리·종결하거나 원본과 분리해 보관한다. 탐지 누락에 대비해 수동 보완 절차를 두고, 외부 연결이 실패하면 로컬 처리로 되돌린다. 오프라인 모드를 강제하면 게이트를 우회한 전송을 막을 수 있다. ^[inferred]
이럴 때 쓴다
- 현장 영상·음성을 클라우드·중앙 서버로 보내는 감시 과제
- 공공문서를 외부 LLM(E2 해외 상용 API)에 보내기 전
- 비식별·정제 도구(유형 13)
- E5 S 등급 데이터를 A2.4 없이 외부로 보내야 할 때의 보완
이럴 때는 쓰지 않는다
- 데이터를 아예 외부로 보내지 않아도 되면 S12가 더 강함
- 이미 서버 쪽 비식별(C5)만으로 충분한 내부 전송
- 탐지 누락이 허용되지 않는데 수동 보완 경로가 없을 때 — 게이트만으로는 부족
얻는 것
- 외부 모델·클라우드를 쓰면서 원문 유출 축소
- 전송 데이터량 감소
- 원본을 현장에 남겨 데이터 주권 유지
점검표
- 게이트를 거치지 않는 외부 전송 경로가 없는가
- 탐지율 목표와 실측치가 있는가
- 누락 시 수동 보완 절차가 있는가
- 원본이 외부로 나가지 않거나 분리 보관되는가
구조 — 참여 부품
- A2.5 비LLM 학습 모델 서빙 — 경량 PII·얼굴 탐지 모델
- A5 엣지 추론 런타임 — 현장 기기·서버에서 비식별 실행
- 전송 게이트 — 비식별 결과만 외부로 통과
- C1 검토 큐 — 탐지 누락의 수동 보완
변형
- 엣지 영상 비식별형: 기기 단에서 얼굴 블러 후 휘발성 전송으로만 서버에 보냄
- 현장 서버 종결형: 원본 영상을 현장 서버에서 처리·종결하고 비식별 통계·이벤트만 클라우드로
- 문서 반출 전 점검형: 업무 PC 로컬의 한국어 PII 탐지 모델로 반출 전 점검
- 로컬 우선·선택 외부형: 기본 로컬 분석, 외부 LLM 연결 전 자동 마스킹, 실패 시 로컬 폴백
참조 구현 예
- PAX d33ebcfc0adca9f8 — 4천만 매개변수 한국어 탐지 모형 내장, 오프라인 모드 강제로 원본과 분리된 비식별 결과물(§13)
- PAX 8f7e23fec614657c — 100MB급 한국어 PII 탐지 모델을 업무 PC 로컬에서 돌려 반출 전 점검(§13)
- PAX c7e0862df664bbe5 — 로컬 분석 + 외부 LLM 선택 연결 + 연결 전 자동 마스킹 + 실패 시 로컬 폴백(§13)
- PAX dcba0f654467bdc9 — 40M 파라미터 소형 자체 학습 모델, 공공문서 전처리 앞단 로컬 비식별 게이트(§13, A2.5+S13 조합)
관련 부품
C5 짝 — 서버 쪽 비식별과 단말 쪽 게이트 · S12 대안 — 전송이 불필요하면 비도달 설계 · A2.5 끼울 자리 — 경량 PII 탐지 모델(A2.5+S13 조합) · D8.8 서비스 블록 — 보호·정제 · C7 보완 — 외부 연결 실패 시 로컬 폴백
참고 자료
카탈로그 §0 v0.6 개정표(S 부품 판정 전제) · 분류기준 R4
이 부품과 이어지는 가이드라인
D8.8 보호·정제 서비스 블록
공유·전송 전에 개인정보를 비식별하고, 생성 코드를 보안 기준으로 점검하고, 파일을 이중 보관하는 내부 운영 블록이다. C5의 업무 블록 버전이다.
PAX 사례 18건이 이 부품을 쓴다
맥락
공유·전송·AI 투입 전에 자료를 보호하는 업무. 서비스 유형 13 비식별·정제 도구(D8.8 전용, 필수 C5·F7, R17)가 이 블록에 대응한다. PAX 18건(주 부품 B0 72%, B4 28%), 감사·법무 7건.
맞서는 힘(긴장)
- 비식별 강도 vs 자료의 활용도
- 로컬 처리(PII 서버 미도달) vs 모델 성능
- 자동 점검의 편의 vs 누락에 대한 과신
- 보호 도구 자체의 신뢰성 vs 검증 비용
해법
보호 조치를 자료가 기관 밖이나 모델로 나가기 직전에 둔다. 개인정보는 C5 비식별 전처리기로 거르되, 가능하면 단말에서 처리해 PII가 서버에 닿지 않게 하는 S12 데이터 비도달 설계나 S13 로컬 비식별 게이트(온디바이스 소형 모델)를 쓴다. 규칙으로 잡히는 항목은 B0 결정적 탐지로, 문맥이 필요한 항목만 소형 모델로 처리한다. 생성 코드 점검은 공공 보안 기준을 규칙 세트로 만들어 1차 린터로 돌리고 S9 샌드박스에서 실행한다. 결과에는 F7 한계("1차 점검", 누락 가능성)를 명시하고 C9로 탐지 누락률을 잰다.
이럴 때 쓴다
- 자료를 외부·AI로 보내기 전에 개인정보를 가려야 할 때
- 직접 만든 코드의 보안 기준 준수를 점검해야 할 때
- 보호 조치가 반복 업무로 담당자 시간을 쓸 때
이럴 때는 쓰지 않는다
- 비식별이 다른 도구의 내부 단계일 뿐이면 그 도구의 블록에 두고 C5만 태그
- 규정·서식 대조가 목적이면 D8.4
- 인수인계가 목적이면 D8.7(우선순위 높음)
얻는 것
- 외부 모델 활용의 전제 조건 확보
- 담당자 수작업 마스킹 절감
- 보안 기준 1차 점검의 일상화
점검표
- PII가 서버·외부 모델에 닿기 전에 걸러지는가
- 탐지 누락률을 재는가
- "1차 점검" 한계가 고지되는가
- 점검 규칙의 출처(보안 기준)가 명시되어 있는가
구조 — 참여 부품
- 담당자 — 보호 조치 결과를 확인하고 공유
- C5 가드레일·비식별 — 개인정보 탐지·마스킹
- B0 결정적 도구 — 규칙 기반 탐지·보안 린터
- S13 로컬 비식별 게이트 — 외부 전송 전 온디바이스 비식별
- F7 한계·신뢰도 안내 — 1차 점검임과 누락 가능성 고지
변형
- 비식별 전처리형: 문서·설문·엑셀의 개인정보를 가림(C5, S13).
- 생성 코드 보안 점검형: AI 생성 코드를 공공 보안 기준으로 1차 점검(vibecode-checker).
- 이중 보관·백업형: 파일을 이중 보관해 손실을 막음.
참조 구현 예
- vibecode-checker — 카탈로그 D8.8 카드 예: AI 생성 코드를 공공 보안 기준으로 점검하는 1차 보안 린터
- AI Survey Insight — 카탈로그 D8.8 카드 예: 설문 주관식 정리 도구
- VHLookup — 카탈로그 B0 카드 참조 구현: 엑셀 마스킹·병합
관련 부품
C5 부품 버전 — 비식별 전처리기 · S13 보안 부품 — 로컬 비식별 게이트 · S12 보안 부품 — 데이터 비도달 설계 · D8.4 이웃 블록 — 대조·점검 · 유형 13 대응 서비스 유형 — 비식별·정제 도구
참고 자료
카탈로그 §6 C5 카드 · 카탈로그 §2 v0.6 변경(S12·S13 후보 등재) · 카탈로그 §13 S12·S13 참조 구현
이 부품과 이어지는 가이드라인
X13 도구 출력이 지시가 되는 에이전트 안티패턴
검색 결과·첨부·API 응답을 읽은 모델이 그 안의 문장을 새 명령으로 받아 도구를 부르는 구조를, 탐지 필터 하나로 지키려는 함정이다.
맥락
E4가 P2 이상(시스템 쓰기·처분 보조)이면서 민원 입력·제출 서류·웹 문서·타 기관 API 응답 같은 신뢰 불가 입력을 읽는 에이전트. 특히 B6·5b 데이터 에이전트.
맞서는 힘(긴장)
- 범용 에이전트의 유연성 vs 신뢰 불가 입력 뒤의 행동 제약
- 단일 LLM 구조의 단순함 vs 격리·계획 고정의 설계 비용
- 탐지 필터의 손쉬움 vs 증명 가능한 보증
해법
과제의 AI가 읽는 입력 중 기관 밖에서 작성된 것을 untrusted_inputs로 나열하고, §4.2 신뢰 불가 입력 규칙대로 S4 행동 선택기(미리 정한 행동 중 선택만, 결과가 LLM으로 돌아가지 않음), S5 계획 후 실행(외부 데이터를 읽기 전에 도구 호출 계획을 고정), S6 격리 LLM(도구 있는 LLM은 외부 데이터를 읽지 않고, 읽는 LLM은 도구가 없음) 중 하나를 갖춘다. S3 컨텍스트 방화벽과 S8 독립 검증기는 보조로 붙이되 S8만으로는 규칙을 충족하지 못한다. C8 승인 게이트도 신뢰 불가 입력 규칙의 대체 통제로 인정되지 않는다(R6). 그 전 단계에서는 E4를 P0~P1 읽기·산출물 범위에 묶어 두는 것이 곧 보안이다.
이럴 때 쓴다
- E4가 P2 이상이고 untrusted_inputs가 비어 있지 않은데 S4·S5·S6이 모두 없다(신뢰 불가 입력 규칙 위반)
- 외부 문서를 읽는 LLM이 같은 컨텍스트에서 쓰기 도구를 호출할 수 있다
- 인젝션 대책이 탐지 필터·프롬프트 경고문뿐이다
- 읽은 텍스트 중 어떤 것이 어떤 도구를 부를 수 있는지 답하지 못한다
이럴 때는 쓰지 않는다
- E4가 P0~P1로 읽기·산출물 생성에만 묶여 도구 호출·시스템 쓰기가 없는 경우(S4·S5·S6 판정 전제 불충족, R6)
- S4·S5·S6 중 하나가 구조적으로 갖춰진 경우(보안 목적 서술이 없어도 구조가 일치하면 충족)
- AI가 읽는 입력이 모두 기관 내부에서 작성된 경우
얻는 것
- 단일 LLM 범용 에이전트로 구조가 단순하다
- 새 입력·새 도구를 자유롭게 붙인다
점검표
- untrusted_inputs가 나열되어 있는가
- 신뢰 불가 입력을 읽은 LLM이 쓰기 도구를 직접 부를 수 없는가
- S4·S5·S6 중 하나가 구조로 구현되어 있는가
- S8 탐지를 유일한 방어로 두지 않았는가
구조 — 참여 부품
- S4 행동 선택기 — LLM이 정해진 행동 중 선택만 하게 제약
- S5 계획 후 실행·코드 후 실행 — 외부 데이터를 읽기 전에 도구 계획 고정
- S6 격리 LLM·맵리듀스 — 읽는 LLM과 도구 있는 LLM을 분리
- S8 독립 검증기·이중 심판 — 보조 탐지. 단독으로는 보증이 아님
변형
- 문서 속 지시: 첨부·제출 서류 안의 문장대로 에이전트가 도구를 호출
- API 응답 오염: 타 기관 API·웹 검색 결과에 섞인 지시가 후속 행동을 바꿈
- 탐지 단독 방어: 인젝션 탐지 필터(S8) 하나만 두고 구조적 제약이 없음
관련 부품
S6 대체 — 읽는 LLM과 도구 있는 LLM 격리 · S5 대체 — 외부 데이터 읽기 전 계획 고정 · S4 대체 — 정해진 행동 중 선택만 · S3 보조 — 신뢰 구역 분리 표기 · S8 보조 — 탐지(단독으로는 보증 아님) · S10 기록처 — 사고 재현
참고 자료
Beurer-Kellner 외(2025) 지도 원칙 '신뢰 불가 입력을 읽은 뒤에는 그 입력이 결과적 행동을 촉발할 수 없도록 제약' · Beurer-Kellner #1 Action-Selector, #2·#5 Plan-Then-Execute, #3·#4 Dual LLM
이 부품과 이어지는 가이드라인
X16 기준을 노출하는 위조 탐지 안티패턴
진위 판정 근거를 이용자 화면에 그대로 보여 줘 위조범이 탐지 기준을 역추적하게 만드는 함정이다. F9 근거 표시가 적대적 접점에서는 취약점이 된다.
맥락
D3 자격·심사, D2 접수·제출에서 제출 서류·이미지의 진위를 판정하는 B4 인식 파이프라인·B2 분류기. 이용자 중 일부가 탐지를 회피하려는 동기를 가진 경우.
맞서는 힘(긴장)
- 설명 가능성·투명성 vs 적대적 이용자의 기준 역추적
- 이용자 자기확인 편의 vs 판정 기준 보호
- 행정 절차상 사유 고지 vs 탐지 성능 유지
해법
F9 판정 근거·기여도 표시를 역할별로 나눈다. 이용자 화면에는 '정상/위조의심'만 노출하고, 의심 부위·사유 코드·기여도 같은 세부 근거는 관리자 화면에만 보여 준다(근거 은닉, anti-oracle — 카탈로그가 S 계층 후보로 둔 반대편 부품). 관리자 화면 접근은 C8 권한 경계로 제한하고, '위조의심' 건은 C1 검토 큐에서 담당자가 세부 근거를 보고 확정한다. 이용자에게는 F7 한계·신뢰도 안내로 추가 확인 절차를 알리고, 반복 제출·판정 이력은 C4·S10에 남겨 역추적 시도를 탐지할 근거로 삼는다.
이럴 때 쓴다
- 진위·위조 판정 결과와 함께 세부 근거(의심 부위·사유 코드·점수)가 제출자 화면에 표시된다
- 제출자가 근거를 보고 수정해 반복 재제출할 수 있다
- 이용자 중 탐지 회피 동기를 가진 적대자가 있을 수 있다
- 관리자와 이용자의 판정 화면이 같다
이럴 때는 쓰지 않는다
- 내부 담당자만 쓰는 판독 도구로 제출자에게 결과가 노출되지 않는 경우
- 이용자가 적대자가 아닌 접점(예: 내부 품질 점검, 자기 서류 오류 안내)에서 F9로 근거를 보여 주는 경우 — 이때 F9는 정상 부품이다
- 이용자에게 '정상/위조의심'만 보여 주고 세부 근거는 관리자 화면에 둔 경우
얻는 것
- 투명성·설명 가능성 요구를 쉽게 충족한다
- 선의의 이용자가 오류를 스스로 고칠 수 있다
점검표
- 제출자 화면에 세부 판정 근거가 노출되지 않는가
- 세부 근거가 관리자 화면에서만 보이고 접근이 제한되는가
- 위조의심 건을 사람이 확정하는가
- 반복 재제출 이력이 기록되는가
구조 — 참여 부품
- F9 판정 근거·기여도 표시 — 적대적 접점에서 역할별로 나눠야 할 설명
- 근거 은닉(anti-oracle, S 후보) — 이용자에게는 판정만, 세부 근거는 관리자에게만
- C1 검토 큐 — 위조의심 건을 담당자가 세부 근거로 확정
- C8 권한 경계 — 관리자 화면 접근 제한
변형
- 의심 부위 표시형: 이용자 화면에 BBox·히트맵으로 위조 의심 부위를 표시
- 사유 코드 노출형: 반려 사유 코드·점수를 이용자에게 그대로 반환
- 무제한 재제출형: 근거를 보고 고쳐 무제한 재제출할 수 있어 기준 탐색이 가능
관련 부품
F9 교정 대상 — 적대적 접점에서 관리자 화면 전용으로 · C8 끼울 자리 — 관리자 화면 접근 제한 · C1 짝 — 위조의심 건의 사람 확정 · F7 이용자 쪽 대응 — 판정만 알리고 다음 절차 안내 · D3 발생 접점 — 자격·심사
참고 자료
카탈로그 §6 F9 카드(적대적 D3에서는 관리자에게만 노출)
실무 도입 카드
필요한 것
실행환경: 서버 구축
첫 3단계
① 원문·저장소에서 실체 확인 → ② 소규모 업무로 시험 → ③ 결과를 동료와 교차 검증
주의사항
성과 수치는 출처가 확인된 것만 신뢰하세요
전이 절차(보안검토→품의→배포)는 전이 플레이북을 참고하세요.