범정부 AI 준실시간 회의 자막 — 겹침 녹음과 CLOVA Studio GOV STT로 내부망 뷰어에 자막을 뿌리는 오프라인 실행형 시스템

서류·음성·영상·도면 같은 비정형 입력을 인식 → 구조화 → 판정으로 연쇄 처리해 사람이 옮겨 적던 단계를 없앤다.

PAX 사례 34건이 이 부품을 쓴다

맥락

접수·심사(유형 ②), 서류 진위확인, 민원 통화 정리, 실시간 자막, 원격탐사·도면 판독처럼 비정형 입력이 업무의 출발점인 경우에 쓴다. 민감 서류가 많아 행정망·로컬 모델 조건이 자주 붙는다.

맞서는 힘(긴장)

• 자동 연결의 효율 vs 오인식이 판정으로 번지는 위험
• 인식 정확도 vs 로컬 모델 제약(E1·E5)
• 단계 분리의 추적 용이성 vs 단계 간 지연

해법

인식(OCR·STT·비전·VLM)은 정형 필드만 내게 하고, 기준정보와의 대조·요건 판정은 규칙 단계가 맡는다(B′1 + B′9). 저신뢰·불일치 건은 보류해 C1 검토 큐로 보내고, 오인식은 C3 상태 머신으로 되돌린다. 공공 문서 형식은 A10으로 받으며 OCR·STT 엔진은 A2 공통 후보를 쓴다. 제출 서류처럼 신뢰 불가 입력을 읽고 시스템 쓰기가 있으면 문서별 격리(S6)로 서류 속 지시가 판정을 바꾸지 못하게 한다.

이럴 때 쓴다

• 비정형 입력을 사람이 옮겨 적는 단계가 업무의 병목일 때
• 추출값이 규칙 판정·다음 처리로 이어질 수 있을 때
• 유형 ② 접수·심사 자동화의 기본 조립일 때

이럴 때는 쓰지 않는다

• 추출 결과가 초안으로 멈추고 사람이 확정할 때(B1)
• 추출 뒤 질의응답이 핵심 산출물일 때(B3)
• 상시 관측 스트림 감시가 핵심일 때(B5)

얻는 것

• 옮겨 적기 단계 제거
• 판정 기준이 규칙으로 남아 설명 가능
• OCR·STT 엔진을 범정부 공통으로 공유 가능

점검표

• 인식과 판정이 서로 다른 단계로 분리되어 있는가
• 저신뢰 건이 보류되어 사람에게 가는가
• 오인식 건을 되돌리는 경로가 있는가(C3)
• 필드별 정확도를 잰 시험 세트가 있는가

구조 — 참여 부품

• A10 문서 형식 어댑터 — PDF·HWPX·이미지 입력
• A2 모델 서빙 계층 — OCR·STT·VLM 엔진
• 규칙 대조기 — 기준정보와 대조하고 요건을 판정
• C1 검토 큐 — 저신뢰·불일치 건 확인
• C3 상태 머신·롤백 — 오인식 되돌림·재처리

변형

• OCR·서류: 제출 서류 필드 추출·요건 검토
• STT·음성: 통화·회의 음성의 텍스트화와 키워드 추출
• 비전 판독·정량화: 결함·손상 판독과 정량화(R5)
• VLM 문서이해(단일 모델): VLM 하나로 문서 이해·추출(R5)
• 배치 원격탐사·시계열 차분: 항공·위성 영상의 회차 간 변화 판독(R5)
• 통역(STT→MT→TTS): 음성 인식·번역·합성 연쇄(R5)
• CAD·BIM 도면 파싱: 도면에서 구조 정보 추출(R5)

참조 구현 예

• PAX 경기도의회 실시간 자막 — 개인 개발 → 기관 도메인 정식 개통(카드 참조 구현)

관련 부품

B′1 기본 배선 — 순차 파이프라인 · B′9 배선 — 인식은 추출만, 판정은 규칙 · C3 First 관문 — 오인식 되돌림 · S6 보안 짝 — 제출 서류별 격리 처리 · F9 이용자 쪽 대응 — 판정 근거 표시(위조 탐지는 관리자에게만)

참고 자료

Heiland Workflow Pipeline·AI Pipeline·Multi-layer · GoF Chain of Responsibility

이 부품과 이어지는 가이드라인

• 2026 인공지능 윤리기준 실천 자율점검표 과학기술정보통신부·KISDI, 2026.2.

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

한 단계의 출력을 다음 단계의 입력으로 넘기는 고정 순서 배선이다. 한 프롬프트에 많은 일을 몰아 시켜 품질이 떨어지는 문제를 막는다.

PAX 사례 109건이 이 부품을 쓴다

맥락

B4 인식 파이프라인의 기본 배선이며, B1·B0·B5 안에서도 흔하다. 단계 순서가 업무 절차로 미리 정해져 있고 AI가 순서를 고를 필요가 없을 때 쓴다.

맞서는 힘(긴장)

• 디버깅·출처 추적의 쉬움 vs 병렬화 불가로 인한 지연
• 단계 분리의 품질 이점 vs 단계가 늘수록 오류 누적
• 고정 순서의 예측 가능성 vs 예외 경로 처리의 경직성

해법

업무 절차를 단계로 나누고 각 단계의 입력·출력 형식을 정해 앞 단계 출력을 다음 단계에 넘긴다. 단계 사이에 형식 검증(스키마)을 두어 오류가 번지기 전에 멈추고, 멈춘 건은 C1 검토 큐나 C3 재처리로 보낸다. 판정·산수 단계는 가능한 한 규칙(B′9)으로 두고 모델은 추출·서술 단계만 맡긴다. 단계 순서를 AI가 바꿔야 한다면 B′8이나 B′7로 옮긴다.

이럴 때 쓴다

• 업무 절차가 고정 순서로 정해져 있을 때
• 각 단계를 따로 검증·추적해야 할 때(유형 ② 접수·심사, ⑧ 취합·변환)
• 단일 에이전트에서 시작하는 첫 배선일 때

이럴 때는 쓰지 않는다

• 하위 작업이 서로 독립이라 동시에 돌려야 지연이 줄 때(B′3)
• 입력에 따라 AI가 다음 도구를 골라야 할 때(B′7)
• 긴 업무를 계획부터 세워야 할 때(B′8)

얻는 것

• 디버깅과 출처 추적이 쉬움
• 단계별 품질 검증 가능
• 구현이 가장 단순

점검표

• 단계마다 입력·출력 형식이 정의되어 있는가
• 단계 사이 검증에서 실패하면 멈추는가
• 단계별 중간 결과를 추적할 수 있는가

구조 — 참여 부품

• 단계 처리기 — 각 단계에서 추출·변환·작성 수행
• 단계 간 형식 검증 — 다음 단계로 넘기기 전 스키마 확인
• C3 상태 머신·롤백 — 실패 단계 재처리

관련 부품

B4 기본 배선 — 인식 파이프라인 · B′8 대안 — 순서를 계획으로 정할 때 · B′9 짝 — 판정 단계를 규칙으로 · C3 기록처·되돌림 — 실패 단계 재처리

참고 자료

Google ADK #1 Sequential · Gulli ch.1 Prompt Chaining · Heiland Multi-layer · adaptive.live 프롬프트 체이닝

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

정부·공공이 운영하는 모델·데이터·개발 도구(범정부 AI 공통기반, 모두의 AI 실험실, 공공데이터포털, 공공 깃랩)를 범정부 Provider로 소비한다.

PAX 사례 154건이 이 부품을 쓴다

맥락

모델·공공데이터·법령 원문·개발 환경을 공공 플랫폼에서 가져올 수 있다면 어느 과제든 해당한다. §7.1 2단계 '기반 부품은 새로 만들지 말고 Provider에서 먼저 찾는다'가 바로 이 부품을 가리킨다. 유형 7(대조·점검)에서는 법령·기준 출처를 대는 필수 기반이다.

맞서는 힘(긴장)

• 공통 Provider 재사용 vs 기관 고유 요구 반영
• 공공 API 가용성·갱신 주기 vs 서비스 신뢰성
• 인가·검증 절차의 통제 vs 에이전트 루프의 병목(PAX 공공API 진단)

해법

기반을 새로 만들기 전에 범정부 AI 공통기반(모델), 공공데이터포털·법령 API(데이터), 모두의 AI 실험실·공공 깃랩(개발·실험 환경)에서 먼저 찾아 소비한다. 인증은 GPKI·디지털원패스 같은 연합 신원(Federated Identity)으로 위임하고, 공공 API 응답은 출처·조회 시각과 함께 업무 부품에 넘긴다. 에이전트가 부를 수 있게 하려면 A8 MCP 서버로 감싸고, 결과를 재가공해 기준선으로 고정하면 A1을 더한다. 기관이 만든 도구는 공공 깃랩에 등재해 다음 기관의 Provider가 되게 한다.

이럴 때 쓴다

• 모델·데이터·개발 환경을 기관이 새로 만들려 할 때 — 먼저 Provider 확인
• 법령·기준 원문을 최신으로 대조해야 하는 유형 7
• 여러 부서가 같은 기반을 따로 만들고 있을 때(X3 교정)

이럴 때는 쓰지 않는다

• 필요한 모델·데이터가 공공 Provider에 없을 때(만들고 레지스트리에 올림)
• 타 기관 데이터를 계약·키 매핑으로 결합하는 경우는 A4

얻는 것

• 기관별 중복 구축 방지(X3 교정)
• 공인된 원천 데이터·모델 사용
• 등재를 통해 전이 경로 확보

점검표

• 같은 기반을 기관 안에서 따로 만들지 않았는가
• 공공 API 응답의 출처·조회 시각이 결과에 남는가
• API 장애·변경 시 어떻게 되는지 답할 수 있는가
• 만든 도구가 공공 깃랩 등에 등재되었는가

구조 — 참여 부품

• 공공 Provider — 범정부 AI 공통기반·공공데이터포털·모두의 AI 실험실·공공 깃랩
• 연합 신원 인증 — GPKI·디지털원패스 등으로 호출 주체를 확인
• 소비 부품(B·A2·A8) — Provider를 직접 만들지 않고 가져다 씀
• S1 AI 게이트웨이·단일 진입점 — 공공 인증을 위임받아 호출을 통제

변형

• 공공 모델 Provider: 범정부 AI 공통기반(HCX-GOV-THINK) 위에서 모델을 소비한다. 온나라 AI 문서 분배기가 공통기반 RAG 위에서 돈다.
• 공공 데이터·법령 Provider: 공공데이터포털 OpenAPI·법제처 API 등을 실서비스 파이프라인에 상시 연동한다.
• 개발·실험 환경 Provider: 모두의 AI 실험실·공공 깃랩에서 개발하고 결과물을 등재한다.

참조 구현 예

• PAX 온나라 AI 문서 분배기 — 범정부 공통기반 RAG 위에서 접수 문서 배분(§6 A3 카드)
• PAX ef389de4efadc258 — 법제처 API로 매일 최신성 검증(§13 A3)
• PAX 3d07b6da99f5e1ed — 직제·시행규칙을 법령 API로 파싱·결합, 시행일 스냅샷 비교(§13 A3)

관련 부품

A2.4 짝 — 공통기반 모델을 내부망에서 경유 · A8 감싸는 층 — 공공 API를 MCP 도구로 · S1 인증 위임 — 공공 인증을 단일 진입점에 · A7 등재처 — 자체 제작 도구를 공공 깃랩에 · A4 경계 — 계약 기반 결합

참고 자료

patterns.dev Provider 패턴 · Microservice 패턴 Federated Identity·Access Token · PAX 공공API 진단 보고서

이 부품과 이어지는 가이드라인

• 공공데이터의 인공지능 친화적 관리 가이드라인 행정안전부·NIA, 2026. v1.1 개정 공지(2026.8.4).

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

장비·상용 솔루션에 내장돼 기관이 모델·버전·학습 데이터를 보거나 바꿀 수 없는 모델의 자리다. 교체·재학습 대신 계약과 자체 실측으로 통제한다.

PAX 사례 4건이 이 부품을 쓴다

맥락

벤더 장비·제품을 들여왔지만 모델을 교체·재학습할 권한은 없는 과제에 쓴다. 유형 5a-brief는 A2.1·A2.2와 함께 A2.6을 허용한다(R19).

맞서는 힘(긴장)

• 검증된 제품의 빠른 도입 vs 모델 내부를 볼 수 없음
• 벤더 성능 보증 vs 기관 현장 조건에서의 실측
• 유지보수 계약 의존 vs 기관 자체 개선(C6) 불가

해법

모델이 블랙박스임을 조립도에 명시하고, 교체·재학습 대신 바깥에서 통제한다. 벤더 KPI를 준용하지 않고 C9 자체 평가 세트와 C4 실증 기간 지표로 현장 성능을 잰다(X15의 교정). 모델 버전이 바뀔 때 통지받고 회귀를 확인할 수 있도록 계약·운영 절차를 두며, 장애나 성능 저하에 대비해 C7 규칙 축소·수동 전환 경로를 둔다. 판정 근거를 제품이 주지 않으면 F7로 한계를 안내한다.

이럴 때 쓴다

• 기관이 모델을 교체·재학습할 권한 없이 벤더 제품의 AI 기능을 쓸 때
• 모델 정보가 제품 사양에만 있고 기관 코드가 모델을 부르지 않을 때

이럴 때는 쓰지 않는다

• 기관 코드가 상용 API를 직접 부르면 A2.1
• 기관이 학습·재학습하면 A2.5
• 모델명 자체가 불명이고 벤더 제품도 아니면 A2.0

얻는 것

• 검증된 제품을 빠르게 도입
• 모델 운영 부담이 벤더에 있음

점검표

• 보고된 성능이 실증 기간 자체 실측인가, 벤더 KPI인가
• 모델 버전 변경을 기관이 알 수 있는가
• 제품 장애 시 대체 경로가 있는가

구조 — 참여 부품

• 벤더 장비·제품 — 내장 모델로 추론, 기관은 설정만 가능
• C9 평가 세트 — 벤더 KPI 대신 기관 현장 성능을 실측
• C4 감사 로그·지표 — 운영(시범 운영 포함) 기간 지표 적재
• C7 폴백 스위치 — 제품 장애·성능 저하 시 규칙 축소·수동 전환

변형

• 장비 내장형: 카메라·분석 장비 펌웨어에 모델이 묶여 온다.
• 상용 제품 내장형: 분석·업무 소프트웨어가 내부 모델을 감추고 결과만 내준다.

관련 부품

C9 짝 — 벤더 KPI 대신 자체 실측 · C7 끼울 자리 — 제품 장애 시 대체 경로 · A2.5 대안 — 기관이 직접 학습 · X15 주의 — 빌린 성과표

참고 자료

Heiland 배포 범주

이 부품과 이어지는 가이드라인

• 인공지능과 머신러닝 공급망 위험 및 완화방안 국가정보원, 2026.3(게시 2026.3.5).

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

개인정보·원문을 단말(브라우저·PC·기기)에서 처리해 서버나 외부로 아예 보내지 않는다. v0.6 후보 부품으로, 카드 없이 R4 한 줄 정의와 §13 레지스트리로만 등재되어 있다.

PAX 사례 36건이 이 부품을 쓴다

맥락

PAX 자생 도구처럼 브라우저 단독 HTML·데스크톱 앱·로컬 모델로 업무 PC 안에서 완결되는 도구(E1 로컬 PC 완결). PAX 557건 태깅에서 S 부품 중 최다(36건)로 관측되었다. 카탈로그상 후보이며 위협 매트릭스·조립 템플릿에는 아직 들어가 있지 않다.

맞서는 힘(긴장)

• 유출 경로 제거 vs 중앙 로그·감사 기록 부재(C4 소실)
• 로컬 처리의 단순함 vs 단말 성능·로컬 모델 품질 한계
• 개인 도구의 자율성 vs 기관 전이 시 운영 통제 재장착

해법

개인정보·원문을 다루는 처리를 브라우저 내 로컬 처리·데스크톱 앱·로컬 모델(A2.2·A5)로 단말 안에서 끝낸다. 외부 호출이 꼭 필요하면 호출 범위를 한 기능(예: 음성 인식)으로 좁히고 키·원문·결과는 호스트 밖으로 내보내지 않는다. 무통신 여부를 이용자가 직접 확인할 수 있게(인터넷 차단 후 동작, 개발자 도구로 네트워크 확인) 안내한다. 기관으로 전이할 때는 사라진 C4 로그를 다시 붙인다. ^[inferred]

이럴 때 쓴다

• 개인정보가 담긴 문서를 마스킹·취합하는 개인·부서 도구
• 외부 전송이 허용되지 않는 데이터(E5 S 이상)를 다루는 소규모 도구
• 인터넷 차단 환경에서 쓰는 문서 도구

이럴 때는 쓰지 않는다

• 여러 사용자의 데이터를 모아야 하는 기관 서비스(중앙 저장이 과업 자체)
• 감사 로그(C4·S10)가 필수인 처분 관여(P3) 과제에서 기록 없이 로컬 완결만 주장할 때
• 단말 성능으로 필요한 모델 품질을 낼 수 없을 때

얻는 것

• 서버 쪽 유출 경로 제거
• 비식별 전처리(C5)가 불필요해짐
• 1인 개발 도구도 개인정보를 다룰 수 있음

점검표

• 원문·개인정보가 단말 밖으로 전송되는 경로가 없는가
• 외부 호출이 있다면 무엇이 나가는지 문서화되어 있는가
• 이용자가 무통신을 검증할 수 있는가
• 기관 전이 시 기록 재장착 계획이 있는가

구조 — 참여 부품

• 단말 처리기 — 브라우저·데스크톱 앱에서 파싱·마스킹·취합 수행
• A2.2 주권형 온프레미스 — 로컬 Ollama 등으로 추론을 단말에서 수행
• A5 엣지 추론 런타임 — 현장 기기에서 추론
• 이용자 검증 안내 — 무통신을 이용자가 직접 확인하도록 안내

변형

• 브라우저 단독형: 단독 HTML 한 파일 또는 브라우저 내 로컬 처리로 파일이 서버에 도달하지 않음
• 로컬 모델 오프라인형: 데스크톱 앱과 로컬 모델로 완전 오프라인 동작
• 부분 외부 호출형: 키·원문·결과는 호스트에 두고 특정 기능 호출만 범정부 공통기반으로 내보냄

참조 구현 예

• PAX 2f27c87e6f7c7614 — 단독 HTML 한 파일로 업무망에서 돌고 인터넷 차단·F12로 무통신을 이용자가 검증하게 한 로컬 완결 설계(§13)
• PAX b0808306ddb06317 — 키·관리자 토큰·음성·회의록은 호스트에 두고 음성 인식 호출만 범정부 공통기반으로(§13)
• PAX 73bb12bf461ceb4c — 브라우저 내 로컬 처리로 파일이 서버에 도달하지 않음을 도구 포털 단위로 명시(§13)
• PAX 9d115930495a1e65 — Tauri 데스크톱 앱과 로컬 Ollama·Gemma-4 E2B로 완전 오프라인 동작(§13)
• PAX 918bddd1b60d8a74 — 서버 전송 없이 PC 안에서만 개인정보를 마스킹·취합(§13)
• PAX 8d17b8feee1af705 — 브라우저 로컬 처리 문서 도구, 교육청 공식 배포로 전이 완료(§13)

관련 부품

S13 대안 — 전송이 필요하면 단말 비식별 후 전송 · C5 대체 — 데이터가 도달하지 않으면 비식별 필터가 불필요 · C4 트레이드오프 — 로컬 완결 시 사라지는 기록, 전이 시 재장착 · E1 환경 조건 — 로컬 PC 완결 · A2.2 끼울 자리 — 로컬 모델

참고 자료

카탈로그 §0 v0.6 개정표(S 부품 판정 전제) · 분류기준 R4

이 부품과 이어지는 가이드라인

• 국가 망 보안체계(N²SF) 보안가이드라인 1.0 국가정보원/국가사이버안보센터, 2025.9.
• 공공 AX 프라이버시 보호 안내서 개인정보보호위원회, 2026.7(2026.7.23 제11회 과학기술관계장관회의에서 공개).
• AI 프라이버시 리스크 관리 모델 개인정보보호위원회, 2024.12(자료실 게시 2025.2.21).
• 개인정보 영향평가 수행안내서 개인정보보호위원회, 2025.10 개정, 2025.12 수정(게시 2025.12.12).

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

공문·회의록·공람 문서에서 무엇을 언제까지 해야 하는지를 뽑아 카드·일정으로 만드는 내부 운영 블록이다. B1, B8 오버레이, B4가 전형 부품이다.

PAX 사례 24건이 이 부품을 쓴다

맥락

기관 내부 문서를 읽고 할 일·핵심을 뽑는 업무. §7.3 유형 ④ 내부 문서·기안 코파일럿(D8.3 초안 · D8.2 요약, P1)에 속한다. PAX 24건(주 부품 B1 38%, B3 21%).

맞서는 힘(긴장)

• 요약 속도 vs 누락·오독
• 표준 시스템 무수정 vs 연동 안정성(B8 오버레이는 정식 연동 시 소멸)
• 외부에서 온 공문·첨부(간접 인젝션) vs 자동 요약
• 등급 문서 요약의 외부 유출 vs 상용 모델 성능

해법

문서는 A10 어댑터로 첨부까지 읽고, B1이 요약·할 일·기한을 정형 카드로 뽑는다. 표준 시스템을 고칠 수 없으면 B8 레거시 오버레이(브라우저 사이드패널)로 화면 위에 붙인다. 문서가 PC·기관 밖으로 나가지 않아야 하면 A2 로컬 변형(A2.2)이나 A2.4 내부망 프록시를 쓴다. 외부에서 온 공문·첨부는 S3 컨텍스트 방화벽으로 지시가 섞이지 않게 하고, 요약에는 F1 원문 위치를 붙여 담당자가 C1로 확인한다. 기한 알림까지 보내면 D5와 함께 설계한다.

이럴 때 쓴다

• 공문·회의록을 읽고 할 일·기한을 손으로 옮길 때
• 표준 시스템을 고칠 수 없지만 요약을 붙이고 싶을 때
• 첨부까지 열어 봐야 핵심을 알 수 있을 때

이럴 때는 쓰지 않는다

• 요약을 넘어 보고서·공문 첫 판을 만들면 D8.3(우선순위가 더 높음)
• 문서를 담당자에게 배분하면 D8.6
• 문서를 찾는 것이 목적이면 D8.1

얻는 것

• 문서 읽기 시간 절감
• 기한 누락 방지
• 표준 시스템 무수정 도입

점검표

• 요약마다 원문 위치가 연결되는가
• 문서가 허용된 망 밖으로 나가지 않는가
• 외부 공문 속 지시가 요약·행동을 바꾸지 못하는가
• 요약 확인 절차가 서술되어 있는가

구조 — 참여 부품

• 담당자 — 요약 카드를 확인하고 할 일을 처리
• B8 레거시 오버레이 — 표준 시스템 화면 위 사이드패널
• A10 문서 형식 어댑터 — HWPX·PDF 첨부를 읽음
• B1 직접 프롬프트 코파일럿 — 요약·할 일·기한 추출
• A2 모델 서빙 계층 — 로컬·내부망 프록시 모델 제공
• C1 검토 큐 — 요약 확인 절차

변형

• 사이드패널 오버레이형: 표준 시스템 화면 위 브라우저 사이드바(B8, 온나라 sAIde).
• 문서 리소스 추출형: 문서에서 항목·자원을 정형으로 뽑음(B4).
• 할 일 카드형: 공문 → 할 일 카드(D-day). 알림을 보내면 D5와 함께.

참조 구현 예

• 온나라 sAIde — §9 조립 예시: B8 → A2 로컬 Ollama → A10 첨부 파싱 → 공문 요약 카드
• 범정부 내부망 AI 브라우저 사이드바 어시스턴트 — 카탈로그 D8.2 카드 예
• 문서 리소스 추출기 — 카탈로그 D8.2 카드 예(공공 AX 로컬 시리즈 5)

관련 부품

B8 전형 부품 — 레거시 오버레이 · D8.3 이웃 블록 — 같은 유형 ④ · D5 후속 블록 — 기한 알림 · S3 필수 보안 — 외부 공문 방화벽

참고 자료

카탈로그 §7.3 유형 ④ · 카탈로그 §7.4 유형 ④ 위협 모델 · 카탈로그 §6 B8 카드

이 부품과 이어지는 가이드라인

• 공공부문 AI 도입·활용 사례집 NIA, 2025.12(게시 2025.12.29).

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

검색 결과·첨부·API 응답을 읽은 모델이 그 안의 문장을 새 명령으로 받아 도구를 부르는 구조를, 탐지 필터 하나로 지키려는 함정이다.

맥락

E4가 P2 이상(시스템 쓰기·처분 보조)이면서 민원 입력·제출 서류·웹 문서·타 기관 API 응답 같은 신뢰 불가 입력을 읽는 에이전트. 특히 B6·5b 데이터 에이전트.

맞서는 힘(긴장)

• 범용 에이전트의 유연성 vs 신뢰 불가 입력 뒤의 행동 제약
• 단일 LLM 구조의 단순함 vs 격리·계획 고정의 설계 비용
• 탐지 필터의 손쉬움 vs 증명 가능한 보증

해법

과제의 AI가 읽는 입력 중 기관 밖에서 작성된 것을 untrusted_inputs로 나열하고, §4.2 신뢰 불가 입력 규칙대로 S4 행동 선택기(미리 정한 행동 중 선택만, 결과가 LLM으로 돌아가지 않음), S5 계획 후 실행(외부 데이터를 읽기 전에 도구 호출 계획을 고정), S6 격리 LLM(도구 있는 LLM은 외부 데이터를 읽지 않고, 읽는 LLM은 도구가 없음) 중 하나를 갖춘다. S3 컨텍스트 방화벽과 S8 독립 검증기는 보조로 붙이되 S8만으로는 규칙을 충족하지 못한다. C8 승인 게이트도 신뢰 불가 입력 규칙의 대체 통제로 인정되지 않는다(R6). 그 전 단계에서는 E4를 P0~P1 읽기·산출물 범위에 묶어 두는 것이 곧 보안이다.

이럴 때 쓴다

• E4가 P2 이상이고 untrusted_inputs가 비어 있지 않은데 S4·S5·S6이 모두 없다(신뢰 불가 입력 규칙 위반)
• 외부 문서를 읽는 LLM이 같은 컨텍스트에서 쓰기 도구를 호출할 수 있다
• 인젝션 대책이 탐지 필터·프롬프트 경고문뿐이다
• 읽은 텍스트 중 어떤 것이 어떤 도구를 부를 수 있는지 답하지 못한다

이럴 때는 쓰지 않는다

• E4가 P0~P1로 읽기·산출물 생성에만 묶여 도구 호출·시스템 쓰기가 없는 경우(S4·S5·S6 판정 전제 불충족, R6)
• S4·S5·S6 중 하나가 구조적으로 갖춰진 경우(보안 목적 서술이 없어도 구조가 일치하면 충족)
• AI가 읽는 입력이 모두 기관 내부에서 작성된 경우

얻는 것

• 단일 LLM 범용 에이전트로 구조가 단순하다
• 새 입력·새 도구를 자유롭게 붙인다

점검표

• untrusted_inputs가 나열되어 있는가
• 신뢰 불가 입력을 읽은 LLM이 쓰기 도구를 직접 부를 수 없는가
• S4·S5·S6 중 하나가 구조로 구현되어 있는가
• S8 탐지를 유일한 방어로 두지 않았는가

구조 — 참여 부품

• S4 행동 선택기 — LLM이 정해진 행동 중 선택만 하게 제약
• S5 계획 후 실행·코드 후 실행 — 외부 데이터를 읽기 전에 도구 계획 고정
• S6 격리 LLM·맵리듀스 — 읽는 LLM과 도구 있는 LLM을 분리
• S8 독립 검증기·이중 심판 — 보조 탐지. 단독으로는 보증이 아님

변형

• 문서 속 지시: 첨부·제출 서류 안의 문장대로 에이전트가 도구를 호출
• API 응답 오염: 타 기관 API·웹 검색 결과에 섞인 지시가 후속 행동을 바꿈
• 탐지 단독 방어: 인젝션 탐지 필터(S8) 하나만 두고 구조적 제약이 없음

관련 부품

S6 대체 — 읽는 LLM과 도구 있는 LLM 격리 · S5 대체 — 외부 데이터 읽기 전 계획 고정 · S4 대체 — 정해진 행동 중 선택만 · S3 보조 — 신뢰 구역 분리 표기 · S8 보조 — 탐지(단독으로는 보증 아님) · S10 기록처 — 사고 재현

참고 자료

Beurer-Kellner 외(2025) 지도 원칙 '신뢰 불가 입력을 읽은 뒤에는 그 입력이 결과적 행동을 촉발할 수 없도록 제약' · Beurer-Kellner #1 Action-Selector, #2·#5 Plan-Then-Execute, #3·#4 Dual LLM

이 부품과 이어지는 가이드라인

• 인공지능 위험 사례집 국가정보원, 2025.11(게시 2025.11.20).

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗

진위 판정 근거를 이용자 화면에 그대로 보여 줘 위조범이 탐지 기준을 역추적하게 만드는 함정이다. F9 근거 표시가 적대적 접점에서는 취약점이 된다.

맥락

D3 자격·심사, D2 접수·제출에서 제출 서류·이미지의 진위를 판정하는 B4 인식 파이프라인·B2 분류기. 이용자 중 일부가 탐지를 회피하려는 동기를 가진 경우.

맞서는 힘(긴장)

• 설명 가능성·투명성 vs 적대적 이용자의 기준 역추적
• 이용자 자기확인 편의 vs 판정 기준 보호
• 행정 절차상 사유 고지 vs 탐지 성능 유지

해법

F9 판정 근거·기여도 표시를 역할별로 나눈다. 이용자 화면에는 '정상/위조의심'만 노출하고, 의심 부위·사유 코드·기여도 같은 세부 근거는 관리자 화면에만 보여 준다(근거 은닉, anti-oracle — 카탈로그가 S 계층 후보로 둔 반대편 부품). 관리자 화면 접근은 C8 권한 경계로 제한하고, '위조의심' 건은 C1 검토 큐에서 담당자가 세부 근거를 보고 확정한다. 이용자에게는 F7 한계·신뢰도 안내로 추가 확인 절차를 알리고, 반복 제출·판정 이력은 C4·S10에 남겨 역추적 시도를 탐지할 근거로 삼는다.

이럴 때 쓴다

• 진위·위조 판정 결과와 함께 세부 근거(의심 부위·사유 코드·점수)가 제출자 화면에 표시된다
• 제출자가 근거를 보고 수정해 반복 재제출할 수 있다
• 이용자 중 탐지 회피 동기를 가진 적대자가 있을 수 있다
• 관리자와 이용자의 판정 화면이 같다

이럴 때는 쓰지 않는다

• 내부 담당자만 쓰는 판독 도구로 제출자에게 결과가 노출되지 않는 경우
• 이용자가 적대자가 아닌 접점(예: 내부 품질 점검, 자기 서류 오류 안내)에서 F9로 근거를 보여 주는 경우 — 이때 F9는 정상 부품이다
• 이용자에게 '정상/위조의심'만 보여 주고 세부 근거는 관리자 화면에 둔 경우

얻는 것

• 투명성·설명 가능성 요구를 쉽게 충족한다
• 선의의 이용자가 오류를 스스로 고칠 수 있다

점검표

• 제출자 화면에 세부 판정 근거가 노출되지 않는가
• 세부 근거가 관리자 화면에서만 보이고 접근이 제한되는가
• 위조의심 건을 사람이 확정하는가
• 반복 재제출 이력이 기록되는가

구조 — 참여 부품

• F9 판정 근거·기여도 표시 — 적대적 접점에서 역할별로 나눠야 할 설명
• 근거 은닉(anti-oracle, S 후보) — 이용자에게는 판정만, 세부 근거는 관리자에게만
• C1 검토 큐 — 위조의심 건을 담당자가 세부 근거로 확정
• C8 권한 경계 — 관리자 화면 접근 제한

변형

• 의심 부위 표시형: 이용자 화면에 BBox·히트맵으로 위조 의심 부위를 표시
• 사유 코드 노출형: 반려 사유 코드·점수를 이용자에게 그대로 반환
• 무제한 재제출형: 근거를 보고 고쳐 무제한 재제출할 수 있어 기준 탐색이 가능

관련 부품

F9 교정 대상 — 적대적 접점에서 관리자 화면 전용으로 · C8 끼울 자리 — 관리자 화면 접근 제한 · C1 짝 — 위조의심 건의 사람 확정 · F7 이용자 쪽 대응 — 판정만 알리고 다음 절차 안내 · D3 발생 접점 — 자격·심사

참고 자료

카탈로그 §6 F9 카드(적대적 D3에서는 관리자에게만 노출)

웹북에서 전체 프로필 보기 ↗ · 패턴 성좌 디렉터리에서 보기 ↗