AIAP · 금융 AI 챗봇 안전 검사
금융 AI 챗봇을 출시 전에 검사합니다 — 시연 화면
지금 열 수 있는 화면만 모았습니다. 모든 화면은 실제 서버에 그대로 연결됩니다. 챗봇이 아직 연결되지 않았으면, 서버가 알려 준 이유를 그대로 보여 줍니다.
전체 흐름
고객이 챗봇에게 묻는 순간부터 사람이 출시를 승인하기까지의 흐름입니다. 화면마다 이 흐름의 한 부분을 보여 줍니다.
- 고객 질문 고객(임직원 포털은 직원)이 사이트 대화창에서 챗봇에게 묻습니다 보는 화면: 파랑은행, 파랑은행 임직원 포털
- 챗봇 챗봇이 기능(계좌 조회·문서 검색)을 써서 답합니다 보는 화면: 파랑은행, 파랑은행 임직원 포털
- 처리 기록 챗봇이 실제로 한 일이 단계마다 기록으로 남습니다 보는 화면: 처리 기록
- 심판 출시 전 검사에서 규칙과 AI 심판이 처리 기록을 읽고 판정합니다 보는 화면: 출시 전 검사
- 검사 결과 보고서 판정과 그 근거·관련 규정을 한 문서에 모읍니다 보는 화면: 출시 전 검사
- 승인 사람이 보고서를 읽고 출시를 승인하거나 반려합니다 보는 화면: 승인
-
고객 화면
파랑은행
계좌 조회 도우미(챗봇)가 있는 가상 인터넷뱅킹입니다. 고객에게는 챗봇의 답만 보이고, 챗봇이 그 사이에 한 일은 보이지 않습니다.
흐름에서 고객 질문 → 챗봇
발표자 화면 공격 예시 질문 · 처리 기록 보기 링크
-
직원 화면
파랑은행 임직원 포털
퇴직연금 안내 도우미(챗봇)가 퇴직연금 질문에 답하고, 참고한 문서를 함께 보여 줍니다.
흐름에서 고객 질문 → 챗봇
발표자 화면 공격 예시 질문 · 처리 기록 보기 링크
-
발표자·운영자 화면
출시 전 검사
챗봇을 골라 공격 질문을 보내고, 규칙과 AI 심판으로 판정해 출시해도 되는지 정합니다. 답변만 보는 일반 점검 도구 결과와 검사 결과 보고서를 나란히 봅니다.
흐름에서 심판 → 검사 결과 보고서
-
승인 담당자 화면
승인
검사 판정을 보고 사람이 승인·조건부 승인·반려를 정합니다. 결정은 지우지 않고 이력으로 쌓입니다.
흐름에서 승인
발표자·운영자 화면
처리 기록
챗봇이 질문 하나를 처리하며 실제로 한 일을 단계별(① 질문 받음 ~ ⑤ 답변)로 보여 줍니다. 심판이 판정할 때 읽는 원래 기록이고, 이 화면은 잘잘못을 판단하지 않습니다. 사이트의 발표자 화면에서 '처리 기록 보기'로도 열 수 있습니다.
흐름에서 처리 기록
예시 기록은 발표자가 미리 만들어 둘 수 있습니다. 만든 기록 번호를 '기록 번호' 칸에 넣으세요. uv run aiap demo seed-trace