Anthropic 사용 정책이 11월 12일부터 고위험 권고의 적용 범위를 목록으로 적는다. 보험금 전액 지급처럼 개인에게 전적으로 유리한 결정만 사람 검토 없이 나간다. 감액·부분·조건부 승인 경로마다 결과를 고칠 권한이 있는 검토자가 있는지 본다.
보험·카드·대출 심사팀이 Claude를 붙일 때 가장 먼저 나오는 질문은 "어디까지 자동으로 돌려도 되나"다. 지금까지 Anthropic 사용 정책은 법률·의료·보험·금융·고용처럼 사람의 돈과 권리에 닿는 분야에 두 가지를 요구했다. 자격 있는 사람이 중간에서 검토할 것, 대상자에게 AI를 썼다고 알릴 것.
이 두 줄로는 실무 질문이 갈리지 않았다. 심사 담당자 화면에 서류 요약을 띄우는 것도 해당하는가, 신청한 금액을 그대로 승인하는 자동 처리도 해당하는가. Anthropic이 10월 8일 공개한 사용 정책 개정은 이 질문에 목록으로 답했다. 요건 자체는 바뀌지 않았다고 밝혔고, 무엇이 고위험 권고에 들어가고 무엇이 빠지는지를 새로 적었다. 개정 정책은 11월 12일부터 적용된다.
검토 의무는 특정 개인에게 나가는 최종 판단에만 붙는다
11월 12일 시행 사용 정책 본문은 고위험 분야를 법률·의료·금융·신용·보험·주거·고용·교육과 자격 인정·의료 접근·공공 혜택·법적 지위 판단의 11개로 정했다. 앞의 두 요건에는 조건이 적혀 있다. 검토자는 결과를 변경하거나 수정할 권한을 가져야 하고, 검토는 자문이 나가거나 결정이 실행되기 전에 끝나야 한다. 고지문에 Anthropic이나 Claude 이름까지 밝힐 필요는 없다.
실무 범위는 제외 목록이 정한다. 최종 권고로 전달되지 않는 내부 초안·리서치·요약·분석, 사람이 이미 내린 결정의 실행, 모델이 그 개인을 판단하지 않는 고정 규칙·수식의 적용, 특정 개인을 두고 자문하거나 결정하지 않는 업무 운영은 대상이 아니다. 손해사정 담당자 화면에 청구 서류 요약을 띄우는 Claude는 의무 밖에 있다. 같은 Claude가 지급액을 정해 고객에게 통지하면 의무 안으로 들어온다.
사람 검토 면제는 '전적으로 유리한' 결과에만 열린다
정책은 '유리한 결정'이라는 항목을 따로 두었다. 법률이 허용하는 경우, 고위험 권고가 개인에게 전적으로 유리하면 사람이 미리 검토하지 않아도 된다. 예시는 접수된 보험금 지급, 처방된 치료의 사전 승인, 돌봄 프로그램 자격 부여, 공공 혜택의 지급과 유지다. 바로 다음 문장이 경계를 긋는다.
"부분 승인, 금액 삭감, 조건부 승인은 '전적으로 유리한' 것으로 간주되지 않습니다."
이 문장 때문에 판정 흐름 하나가 출구 두 개로 나뉜다. 청구액 전액 지급은 자동으로 나갈 수 있지만, 같은 모델이 10%만 깎아도 그 건은 검토 대기열로 가야 한다. 거절은 개인에게 유리하지 않으므로 면제 밖이다. 면제는 사람 검토만 덜어줄 뿐이고, 정책은 공개 같은 다른 법적 의무가 여전히 적용될 수 있다고 적었다.
| 판정 결과 | 사람 사전 검토 | 정책 근거 |
|---|---|---|
| 청구액 전액 지급, 신청 그대로 승인 | 법률이 허용하면 면제 | 유리한 결정 |
| 감액, 부분 승인, 조건부 승인 | 필요 | 전적으로 유리하지 않음 |
| 거절 | 필요 | 면제 대상 아님 |
| 심사자용 요약·초안 | 대상 아님 | 제외: 내부 초안·요약 |
| 사람이 정한 결정의 실행 | 대상 아님 | 제외: 결정 실행 |
같은 주에 판정 한 건의 값도 내려갔다. OpenAI는 10월 6일 Decisions API를 공개 베타로 열었다. 조건이 참일 확률, 정해진 선택지와 신뢰도, 루브릭 점수를 돌려주고 GPT-6 Luna 기준 입력 100만 토큰당 0.10달러만 받는다. 판정이 이만큼 싸지면 운영비는 모델 호출보다 검토 대기열로 빠지는 건수가 정한다. 대기열에 걸린 건을 사람이 얼마나 덮는지 재는 방법은 감독을 커버리지로 재는 글에서 다뤘다.
가져갈 것
- Claude가 관여하는 심사 흐름에서 '전액 지급·신청대로 승인'과 '감액·부분 승인·조건부 승인·거절'의 출구가 코드에서 나뉘어 있는가?
- 감액·조건부 승인 건의 검토자가 승인 버튼만이 아니라 금액과 조건을 직접 고칠 권한을 시스템에서 갖고 있는가?
- 심사자 화면의 Claude 요약이 손을 거치지 않고 고객 통지문으로 그대로 나가는 경로가 하나도 없는가?
- 자동 지급 통지문에도 AI를 썼다는 문장이 들어가 있는가?
- 11월 12일 전에 지난 한 달 처리 건 중 감액·조건부 승인·거절 비율을 뽑아 검토 인력 산정에 넣었는가?
안 되는 경우
- 면제는 "법률에서 허용하는 경우"에만 성립한다. Cooley가 정리한 한국 AI 기본법은 1월 22일 시행됐고 채용·의료 등 고영향 AI에 사람의 개입·감독 장치와 사전 고지를 요구한다. 국내 규제가 건별 검토를 요구하는 업무라면 이 면제는 쓸 수 없다.
- Anthropic은 요건이 바뀌지 않았다고 밝혔다. 이미 모든 판정을 사람이 보는 조직에는 운영상 달라지는 것이 없고, 목록은 해석 근거만 더한다.
- 소스가 밝히지 않은 것: '의미 있는 검토'의 최소 기준(검토 시간, 표본 비율)과 위반 시 집행 방식은 정책 본문이 수치로 정하지 않았다.
- OpenAI Decisions API로 같은 판정을 돌리면 Anthropic 정책이 아니라 OpenAI 이용 정책을 따른다. 이 글은 그쪽 기준을 확인하지 않았다.
이번 주에는 심사 흐름도에서 Claude 출력이 고객에게 닿는 화살표를 전부 찾아, 화살표마다 '전적으로 유리함'과 '그 외'를 표시한다. '그 외' 화살표 옆에는 금액을 고칠 수 있는 사람의 직무명이 적혀 있어야 11월 12일 이후 감사 질문에 답할 수 있다.