자동화된 결정의 설명 요구와 70대 고객의 한도 증액 거절
C카드사는 신용한도 증액 심사에 머신러닝 모델을 도입했다. 입력변수는 최근 6개월 연체 이력, 카드 이용률, 결제 계좌 잔액 변동성, 앱 로그인 빈도 등 40여 개다. 70대 은퇴 고객 김모씨는 연금소득만 있으나 15년간 연체 없이 카드를 사용했는데, 한도 증액 신청이 자동으로 거절됐다. 김모씨는 지점을 찾아와 "왜 떨어졌는지 구체적으로 알려달라"고 요구했다. 상담 직원은 모델의 상위 기여 변수(최근 6개월 연체 1회, 이용률 92%)를 안내하려 했으나, 준법감시팀은 "변수명을 알려주면 역설계로 한도 상향 방법이 유포될 수 있다"며 반대했다. 한편 모델 학습 데이터에는 60대 이상 고객이 3%만 포함되어 있었고, 통신비·공과금 납부 이력 같은 대체신용정보는 반영되지 않았다. 김모씨는 "기계가 결정한 것이라면 사람이 다시 봐 달라"고 요청했지만, 회사에는 재심 절차와 담당 부서가 지정되어 있지 않았다.
1. 김모씨의 설명 요구에 어떻게 대응해야 하는가? 공개할 정보와 공개하지 않을 정보를 구분하여 제시하시오.
Read the worked answer
출발점: 개인정보보호법상 정보주체는 자동화된 결정에 대하여 설명 등을 요구할 수 있고, 처리자는 이에 성실히 응해야 한다. 따라서 '설명하지 않는 것'을 기본값으로 두는 준법감시팀의 입장은 성립하기 어렵다.
공개해야 하는 정보
- 이 결정이 자동화된 결정(머신러닝 모델)에 의해 이루어졌다는 사실
- 결정에 주로 작용한 평가 기준·변수와 그 방향성(예: 최근 연체 이력, 이용률이 높을수록 불리하게 작용)
- 결정의 개요와 결과
- 이의를 제기하고 재심을 요구할 수 있는 절차와 방법
공개를 제한할 수 있는 정보
- 모델 파라미터의 구체적 수치, 변수별 가중치 원값, 전체 40개 변수의 완전한 목록
- 영업비밀에 해당하는 스코어링 로직의 세부 구현
판단의 핵심: '전부 공개'와 '전부 비공개'의 이분법이 오류다. 역설계 우려는 전체 로직 공개에 대한 것이지, 주요 변수와 방향성 설명에 대한 것이 아니다. 또한 고령 고객에게는 전문용어를 피한 구두·서면 안내를 병행해야 실질적 설명이 된다. 나아가 김모씨가 요청한 인간에 의한 재심을 받아들일 절차를 즉시 만들어야 하며, 재심 절차의 부재 자체가 별도의 소비자보호 결함이다.
2. 60대 이상 고객이 학습 데이터의 3%에 불과하고 대체신용정보가 반영되지 않은 사실이 왜 문제인지, 어떤 조치가 필요한지 논하시오.
Read the worked answer
왜 문제인가
- 대표성 부족: 표본이 적은 집단은 모델이 패턴을 학습할 데이터가 없어 오류율이 체계적으로 높아진다. 평균 성능이 좋아도 특정 집단에서 무너지는 전형적 형태다.
- 간접차별: 차별 의도가 없어도 결과가 특정 집단에 불리하게 쏠리면 문제가 된다. 연령은 신용도와 직접 무관한데, 연령과 상관된 대리변수(앱 로그인 빈도, 결제 계좌 잔액 변동성)가 연령 효과를 흡수할 수 있다.
- 정보 공백의 자기강화: 연금소득자에게는 통신비·공과금 성실 납부라는 강한 상환 신호가 있는데, 이를 반영하지 않으면 '데이터가 없어서 거절'이 '데이터가 없으니 계속 거절'로 굳어진다.
필요한 조치
- 집단별(연령대·소득형태) 성능 지표와 거절률을 산출해 격차를 정기 모니터링 항목으로 편입.
- 대체신용정보 활용을 검토하되 적법한 근거와 동의, 가명처리 방식을 함께 설계.
- 표본 보강 및 필요 시 집단별 임계값 조정, 소표본 구간에 대한 신뢰구간 기반 보수적 처리.
- 취약 고객·경계선 사례는 사람의 심사자가 검토하는 예외 처리 경로 마련.
- 모델 문서에 데이터 구성과 대표성 한계를 명시해 검증과 설명의 근거로 삼는다.
정리: 이 사안은 모델 성능 문제가 아니라 데이터 거버넌스와 소비자보호의 문제이며, 개선 결과를 문서로 남겨야 감독 대응이 가능하다.
3. 이 사안이 감독당국 검사에서 문제 되지 않으려면 어떤 문서와 절차를 사전에 갖추어야 하는가?
Read the worked answer
갖추어야 할 문서
- 모델 개발·검증 보고서: 변수 선정 근거, 학습 데이터 구성과 대표성 한계, 성능 지표(전체 및 집단별), 검증자 의견.
- 설명가능성 문서: 주요 변수와 방향성, 고객 안내에 사용할 표준 문구와 스크립트.
- 자동화된 결정 관련 처리 방침: 설명 요구 접수·처리 절차, 처리 기한, 담당자, 거절 시 안내 방식.
- 재심 절차서: 접수 채널, 재심 주체, 판단 기준, 결과 통지, 처리 기록.
- 모니터링 기록: 거절률·이의제기율·재심 인용률, 집단별 격차 추이.
갖추어야 할 절차
- 지점·콜센터가 설명 요구를 접수하면 정해진 기한 내에 표준 형식으로 회신.
- 재심 요청 시 사람 심사자가 원문 데이터와 예외 사유를 검토.
- 재심 결과와 무관하게 사유와 근거를 서면으로 통지.
- 설명 요구·재심 데이터를 모델 개선과 리스크 관리에 환류.
핵심: 검사에서 문제 되는 것은 대부분 '결정이 틀렸다'가 아니라 '설명할 수 있는 체계가 없었다'는 점이다. 절차의 존재와 작동 기록이 방어의 실질이다.