KBI 금융 AI 리터러시 (K-ALFA) cheat sheet

AI > 머신러닝 > 딥러닝 > 생성형 AI의 포함 관계: 딥러닝은 머신러닝의 부분집합, 생성형 AI는 딥러닝 모델(주로 트랜스포머)을 활용한 응용 범주다.

규칙기반(rule-based) 시스템은 사람이 명시한 if-then 규칙으로 동작하며 학습 데이터가 필요 없고, 머신러닝은 데이터에서 패턴·파라미터를 추정한다.

지도학습(정답 라벨 있음)·비지도학습(라벨 없음, 군집·차원축소)·강화학습(보상 최대화)의 3분류가 기본 틀이다.

금융 활용 지형: 신용평가·이상거래탐지(분류), 자산배분·ALM(최적화), 챗봇·문서요약(생성형), 시계열 예측(회귀), 로보어드바이저(규칙+ML 결합).

분류 모델의 성능지표는 정확도·정밀도(Precision)·재현율(Recall)·F1·AUC이고, 불균형 데이터(사기 거래)에서는 정확도 단독 사용이 부적절하다.

Precision = TP/(TP+FP), Recall = TP/(TP+FN), F1 = 2·P·R/(P+R). 사기탐지에서는 통상 Recall과 Precision의 비용 트레이드오프로 임계값을 정한다.

과적합(overfitting)은 훈련 데이터에 과도하게 맞아 일반화 성능이 떨어지는 상태로, 교차검증·정규화·데이터 확충으로 완화한다.

LLM의 핵심 메커니즘은 다음 토큰 확률 예측이며, 온도(temperature)가 낮을수록 결정적·보수적, 높을수록 다양·창의적 출력이 나온다.

환각(hallucination)은 모델이 사실이 아닌 내용을 유창하게 생성하는 현상으로, 검색증강생성(RAG)과 출처 검증으로 완화한다.

학습 절차: 데이터 수집 → 전처리(결측·이상치·정규화) → 훈련/검증/테스트 분할 → 모델 학습 → 하이퍼파라미터 튜닝 → 테스트 평가. 테스트셋은 최종 1회만 사용한다.

데이터 누출(data leakage)은 미래 정보나 타깃 정보가 특성에 섞여 검증 성능이 과대평가되는 오류로, 시계열에서는 시점 기준 분할이 필수다.

편향-분산 트레이드오프: 모델이 단순하면 과소적합(높은 편향), 복잡하면 과적합(높은 분산). 정규화(L1/L2)와 조기종료가 분산을 줄인다.

트랜스포머의 어텐션(self-attention)은 입력 토큰 간 연관 가중치를 계산해 문맥을 반영하며, 병렬 처리가 가능해 대규모 사전학습에 적합하다.

사전학습(pre-training)+미세조정(fine-tuning)+프롬프트 설계의 3단 구조가 생성형 AI 활용의 일반 패턴이다.

LLM은 학습 시점 이후 정보를 모르는 지식 컷오프(knowledge cutoff) 한계가 있고, 최신 금리·규제 정보는 외부 검색 연동 없이 신뢰할 수 없다.

확률적 출력(non-determinism): 같은 질문에도 답변이 달라질 수 있어 금융 상담·계산 업무에는 출력 고정·검증 절차가 필요하다.

프롬프트 인젝션(prompt injection)은 입력문에 지시를 삽입해 모델 동작을 바꾸는 공격으로, 외부 문서·웹 내용을 그대로 신뢰하면 안 된다.

설명가능성 한계: 딥러닝은 블랙박스 특성이 있어 SHAP·LIME 같은 사후 설명 기법을 쓰지만, 설명이 인과관계를 보장하지는 않는다.

금융분야 AI 가이드라인(금융위·금감원)의 핵심 원칙: 책임성, 공정성, 투명성, 안전성, 데이터 관리, 소비자 보호의 6대 원칙 구조로 이해한다.

신용정보법상 자동화평가(신용평가·대출심사 등)는 정보주체에게 설명 요구권과 이의제기권이 인정되며, 사전 고지 의무가 있다.

개인정보보호법상 민감정보·고유식별정보 처리에는 별도 동의 또는 법령 근거가 필요하고, 가명정보는 통계·연구 목적 등 제한된 범위에서 활용 가능하다.

EU AI Act는 위험 기반 4단계(금지·고위험·제한위험·최소위험)로 분류하며, 신용평가·보험 리스크 평가 등 금융 AI는 고위험 범주에 해당한다.

차별금지: 성별·연령·지역 등 보호변수를 직접 사용하지 않아도 상관된 대리변수(proxy)로 간접 차별이 발생할 수 있어 공정성 지표 점검이 필요하다.

설명 요구에 대응하려면 모델 유형·주요 입력변수·평가 결과를 소비자가 이해 가능한 언어로 제시할 수 있어야 한다.

마이데이터·오픈뱅킹 환경에서 AI 활용 시 정보 제공 동의 범위와 목적 외 이용 금지 원칙을 준수해야 한다.

생성형 AI 챗봇은 AI와의 대화임을 고지해야 하며, 투자 권유·확정적 판단을 자동 생성하는 경우 자본시장법상 투자자문 규제 저촉 여부를 검토한다.

윤리 원칙은 문서화만으로 충족되지 않으며, 모델 개발·배포·모니터링 단계별 통제 항목으로 전환해 운영 절차에 내장해야 한다.

AI 리스크 3대 축: 모델 리스크(성능·편향·드리프트), 데이터 리스크(품질·편향·유출), 운영 리스크(시스템 장애·제3자 의존·규제 위반).

데이터 거버넌스 구성요소: 데이터 소유권(ownership), 품질 기준, 메타데이터·계보(lineage) 관리, 접근통제, 보존·파기 정책.

데이터 계보(lineage)는 데이터의 출처·변환 이력·사용처를 추적하는 체계로, 감사 대응과 재현성 확보의 기초다.

모델 드리프트: 데이터 드리프트(입력 분포 변화)와 개념 드리프트(입력-출력 관계 변화)로 구분하며, 주기적 성능 모니터링과 재학습 트리거로 관리한다.

3선 방어체계: 1선(현업·모델 개발), 2선(리스크·컴플라이언스), 3선(내부감사)의 역할 분리로 AI 리스크를 통제한다.

모델 검증(validation)은 개발과 독립된 조직이 수행하며, 성능·안정성·공정성·설명가능성·한계를 문서화한 모델 카드/검증 보고서를 남긴다.

서드파티·외부 LLM 사용 시 데이터 반출 범위, 학습 재사용 여부, 서비스 중단 리스크를 계약·보안 심사로 통제한다.

개인정보 비식별화 기법: 가명처리, 총계처리, 삭제, 마스킹 등이 있으며, 재식별 가능성을 정기적으로 평가해야 한다.

데이터 품질 6요소(완전성·유일성·정확성·유효성·일관성·적시성)를 기준으로 학습 데이터셋을 점검한다.

여신심사: AI는 신용평가 보조·서류 자동검증에 활용되고, 최종 승인 판단과 예외 처리는 사람이 담당하는 human-in-the-loop 구조가 일반적이다.

이상거래탐지(FDS): 오탐(false positive)이 고객 불편·비용을 유발하므로, 룰+ML 하이브리드와 임계값 조정으로 정밀도와 재현율을 균형화한다.

자산관리·로보어드바이저: 투자자 성향 분석과 리밸런싱 제안에 AI를 쓰며, 투자권유 단계에서는 적합성·적정성 원칙 적용이 필요하다.

보험: 언더라이팅 보조, 청구 심사 자동화, 이상청구 탐지에 활용되며, 거절·감액 판단의 근거 설명과 이의제기 절차가 요구된다.

컴플라이언스: AML/CFT 의심거래 보고, 내부통제 문서 검토, 규제 변경 모니터링에 자연어처리·생성형 AI를 활용한다.

고객응대 챗봇: 단순 조회·안내는 자동화 적합, 금리·수수료·상품 추천 등 확정적 정보 제공은 지식베이스 연동과 답변 검증이 필요하다.

문서 자동화(계약서·약관 요약): 생성형 AI 요약은 원문 대조 검토를 전제로 하며, 법적 효력 판단에는 전문가 검토가 필수다.

업무 적합성 판단 기준: 반복성·데이터 가용성·오류 비용·설명 요구 수준의 4개 축으로 AI 도입 타당성을 평가한다.

이상거래·신용평가 결과를 고객에게 통보할 때는 근거·기준·이의제기 경로를 함께 안내해야 한다.

검증 4단계: 사실 검증(출처 대조) → 수치·계산 재확인 → 규정·정책 적합성 확인 → 최종 승인자 서명.

생성형 AI 출력의 숫자·통계·법령 인용은 환각 위험이 가장 높은 영역이므로 반드시 원출처에서 재확인한다.

AI 산출물을 업무에 사용한 직원과 승인 조직이 최종 책임을 지며, 'AI가 그렇게 답했다'는 면책 사유가 되지 않는다.

프롬프트·출력·수정 이력을 로그로 남겨 감사 추적이 가능하도록 하고, 모델 버전과 사용 일시를 기록한다.

자동화 편향(automation bias): 시스템 제안을 무비판적으로 수용하는 경향으로, 표본 재검토·교차검증 절차로 통제한다.

고객 대면 산출물(상품 설명, 투자 정보)은 배포 전 2인 검토와 금지 표현(확정 수익, 원금 보장 등) 필터를 거친다.

검증 체크리스트 예: 출처 명시 여부, 최신성(기준일), 내부 규정 부합, 개인정보 포함 여부, 차별적 표현 여부, 오탈자·형식.

AI 활용 사실과 범위를 내부 통제 문서(모델 인벤토리)에 등록하고, 정기 재검증 주기를 설정한다.

책임 있는 활용 원칙: 목적 정당성, 최소 데이터 사용, 인간 최종 판단, 투명한 고지, 이의제기 보장의 5요소로 점검한다.