KBI 금융 AI 리터러시 (K-ALFA) key terms

인간의 학습, 추론, 판단, 생성 같은 인지 작업을 컴퓨터 시스템으로 수행하거나 지원하는 기술 전반을 가리키는 상위 개념이다. 규칙 기반부터 학습 기반까지 다양한 방식을 포함한다.

데이터에서 패턴을 학습해 명시적 규칙 없이 예측이나 분류를 수행하는 AI 기법이다. 학습 데이터의 품질과 대표성이 결과 성능을 크게 좌우한다.

학습한 분포를 바탕으로 텍스트, 이미지, 코드 같은 새로운 콘텐츠를 만들어내는 AI 모델이다. 금융에서는 문서 요약, 상담 지원, 코드 작성 등에 활용되나 사실 오류 가능성이 있다.

방대한 텍스트로 사전학습한 뒤 다음 토큰 예측을 수행하는 신경망 모델이다. 문장 생성과 요약에 강하지만 학습 시점 이후 정보나 내부 계산의 한계가 있다.

정답 레이블이 붙은 데이터로 입력과 출력의 관계를 학습하는 방식이다. 신용평가, 사기 탐지처럼 목표값이 명확한 금융 예측 업무에 널리 쓰인다.

정답 레이블 없이 데이터의 구조나 군집을 찾아내는 학습 방식이다. 이상 거래 탐지나 고객 세분화처럼 사전에 정답을 정의하기 어려운 업무에 적용된다.

모델이 학습 데이터의 우연한 잡음까지 외워 학습 데이터에서는 성능이 좋지만 새 데이터에서는 성능이 떨어지는 현상이다. 정규화와 교차검증으로 완화한다.

학습에 쓰지 않은 새로운 데이터에서도 모델이 안정적으로 좋은 성능을 내는 능력이다. 금융 AI의 실무 배포 가능성을 판단하는 핵심 기준이 된다.

수집 과정이나 표본 구성 때문에 특정 집단이 과소·과대 대표되어 모델이 불공정한 결과를 내는 원인이다. 금융에서는 대출 심사 차별로 이어질 수 있다.

직접적인 민감 속성은 아니지만 그 속성과 강하게 연관되어 간접적으로 차별을 유발하는 변수다. 예를 들어 우편번호가 소득이나 인종 구성의 대리 지표가 될 수 있다.

모델이 특정 결과를 산출한 이유를 사람이 이해하고 검토할 수 있는 정도다. 신용 거절 같은 금융 의사결정에서 고객 설명 의무와 이의제기 대응의 기반이 된다.

내부 구조가 복잡해 입력이 출력으로 이어지는 과정을 사람이 직접 추적하기 어려운 모델이다. 성능은 높지만 규제 대응과 검증에 별도 설명 기법이 필요하다.

게임이론의 섀플리 값을 이용해 각 입력 변수가 개별 예측에 기여한 정도를 수치로 분해하는 설명 기법이다. 변수별 기여도를 제시해 심사 결과 설명에 활용된다.

생성형 AI가 사실 근거 없이 그럴듯한 내용을 만들어내는 현상이다. 금융 문서 요약이나 상품 설명에서 잘못된 수치나 조항을 만들어낼 수 있어 반드시 검증해야 한다.

사용자가 생성형 AI에 작업을 지시하기 위해 입력하는 텍스트나 지시문이다. 역할, 출력 형식, 근거 범위를 명확히 적을수록 결과의 재현성과 통제 가능성이 높아진다.

외부 문서나 입력문에 악의적 지시를 숨겨 AI가 원래 지시를 무시하고 공격자가 의도한 동작을 하게 만드는 공격이다. 문서 요약 자동화에서 특히 주의해야 한다.

모델이 학습한 기억에만 의존하지 않고 외부 문서나 데이터베이스에서 검색한 내용을 근거로 답변을 생성하는 방식이다. 출처를 함께 제시해 환각과 오류를 줄인다.

사전학습된 모델을 특정 업무 데이터로 추가 학습시켜 성능을 조정하는 과정이다. 사내 용어나 상품 지식에 맞출 수 있으나 잘못된 데이터 학습 위험이 있다.

언어모델이 텍스트를 처리하는 최소 단위로, 단어보다 작은 조각인 경우가 많다. 입력과 출력 길이, 비용, 문맥 한도 계산의 기준이 된다.

모델이 한 번에 참조할 수 있는 토큰의 최대 범위다. 긴 계약서를 통째로 넣으면 일부가 잘리거나 앞부분 지시가 희석될 수 있어 분할 처리가 필요하다.

AI 모델의 개발, 검증, 배포, 모니터링, 폐기까지 전 과정에서 발생할 수 있는 오류와 부작용을 식별하고 통제하는 활동이다. 금융회사 내부통제 체계와 연계된다.

개발 부서와 독립된 조직이 모델의 성능, 안정성, 편향, 규제 준수를 객관적으로 평가하는 절차다. 검증 결과와 한계를 문서화해 승인 근거로 남긴다.

시간이 지나면서 데이터 분포나 고객 행동이 바뀌어 배포 당시 학습한 모델의 성능이 저하되는 현상이다. 주기적 재학습과 성능 모니터링으로 대응한다.

모델의 예측 정확도를 수치로 평가하는 기준으로 정밀도, 재현율, AUC 등이 있다. 불균형 데이터에서는 정확도만으로 판단하면 위험한 착시가 생긴다.

실제 값과 예측 값을 참양성, 거짓양성, 참음성, 거짓음성으로 나눠 표로 정리한 것이다. 사기 탐지에서 어떤 오류가 더 치명적인지 판단하는 출발점이 된다.

실제로는 정상인 대상을 모델이 위험하다고 잘못 판정하는 경우다. 금융에서는 정상 고객의 거래가 차단되거나 대출이 부당하게 거절되는 불편을 초래한다.

정상 패턴에서 벗어난 거래나 행위를 찾아내는 분석 기법이다. 보이스피싱 의심 거래나 자금세탁 징후 포착에 활용되며 오탐 관리가 중요하다.

차주의 상환 능력과 연체 가능성을 데이터로 추정해 점수나 등급을 산출하는 모델이다. 대출 심사와 금리 결정에 쓰이며 설명과 차별 금지 요건이 적용된다.

조직이 AI를 책임 있게 도입하고 운영하기 위한 의사결정 구조, 정책, 역할, 감독 절차의 총체다. 경영진의 책임, 위험 등급 분류, 승인 체계를 포함한다.

데이터의 수집, 품질, 접근 권한, 보유 기간, 출처를 관리하는 체계다. AI 학습과 운영에 쓰이는 데이터의 적법성과 신뢰성을 보장하는 토대가 된다.

목적 달성에 필요한 최소한의 개인정보만 수집하고 이용하는 원칙이다. AI 학습에 불필요한 민감 정보가 포함되지 않도록 설계 단계에서 통제해야 한다.

개인을 식별할 수 없도록 추가 정보 없이는 특정 개인을 알아볼 수 없게 처리하는 것이다. 통계나 연구 목적 활용의 범위를 넓히지만 재식별 위험은 남는다.

개인정보나 내부 기밀이 권한 없는 주체에게 노출되는 사고다. 생성형 AI에 고객 정보나 기밀을 입력하는 행위도 유출 경로가 될 수 있어 통제가 필요하다.

자동화된 의사결정으로 불이익을 받은 정보주체가 그 기준과 이유에 대한 설명을 요구할 수 있는 권리다. 신용 거절이나 보험 심사에서 실질적 대응 수단이 된다.

인간의 개별 판단 없이 알고리즘이 계약, 심사, 평가 같은 결정을 내리는 방식이다. 금융에서는 거절 사유 고지와 이의제기 절차 확보가 요구된다.

AI가 성별, 연령, 지역 등 특정 집단에 체계적으로 불리한 결과를 낳지 않도록 하는 원칙이다. 집단별 성능 차이를 측정하고 완화 조치를 기록해야 한다.

공정성, 투명성, 안전성, 책임성을 갖추도록 AI를 설계하고 운영하는 원칙 체계다. 금융에서는 소비자 보호와 신뢰 확보를 위한 공통 기준으로 작동한다.

AI가 제안한 결과를 최종 확정하기 전에 사람이 검토하고 승인하거나 수정하는 절차다. 고액 대출 심사나 이상 거래 차단처럼 영향이 큰 결정에 적용한다.

AI가 생성한 문서, 수치, 판단의 사실 관계와 형식, 출처를 사람이 확인하는 과정이다. 원문 대조, 계산 재확인, 승인 기록 남기기를 포함한다.

AI가 제시한 내용의 근거가 되는 문서나 데이터를 함께 밝히는 것이다. 검토자가 원문과 대조해 오류를 찾을 수 있게 하고 책임 소재를 명확히 한다.