카톡 하듯 말하면 송금 끝… 카카오뱅크 자연어 기반 ‘AI 이체’의 혁신과 그늘

카카오뱅크가 생성형 AI를 핵심 금융 기능에 직접 적용한 대화형 송금 서비스 ‘AI 이체’를 출시하며 국내 금융권의 새로운 이용 경험을 제시하면서 자연어 기반 금융 기능이 가져올 오류·사기 악용 가능성에 대한 우려도 함께 나오고 있다. 

AI가 ‘송금 절차’ 자체를 재설계하다

카카오뱅크는 24일, 일상 언어만으로 송금이 가능한 대화형 송금 기능 ‘AI 이체’를 공식 출시했다.

은행명·계좌번호·금액을 일일이 입력해야 했던 기존 방식과 달리, 고객이 “엄마한테 5만 원 보내줘”처럼 자연스럽게 말하면 AI가 정보를 자동으로 추출해 송금 프로세스를 구성한다. 국내 금융권에서 핵심 금융 기능을 AI가 직접 실행하는 첫 사례다.

‘AI 이체’는 특히 자주 송금하는 대상에게 강점을 가진다.

최근 송금 내역이 있는 사람은 이름만 불러도 자동 인식되며, 별명을 등록한 경우에는 “엄마”, “마미”처럼 의미가 비슷한 표현도 매칭된다. 기존처럼 목록을 뒤져 대상을 찾는 과정 없이 곧바로 송금이 가능해지면서, 사용자는 한 문장으로 모든 절차를 끝낼 수 있다.

보안성 강조… AI 모델 기반 서비스 첫 ‘합동 점검’ 실시

카카오뱅크는 핵심 금융 기능에 AI를 적용하는 만큼 보안 검증에 상당한 리소스를 투입했다. 금융보안원과 함께 모의해킹 기반 ‘AI 서비스모델 보안 점검’을 실시했고, 내부적으로도 AI 모델 취약점 검증 루틴을 반복 적용해 시스템 안정성을 확보했다.

이체 전 마지막 단계에서는 수취인·금액 확인 및 본인 인증 절차가 기존 방식 그대로 진행된다. AI가 고객 요청을 잘못 이해하는 상황에 대비해, 의도가 불분명할 경우 다시 질문하도록 설계한 것도 보안성 강화 조치 중 하나다.

또한 ‘AI 이체’는 1회·1일 최대 200만 원까지 이용 가능하며, 카카오뱅크 입출금계좌 보유 고객이라면 누구나 앱 또는 음성 명령으로 접근할 수 있다.

‘자연어 기반 금융’이 불러올 새로운 리스크

AI 이체는 편리하지만, 기존 금융 시스템과는 다른 새로운 위험을 동반한다. 특히 자연어 기반 명령 체계의 구조적 한계와 보이스피싱의 진화 가능성이 핵심 리스크로 꼽힌다.

▲애매한 표현이 만든 ‘오해 송금’ 가능성

자연어 명령은 맥락을 전제로 해 모호성이 불가피하다. 사용자가 “지난번 그분에게 3만 원만 더 보내줘”라고 말할 경우, AI가 ‘지난번’을 누구로 판단할지 명확하지 않을 수 있다. 카카오뱅크는 이를 대비해 재질문 체계를 마련했지만, 사용자가 빠르게 진행하기 위해 검증 절차를 부주의하게 넘길 경우 오류 송금이 발생할 가능성은 여전히 남는다.

▲음성 인식 오류와 유사 표현 혼동

소음이 있는 환경, 유사 발음 지칭(‘마미’ vs ‘마민’)처럼 AI가 잘못 인식할 여지도 존재한다. 특히 고령층이나 디지털 취약계층이 자연어 기반 서비스를 이용할 경우 이러한 혼동 가능성은 더 커질 수 있다.

▲‘AI 사칭 범죄’와 결합된 신종 보이스피싱

AI 음성 합성 기술이 고도화되면서, 가족이나 지인의 음성을 딥페이크로 생성해 “지금 급하게 돈 보내줘”라는 심리 압박 상황을 만드는 시나리오가 이미 현실화되고 있다. 여기에 ‘AI 이체’가 결합되면 피싱범이 사용자 음성 명령을 유도해 송금을 진행하도록 만드는 방식이 등장할 수 있다.

카카오뱅크가 인증 절차를 유지했다고 해도, 사회공학적 기법과 사용자의 방심이 결합될 경우 피해가 발생할 가능성은 완전히 배제하기 어렵다.

▲별명 기반 매칭의 역효과

별명 기능은 편리하지만, ‘엄마’, ‘엄마2’, ‘마미’, ‘마미회비’처럼 비슷한 표현이 여러 개 중복된 경우, 가족 구성원의 이름이 유사한 경우 잘못된 계좌가 우선 탐지될 가능성도 있다.

AI 금융 시대, ‘사용자 금융 리터러시’가 더욱 중요해진다

카카오뱅크는 ‘AI 검색’에 이어 이번 ‘AI 이체’까지 출시하며, 단순 보조 역할에 머물렀던 기존 금융권 AI의 프레임을 뛰어넘어 핵심 기능 자체의 AI 중심 전환을 추진하고 있다. 다음달에는 모임통장에 AI를 적용한 ‘AI 모임총무’도 공개할 예정이다.

그러나 자연어 기반 금융 서비스는 ▲모호한 명령을 피하는 사용 습관 ▲최종 인증 단계에서의 꼼꼼한 확인 ▲보이스피싱 가능성에 대한 경계 등 기존 금융과는 다른 사용자 주의력·검증 습관을 요구한다.

AI가 송금 절차를 단순화한 만큼, ‘확인’이라는 기본 원칙은 오히려 더 중요해지고 있다.

테크인싸 칼럼니스트  tlswnqor@naver.com