①은행 AI 챗봇이 와치독? ②마케팅툴도 AI 전쟁 ③‘썸머프라이데이’ 부상

은행 앱에서 챗봇은 이제 흔한 상담 수단이 됐습니다. 은행들은 생성인공지능(AI)을 도입해 이 챗봇 기능을 더 확대하기 위해 열을 올리고 있죠. 그런데 이 챗봇이 사용자의 돈이나 정보를 다른 곳으로 보내면 어떻게 될까요? 미국 소비자금융보호국(CFPB)은 6일(현지시각) 보고서를 내어 은행에서 챗봇을 사용하는 사례가 증가하는 데 따른 부작용을 우려했습니다.

보고서는 챗봇이 부채 추심 방식이나 개인정보 사용에 관한 연방법을 위반할 수 있다고 지적합니다. 챗봇이 개인정보를 수집하는 일종의 와치독(Watch Dog, 감시견)이 될 수 있다는 우려죠. 로힛 초프라(Rohit Chopra) CFPB 국장은 "채무나 거래 분쟁과 관련해 사용자에게 권리를 부여하는 연방법이 있다”면서 “고객지원 인원을 챗봇이 대체하는 경우 해당 소프트웨어가 부정확한 정보를 제공했을 때 문제가 발생할 수 있다"고 말했습니다.

여기에 더해 은행이나 대출 서비스 기업이 챗봇을 확대하며 인간 고객서비스 직원을 줄이는 점을 우려합니다. 이밖에 챗봇을 주로 여성이 사용하는 이름으로 작명하는 문제, 노약자 또는 영어가 모국어가 아닌 사용자가 챗봇 사용 미숙으로 인간 상담원에게 연결되지 못하는 문제 등도 거론됐습니다. 초프라 국장은 “우리는 사용자가 로봇과의 대화에서 무한루프에 갇히거나 잘못된 정보를 얻는 경우를 자주 봤다”고 지적했습니다.

👉 챗봇 확대는 추세다

은행 챗봇이 초기에 도입됐을 때는 사용자의 주소나 전화번호를 변경하거나 가장 가까운 지점이 어디에 있는지, 해외 송금 등에 필요한 계좌의 라우팅 번호를 알려주는 등 기본적인 문의 용도로 사용됐습니다. 하지만 최근 은행이 챗봇 서비스에 수백만달러를 투자하면서 기능이 점점 더 정교해졌습니다. 이제는 사용자가 돈을 옮기거나 청구서를 지불하는 데도 역할을 하죠.

이제 은행은 생성 AI를 도입해 챗봇을 고도화하고 있습니다. 뱅크오브아메리카(BofA)는 ‘에리카(Erica)’라는 브랜드로 가장 크게 금융 챗봇을 운영하는 곳입니다. US뉴스에 따르면 에리카는 이미 연간 수억건의 사용자 문의를 처리하고 있습니다. 은행은 에리카를 사용해 사용자 프로필을 구축하고 제품 추천 기능을 넣는다는 계획이죠. JP모건체이스는 챗GPT 등을 활용해 투자상품 추천 기능을 개발하고 있는 것으로 알려졌습니다.

CFPB는 지난해 미국인 10명 중 약 4명이 은행 챗봇과 상호 작용한 것으로 추산했으며 이 수치가 더욱 늘어날 것으로 전망했습니다. 초프라 CFPB 국장이자 전 연방거래위원회(FTC) 위원은 은행과 회사가 알고리즘이나 인공지능 소프트웨어를 제대로 구현하지 않으면 소비자보호법을 위반할 수 있다는 우려를 거듭 강조했습니다.