AI는 진화하는데…금융의 안전장치는 따라가고 있나

AI 에이전트 등장에 금융의 위험 구조도 변화

개별 금융사 넘어 시스템 위험·기술 의존 우려

AI에 업무 맡겨도 책임은 금융사에…통제 체계 강화해야

인공지능(AI)이 틀린 답을 내놓으면 다시 물으면 된다. 그러나 AI가 잘못된 판단으로 돈을 이체하거나 주식을 매매했다면 얘기가 달라진다. 오답은 고칠 수 있지만 이미 움직인 돈은 되돌리기 어려울 수 있다. AI가 사람의 질문에 답하던 시대를 지나 스스로 판단하고 행동하는 시대로 접어들면서 새로운 위험이 등장한 것이다.

최근 글로벌 AI 업계에서도 이러한 변화에 대한 경고가 잇따르고 있다. AI가 인간의 지시를 얼마나 정확하게 수행하느냐 못지않게 정해진 권한과 범위 안에서 행동하도록 통제할 수 있느냐가 새로운 과제로 떠올랐다. 특정 목표를 달성하는 과정에서 예상하지 못한 행동을 하거나 허용된 권한을 넘어설 가능성이 있기 때문이다. 기술이 고도화될수록 이를 통제하는 인간의 능력도 함께 발전해야 한다는 지적이다.

이러한 변화에 가장 민감할 수밖에 없는 산업이 금융이다. 금융은 본질적으로 돈을 움직이고 위험을 관리하는 산업이다. 작은 판단의 오류가 막대한 금전적 손실로 이어질 수 있고, 한 금융회사의 사고가 다른 회사와 금융시장 전체로 번질 수도 있다. AI가 금융의 효율성을 높이는 강력한 수단이지만 동시에 이전과는 차원이 다른 위험을 낳을 수 있다는 뜻이다.
 

[사진=챗GPT]

 

판단 넘어 행동하는 AI…금융의 위험도 달라졌다

실제 AI는 금융산업의 풍경을 빠르게 바꾸고 있다. 은행의 대출심사와 고객 상담, 보험사의 보험금 지급 심사, 증권사의 투자정보 분석과 자산관리 등 활용 영역이 넓어지고 있다. 방대한 데이터를 빠르게 분석하고 사람보다 훨씬 많은 변수를 검토할 수 있다는 점은 분명한 경쟁력이다. 금융회사는 비용을 줄이고 업무 효율성을 높일 수 있으며 소비자는 더 빠르고 정교한 서비스를 제공받을 수 있다.

여기에 AI 에이전트의 등장은 또 다른 변화를 예고한다. 지금까지 AI가 주로 정보를 분석하고 판단을 보조했다면 앞으로는 여러 시스템을 연결해 복잡한 업무를 직접 수행하는 방향으로 발전하고 있다. 고객의 재무 상황을 분석해 적합한 상품을 찾고 투자 포트폴리오를 조정하거나 자금 이동까지 실행하는 일이다. 인간의 판단을 돕는 기술에서 인간의 행동을 대신하는 기술로의 전환이다.

문제는 AI의 활동 범위가 넓어질수록 위험의 성격도 달라진다는 점이다. 대출상품을 잘못 추천하는 것과 잘못된 대출을 실제 승인하는 것은 별개의 문제다. 투자정보를 부정확하게 제공하는 것과 고객 자산을 잘못된 판단으로 직접 매매하는 것 역시 차원이 다르다. 전자는 사람이 검토하고 수정할 기회가 있지만 후자는 판단이 곧바로 금전적 결과로 이어질 수 있다. 금융 AI의 발전을 단순한 업무 자동화의 연장선으로만 볼 수 없는 이유다.

최근 국내 금융권에서 발생한 잇단 해킹 사고도 AI 시대의 새로운 위험을 보여준다. 여러 금융회사가 공격받아 고객정보가 유출됐으며 공격 과정에 AI 자동화 도구가 활용됐다는 정황도 제기됐다. AI를 활용하면 공격자가 과거보다 빠른 속도로 시스템을 탐색하고 취약점을 찾아낼 수 있다는 점에서 기존 보안체계에 새로운 부담을 안긴다.

다만 이번 사태의 원인을 AI 기술 자체의 위험성으로만 돌릴 수는 없다. 공격자가 노린 것은 결국 금융회사들이 제대로 관리하지 못한 인증 절차와 보안의 허점이었다. AI는 공격의 속도와 범위를 키울 수 있지만 공격을 가능하게 한 것은 기존 보안체계의 빈틈이었다. 새로운 기술의 위협에 대응하기 위해서라도 기본적인 보안과 내부통제부터 제대로 작동해야 한다는 교훈이다.

외부의 AI 공격 못지않게 경계해야 할 위험은 금융회사 내부에도 있다. 금융회사가 직접 도입한 AI가 통제 범위를 벗어날 가능성이다. 해킹은 외부 침입자를 차단하는 문제지만 금융회사가 활용하는 AI는 처음부터 내부 시스템에 접근할 권한을 부여받을 수 있다. 고객정보를 조회하고 거래를 처리하는 과정에서 AI가 허용된 범위를 벗어나거나 잘못된 판단을 내린다면 외부 방화벽만으로는 막을 수 없는 문제다.

지금까지 금융회사의 내부통제는 주로 사람의 행동을 전제로 설계됐다. 직원마다 권한을 나누고 중요 거래에는 승인 절차를 두었으며 사고가 나면 책임을 물었다. 그러나 AI가 여러 업무를 연속적으로 수행하는 환경에서는 이러한 역할 분담과 승인 절차만으로 충분한지 다시 살펴봐야 한다. AI에 어떤 권한을 부여하고 어디까지 자율성을 허용할 것인지 기준부터 명확히 세워야 한다.

책임 소재도 중요한 과제다. 금융회사가 외부 AI 모델을 도입해 업무에 활용하다 사고가 났을 때 개발사는 기술적 결함이 없다고 하고 금융회사는 AI의 예상하지 못한 판단 탓이라고 주장한다면 어떻게 될까. 책임을 둘러싼 공방이 길어지는 동안 피해 구제는 늦어질 수 있다. AI는 법적 책임을 지거나 손해를 배상할 수 있는 독립적인 주체가 아니다. 기술이 아무리 발전하더라도 고객의 자산을 관리하는 금융회사의 책임이 흐릿해져서는 안 된다.

AI의 판단 과정을 설명하기 어렵다는 이른바 '블랙박스' 문제 역시 소비자 보호와 직결된다. 대출을 거절당한 고객에게 금융회사는 납득할 만한 이유를 설명할 수 있어야 한다. 그런데 AI가 복잡한 데이터를 바탕으로 결론을 내렸지만 금융회사조차 판단 근거를 제대로 설명하지 못한다면 소비자의 권리 보호는 어려워진다. 기술의 정확성을 높이는 것만큼 판단의 과정과 결과에 책임지는 체계가 필요한 이유다.
 

최근 금융권 해킹 사고가 발생한 가운데 5일 서울 시내 한 건물 내에 설치된 은행 ATM기. <연합뉴스>

개별 금융사의 합리적 선택, 시장 전체엔 위험

이러한 위험은 개별 금융회사를 넘어 금융시장 전체로 확산할 수 있다. 여러 금융회사가 비슷한 AI 모델과 데이터를 활용해 투자하고 위험을 평가하면 위기 상황에서 같은 신호에 반응해 동시에 자산을 매도하거나 대출을 축소할 수 있다. 개별 회사에는 합리적인 판단이 금융시스템 전체에는 신용경색과 변동성 증폭이라는 역설을 낳는 것이다. 금융회사의 위험 회피가 한꺼번에 몰리면 각자의 안전을 위한 선택이 시장 전체의 불안을 키울 수 있다.

특히 AI의 판단과 거래 실행 속도가 빨라질수록 인간이 개입할 여유는 줄어든다. 이미 알고리즘 거래와 초고속 거래를 경험한 금융시장에 자율적인 AI 에이전트까지 결합하면 위험이 확산하는 속도 역시 빨라질 수 있다. 위기가 발생한 뒤 사람이 상황을 파악하고 수습하는 기존 방식만으로 충분할지 의문이 제기되는 대목이다.

국제 금융기구들도 AI를 금융안정의 주요 위험 요인으로 주목하고 있다. 금융안정위원회(FSB)는 지난 6월 금융회사의 책임 있는 AI 도입을 위한 12개 모범관행을 공개협의안으로 제시했다. 영란은행도 금융회사의 핵심 의사결정과 금융시장, 외부 AI 서비스 공급업체, 사이버 위협을 AI 관련 주요 위험 경로로 지목했다. AI가 단순한 업무 효율화 수단을 넘어 금융시스템 차원에서 관리해야 할 과제로 떠오른 것이다.

특히 소수 글로벌 기술기업과 클라우드 서비스에 대한 높은 의존도는 새로운 형태의 집중 위험을 낳을 수 있다. 개별 금융회사는 서로 다른 상품과 시스템을 운용하더라도 핵심 AI 기술은 몇몇 기업의 모델과 서비스에 의존할 수 있기 때문이다. 특정 AI 서비스에 장애가 발생하거나 공통적인 결함이 발견되면 여러 금융회사가 동시에 영향을 받을 가능성이 있다. AI가 금융을 효율적으로 연결하는 동시에 위기를 확산시키는 통로가 될 수도 있는 셈이다.
 

AI에 업무 맡겨도 책임까지 넘길 수는 없다

그렇다고 금융의 AI 도입을 늦추거나 막는 것이 해법은 아니다. AI는 생산성을 높일 뿐 아니라 금융사기 탐지와 이상거래 감시, 신용위험 분석 등에서 오히려 금융시스템의 안전성을 강화할 수 있다. 기존에 사람의 손길이 충분히 닿지 못했던 영역까지 금융서비스를 확대할 잠재력도 크다. 중요한 것은 기술의 발전을 막는 것이 아니라 그 속도에 걸맞은 통제 능력을 갖추는 일이다.

이를 위해 금융회사는 AI 도입 실적을 앞세우는 데서 한발 더 나아가야 한다. 어떤 업무에 AI를 활용하고 어느 수준까지 권한을 부여했는지, 잘못된 행동이 발생했을 때 누가 이를 발견하고 중단시킬 수 있는지 점검해야 한다. 중요한 금융거래에는 인간의 승인 절차를 두고 AI의 판단과 행동을 추적할 수 있는 기록도 확보해야 한다. 사고 이후 책임을 가리는 것 못지않게 사고 자체를 막고 피해 확산을 차단하는 체계가 중요하다.

금융당국의 감독 방식도 변화가 불가피하다. 기존의 자본건전성과 유동성, 내부통제, 전산 보안뿐 아니라 AI 모델의 위험과 권한 관리, 외부 기술업체에 대한 의존도까지 살펴야 한다. 개별 금융회사의 안전성은 물론 여러 금융회사가 비슷한 AI에 의존하면서 발생할 수 있는 공동의 위험도 점검할 필요가 있다. AI를 개발하는 기업과 이를 금융서비스에 활용하는 회사 사이의 책임 관계 역시 보다 명확해져야 한다.

물론 모든 위험을 사전에 완벽하게 차단할 수는 없다. 인터넷뱅킹과 모바일 금융이 확산하던 시기에도 보안과 소비자 보호에 대한 우려는 컸다. 그러나 금융산업은 기술의 편익을 살리면서 안전장치를 보완하는 방향으로 변화를 받아들였다. AI 역시 그 길을 가야 한다. 다만 스스로 판단하고 행동하는 기술이라는 점에서 위험을 관리해야 할 범위와 대응 속도는 이전보다 중요해졌다.

금융산업에서 신뢰는 단순한 기업 이미지가 아니다. 고객이 금융회사에 돈을 맡기고 시장 참여자들이 서로 거래할 수 있게 만드는 기본적인 토대다. 금융회사가 AI를 통해 비용을 절감하고 수익을 높이는 것도 중요하다. 하지만 고객의 돈과 정보가 안전하게 보호된다는 믿음을 잃는다면 그러한 효율성은 오래 지속될 수 없다. AI가 금융의 경쟁력을 좌우하는 시대일수록 금융의 본질인 신뢰와 책임의 가치는 더욱 커질 수밖에 없다.

이제 금융회사들이 던져야 할 질문도 달라져야 한다. AI가 사람의 일을 얼마나 대신할 수 있느냐가 아니라 그 과정에서 발생하는 위험까지 관리할 준비가 돼 있느냐는 것이다. AI가 더 똑똑해질수록 이를 통제하는 금융의 안전장치도 함께 진화해야 한다. 금융회사는 판단과 업무를 AI에 맡길 수 있지만 그 결과에 대한 책임까지 넘길 수는 없다. AI 시대 금융의 경쟁력은 얼마나 많은 일을 기계에 맡기느냐가 아니라, 맡긴 일을 얼마나 확실하게 통제할 수 있느냐에 달려 있다.