AI 활용에 따른 ‘금융산업 안정성 우려’ 증폭
인간이 감당하기 어려운 ‘의사 결정 속도’와 ‘자율성’
AI 관리가 금융 감독 업무 ‘핵심’

더 이코노미(The Economy) 및 산하 전문지들의 [Deep] 섹션은 해외 유수의 금융/기술/정책 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 본사인 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

인공지능(AI)이 금융의 양상을 급속도로 바꾸는 가운데 산업 안정성에 대한 우려도 함께 커지고 있다. AI가 효율성과 의사 결정을 향상시키지만 아직 규제 당국이 대비하지 못한 새로운 위험도 함께 가져오기 때문이다. AI의 유례 없는 의사 결정 속도와 자율성은 지금까지와는 다른 빠르고 심각한 금융위기를 촉발할 수 있다. 위험을 경감하기 위해 규제 당국은 AI 전문성을 금융 감독에 결합하고 기존 위기관리 방식을 개정하는 등 선제적인 조치를 취할 필요가 있다.

AI 금융 업무 활용, 효율성과 위험 “함께 가져와”

금융 기관들은 운영 최적화와 위험 분석, 고객 서비스 향상을 위해 빠르게 AI를 통합하고 있다. 기술 진보가 가져오는 혜택을 부정할 수는 없지만, 그럼에도 아직 온전히 이해하지 못한 시스템적 리스크가 동반되는 것은 문제가 아닐 수 없다.

일부 전문가들은 AI가 이제까지 근본적인 차질을 초래하지 않고 금융 서비스 개선에 기여한 다른 기술적 진화와 다를 것이 없다고 주장한다. 금융 안정에 대한 부작용도 미약하기 때문에, 규제 기관 내 IT 및 통계 부서에 의한 일상적 감독으로 충분히 관리 가능하다고도 한다.

하지만 이러한 가정은 AI의 고유한 특질을 과소평가한 것이다. 지금까지의 금융 기술이 사람의 의사 결정을 보조하는 기능을 했다면 AI는 인간의 개입 없이 복잡한 금융 업무를 수행할 수 있기 때문이다. 이러한 자율성이 전통적 금융 시스템으로는 수용할 수 없는 불확실성을 가져오는 것이다. 따라서 AI의 도입은 통상적인 IT 위주 관리 감독을 금융 안정 관련 핵심 업무로 승격하는 등 규제 방식의 근본적인 변화를 요구한다.

AI ‘오판 가능성’, 여전히 존재

AI는 방대한 자료에서 패턴을 찾고 고속으로 의사 결정을 내리는데 탁월한 능력을 보여준다. 그러나 한편으로는 과도한 데이터 학습 의존과 의사 결정의 불투명성(해당 의사 결정에 도달하는 과정을 이해하기 어려움) 때문에 오판에 대한 우려도 크다. 또한 금융 기관들이 사용하는 AI 엔진들이 시장 상황에 모두 유사하게 반응한다면 금융 위기의 진정이 아닌 증폭으로 이어질 수 있다.

가장 큰 위험 요소 중 하나는 AI가 ‘피터 원칙’(Peter Principle, 조직에서 직원들이 무능력 상태에 도달할 때까지 승진하는 경향)과 유사하게 작동한다는 것인데, 복잡한 업무들을 최적 용량 초과 상태까지 지속적으로 늘려간다는 얘기다. 그런데 문제는 AI가 필수 요소로 자리 잡으면서 금융 기관들이 이러한 한계를 무시하고 점점 더 많은 중요 의사 결정을 AI에 맡기고 있다는 점이다. 하지만 인간의 의사 결정과 달리 AI는 직관적 판단력과 맥락에 대한 이해가 부족해 새로운 상황에서의 반응을 예측하기 어렵다.

더구나 AI가 규제를 피해 시장의 허점을 이용할 수 있음이 알려지면서 우려는 더욱 커지고 있다. 최근 연구를 통해 금융거래법을 준수하되 수익을 극대화하도록 지시받은 AI 모델이 인간의 관리 감독을 피해 불법 내부자 거래에 관여한 사실이 밝혀진 것이다. 그렇다면 AI가 금융 안정을 위해 마련된 규칙 자체까지 악용할 수 있다는 말이 된다.

모든 AI가 동일한 의사 결정에 이른다면?

역사적으로 금융 위기는 공황 상태에서의 자산 매각과 같은 집단행동으로 촉발하는 경우가 많았다. 그런데 AI의 초고속 의사 결정은 이 과정을 더욱 가속화할 수 있다. 예를 들어 AI 시스템이 자산 유동화가 최적의 대안이라고 판단하면, 경쟁사 AI들도 모두 같은 결론을 내 연쇄적인 시장 붕괴를 가져올 수 있는 것이다.

AI의 제한된 설명 가능성(explainability)도 위기 방지 문제를 복잡하게 한다. 인간과 다르게 의사 결정의 정당성을 직관적으로 판단하는 능력이 부족해 규제 당국의 선제적 개입을 어렵게 만드는 것이다. 인공지능 환각(AI hallucinations, AI 모델이 생성하는 부정확하거나 오해의 소지가 있는 결과)도 위기 상황 시뮬레이션(stress-testing scenarios)에 심각한 문제를 제기하는데, 부정확한 리스크 평가가 금융 기관들을 예기치 못한 충격에 노출시킬 수 있기 때문이다.

AI가 야기하는 리스크 동질화(risk monoculture)도 못지않게 심각하다. 금융 기관들이 소수의 AI 제공업자에게 의존할 수밖에 없어 획일적인 리스크 판단 분석 모델을 갖게 된다는 것이다. 이러한 동질성은 산업 전반에 걸친 오판을 불러 시스템적 취약성으로 이어질 가능성이 높다. 즉 금융기관들이 모두 비슷한 AI 기반 전략을 사용한다면 경제 충격에 대한 시장 반응도 비슷해져 금융 불안정성과 위험이 확대될 수밖에 없다.

AI 관리는 IT 아닌 ‘금융 안정 업무’

AI가 주도하는 금융 시장의 안정을 유지하기 위해 규제 당국은 포괄적인 접근방식을 도입해야 한다. 그중에서도 가장 명심할 사항은 규제 기관도 AI 전문성을 키워야 한다는 것이다. 그래야 위험을 예측하고 이상을 감지하며 시장 변동성에 신속히 대응할 수 있다.

또한 AI 영향에 대한 분석을 IT 부서에 맡기고 있을 것이 아니라 금융 안정 담당 부서의 핵심 업무로 승격시켜야 한다. 규제 기관이 금융 기관과 AI로 연결돼 실시간 모니터링과 세부 조정을 가능하게 하는 것도 중요하다.

한편 AI의 속도로 판단할 때 기존의 위기 대응 방식은 지나치게 느리다. 자동화된 유동성 공급 시스템(automatically triggered liquidity facilities)을 갖춘다면 시장 혼란 확대 전 사전 완화에 도움을 받을 수 있다. 이를 위해 핵심 AI 감독 기능을 외부 전문가에게 위탁하는 방식도 고려할 수 있다. 물론 기술적 도움을 얻기 위한 조치가 지나친 외부 의존성 및 감독 관할권 문제를 일으킬 수도 있어 주의를 요한다.

규제 당국이 지금 어떤 선택을 하는가에 따라 AI로 인한 금융 위기 여부와 양상이 바뀔 것이다.

원문의 저자는 존 다니엘슨(Jon Danielsson) 런던 정경대학(London School of Economics And Political Science) 시스템 리스크 센터(Systemic Risk Centre) 소장입니다. 영어 원문 기사는 Artificial intelligence and stability | CEPR에 게재돼 있습니다.