[해외 DS] AI 금융, ‘시스템적 리스크’의 새로운 뇌관? ②

금융 시스템에서 거의 대부분의 데이터는 분포의 중간 부분에서 생성돼
하지만 위기는 분포의 꼬리 부분에서 나타나
위기에 관한 데이터 관측을 어렵게 만드는 요소도 많아

[해외 DS] AI 금융, ‘시스템적 리스크’의 새로운 뇌관? ①에서 이어집니다.

AI는 효과적인 작동을 위해 방대한 양의 데이터가 필요하다. 금융 시스템은 매일 테라바이트 단위의 데이터를 생성하기 때문에 데이터 부족은 문제가 되지 않을 것으로 생각될 수 있다. 그러나 대부분의 데이터는 시스템 결과 분포의 중간 부분에서 발생한다. 극단적인 상황, 즉 꼬리(tail) 부분에서 발생하는 데이터는 극히 드물다. AI가 진정으로 학습하고 예측 능력을 발휘하기 위해서는 꼬리 데이터가 필수적이다.

하지만 극단적인 상황에 대한 데이터는 다음과 같은 네 가지 이유로 수집하는 데 어려움이 있다.

불완전한 데이터

첫 번째는 시장 참여자들의 예측 불가능한 행동이다. 위기 상황이나 새로운 규제에 직면하면 시장 참여자들은 수동적으로 반응하기보다 전략적으로 대응한다. 그들의 대응 방식은 규제 당국이나 경쟁자들에게 사전에 공개되지 않으며, 심지어 자신들조차도 명확히 예측하지 못할 수 있다. 이러한 시장 참여자들의 숨겨진 반응 함수는 데이터에 드러나지 않아 AI 학습 데이터의 불완전성을 초래한다. 따라서 AI가 제공하는 정보를 맹신하거나 잘못 해석해 의사 결정에 오류를 범할 경우, 앞서 언급한 ‘잘못된 정보 채널’ 문제가 더욱 심각해질 수 있다.

두 번째 어려움은 시장 참여자들의 상호 의존적인 행동, 특히 위기 상황에서 두드러지는 ‘전략적 보완성(strategic complementarities)’이다. 시장이 불안정해지면 참여자들은 경쟁자의 행동에 따라 자신의 전략을 수정하는 경향을 보인다. 이러한 전략적 보완성은 경쟁자의 행동에 따라 시장 결과가 크게 달라질 수 있으므로 미래 예측을 어렵게 만든다. 과거의 위기 상황을 분석하더라도 미래를 예측하기 어려운 이유가 바로 여기에 있다. 나아가 AI를 악용해 이익 극대화를 시도하는 ‘악의적 사용 채널’ 상황에서는 문제가 더욱 심각해진다. 이러한 행동은 다른 참여자들의 연쇄적인 반응을 불러일으켜 시스템 전체를 위협할 수 있다.

이러한 문제의 근본에는 AI의 두 가지 특징이 자리 잡고 있다. 첫째 AI는 데이터에서 복잡한 패턴을 추출하는 능력이 뛰어나다. 둘째 AI는 작동 환경에서 빠르게 학습해 나간다. 따라서 현재 AI 엔진은 경쟁업체의 행동을 관찰하고, 이를 통해 세상이 어떻게 작동하는지에 대한 자체 모델을 개선하는 것이 어렵지 않다. 즉 미래에는 민간 기업과 공공 기관의 AI가 서로의 행동을 관찰하고 학습하며, 이를 통해 상호 영향을 주고받으며 발전할 가능성이 높다. 이는 앞서 언급한 전략적 보완성을 더욱 심화시켜 시장의 불확실성을 증폭시킬 수 있다.

인간-AI 목표 불일치와 AI 기술 과점 문제

세 번째 이유는 AI의 목표와 소유자의 목표를 일치시키기 어렵다는 ‘목표 불일치’ 문제다. 이는 위기 상황에서 더욱 심각해지는데, AI가 신속한 대응이 필요한 상황에서 인간의 피드백을 받아 목표를 조정할 시간이 부족하기 때문이다. 이로 인해 시스템 균형을 유지하기 위한 전통적인 조치들이 무력화될 수 있다. 또한 개별적으로 합리적인 행동이 사회적으로 바람직하지 않은 결과를 초래하는 목표 불일치 문제는 인간 규제 당국의 개입이 어려워질 때 더욱 심각해질 것이다. AI는 인간 소유자가 연준 의장의 전화를 받기도 전에 이미 자신의 포지션을 청산하고 위기를 초래했을 수 있다.

마지막으로 AI는 금융 기관들이 세상을 비슷한 방식으로 분석하고 반응하도록 만들어, 과점 시장 구조를 강화할 수 있다. 모두가 비슷한 정보를 바탕으로 비슷한 판단을 내리면, 시장은 쏠림 현상을 보이게 될 것이다. 예를 들어 AI의 특정 자산 가치 상승 예측은 모든 금융 기관의 매수로 이어져 가격 거품을 형성하고, 반대로 하락 예측은 매도로 이어져 가격 폭락을 초래할 수 있다. 이러한 ‘단일 위험 재배’ 현상은 금융 시스템의 호황과 불황의 주요 원인이다. 아울러 AI는 머신 러닝 설계, 입력 데이터, 컴퓨팅 능력에 따라 위험 관리 능력이 달라지는데, 이러한 기술과 정보는 점점 더 소수의 대형 기술 기업에 집중되고 있다. 이러한 기업들이 합병을 통해 과점 시장을 형성하면, 금융 시장의 불안정성은 더욱 커질 수 있다.

이러한 시장 집중 현상의 가장 큰 문제는 공공 부문을 포함한 많은 금융 기관이 동일한 소수의 기술 기업으로부터 세상에 대한 정보와 분석을 제공받는다는 점이다. 이는 기회와 위험에 대한 시각이 획일화될 수 있음을 의미한다. 특히 위기 상황에서 AI의 사용이 동질화되면, 모든 금융 기관이 비슷한 방식으로 반응해 극단적인 상황을 초래할 수 있다. 최근 데이터 공급업체들의 합병 추세를 고려할 때, 금융 당국은 과점 AI 기술이 야기할 수 있는 시스템 위험 증가 가능성을 충분히 인지하지 못한 것으로 우려된다.

더 중요한 것은 금융 당국의 AI 위기 대응 능력

AI는 기관의 존립에 대한 위협에 직면하면 생존을 위해 최적화한다. 바로 이 지점에서 AI의 속도와 효율성이 전체 금융 시스템에 불리하게 작용할 수 있다. 다른 금융 기관도 똑같이 행동하면 위기에 대한 균형이 맞춰지기 때문이다. 위험 자산을 가장 먼저 처분하는 기관이 위기를 가장 잘 극복할 수 있으므로 모두 가능한 한 빨리 대응하려고 할 것이다. 그 결과 불확실성이 증가해 극단적인 시장 변동성과 함께 투매, 유동성 회수, 뱅크런과 같은 악순환이 발생한다. AI로 인해 며칠 또는 몇 주가 걸렸을 위기가 이제 몇 분 또는 몇 시간 만에 발생할 수 있는 것이다.

물론 AI는 반대로 행동할 수도 있다. 실증적 증거에 따르면 자산 가격은 위기 상황에서 기본 가치 아래로 떨어질 수 있지만, 종종 빠르게 회복된다. 이는 매수 기회를 의미하기 때문이다. AI가 생존에 대해 크게 신경 쓰지 않고 엔진들이 전반적으로 회복 균형에 수렴한다면 충격을 흡수하고 위기는 발생하지 않을 것이다.

종합하면 AI는 변동성을 낮추고 극단적인 상황(tail)을 더욱 극단적으로 만들 것으로 추측된다. 단기 변동을 완화하는 대신 더 극단적인 사건이 발생할 수 있다는 의미다. 여기서 중요한 것은 금융 당국이 AI 위기에 얼마나 잘 대비하고 있는가 하는 점이다. 이에 대한 자세한 논의는 다음 글에 발표될 VoxEU 기사에서 다룰 예정이다.

*편집진: 영어 원문의 출처는 경제정책연구센터(Centre for Economic Policy Research)로 본지의 편집 방향과 일치하지 않을 수도 있습니다.