미국 증권업계에서 인공지능(AI) 기술이 가져올 혁신과 함께 잠재적 위험에 대한 경고음이 울리고 있습니다. 특히 AI 기업 앤트로픽이 개발한 최신 AI 모델 '클로드 미토스'가 금융 시장의 시스템적인 붕괴를 초래할 수 있다는 우려가 제기되었습니다.

16일(현지시간) 비즈니스인사이더(BI) 보도에 따르면, 미국증권협회(ASA)는 미국 재무장관에게 보낸 공개 서한을 통해 '클로드 미토스' 모델이 금융 부문의 핵심 취약점을 악용할 위험이 있다고 지적했습니다. 이러한 악용은 광범위한 신원 도용부터 금융 시스템의 심각한 불안정으로까지 이어질 수 있다는 것이 ASA의 분석입니다.

앤트로픽은 최근 사이버 보안 강화를 목표로 하는 새로운 범용 AI 도구 '클로드 미토스'를 발표했습니다. 이 모델은 모든 주요 운영 체제 및 웹 브라우저의 코드에서 '수천 개의 고위험 취약점'을 찾아낼 수 있다고 회사 측은 밝힌 바 있습니다.

ASA는 '클로드 미토스'가 악의적인 행위자의 손에 들어갈 경우, 투자자의 개인 정보가 집약된 중앙 집중식 데이터베이스인 증권거래위원회(SEC)의 통합감시체계(CAT)를 해킹할 수 있다고 강력히 우려했습니다. CAT는 미국 주식 시장 거래에 대한 포괄적인 데이터를 수집하고 분석하는 시스템으로, 이곳이 해킹당할 경우 시장 전반에 막대한 혼란이 야기될 수 있습니다.

ASA는 '클로드 미토스'가 투자자에게 초래할 수 있는 구체적인 위험 요인으로 다음 6가지를 제시했습니다:

특히 '시스템적 금융시장 혼란'에 대해 ASA는 악의적인 행위자가 중요 정보에 접근할 경우, 위험 자산의 대량 매각을 촉발하여 금융 시스템 전반의 연쇄적인 붕괴로 이어질 수 있다고 강조했습니다. 이는 단일 사건이 아닌, 복합적인 요인이 작용하여 금융 시장 전체의 안정성을 위협하는 시나리오입니다.

이러한 심각성을 인지한 ASA는 당국에 CAT 운영을 즉각 중단하고, 해당 플랫폼이 수집한 민감한 데이터를 폐기할 것을 제안했습니다. 이는 잠재적 위협을 사전에 차단하기 위한 극단적인 조치입니다.

한편, 앤트로픽 측 역시 자사 기술의 악의적 사용 가능성에 대해 인지하고 있으며, 이를 웹사이트를 통해 공표했습니다. 앤트로픽은 AI 발전 속도를 고려할 때, 안전한 배포를 약속한 행위자 외의 다른 세력에게 이러한 강력한 AI 역량이 확산되는 것은 시간문제라고 설명했습니다. 이로 인해 경제, 공공 안전, 나아가 국가 안보에 미치는 파급력은 심각할 수 있다고 경고했습니다.

이번 ASA의 경고는 AI 기술이 가져오는 효율성과 편의성 이면에 숨겨진 위험을 다시 한번 수면 위로 끌어올렸습니다. 금융 시장의 안정성을 유지하기 위해서는 AI 기술의 발전과 함께 철저한 보안 및 규제 마련이 시급하다는 목소리가 높아지고 있습니다.