최근 인공지능(AI) 개발 분야에서 AI 스스로가 차세대 모델 연구·개발(R&D) 과정을 자동화하는 '연쇄 피드백 루프'가 작동하며 기술 발전 속도가 기하급수적으로 빨라지는 '지능 폭발(intelligence explosion)'에 대한 우려가 커지고 있습니다. 글로벌 AI 연구진들은 이러한 기술 발전이 가져올 잠재적 위험에 대해 경고하며 정책 당국의 즉각적인 규제 감독을 촉구했습니다.

싱크탱크 GovAI의 앨런 찬 연구원을 비롯해 앤트로픽의 잭 클라크 공동창업자, 오픈AI의 야쿠프 파초키 수석과학자, 노벨상 수상자 제프리 힌턴 등 저명한 AI 연구자들은 공동 논문을 통해 AI가 자체 연구·개발을 주도하는 '재귀적 자기 개선(RSI)' 단계에 진입하면, 과거 수년에 걸쳐 이루어지던 획기적인 기술 도약이 불과 몇 달 만에 전 방위적으로 발생할 수 있다고 밝혔습니다. 이는 통제 불가능한 수준의 급격한 기술 발전으로 이어질 수 있다는 지적입니다.

실제로 AI의 R&D 자동화 속도는 이미 가속화되고 있습니다. 앤트로픽의 데이터에 따르면, AI 모델의 승인 코드 자동 생성 비율은 2025년 1월 한 자릿수에서 2026년 5월 80% 이상으로 급증했습니다. 연구진은 향후 수년 내 AI R&D의 상당 부분이 자동화될 것이며, 완전 자동화 가능성 역시 배제할 수 없다고 진단했습니다. 이러한 기술 급증은 통제력 상실 및 보안 사고와 같은 심각한 위험을 초래할 수 있다는 분석입니다.

“R&D 자동화는 신약 개발 등 기술적 난제 해결을 획기적으로 앞당길 수 있으나, 시스템 통제력 상실이라는 치명적 위험의 도래 시점 역시 대폭 앞당긴다. 정책적 대응의 실효성이 상실되기 전 제도적 안전장치를 선제적으로 마련해야 한다.” (앨런 찬 연구원)

기술 급증에 따른 통제력 상실 및 보안 사고 리스크를 차단하기 위해, 연구진은 주요 AI 선도 기업 내부 연구소에 '상주 감사인(embedded auditors)'을 의무 배치하는 구체적인 프레임워크를 제안했습니다. 이는 최근 백악관에서 체결된 민간 자율 협약만으로는 실효성 및 구체성 측면에서 한계가 있다는 평가에 따른 것입니다.

한편, 유럽에서는 연쇄 도난 사건에 대응하여 박물관들이 유물 보존과 공공 개방성 사이에서 딜레마를 겪고 있습니다. 프랑스 정부는 고위험 진품 유물을 전시대에서 임시 제외하는 보안 플랜을 수립했으며, 영국은 귀금속 유물과 관람객 사이의 거리를 최소 1m 이상 격리하도록 지침을 강화했습니다. 이는 루브르 박물관의 보석 철수와 스페인 비예나 박물관의 유물 도난 사건 등 최근 잇따른 사건들에 대한 현장 대응으로, 전문가들은 작품과의 물리적 거리가 멀어질수록 감상 몰입도가 약화될 수 있다며 유물 보호와 관람 접근성 보장 간의 균형 확보가 전 세계 박물관의 최대 과제로 떠올랐다고 진단했습니다.

이와 더불어, 인공지능(AI)의 금융 분야 활용 확대에도 불구하고 대다수 투자자는 AI가 직접 투자 결정을 내리는 것에 대해 여전히 거부감을 느끼는 것으로 나타났습니다. 뱅가드의 조사에 따르면 응답자의 57%가 AI가 자신을 대신해 금융 관련 행동을 하는 것에 불편함을 느낀다고 답했으며, 모든 연령대에서 AI에 대한 신뢰 격차가 상당함을 보여주었습니다. AI가 제공하는 금융 조언을 신뢰하지 않는 반면, 인간 재무자문가에 대해서는 높은 신뢰를 보였습니다.