앤스로픽이 올해 초 AI(인공지능) 최신 모델 '미토스'를 내놨을 때, 이 모델의 해킹 능력과 사이버 보안 위협을 둘러싼 소문이 빠르게 퍼졌다. 하지만 이 모델의 실제 위험성을 구체적으로 검증한 곳은 실리콘밸리가 아니었다. 대서양 건너 영국 런던의 AI안보연구소(AISI)였다.
최신 AI를 만드는 경쟁의 중심은 여전히 실리콘밸리지만, AI의 안전성을 시험하고 평가하는 분야에선 런던이 새로운 중심지로 떠오르고 있다. 런던에서 창업한 구글 딥마인드에 이어 오픈AI, 앤스로픽도 대규모 거점을 마련했다. 국제 학술지 네이처는 최근 런던을 두고 "AI 안전 연구의 세계 수도로 떠오르고 있다"고 평가했다.
◇정부가 키운 AI 안보연구소
런던이 AI 안전 연구의 중심지로 부상한 배경에는 영국 정부가 2023년 설립한 AISI가 있다. 첨단 AI의 위험을 전문적으로 평가하는 세계 최초의 정부 지원 연구 기관이다. 영국 정부는 2025년 AISI의 모델 평가와 안전 연구 확대에 2억4000만파운드(약 4500억원) 예산을 배정해 지원하기로 했다.
AISI는 AI 기업이 출시 전 모델을 제출하면, 일부러 위험한 명령을 내리고 보안 취약점을 파고드는 검증을 진행한다. 자동차를 시판하기 전 각종 실험으로 안전성을 검증하는 것과 비슷하다. 검사 항목은 욕설이나 차별적 답변을 차단하는 수준을 넘어선다. AI가 사람 도움 없이 컴퓨터 시스템을 해킹할 수 있는지, 생화학 무기 제조에 필요한 정보를 제공할 수 있는지, 안전장치를 우회하거나 사람 몰래 위험한 계획을 수행할 수 있는지를 시험한다. AI가 인간이 의도한 대로 안정적으로 작동하도록 통제하는 방법도 연구한다.
AISI는 설립 2년여 만에 세계 최첨단 AI 모델 30개 이상을 시험했다. 딥마인드, 앤스로픽, 오픈AI도 이들에게 모델 시험을 맡긴다. AISI가 내놓는 시험 결과는 각국 정부와 기업이 AI 위험을 판단하는 기준이자 취약점 보완 근거로 활용된다.
◇킹스크로스에 모이는 AI 기업들
특히 런던 킹스크로스 일대에는 정부 연구기관뿐 아니라 AI 기술과 안전을 함께 연구하는 기업들이 몰리고 있다. 2010년 런던에서 창업한 구글 딥마인드가 대표적이다. 딥마인드는 이세돌 9단을 꺾은 바둑 AI 알파고와 단백질 구조를 예측하는 알파폴드를 개발했다. 구글에 인수된 뒤에도 런던을 주요 거점으로 유지하고 있다.
오픈AI는 2023년 첫 해외 사무소를 런던에 열었고, 500명 넘게 근무할 수 있는 새 사무실을 마련했다. 앤스로픽도 약 800명을 수용할 수 있는 런던 사무실을 열고 연구자와 정책 전문가 채용을 늘리고 있다. 인근에는 AI 신약 개발사, 자율주행 스타트업, 벤처 투자사, 앨런튜링연구소 등도 자리잡고 있다. 과거 인터넷 스타트업이 몰렸던 쇼디치에 이어, 킹스크로스가 새로운 AI 산업 중심지로 떠오른 것이다.
◇EU와 미국 사이 '제3의 길'
영국의 AI 안전 정책은 미국과 유럽연합(EU)의 중간 지대를 겨냥한다. EU는 기업에 각종 법적 의무를 부과하는 규제 중심 노선을 택했다. 미국은 상대적으로 기업의 기술 개발과 시장 경쟁에 더 무게를 둔다.
영국은 강한 사전 규제 대신 정부가 직접 기술자를 고용해 AI를 시험하고, 결과를 정책과 국제 기준에 반영하는 방식을 택했다. 한 전문가는 "EU보다 기술 기업의 이해관계에 우호적인 규제 환경이지만, 미국보다는 위험 대응에 적극적인 모습"이라고 평가했다.
다만 AI 모델의 가파른 성장 속도를 쫓아가기엔 어려움도 있다. AISI는 지난 5월 AI가 사람 도움 없이 수행할 수 있는 해킹 작업 수준이 2024년 말 이후 약 4.7개월마다 두 배씩 높아지고 있다는 분석을 내놨다. 최신 AI가 단순한 해킹 문제 풀이를 넘어 여러 단계를 거치는 사이버 공격을 처음부터 끝까지 수행하기 시작해, 안전 평가 기술이 이를 쫓아가지 못할 가능성도 있다는 것이다. AISI가 규제 기관이 아닌 연구 기관이라, 위험한 AI 모델 출시를 강제로 막을 권한이 없다는 점도 한계로 꼽힌다.
그럼에도 런던의 부상은 AI 경쟁의 기준이 달라지고 있음을 보여준다. 지금까지는 더 크고 똑똑한 AI를 먼저 만든 국가와 기업이 주도권을 잡았다. 앞으로는 AI가 얼마나 위험한지를 먼저 알아내고, 기준을 제시하는 국가도 영향력을 갖게 될 것이라는 평가가 나온다.