앤트로픽 연구진이 최첨단 인공지능(AI) 모델 '클로드 미토스 프리뷰'를 활용해 아직 표준화되지 않은 양자내성암호(PQC) 알고리즘을 분석해 새로운 공격 기법을 찾아냈다.
앤트로픽은 28일(현지시각) 자사 연구진이 차세대 암호 체계로 거론되는 호크(HAWK)의 새로운 취약점을 발견했다고 밝혔다. 호크는 미국 국립표준기술연구소(NIST)가 양자컴퓨터 시대에 대비해 표준화를 추진 중인 차세대 전자서명 알고리즘 후보 중 하나다.
미토스는 약 60시간 만에 호크의 보안 강도를 낮출 수 있는 새로운 암호분석 기법을 찾아냈다. 암호를 해독한 것은 아니지만 공격자가 암호를 해독하는 데 필요한 시간을 크게 단축시켜준다고 연구진은 설명했다.
연구진에 따르면, 미토스는 축소(round-reduced) 버전의 고급암호화표준(AES)을 대상으로 한 시험에서도 해킹 취약점을 찾아냈다. AES는 2001년 NIST가 표준으로 채택한 이후 가장 많은 검증을 받은 대칭키 암호 중 하나다. 실제 인터넷 뱅킹 등 금융거래, 메신저 보안, 국가 기밀 보호 등 여러 영역에서 해킹을 막는 안전 표준이다.
암호학 연구에서는 AES의 안전성을 평가하기 위해 축소 버전의 AES를 주로 분석하는데, 미토스는 '뫼비우스 브리지(Möbius Bridge)'라는 새로운 알고리즘을 활용해 공격 속도를 인간 전문가보다 200~800배 높였다.
앤트로픽은 "두 연구 결과는 현재 운영 중인 실제 컴퓨터 시스템에는 영향을 미치지 않는다"며 "호크는 아직 표준으로 채택되지 않은 후보 알고리즘이라 실제 서비스에 적용되지 않았고, 두 번째 공격은 AES 전체가 아니라 축소 버전에만 적용됐기 때문에 현재 사용 중인 AES가 위협에 노출된 것은 아니다"라고 했다.
그러나 미토스가 AES와 차세대 암호 표준도 공격할 수 있다는 사실이 밝혀진 만큼, 향후 고성능 AI가 인터넷 표준 암호 체계를 무력화할 가능성이 높아졌다는 우려도 나온다.
뉴욕타임스(NYT)는 "과거 연구에서는 대규모언어모델(LLM)들이 암호학 분야에서 인간을 앞지르지 못하는 것으로 알려졌지만, 이제 이런 인식이 틀렸다는 사실이 드러났다"며 "중장기적으로 큰 논란이 예상된다"고 전했다.