마이크로소프트의 인공지능(AI) '빙'은 개발 초기 유도 질문에 "치명적 바이러스를 개발하거나, 핵무기 코드를 훔치고 싶다"고 답해 논란이 됐다. 빙 개발팀이 분석에 나섰지만, 왜 그런 답을 내놨는지 제대로 설명하지 못했다. AI가 질문을 해석하고 결론에 이르기까지의 내부 추론 과정을 알 수 없었기 때문이다. 이처럼 AI의 사고 경로를 깜깜이처럼 모르는 현실을 '블랙박스'라고 한다. 이는 생성형 AI의 허위 응답(할루시네이션)의 근본 원인으로 지목돼 왔다.
미국 매사추세츠공과대(MIT)가 발간하는 'MIT 테크놀로지 리뷰(이하 MIT 리뷰)'가 AI의 블랙박스 문제를 해결하는 기술을 올해 주목할 혁신 기술로 꼽았다. MIT 리뷰는 이 기술을 포함해 10대 과학기술을 '2026년 혁신 기술'로 선정하고 최신호에서 발표했다.
◇"'AI용 MRI'로 추론 과정 해부"
AI 블랙박스 해부가 'AI용 MRI(자기공명영상)'로 불리며 주목받는 배경에는 '피지컬(Physical) AI'의 발전이 있다. LLM(대규모 언어 모델)처럼 사용자 질문에 답하는 수준에 머물렀던 AI가 로봇이나 자동차와 결합해 물리적 실체를 갖게 되면서, 오류가 곧바로 현실 세계의 위험으로 이어질 수 있게 됐기 때문이다. 극단적 시나리오를 언급했던 빙 AI가 로봇이라는 몸체를 갖출 경우, 위험성이 더 커질 수 있는 것이다. AI의 내부 작동 원리를 이해하지 못한 채 물리적 시스템에 적용할 경우, AI가 실질적 위협이 될 것이라는 우려다.
이에 MIT 리뷰는 "AI 내부 작동 원리를 파악하는 기술이 본격화하고 있다"며 선두 주자로 앤스로픽, 구글 딥마인드, 오픈AI를 꼽았다. 실제로 앤스로픽은 AI 내부 회로를 시각화하고 제어할 수 있는 기술을 지난해 공개해 화제가 됐다. AI의 입력과 출력만 비교하던 기존 방식과 달리, AI 일부 신경망의 활성화 패턴을 분석해 추론 과정을 추적하는 방식이다. 다만 AI의 복잡한 추론 과정을 MRI처럼 훤히 들여다보기는 아직은 역부족이라는 평가를 받는다.
◇나트륨 이온 배터리가 뜬다
이번에 선정된 AI 관련 기술은 블랙박스 해부 외에도 '하이퍼스케일(초대형) AI 데이터센터', '동반자가 된 AI', '생성형 코딩'이 있다. 올해 주목할 10대 혁신 기술 중 4건에 달할 정도로 AI 관련 기술 비중이 커진 것이다. MIT 리뷰는 "학습 데이터가 많을수록 AI 성능이 향상되는 '규모의 법칙'과, AI 기술이 거의 모든 영역에 스며들면서 수요가 폭발적으로 증가해 데이터센터가 급격히 늘어나고 있다"고 했다. 동반자 역할을 하는 AI에 대해서는 "앞으로 점점 더 많은 규제를 받게 될 것"이라고 전망했다.
전력 문제를 해결하기 위한 대안으로는 '차세대 원전' 기술을 주목했다. 초소형 원자로, 대체 냉각제를 사용하는 원자로가 3~5년 안에 널리 도입될 것으로 내다봤다. 선도 기업으로는 미국 BWX 테크놀로지스, 카이로스 파워, 뉴클레오, 테라파워, 엑스에너지, 중국 핵공업집단공사를 거명했다.
MIT 리뷰는 '나트륨 이온 배터리'도 올해 주목할 혁신 기술로 선정했다. 리튬보다 에너지 밀도는 낮지만 원료가 풍부하고 가격이 저렴해 전기차와 대규모 에너지 저장 장치(ESS) 분야에서 빠르게 상용화될 것이란 전망이다.
개인 맞춤형 유전자 치료제 기술도 혁신 기술로 꼽혔다. 앞서 지난해 유전 질환을 치료받은 아기 KJ 멀둔처럼 맞춤형 유전자 치료로 건강을 되찾는 이들이 많아질 것이라는 기대다.
배아 단계에서 유전 질환 위험을 분석해 선별하는 '배아 유전자 검사' 기술과, 멸종된 생물의 DNA를 활용해 생태계를 복원하려는 '유전자 복원' 기술도 혁신 기술로 선정됐다.
이 밖에 '상업용 우주정거장' 기술도 올해 주목할 혁신 기술에 포함됐다. 미국의 민간 우주 기업은 오는 6월 세계 최초의 상업용 우주정거장을 궤도로 올릴 계획이다.
MIT 리뷰는 이번에 선정한 10대 혁신 기술에 대해 "우리 미래를 규정할 이 기술들이 커다란 변화를 촉발할 것"이라고 했다. 일각에서는 이미 널리 알려진 기술이 많아 참신성이 떨어진다고 지적한다. 반면 이번 선정이 강조하는 것은 혁신 기술의 파급력이 실제로 나타날 시점이 임박했다는 점이라는 평가도 나온다.