과학기술정보통신부(이하 과기정통부)는 오는 11월 인공지능(AI) 안전 연구를 선도하고 글로벌 협력을 주도할 ‘AI안전연구소’를 출범한다고 18일 발표했다.
이 연구소는 5월 열린 ‘AI서울정상회의’의 핵심 후속조치로 설립되며, AI 기술 발전에 따른 잠재적 위험을 평가하고 대응하기 위한 연구를 본격화할 예정이다. 특히 세계 주요 AI 안전 연구소들과 협력하며 AI 안전성에 대한 국제 규범과 정책을 선도하는 역할을 맡게 된다.
AI안전연구소는 판교 글로벌 R&D센터에 위치하며, ETRI 산하에 설치된다. 연구소는 AI 기술의 안전성을 평가하고, AI 자율성 확대 및 기술 오용 등으로 인한 위험을 연구해 예방 방안을 제시할 예정이다. 또한 AI 위험을 체계적으로 분석하고 관련 인프라를 구축해 기업과 기관이 AI 기술을 안전하게 활용할 수 있도록 지원할 계획이다. 연구소는 30명의 연구 인력을 단계적으로 확보하며, 글로벌 AI 안전 거점으로 성장하는 것을 목표로 한다.
정부는 이 연구소를 통해 AI 기술의 안전성을 과학적으로 평가하고, 주요국 AI안전연구소와 협력해 국제적인 연대와 AI 안전 규범 정립을 강화할 예정이다. 아울러 AI 위험 관리, 딥페이크 탐지, AI 모델 보안 등의 분야에서도 연구를 추진해 고도화된 AI 위험에 대응할 수 있는 체계를 구축할 방침이다.
이와 함께, 이날 전략위원회에서는 AI 시대의 필수 인프라로 자리 잡은 클라우드 컴퓨팅을 주제로 한 제4차 클라우드 컴퓨팅 기본계획(2025~2027)도 심의·의결됐다. 정부는 AI 기술이 국가 경제와 안보에 필수적인 만큼, 클라우드 도입을 전면화하고 기술 경쟁력을 높여 국내 클라우드 산업을 연간 10조원 규모로 성장시키겠다는 전략을 밝혔다.
정부는 클라우드 도입 확대를 위해 교육과 금융권을 포함한 다양한 분야에 AI 기반 클라우드 서비스를 전면 도입할 계획이다. 또한, 공공기관의 클라우드 활용을 촉진하고 민간 주도의 클라우드 생태계를 활성화하기 위해 제도적 개편을 추진하고 있다. 이를 통해 국내 클라우드 시장의 글로벌 경쟁력을 높이고, 클라우드 기반 인프라를 강화해 AI 기술의 발전을 지원할 예정이다.
AI 반도체와 AI 컴퓨팅 인프라 등 국내 클라우드 산업의 핵심 기술 경쟁력을 높이기 위한 ‘K-CLOUD 프로젝트’도 본격화된다. 초고속·저전력 AI 반도체 개발과 이를 데이터센터에 적용하는 방안을 추진하며, 급증하는 AI 수요에 대응하기 위해 대규모 국가 AI 컴퓨팅 센터를 민관 합작으로 구축할 계획이다. 이와 함께 정부는 민간 주도의 AI 혁신펀드와 SaaS(소프트웨어형 클라우드 서비스) 전환지원센터 조성을 통해 SaaS 생태계를 활성화하고, 클라우드 산업 전반의 투자 촉진을 위한 세액 공제 확대를 검토하고 있다.
과기정통부는 이 밖에도 ‘대한민국 디지털 전략(2022)’의 추진 실적을 점검하고, 향후 디지털 경제 확장과 디지털 사회 구현을 위한 2025년 실행 계획을 발표했다. AI 학습용 고품질 데이터 구축, 고성능 AI 컴퓨팅 인프라 제공, 디지털 인재 양성 등의 과제를 포함한 디지털 전략은 26개 정부기관이 200여 개의 정책 과제를 추진하며 국가 디지털 경쟁력을 강화하는 데 주력하고 있다.
정부는 2025년까지 AI 기반 디지털 교과서를 도입하고, 의료데이터 중계 플랫폼을 확대해 국민들이 더욱 쉽게 디지털 기술을 접할 수 있는 환경을 마련할 계획이다. 또한, 국민 생활과 밀접한 공공 서비스 분야에 디지털 기술을 적용해 출산·육아수당 신청 등 다양한 민원 서비스에서 서류 요구를 없애는 등 디지털 전환을 국민들이 체감할 수 있도록 추진하고 있다.
유상임 과기정통부 장관은 “AI 시대는 국가의 경제와 안보를 좌우할 만큼 중요하다”며 “AI안전연구소 출범과 클라우드 도입 확대 등 정부의 디지털 전략을 통해 대한민국이 글로벌 AI 시장에서 리더로 자리 잡을 수 있도록 정부와 민간이 힘을 합쳐야 할 때”라고 말했다.