한국정보통신기술협회(TTA)는 인공지능(AI) 모델의 신뢰성 확보와 데이터 보호를 위한 '인공지능 보안' 표준화 전담 프로젝트그룹(PG507)을 신설했다고 밝혔다.
PG507은 인공지능 시스템 정보보호 기술, 개인정보 보호 기술, 보안성 평가 기술, 생성형 AI 보안 기술, 에이전틱 AI 보안 기술 등을 중심으로 국내외 표준 개발을 추진할 계획이다.
최근 AI는 생성형 AI를 축으로 빠르게 고도화되며 자율주행차, 맞춤형 교육, 지능형 로봇 등 다양한 산업으로 확산하고 있다. 반면 기술 접근성이 높아지면서 모델 탈취, 프롬프트 인젝션, 적대적 공격과 같은 새로운 보안 위협과 개인정보 침해 우려도 커지고 있다. 이에 TTA는 각국의 AI 관련 법·규제를 반영한 보안 표준 마련에 속도를 낼 방침이다.
손승현 TTA 회장은 "프로젝트그룹 신설은 AI 산업 육성과 기술 신뢰성 확보를 위한 표준 생태계 조성에 기여할 것"이라며 "국내외 AI 표준화 기구와 협력해 우리 기술의 국제표준 반영 기반을 만들겠다"고 말했다.