과학기술정보통신부는 5일 정보통신정책연구원(KISDI), 한국정보통신기술협회(TTA)와 ‘제2차 인공지능(AI) 윤리정책 포럼’을 개최했다고 밝혔다.
인공지능 윤리정책 포럼은 AI의 윤리적 개발과 활용을 위한 논의와 인공지능 신뢰성 검증 등 주요 정책 과제에 대한 의견수렴을 위한 자리다. 지난 4월 제2기 포럼이 출범했다. 산업계와 윤리, 교육, 철학 등 다양한 분야에서 30명의 전문가가 활동하고 있다.
포럼은 윤리(분과장 문정욱 KISDI 센터장), 기술(분과장 이강해 TTA 단장), 교육(분과장 변순용 서울교대 교수)으로 구성됐다. 이번 포럼에서는 분과별 생성형 인공지능 활용과 관련한 윤리적 쟁점들을 발표하고 초거대·생성형 AI의 활용을 촉진할 수 있는 방안을 논의한다.
노태영 위원(김앤장 법률사무소 변호사)은 윤리분과 세션에서 ‘법률서비스 분야에서의 생성형 AI 활용과 윤리적·법적 쟁점’을 주제로 법률상담 및 계약서 작성에 활용될 수 있는 생성형 AI는 민감한 정보를 처리하는 만큼 안전성과 책임성, 연대성 등이 고려돼야 한다고 강조했다.
김지관 한국IBM실장은 기술분과 세션에서 ‘Trustworthy AI(신뢰 가능한 인공지능) 구현을 위해 기업이 고민해야 할 것들’을 주제로 데이터, AI 모델, 위험관리 체계를 강조했다. 데이터 및 AI 모델의 소유와 사용 주체를 명확히 하고 이에 대한 관리를 수행할 수 있도록 정부에서 가이드라인을 제시해야 한다는 것이다.
교육분과 세션에서는 김기영 아티피셜소사이어티 대표가 ‘생성형 인공지능을 활용한 맞춤형 교육의 현주소 및 방향성’을 주제로 발표했다. 다른 영역에 비해 엄격한 윤리적 기준이 필요한 교육에서 인간 전문가에 의한 감수 및 평가가 여전히 중요하다는 주장과 학습 데이터의 진실성, 저작권 확보, 다양성 및 인간의 엄격한 검증과 관련된 부분을 강조했다.
엄열 과기정통부 인공지능기반정책관은 “AI가 주는 혜택과 함께 잠재적 위험성, 부작용에 대한 우려가 증가하고 있다”라며 “이번 포럼에서 논의된 사항과 정부에게 요청한 사항에 대한 지원을 아끼지 않겠다”라고 했다.