스타트업얼라이언스는 지난 6일 더불어민주당 황정아 의원과 함께 국회의원회관에서 'AI 기본법 투명성·책임성 라운드테이블'을 개최했다고 7일 밝혔다. 스타트업얼라이언스가 코리아스타트업포럼, 코딧 글로벌정책실증연구원과 공동 주관했다.
이번 라운드테이블은 오는 22일 시행을 앞둔 AI 기본법과 관련 산업계가 실제로 부담해야 할 의무가 불명확하다는 문제의식에서 출발했다. 참석자들은 예측 가능하고 실효성 있게 작동하는 제도 설계 방향을 중심으로 논의를 진행했다.
황정아 의원은 "정부는 최소한의 규제를 담기 위해 노력하고 있으나, 현장에서는 여전히 우려가 제기되고 있다"며 "세계 최초로 시행되는 법인 만큼 시행 이후에도 현장의 목소리를 반영해 제도를 보완해 나가겠다"고 말했다.
임정욱 스타트업얼라이언스 대표는 "AI 산업은 글로벌 경쟁이 치열하고, 기술 변화의 속도 또한 빠른 만큼 새로운 규제 체계를 설계할 때는 신속성뿐 아니라 실효성과 예측 가능성, 국제적 정합성을 함께 고려해야 한다"며 "오늘 논의된 현장 의견들이 시행령과 가이드라인 정비 과정에 반영돼, AI 기본법이 기업에 또 다른 부담이 아닌, 신뢰와 혁신의 기반으로 자리 잡을 수 있기를 바란다"고 말했다.
기조 발제를 맡은 최성진 스타트업성장연구소 대표는 투명성과 책임성 확보라는 AI 기본법 목적에 공감하면서도, 시행령안이 산업 현장에서 원칙을 구현하기 위한 구체성과 예측 가능성이 부족하다고 지적했다. 그는 "고영향 AI 지정, 생성형 AI 표시 의무, 위험관리 체계 구축 등 주요 조항의 적용 기준과 절차가 명확하지 않다"며 "이로 인해 산업계 전반에 불필요한 규제 리스크가 확산할 수 있다"고 우려했다.
최 대표는 특히 고영향 AI 지정과 관련, "판단이 단순히 기술 유형이 아닌 사용 맥락과 영향 범위에 따라 달라질 수 있는 만큼, 법적 의무 부과 전에 사업자가 스스로 예측 가능한 기준이 마련돼야 한다"고 말했다. 그러면서 "해당 여부를 모호하게 남긴 채, 사후 조사나 조치 중심으로 제도가 운영된다면 스타트업 입장에서는 리스크 회피 차원에서 이에 관련 서비스를 포기하게 되는 상황이 생길 수 있다"고 했다.
최 대표는 또한 "생성형 AI 결과물 표시 의무는 결과물이 생성형인지 아닌지를 사용자에게 언제, 어떻게 표시해야 하는지에 대한 구체적 기준이 부재하다"며 "음성·이미지·영상과 같은 비정형 콘텐츠의 경우 기술적으로 실현 가능성이 낮거나 오히려 사용자 경험을 해칠 수 있다. 일괄적이고 경직된 표시 의무가 아니라, 위험성과 사용 목적에 따라 유연하게 설계돼야 한다"고 말했다.
이어진 종합토론에서 정주연 스타트업얼라이언스 선임전문위원은 "AI 시스템의 누적 연산량을 기준으로 안전성을 판단하는 현행 시행령안은 실제 서비스 구조나 기술 현실을 반영하지 못한다"고 지적했다. 그는 "외부 API나 오픈소스 모델을 활용하는 스타트업은 연산량을 측정·통제할 수 없는 상황에서도 책임을 부담하게 될 수 있다"며 "안전성 기준은 AI 시스템이 아닌, 모델 단위로 설정하는 것이 기술 현실에 더 부합한다"고 했다.
AI 저작도구 전문 기업 툰스퀘어 이호영 대표는 "이용자, 이용사업자, 개발사업자의 경계가 명확하지 않은 현장 상황을 고려해 AI 기본법의 유연한 적용이 필요하다"고 말했다. 이어 "표준과 기준이 불명확한 상황에서는 오히려 기업이 스스로 위축되거나 해외로 이전하는 일이 반복될 수 있다"고 우려했다.
최우석 과학기술정보통신부 인공지능안전신뢰지원과 과장은 "AI는 본질적으로 불확실성이 큰 산업인 만큼, 초기 기업들이 과도한 부담을 최소화할 수 있도록 유예·계도 중심으로 제도를 운영하고, 충분한 소통과 지원을 병행해 나가겠다"고 말했다. 그러면서 "법령 개정이 어려운 사안은 시행령과 가이드라인을 통해 보다 구체적인 해석 기준을 제시할 수 있도록 노력하겠다"고 했다.