월간전기

인공지능(AI) 포괄 규제로는 전 세계 최초인 「AI 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 AI 기본법)이 올해부터 시행된다. 1월 22일 본격 시행을 보름여 앞둔 1월 6일(화), AI 법·규제·정책 플랫폼 기업 코딧(CODIT) 부설 글로벌정책실증연구원과 황정아 더불어민주당 의원은 서울 여의도 국회의원회관에서 『AI 기본법 투명성·책임성 라운드테이블』을 개최했다.

「AI 기본법」은 최민희, 이정헌, 장철민, 최보윤 의원이 대표 발의한 「AI 기본법 개정(안)」 9건에 대해 국회 심사 과정에서 여야 합의를 통해 하나의 법안으로 병합해 마련한 것으로, ’24년 12월 30일 국회 본회의를 통과했다. ’25년 1월 21일 법안이 공포되었으며, 9월에 법안 시행령 초안 및 가이드라인이 공개되었다.

11월 12일부터 12월 22일까지 「AI 기본법」 시행령 제정안 입법 예고 기간을 가진 후, ’26년 1월 22일부터 본격 시행되었다. 올해 상반기는 시행령 및 구체적 규제 기준을 확정하는 ‘계도 기간’으로 운영될 예정이다.

법안의 주요 내용은 ▶국가인공지능전략위원회 개편 사항의 법제화 ▶인공지능연구소 설립 운영 ▶공공분야 AI 수요 창출 ▶AI 분야 창업 활성화 지원 ▶AI 전문인력 지원 ▶공공데이터의 학습용 데이터 제공 근거 마련 ▶AI 기술 활용 교육 지원 ▶AI 취약계층 접근성 보장 및 비용 지원 근거 마련 등이다.

정부는 ’25년 1월부터 법조계·학계 전문가와 이해관계자들로 구성된 ‘하위법령 정비단’을 꾸려 초안 마련을 위한 논의를 진행했으며, 9월 2일 열린 국무회의에서 국가인공지능전략위원회의 설치 및 운영에 관한 규정(대통령령)을 의결했다. 하위법령 정비단은 시행령에서 10개로 규정한 ‘고영향 AI’ 영역 안에서도 중대한 피해가 발생하는 영역만 규제하는 방향을 검토했다.

‘고영향 AI’는 ▶에너지법 ▶먹는물관리법 ▶보건의료기본법 ▶의료기기법·디지털의료제품법 ▶원자력 시설 등의 방호 및 방사능 방재 대책법 ▶범죄 수사나 체포 업무를 위한 생체인식정보의 분석·활용 ▶채용·대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 ▶교통안전법 ▶공공기관의 운영에 관한 법률의 의사결정 ▶교육기본법 등 관계 법령에 따라 10가지 영역에서 활용되면서 사람의 생명과 신체의 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 가리킨다. 당시 과기정통부 관계자는 “법령에서도 10개 영역을 모두 규제하겠다는 것이 아니라, 위험성과 발생 빈도가 높아 실질적인 피해가 있다고 판단되는 영역만 규제할 것”이라고 말했다.

한편, 국회는 이튿날인 9월 3일에 여당 주도로 「AI 기본법 개정안」 2건을 발의했다. 국가인공지능전략위원회의 구성과 기능을 명문화하고, 공공데이터를 AI 학습용으로 활용할 수 있는 법적 근거를 마련하는 내용으로, ‘위원회 설치’ 규정의 후속 입법 조치였다.

툰스퀘어 이호영 대표는 「AI 기본법」의 유연한 적용이 필요하다고 말했다.
“현장의 목소리 반영해 제도 보완해나갈 것”

《AI 강국 도약을 위한 규제 합리화와 개선 방안》이라는 주제로 1월 6일 개최된 『AI 기본법 투명성·책임성 라운드테이블』(이하 라운드테이블)에서 황정아 의원은 “세계 최초로 시행되는 법인 만큼, 시행 이후에도 현장의 목소리를 반영해 제도를 보완해 나가겠다”고 강조했다.

황 의원은 “세상의 모든 것을 바꾸고 사회 대변혁을 이룰 AI를 잘 활용하기 위한 규제를 만드는 것이 중요한 시점”이라며 “어떻게 하면 책임 있고 투명하게, 피해 보는 사람 없이 「AI 기본법」을 최초로 시행할 수 있을 것인가가 초미의 관심사일 것”이라고 말문을 열었다. 이어 “이재명 정부는 〈AI 3대 강국, 과학기술 5대 강국〉을 목표로 달리고 있다”며 “혁신과 성장을 목표로 하더라도, 안전한 보안장치는 반드시 있어야 할 것”이라고 짚었다.

그러면서 “AI 기본법의 쟁점에 대해선 산업 현장의 경험이 중요하다고 생각한다”며 “민·관·학 전문가들의 목소리를 모아 더 나은 방향으로 정책을 만들어 나가겠다”라고 밝혔다. 황정아 의원은 현재 더불어민주당 과학기술특별혁신위원회 위원장, 더불어민주당 AI강국위원회 간사 및 국회 과학기술정보방송통신위원회 위원으로 활동하고 있다.

코리아스타트업포럼 정지은 대외정책분과위원장은 콘텐츠 제작 과정의 AI 기여도를 정의하는 기준이 불분명하다고 지적했다.

이어진 종합토론에서는 건국대학교 법학전문대학원 이상용 교수를 좌장으로 코딧 정지은 대표이사·툰스퀘어 이호영 대표이사·스타트업얼라이언스 정주연 선임전문위원·과학기술정보통신부 최우석 과장·NIA AI법제도센터 김형준 센터장이 참석해 《AI 규제 합리화와 개선 방안》에 대해 논의했다.

툰스퀘어 이호영 대표는 “표준과 기준이 불명확한 상황에서 기업들이 스스로 위축되거나 해외로 이전하는 일이 반복된다”면서, “이용자, 이용사업자, 개발사업자의 경계가 명확하지 않은 현장 상황을 고려해 「AI 기본법」의 유연한 적용이 필요하다”고 말했다.

정지은 코딧 대표이사 겸 코리아스타트업포럼 대외정책분과위원장은 “AI 생성물 표시의무와 관련해 제작 과정의 AI 기여도를 정의하는 기준이 불분명하다”며 “가시적 워터마크는 사용자 경험에 부정적인 영향을 줄 수 있어 C2PA 등 글로벌 스탠다드의 비가시적 메타 서명 방식을 참고할 필요가 있다”고 제안했다.

스타트업얼라이언스 정주연 선임전문위원은 “외부 API나 오픈 소스 모델을 활용해 서비스를 개발하는 스타트업의 경우, 해당 연산량을 측정하거나 통제할 수 없는 상황에서 책임을 져야 하는 구조는 불합리하다”고 지적했다. “AI 시스템은 다양한 모델과 모듈로 구성된 구조이기 때문에 연산량 산정 자체가 현실적으로 불가능한 경우가 많다”며 “안전성 기준은 AI 시스템이 아닌 모델 수준에서 설정하는 것이 기술 현실에 더 부합한다”고 말했다.

한국지능정보사회진흥원(NIA) AI법제도센터 김형준 센터장은 “「AI 기본법」은 기업의 위험 감소가 아닌 국민의 생명, 신체, 기본권에 대한 위험을 방지하자는 것”이라며 “고영향 분야라면 엄격한 안전장치가 필수적”이라고 반박했다. 김 센터장은 “특정 활용 비율을 정하는 것보다 맥락과 상황에 따른 투명성 확보가 중요하다”며 “AI 생태계의 기본적인 사항을 정하는 법으로써 일단 시작하고 보완해 가는 관점이 필요하다”고 말했다.

끝으로 과기정통부 인공지능안전신뢰지원과 최우석 과장은 “AI는 본질적으로 불확실성이 큰 산업인 만큼, 초기 기업들이 과도한 부담을 최소화할 수 있도록 유예·계도 중심으로 제도를 운영하고 충분한 소통과 지원을 병행하겠다”며 “시행령과 가이드라인을 통해 구체적이고 실효성 있는 해석 기준을 제시하겠다”고 전했다.

NIA 김형준 센터장은 고영향 AI 분야라면 엄격한 안전장치가 필수적이라고 강조했다.