[법률 정책]_AI기본법 제정 시행령

 

 

요즘 너도나도 할 것 없이 AI를 많이 사용한다. 공부, 업무, 데이터분석, 개발 할 것 없이 전 분야에서 AI가 쓰이지 않는 곳은 잘없다.

오히려 너무나도 많은 사용으로 인해, 문제들이 발생하는 지경이다. 최근들어 이슈가 되고 있는 대학시험에서 AI 사용이 문제가 되고있는 것 처럼.....

 

 

그래서 이번 정부에서는 인공지능에 관련한 기본법 시행령을 예고 했다. 정확한 이름으로는

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법

이다. 법안 제목에서도 보이듯, 우리 정부는 인공지능의 큰 문제인 '할루시네이션'과 '조작' 에대한 경계를 많이 하고 있는 것 처럼 보인다.

해당 법안이 시행되면 나는 서비스 기획에 대한 관심이 있는데,  어떠한 점을 유의깊게 봐야할까?

 

내용이 조금 많은 편이라 요약을 하면 총 5가지로 압축 할 수 있어 보인다. 내 생각에는 다음과 같은 것들이 기획시 좀 주의 깊게 살펴야하지 않을까 한다.

 

1. AI 표시·고지 의무(UX 포함)
2. 고위험/고영향 AI 여부 판단 기준 및 규제 절차
3. 설명가능성·리스크 관리·문서화 등 운영 의무
4. 데이터 구축·유통·이용료 감면 등 데이터 전략 요소
5. 향후 인증·검증 체계로 인한 서비스 운영 변화

 

1) 인공지능 투명성 확보 의무(제22조)

① 인공지능사업자는 고영향인공지능이나 생성형인공지능을 이용한 제품 또는 서비스(이하 “제품 등”이라 한다)를 제공하기 전에 다음 각 호의 어느 하나에 해당하는 방법으로 법 제31조제1항에 따른 고지를 하여야 한다.

 

1. 제품 등에 직접 기재하거나, 계약서·사용설명서·이용약관 등에 기재
2. 이용자의 화면 또는 단말기 등에 표시
3. 제품 등을 제공하는 장소(해당 장소와 합리적으로 관련된 범위의 장소를 포함한다)에 인식하기 쉬운 방법으로 게시
4. 그 밖에 제품 등의 특성을 고려하여 과학기술정보통신부장관이 인정하는 방법

 

② 인공지능사업자가 법 제31조제2항에 따른 표시(법 제31조제3항에 따른 실제와 구분하기 어려운 결과물을 제공하는 경우로서 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하는 경우에는 적용하지 아니한다)를 할 때에는 다음 각 호 중 하나의 방법으로 할 수 있다.

 

1. 사람이 인식할 수 있는 방법
2. 기계가 판독할 수 있는 방법. 다만, 이 경우에는 생성형인공지능에 의하여 생성되었다는 사실을 1회 이상 안내문구·음성 등으로 제공하여야 한다.

 

③ 법 제31조제3항에 따른 고지 또는 표시는 인공지능사업자가 다음 각 호의 사항을 고려하여 이용자가 명확하게 인식할 수 있는 방식으로 하여야 한다.

 

1. 이용자가 시각·청각 등을 통하거나 소프트웨어 등을 이용하여 쉽게 내용을 확인할 수 있는 방법으로 고지 또는 표시할 것
2. 주된 이용자의 연령, 신체적·사회적 조건 등을 고려하여 고지 또는 표시할 것

 

④ 법 제31조제1항부터 제3항까지는 다음 각 호에 해당하는 경우에는 적용하지 아니한다. 다만, 제3호의 경우에는 법 제31조제1항부터 제3항까지 중 전부 또는 일부를 적용하지 아니할 수 있다.

 

1. 제품·서비스명, 이용자 화면이나 제품 겉면 및 결과물에 표시된 문구 등을 고려할 때 고영향인공지능 또는 생성형인공지능을 활용한 사실이 명백한 경우
2. 인공지능사업자의 내부업무용도로만 사용되는 경우
3. 그 외 제품 등의 유형·특성이나 결과물의 내용, 이용 형태 및 기술 수준 등을 고려하여 법 제31조제1항부터 제3항까지 중 전부 또는 일부에 대한 적용 예외가 필요하다고 과학기술정보통신부장관이 정하여 고시하는 경우

원문이 궁금하면 위의 글을 참고하면 된다. 22조를 보면서 느끼게 된 것은 이제 AI가 서비스에 활용이 되고, AI가 만들어낸 결과물에 대한 표시를 해야할 의무가 생겼다. 특히, 강조할 점은 '사용자가 알 수 있도록' 이라는 문구인데, 바로 여기서 서비스 기획자의 역할이 생겼다고 볼 수 있다. 해당 의무가 발생 하였을때, 서비스 기획자는 사용자 조건(아동/일반/노인)에 따라 모두가 이를 인지 할 수 있도록 어디에, 어떻게 표시 해야할 지에 대한 고민을 추가로 해야한다는 소리이다. 한 마디로, 사용자 플로우 및 화면 설계에 '법 준수'요소가 하나 늘은 것이다.

 

 

2) 제23조(인공지능 안전성 확보의무), 제24조(고영향 인공지능의 확인 절차 등)

<제23조>

① 법 제32조제1항에서 “대통령령으로 정하는 기준 이상인 인공지능시스템”이란 학습에 사용된 누적 연산량이 10의 26승 부동소수점연산 이상인 인공지능시스템으로서, 과학기술정보통신부장관이 인공지능 기술 발전 수준, 위험도 등을 고려하여 고시하는 기준에 해당하는 인공지능시스템을 말한다.

 

② 제1항에 따른 학습에 사용된 누적 연산량의 구체적인 산정 방식은 과학기술정보통신부장관이 정하여 고시한다.

 

<제24조>

① 인공지능사업자가 법 제33조제1항에 따라 고영향인공지능에 해당하는지에 대하여 확인을 요청하려는 경우에는 별지 서식의 확인요청서를 과학기술정보통신부장관에게 제출하여야 한다.

 

② 제1항에 따른 요청을 받은 과학기술정보통신부장관은 다음 각 호의 사항을 고려하여 고영향인공지능 해당 여부를 판단하여야 한다.

 

1. 인공지능이 법 제2조제4호 각 목의 어느 하나의 영역에서 활용되는지 여부
2. 사람의 생명·신체의 안전 및 기본권에 초래할 수 있는 위험의 영향, 중대성, 빈도 및 활용 영역별 특수성
3. 법 제33조제1항에 따라 인공지능사업자가 사전에 검토한 결과
4. 법 제33조제2항에 따라 전문위원회 자문을 받은 경우 그 자문 결과
5. 그 밖에 고영향인공지능의 해당 여부를 확인하는 데 필요한 사항으로서 과학기술정보통신부장관이 정하여 고시하는 사항

 

③ 과학기술정보통신부장관은 제1항에 따른 요청을 받은 경우에는 요청을 받은 날부터 30일 이내에 그 결과를 회신하여야 한다. 다만, 제품 등의 복잡성 및 중요성 등을 고려하여 30일 이내에 회신할 수 없는 경우에는 30일의 범위에서 한 차례 연장할 수 있으며, 이 경우 확인을 요청한 자에게 연장 사유와 연장 기간을 문서로 알려야 한다.

 

④ 제3항에 따라 회신을 받은 인공지능사업자는 회신 결과에 이의가 있을 때에는 회신을 받은 날부터 10일 이내에 과학기술정보통신부장관에게 필요한 자료를 첨부하여 재확인 요청의 취지와 이유를 기재한 문서(전자문서를 포함한다. 이하 같다)로서 재확인을 요청할 수 있다.

 

⑤ 과학기술정보통신부장관은 제1항에 따른 요청 또는 제3항에 따른 재요청과 관련하여 필요한 경우 관계 기관의 의견을 요청할 수 있다.

 

⑥ 과학기술정보통신부장관은 제4항에 따른 재확인 요청을 받은 경우에는 법 제33조제2항에 따른 전문위원회(이하 “전문위원회”라 한다)의 자문을 받아 고영향인공지능에 해당하는지를 재확인하고, 재확인 요청을 받은 날부터 30일 이내에 그 결과를 회신하여야 한다.

해당 조항은 서비스의 출시일에 큰 영향을 줄 것이라고 생각이 든다. 만약 기획한 서비스가 고영향 AI라면, 이에 대한 평가를 정부에 요청해야하는 단계를 고려하여 출시일을 생각해야 한다. 다른 말로 생각하면 최대 60일 까지의 평가가 가능하므로, 서비스 기획자는 이러한 업무 일정을 고려하여 비즈니스 모델부터 기능범위까지 기획해야한다.  또한, 위험 관리 문서, 설명가능성, 사용자 보호체계 등의 추가 의무가 발생하여 조금더 많은 것을 신경써야한다는 것이다.

 

 

3) 제12조(학습용 데이터 지원대상사업 등), 제13조(학습용데이터 통합제공시스템의 구축 및 관리), 제14조(비용의 징수)

<제12조>

① 중앙행정기관의 장은 법 제15조제2항에 따라 다음 각 호의 사업을 지원대상사업으로 선정할 수 있다.

 

1. 인공지능의 개발·활용 등에 사용되는 데이터(이하 “학습용데이터”라 한다)의 생산 및 가공기술 개발사업
2. 인공지능서비스(법 제2조제6호에 따른 인공지능서비스를 말한다. 이하 같다) 개발을 위한 학습용데이터의 생산‧수집‧관리‧유통 및 활용 등에 관한 사업
3. 관련 법·제도 연구 및 학습용데이터 활용 등에 필요한 가이드·표준계약서 개발 등에 관한 사업
4. 그 밖에 중앙행정기관의 장이 필요하다고 인정하는 사업

 

② 중앙행정기관의 장은 제1항에 따른 지원대상사업을 선정할 때에는 다음 각 호의 사항을 고려하여야 한다.

 

1. 법 제15조제1항에 따라 추진하는 시책과의 연계성
2. 학습용데이터의 생산·수집·관리·유통 및 활용 등의 촉진에 대한 기여도
3. 인공지능 산업에서의 데이터 활용도 제고, 인공지능 산업 활성화, 창업·고용 창출 등 예상되는 경제적 파급효과
4. 제도적·기술적 실현 가능성 및 관련 법령 준수 여부
5. 그 밖에 학습용데이터의 생산·수집·관리·유통 및 활용 등에 관한 시책의 효율적 추진을 위하여 필요한 사항

 

③ 제1항 및 제2항에서 규정한 사항 외에 지원대상사업을 선정하기 위한 평가의 세부 기준과 평가 절차 등에 관하여 필요한 사항은 과학기술정보통신부장관이 정한다.

 

<제13조>

① 과학기술정보통신부장관은 법 제15조제4항에 따른 통합제공시스템(이하 “통합제공시스템”이라 한다)이 다음 각 호의 기능을 수행할 수 있도록 구축·관리하여야 한다.

 

1. 학습용데이터의 통합 검색
2. 학습용데이터의 체계적 분류
3. 학습용데이터 출처 제공
4. 통합제공시스템과 국가기관 등 및 민간단체 등이 운영하는 다른 데이터 플랫폼과의 연계
5. 학습용데이터의 가치평가 및 품질관리 관련 정보의 제공
6. 그 밖에 과학기술정보통신부장관이 학습용데이터 구축사업의 효율적 수행을 위하여 필요하다고 인정하는 기능

 

② 과학기술정보통신부장관은 중앙행정기관의 장, 지방자치단체의 장이나 공공기관(「지능정보화기본법」 제2조제16호에 따른 공공기관을 말한다)의 장에게 통합제공시스템과 각 기관이 보유한 개별 시스템 및 데이터와의 연계, 통합제공시스템의 운영을 위하여 필요한 정보 및 자료의 제출 등 협력을 요청할 수 있다.

이 경우 정보 및 자료의 제출 등 협력을 요청받은 자는 특별한 사유가 없으면 이에 따라야 한다.

 

③ 과학기술정보통신부장관은 통합제공시스템을 통해 제공하는 학습용데이터의 최신성, 정확성 및 상호 연계성이 유지되도록 노력하여야 한다.

 

<제14조>

① 과학기술정보통신부장관은 법 제15조제5항에 따라 통합제공시스템을 이용하는 자로부터 비용을 징수할 수 있으며, 학습데이터의 종류 및 활용 목적에 따라 이용료를 차등 적용할 수 있다.

 

② 과학기술정보통신부장관은 제1항에도 불구하고 다음 각 호의 어느 하나에 해당하는 경우에는 통합제공시스템 이용료를 감면할 수 있다.

 

1. 중앙행정기관, 지방자치단체 또는 공공기관(「지능정보화기본법」 제2조제16호에 따른 공공기관을 말한다)이 이용하는 경우
2. 비영리 연구기관 또는 교육기관이 학술 연구 또는 교육 목적으로 이용하는 경우
3. 그 밖에 과학기술정보통신부장관이 학습용데이터의 종류 및 활용 목적을 고려하여 감면이 필요하다고 인정하는 경우

 

③ 통합제공시스템의 이용료 부과 기준, 감면 대상 및 절차 등에 관한 세부사항은 과학기술정보통신부장관이 정하여 고시한다.

AI기능을 서비스를 도입한다면, 가장 중요한 생각이 '어떤 데이터'를 사용할지에 대한 고민이다. 즉, 학습용 데이터에 대한 고민을 할 수 밖에없다. 이러한 것을 명시하고 있다. 해당 법이 도입이 되면, 데이터 확보 비용/방법/일정 등 전반적인 데이터 전략에 영향을 줄 것으로 보인다. 따라서 이에 맞게 우리는 전체 로드맵과 리소스 배분에 대한 조정을 잘 해야할 듯 하다.

 

 

4) 제26조(고영향 AI 사업자 책무)

① 인공지능사업자는 법 제34조제1항 각 호의 조치를 이행하고 그 근거를 문서로 5년간 보관하여야 한다.

 

② 인공지능사업자는 법 제34조제1항 각 호의 조치 중에서 다음 각 호에 해당하는 내용을 사업장 또는 인공지능사업자의 홈페이지 등에 게시하여야 한다.

다만, 「부정경쟁방지 및 영업비밀보호에 관한 법률」 제2조제2호에 따른 영업비밀에 해당하는 사항은 제외할 수 있다.

 

1. 위험관리정책 및 조직체계 등 법 제34조제1항제1호에 따른 위험관리방안의 주요 내용
2. 법 제34조제1항제2호에 따른 설명방안의 주요 내용
3. 법 제34조제1항제3호에 따른 이용자보호방안
4. 법 제34조제1항제4호에 따른 해당 고영향인공지능을 관리·감독하는 사람의 성명 및 연락처

 

③ 법 제34조제1항제1호부터 제3호까지의 사항의 조치를 모두 또는 일부 이행한 인공지능시스템을 제공받은 인공지능이용사업자가 인공지능시스템의 중대한 기능 변경을 초래하지 않은 경우에는 법 제34조제1항에 따른 조치를 이행한 것으로 본다.

 

④ 인공지능이용사업자는 인공지능개발사업자에게 법 제34조제1항에 따른 책무를 이행하기 위하여 필요한 자료의 제공을 요청할 수 있고, 인공지능개발사업자는 이에 협력하도록 노력하여야 한다.

 

⑤ 법 제34조제3항에 따라 인공지능사업자가 별표 1에 따른 조치를 해당 법령에 따라 이행한 경우에는 법 제34조제1항에 따른 조치를 이행한 것으로 본다.

해당 조항은 서비스의 운영 정책에 많은 영향을 줄듯하다.  만약 출시하는 서비스의 평가가 고영향 AI로 분류가 된다면? 생각만해도 머리가 아프다. CS대응 정책 부터, 책임 소재, 이용자 공지범위를 추가로 생각해야하는 일이 늘어났다. 아무래도 이 조항을 고려하게 되면, 서비스 기획의 부류는 두가지로 갈릴 것 같다. 철저하게 준비하거나, 고영향 AI로 분류되지 않는 선까지만 기획하거나의 투 트랙으로 말이다. 가만 보면 운영에 대한 이야기라 기획자가 신경 쓰지 않아도 되지 않을까? 했으나, 운영정책을 고려하는 것은 기획자의 업무이다. 그렇기 때문에 이또한 고민을 해야할 것이다.

 

 

 

해당법안이 들어오면, 생각보다 AI기반 서비스기획에 있어 많은 변화들이 생길듯하다. 단순히 서비스 기획을 넘어서 이제 우리가 출시할 서비스가 법령을 잘 준수하는가? 에 대한 것도 생각을 해야한다. 갈수록 기획자의 지식수준에 대한 그릇을 키워야하는 필요성을 강하게 느낀다. 그래도 기획자는 디자인부터 개발까지 전과정을 참여하는 역할이기에 얼리어답터의 느낌이 들었는데, 이제는 얼리어답터를 넘어 인간AI의 역할을 해야하는 지경까지 이른것 같다. 그래도, 공부할 것이 끊임없이 늘어난다는 것은 항상 성장할 수 있다는 소리기에 한편으로는 힘들지만 성취감을 기대할 수 있는 생각이 든다.