AI기본법은 어떻게 만들어져야 하는가

이 글은 창간 전 시험발행본입니다. 공개된 원문을 설명하며 개별 사건에 대한 법률조언이 아닙니다.

편집자 주

AI기본법은 2026년 1월 시행됐다. 아직 이 법으로 다툰 판례도, 자리 잡은 해설도 없다. 정본미디어는 이 법을 다섯 번에 나누어 싣는다. 1회는 법이 만들어지기 전의 이야기다.

시간표

2022. 5.인권위가 국무총리와 관계부처 장관에게 인공지능 인권 가이드라인을 권고했다. 국회에 논의할 법안조차 없던 때다.
2022. 11.챗GPT가 공개됐다.
2023. 3.국회 소위를 통과한 법안에 15개 인권시민단체가 전면 재검토를 요구했다.
2024. 12.법이 국회를 통과했다. 재석 264인 중 찬성 260, 반대 1.
2026. 1.법이 시행됐다.

전체 연표 — 2016년부터 지금까지 38개 시점

2016

03기술
알파고와 이세돌 대국

2020

07-13법 · 제도
첫 인공지능 법안 발의 — 이상민 의원
12-23기술
챗봇 이루다 공개

2021

01-11기술
이루다 서비스 중단

2022

05-11각계
인권위, 국무총리와 관계부처 장관에게 인공지능 인권 가이드라인 권고
11-30기술
챗GPT 공개

2023

02-14법 · 제도
국회 과방위 소위, 인공지능 법안 의결
03-02각계
15개 인권시민단체, 국회에 법안 전면 재검토 요구
03-14기술
GPT-4 공개
05-12각계
참여연대, 법안 비판
06각계
『성균관법학』, 생성형 인공지능 규제 필요성 논문
08-21각계
인권위, 국회의장에게 의견표명
12-13법 · 제도
유럽연합 인공지능법 합의
12-13각계
시민사회, 한국 법안은 어떠한 인공지능도 금지하지 않는다고 논평

2024

05-29법 · 제도
21대 국회 임기만료로 법안 폐기
06~11법 · 제도
22대 국회, 인공지능 법안 19건 발의
08-01법 · 제도
유럽연합 인공지능법 발효
11-26법 · 제도
국회 과방위 통과
12-17법 · 제도
국회 법사위 통과
12-26법 · 제도
국회 본회의 통과 — 재석 264 · 찬성 260 · 반대 1 · 기권 3

2025

01-21법 · 제도
공포
02-02법 · 제도
유럽연합, 금지 인공지능 조항 적용 개시
04-17법 · 제도
사업자 의무 조항 3년 유예 개정안 발의
08-22각계
인권위, 유예에 반대 의견
09-08법 · 제도
시행령 초안 공개
09-17법 · 제도
고시 · 가이드라인 초안 7종 공개
09-29각계
학계, 한국 인공지능법 보고서
10-01각계
시민사회, 시행령 입법의견서 28쪽
11-12법 · 제도
시행령 입법예고
12-03각계
산업계 첫 목소리 — 스타트업 101곳 조사
12-08각계
22개 노동 · 시민사회단체 기자설명회
12-12각계
인권위, 시행령에 의견표명
12-30법 · 제도
개정안 국회 통과

2026

01-20법 · 제도
개정법 공포
01-22법 · 제도
시행
01-23각계
시민사회 공동성명
05-12각계
시민사회, 유엔인권최고대표에 의견서
07-21법 · 제도
개정법 일부 시행

이 다섯 마디를 이어보면 한 가지가 드러난다. 요구가 법보다 먼저 나왔다는 것이다. 그리고 뒤에서 보겠지만, 산업계의 목소리는 법이 다 만들어진 뒤에 나왔다.

챗GPT가 나오기 반년 전

국가인권위원회가 인공지능 개발과 활용에 관한 인권 가이드라인을 마련해 국무총리와 관계 부처 장관에게 권고한 것은 2022년 5월 11일이다. 법이 국회를 통과하기 2년 7개월 전이고, 챗GPT가 공개되기 반년 전이다.

지금 인공지능 규범 논의는 대체로 챗GPT 이후에 시작된 것으로 여겨진다. 인권위의 요구는 그 이전에 나왔다. 대상도 생성형 인공지능이 아니었다. 채용에 쓰이는 심사 프로그램, 신용을 평가하는 알고리즘, 공공기관이 자격을 판단하는 자동 시스템 같은 것들이었다. 사람의 자리를 대신해 판단을 내리는 기계가 이미 쓰이고 있었고, 인권위는 그 판단이 사람에게 미치는 영향을 문제 삼았다.

권고는 다섯 가지였다.

첫째, 인권과 안전에 미치는 위험의 정도에 따라 규제 수준을 달리하고 사람이 개입하도록 할 것. 모든 인공지능을 같은 잣대로 다룰 수 없으니 층을 나누라는 것이었다.

둘째, 인공지능을 독립적이고 효과적으로 감독할 수 있는 체계를 세울 것.

셋째, 인공지능이 내린 판단의 과정과 결과를 적절하고 합리적으로 설명할 수 있게 할 것. 특히 생명이나 안전 같은 기본적 인권에 중대한 영향을 미치는 경우에는 사용한 데이터와 알고리즘의 주요 요소를 일반에 공개하라고 했다.

넷째, 인공지능 때문에 피해를 입은 사람에게 권리를 구제받을 기회를 줄 것.

다섯째, 인권침해와 차별이 발생할 가능성을 고려한 인권영향평가 제도를 만들고, 평가에서 위험이 드러나면 이를 막을 조치를 적용한 뒤 그 내용을 공개할 것.

이 권고는 특정 법안을 겨냥한 것이 아니었다. 그때는 논의할 법안 자체가 없었다. 앞으로 만들어질 규범이 무엇을 담아야 하는지를 국가기관이 먼저 적어둔 문서였다.

법안이 나오자 15개 단체가 반대했다

국회 과학기술정보방송통신위원회 법안심사소위원회가 인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안을 의결한 것은 2023년 2월 14일이다. 여러 의원이 낸 법안을 하나로 합친 대안이었다.

보름 뒤인 3월 2일, 15개 인권시민단체가 과방위에 의견서를 냈다. 요구는 조항 수정이 아니라 법안의 전면 재검토였다.

참여연대와 민주사회를 위한 변호사모임 디지털정보위원회, 진보네트워크센터 등이 이름을 올렸다. 정보인권을 다루는 단체만 모인 것은 아니었다. 노동조합과 보건단체, 언론단체, 노숙인 지원단체가 함께 서명했다. 인공지능을 디지털 분야의 문제로만 보지 않았다는 뜻이다.

의견서는 다섯 가지를 들었다. 산업을 키우는 조항은 촘촘한데 안전과 인권에 관한 규정은 선언에 가깝다는 것, 지능정보화기본법과 목적이 겹쳐 새 법을 만들 필요 자체가 의문이라는 것, 산업 육성을 맡은 과학기술정보통신부가 인공지능 윤리와 신뢰성에 관한 법령 정비까지 도맡는 것이 적절하지 않다는 것, 그리고 고위험 인공지능 규정이 자의적이고 부분적이어서 실질적인 위험 방지 장치가 되지 못한다는 것이었다.

나머지 하나에 가장 힘이 실렸다. 법안에 들어 있던 우선허용 · 사후규제 원칙이다. 누구든 인공지능 제품과 서비스를 먼저 내놓을 수 있고, 국민의 생명 · 안전 · 권익에 위해가 되지 않는 한 개발을 제한해서는 안 된다는 조항이었다. 단체들은 이 조항이 앞으로 들어올 정당한 규제까지 미리 봉쇄한다고 봤다. 의견서는 이를 두고 국민 안전과 인권침해 여부를 불문하고 먼저 쓰게 하는 독소조항이라고 표현했다.

요구도 구체적이었다.

위험한 인공지능의 범위를 목록으로 나열하지 말고 사람에게 미치는 영향, 특히 결정에 미치는 영향을 기준으로 정할 것. 목록 방식은 적어놓은 것만 걸리고 새로 생기는 것은 빠져나간다는 이유였다.

공공장소에서 오가는 사람의 얼굴을 실시간으로 알아보는 기술처럼 위험이 큰 것은 원칙적으로 금지할 것.

사전영향평가와 투명성 · 설명가능성 보장, 데이터 편향 방지, 그리고 구제수단을 법에 넣을 것. 여기에 어겼을 때 처벌하는 내용을 반드시 포함할 것.

공정거래위원회 · 국가인권위원회 · 개인정보보호위원회가 각자의 법에 따라 독립적으로 조사하고 조치할 수 있도록 보장할 것. 과학기술정보통신부 소속 위원회가 다른 규제기관의 업무를 침범하지 않도록 할 것.

마지막으로, 산업을 키우는 기능과 안전 · 인권을 지키는 기능을 나눌 것.

금지하라는 말의 뜻

요구 가운데 금지라는 말이 유난히 세게 들린다. 이 말을 이해하려면 법이 위험한 기술을 다루는 방법이 둘이라는 것부터 봐야 한다.

하나는 조건을 지키며 하라는 것이다. 관리다. 다른 하나는 하지 말라는 것이다. 금지다.

둘을 가르는 기준은 위험의 크기가 아니다. 되돌릴 수 있느냐다. 관리로 되는 것은 잘못됐을 때 고칠 수 있는 것이다. 그런데 어떤 기술은 성격이 다르다. 잘못 작동해서가 아니라 잘 작동해서 문제가 되는 것이 있다.

길거리 카메라가 지나가는 사람의 얼굴을 실시간으로 알아본다고 하자. 이 기술은 정확할수록 문제가 커진다. 정확해질수록 거리를 걷는 모든 사람이 상시 신원확인 대상이 되기 때문이다. 오작동을 줄이는 것으로는 해결되지 않는다. 관리로 다룰 수 있는 종류가 아니라는 뜻이다.

당시 거론된 것들이 대체로 이런 유형이다. 공개된 장소에서 오가는 사람을 실시간으로 알아보는 것, 본인도 모르게 잠재의식에 영향을 주어 생각과 행동을 바꾸는 것, 직장과 학교에서 감정을 읽거나 사람을 점수 매겨 분류하는 것, 아직 저지르지 않은 범죄의 가능성으로 사람을 평가하는 것, 사람의 개입 없이 무기를 운용하는 것.

이것들에는 모두 그럴듯한 명분이 있다. 실시간 얼굴인식은 범인을 잡기 위한 것이고, 감정인식은 직원의 스트레스를 관리하기 위한 것이며, 범죄 예측은 범죄를 막기 위한 것이다.

그래서 목적이 기준이 아니다. 나쁜 목적으로 쓰는 것은 이미 다른 법이 처벌한다. 인공지능을 썼든 쓰지 않았든 사기는 사기죄로 처벌된다. 금지하자는 주장의 기준은 그것이 아니라 그 기술이 사람을 어떻게 다루느냐, 그리고 그것이 놓인 사회가 어떤 상태가 되느냐였다.

한 연구자는 자율에 맡기는 것만으로는 안 된다고 봤다

2023년 6월 성균관대 법학연구원이 내는 『성균관법학』에 양은영의 논문 「생성형 AI의 개발 및 이용에 관한 규제의 필요성」이 실렸다. 챗GPT가 공개된 지 반년 남짓 지난 때다.

결론은 미리 걸러야 한다는 쪽이었다. 이런 문제들은 정책이나 입법으로 뒤늦게 손대기보다 기술을 개발하는 단계에서 잡아야 효과가 크다고 봤다.

논문은 기업이 윤리 원칙을 선언하는 것만으로는 부족하다고 봤다. 자체 감독 시스템을 두거나 전문가 자문위원회를 설치하도록 강제할 필요가 있다는 것이었다. 자율에 맡기더라도 그 자율의 뼈대는 법이 세워줘야 한다는 뜻이다.

인권위가 다시 나섰다, 그리고 이유를 말했다

2023년 8월 21일 인권위가 국회의장에게 의견을 표명했다. 과방위에서 심의 중인 법안을 겨냥한 것이었다. 사흘 뒤 보도자료가 나갔다.

요구는 둘로 압축됐다. 우선허용 · 사후규제 원칙 조항을 삭제할 것, 그리고 인권영향평가를 도입할 것.

인권위는 법안이 고위험 인공지능의 영역을 유럽연합 인공지능법 같은 해외 사례에 견주어 좁게 정의했고, 사업자가 고위험 인공지능을 개발하거나 활용할 때 이를 규율할 실효적인 수단이 없다고 지적했다.

이때 인권위가 댄 이유가 지금까지 이어지는 모든 요구의 뿌리다. 인공지능은 어떻게 판단했는지 들여다보기 어렵고 영향이 넓게 퍼지기 때문에, 사후에 피해를 구제하거나 제재하는 것이 어렵다는 것이었다.

채용에 쓰는 인공지능을 놓고 보면 이 말의 뜻이 분명해진다. 어떤 회사가 서류 심사를 인공지능에 맡겼다고 하자. 몇 년이 지나 그 판단 기준에 문제가 있었다는 것이 드러났다. 그때 되돌릴 방법이 없다. 떨어진 사람들은 이미 다른 길을 갔고, 자기가 왜 떨어졌는지 알지 못한다. 인공지능이 판단했다는 사실조차 몰랐을 수 있다. 소송을 걸려 해도 무엇을 근거로 무엇을 다툴지 정하기 어렵다.

미리 정해두라는 말은 규제를 세게 하자는 뜻이 아니었다. 일이 벌어진 다음에는 손쓸 방법이 없으니 그 앞에서 걸러야 한다는 뜻이었다.

유럽연합이 먼저 합의했다

2023년 12월, 유럽연합이 인공지능법에 합의했다. 인공지능을 사람의 안전과 기본권에 미치는 위험에 따라 나누고, 그중 일부는 아예 금지하는 내용이었다. 사상이나 신념 같은 민감한 정보로 사람을 분류하는 것, 직장과 학교에서 감정을 읽는 것, 사람도 모르게 생각을 조종하는 것, 약한 처지에 있는 사람의 취약함을 파고드는 것이 금지 목록에 올랐다. 어기면 전 세계 매출의 최대 7%까지 제재할 수 있게 했다.

같은 달 시민사회는 이를 두고 한국의 법안을 다시 짚었다. 요지는 한 문장이었다. 한국의 법안은 어떠한 인공지능도 금지하거나 처벌하지 않는다는 것이었다.

세 곳이 같은 방향을 가리켰다

법이 만들어지기 전, 서로 다른 자리에 선 세 곳이 각자의 언어로 말했다.

국가기관인 인권위는 위험에 따라 층을 나누고, 영향을 미리 평가하고, 독립적으로 감독하고, 피해자를 구제하라고 했다. 시민사회는 어떤 것은 아예 금지하고, 나머지는 어겼을 때 처벌할 수 있게 하고, 산업을 키우는 일과 사람을 지키는 일을 다른 기관에 맡기라고 했다. 학계에서도 개발 단계에서 미리 걸러야 하며 자율규제의 뼈대는 법이 세워줘야 한다는 주장이 나왔다.

세 곳의 관심사는 달랐다. 인권위는 기본권을, 시민사회는 규제의 실효성을, 학계는 기술의 작동 방식을 먼저 봤다. 그런데 도달한 자리는 같았다.

일이 벌어진 뒤에 고치는 방식으로는 안 된다는 것이었다.

이 요구들이 국회에서 어떻게 정리됐는지는 2024년 12월 26일에 드러난다. 그날 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법이 국회를 통과했다.

다음 회 · 2부 — 법은 무엇을 담았고 무엇을 담지 않았나

기사의 기준과 범위

법 기준일: 2026-08-23
확인된 범위: 2026년 8월 23일까지 공개된 문서를 기준으로 한다. 다루는 범위는 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법이 국회를 통과하기 전, 2022년 5월부터 2023년 12월까지 국가인권위원회와 인권시민단체와 학계가 공개적으로 밝힌 요구다.
제외되는 범위: 법이 통과된 뒤인 2024년 12월 이후의 논의, 시행령과 고시의 내용, 개별 조문의 해석, 사업자의 구체적 의무 이행 방법은 다루지 않는다. 후속 회차에서 다룬다. 개별 사건에 대한 법률조언이 아니다.
다음 확인: 채용 · 대출 · 의료 · 교육처럼 사람에 대한 판단에 인공지능이 관여하는 일을 하고 있다면, 그 판단의 근거를 상대에게 설명할 수 있는지 먼저 확인한다. 이 기획은 다섯 갈래를 회차마다 하나씩 다룬다.