지금, 인공지능윤리의 주요 쟁점은 무엇인가?
윤리적, 법적 관점에서 인공지능기술 규제에 관한 현황과 방향은?
세계 주요 국가의 인공지능 규제 정책과 특징은 무엇이며 어떻게 법제화되는가?
알고리즘 규제의 원리와 구조, 내용은 무엇이며 어떻게 규제할 것인가?
- 인간과 인공지능의 바람직한 공존의 길은 무엇인가?

최근 등장한 챗GPT나 바드(Bard) 등으로 인공지능 시대는 성큼 다가왔다. 새로운 기술이 등장할 때 기존 사회와의 마찰은 불가피하고 연착륙을 위한 규제는 필수적이다. 특히 인공지능 기술이 초래할 사회적, 윤리적 논의는 매우 중요하고 시급하다. 지금까지 관련 논의는 특정 용도나 유형의 인공지능이 불러일으키는 특정한 쟁점에 초점을 맞추는 경향이 있었다. 그러나 규제의 방법이나 목표, 그리고 철학 등을 일반적 견지에서 다루는 글은 비교적 적었으며 미해결 상태로 남아 있다.

이 책은 윤리적 관점과 법적 관점에서 인공지능 기술과 관련하여 ‘누가’, ‘무엇을’, ‘어떻게’ 규제할 것인지에 대한 일반적, 총론적 차원의 논의를 다루면서, 인간과 인공지능의 바람직한 공존의 길을 제시한다. 즉 인공지능 기술과 관련하여 “누가 규제할 것인가”, “무엇을 규제할 것인가”, “어떤 방법과 수단으로 규제할 것인가”, “무엇을 목표로 규제할 것인가”, 그리고 “어떠한 관점과 철학으로 규제할 것인가” 등의 문제를 본격적으로 다룬다. 그럼으로써 인공지능 기술과 사회, 그리고 제도를 세 축으로 하는 좌표공간에 현재 우리는 어디에 서 있는지를 확인하고, 향후 어디로 옮겨가야 할까를 고민할 기회를 제공한다. 본서의 모든 저자들은 바로 이러한 문제들과 관련하여 각자의 문제의식과 진단, 그리고 해법을 내놓는다.

편저자 김건우 교수는 “인공지능 규제 거버넌스”의 ‘거버넌스’와 관련하여 “정치사회적 수단을 통해 현실에 관여(intervention)함으로써 일정한 사회 질서를 형성하고 사회 문제를 해결하기 위한 틀”로 이해할 수 있다고 말한다. 기성의 규제 및 관리 방안들을 넘어 한편으로는 절충적, 탄력적, 맥락의존적인 관점과 방법론을, 다른 한편으로는 융합적, 종합적, 포용적인 관점과 방법론을 발굴하고 구현해 나가야 함을 시사하는 개념으로 이해한다. 특히 규제의 주체와 대상을 날카롭게 구분하여 규제를 일부 관료나 전문가들만의 몫으로만 제한하지 않고 가급적 다양한 이해당사자가 다양한 방식으로 참여하여 기술사회 전체 시스템의 질서나 관리의 틀을 능동적으로 생성해내는 것임을 강조한다. 물론 인공지능 거버넌스에 대한 이러한 서술은 인공지능이라는 새로운 기술과 관련하여 사회적, 윤리적 문제 사항을 적절히 다루고 문제점을 해결하는 일이자, 그러한 문제와 위험을 다루기 위한 ‘규제’의 틀을 마련하는 일이다.

책의 구성과 내용

이 책의 제1부와 제2부에서는 인공지능에 대한 규제의 유력한 두 유형으로서 각각 윤리적 규제와 법적 규제를 다룬다. 각 부에서는 양자의 일반적 의의를 검토하는 한편 각각의 현황을 소개하고 분석한다. 이어 제3부에서는 인공지능 거버넌스의 이 같은 현황을 토대로 인공지능 거버넌스의 미래를 전망한다. 특히 ‘알고리즘 규제’를 중심으로 인공지능 거버넌스의 미래에 논쟁점이 될 중요한 사항들을 살펴본다.

1장에서는 인공지능윤리에 대해 생소할 독자를 위한 친절한 소개글이다. 특히 편향, 차별, 불공정성이라는 주제를 중심으로 인공지능윤리의 일반적 의의와 주요 쟁점을 개괄한다. 2장은 독일의 기술윤리학자 틸로 하겐도르프의 논문을 번역했다. 이 글에서 저자는 인공지능윤리의 일환으로 불리는 기존의 많은 시도에 대한 메타윤리학적 분석을 시도함으로써 지난 몇 년간 개발되어 온 인공지능 윤리가이드라인의 공통 사항이 무엇인지, 그리고 핵심적으로 결여하고 있는 바가 무엇인지를 밝히고 있다. 가령 저자에 따르면 대다수의 윤리가이드라인에서는 정의 및 윤리에 관한 ‘남성적’ 사고방식을 반영함으로써 양육이나 도움, 복지, 사회적 책임, 생태적 네트워크와 같은 맥락은 거론되지 않았다고 지적한다.
한편 3장에서는 미국, 영국, 유럽연합, 일본 등 주요 국가의 인공지능 규제 정책의 현황을 소개하며 4장은 인공지능 규제 방안 중에서 “법제”의 현황을 짚고 있다. 특히 세계 최초의 인공지능 규제법안이라 할 유럽연합의 인공지능 규제법안과 한국의 입법 시도를 소개한다. 5장은 인공지능 규제를 알고리즘 규제로 특징짓고 알고리즘 규제에 관한 다양한 논의를 규제의 원리, 구조, 내용에 관한 측면으로 나누어 검토한다. 마지막으로 6장은 인공지능과 그 알고리즘을 대상으로 하는 법적 규제에 관한 입법이 어떻게 이루어지는 것이 타당한 것인지, 이를 위한 입법 전략은 무엇인지를 논한다.
한편 책의 ‘부록’에는 국내외 주요 인공지능 윤리가이드라인과 더불어 인공지능 규제와 관련된 주요 법안을 실었다. 먼저 국내외 주요 인공지능 윤리가이드라인으로 대한민국 정부가 펴낸 「국가인공지능 윤리기준」, 중국 정부 주도하에 공표된 「베이징 인공지능 원칙」, 과학기술과 인간의 미래와 관련한 민간 씽크탱크인 생명미래연구소가 공표한 「아실로마 인공지능 원칙」, 대표적 빅테크 기업 구글이 공표한 「구글 인공지능 원칙」이 담겼다. 아울러 인공지능윤리 및 규제와 관련한 주요 법안들로는, 「유럽연합 인공지능 법안(규제안)」과 「미국 연방의회 알고리즘 책임법안」을 실었다. 그중에서 「유럽연합 인공지능 법안(규제안)」은 인공지능 일반을 규율하는 법안으로는 세계 최초로 제안된 것으로, 유럽연합 집행위원회가 주도하여 내놓은 것이다.
한편 부록에 소개된 「미국 연방의회 알고리즘 책임법안」은 2019년에 나온 것을 보완하여 최근에 새로 미국 의회에 상정된 법안이다. 이 법안은 유럽연합의 것과 달리 규율 대상을 인공지능시스템이 아니라 ‘자동화된 결정 시스템’(automated decision system)이라고 표현하고 있다. 따라서 이 법안은 그러한 시스템을 운용하고자 하는 기관에 대해 관련한 사회적, 윤리적, 법적 위험을 명시하고 완화하는 구체적 조치를 취하도록 제안한다.

책을 펴내며
편저자 서문
서론

1부 인공지능 규제의 현재 - 윤리적 규제

1장 인공지능윤리의 의의와 쟁점 _김건우
Ⅰ. 인공지능과 인공지능윤리
1. 인공지능의 시대
2. 인공지능윤리
Ⅱ. 인공지능윤리의 주요 쟁점: 개관
1. 위험 통제 및 안전성 확보
2. 책임 귀속과 책임 공백
3. 프라이버시와 정보보안
4. 데이터 주권, 데이터 민주주의, 데이터 정의
5. 데이터와 알고리즘으로 인한 편향, 차별, 불공정성
Ⅲ. 인공지능윤리의 주요 쟁점: 편향과 차별, 그리고 불공정성
1. 개요
2. 사례
3. 문제의 원천과 중요성
Ⅳ. 인공지능 규율 유형: 기본 개념
1. 규범 형식에 따른 구분: 경성규제 vs. 연성규제
2. 규율 주체에 따른 구분: 정부규제 vs. 자율규제
3. 규율 시점에 따른 구분: 사전규제 vs. 사후규제

2장 인공지능윤리의 윤리학: 윤리가이드라인에 대한 평가 _틸로 하겐도르프
1. 서론·78
2. 인공지능 윤리가이드라인
3. 인공지능의 실제
4. 인공지능윤리의 진보
5. 결론

2부 부 인공지능 규제의 현재 - 법적 규제

3장 인공지능 규제 정책에 관한 연구:
주요 국가의 규제 정책 사례를 중심으로 _윤혜선
Ⅰ. 들어가며
Ⅱ. 주요 국가의 인공지능 규제 정책
1. 미국
2. 중국
3. 영국
4. 유럽연합
5. 일본
Ⅲ. 주요 국가의 인공지능 규제 정책 분석
1. 주요 국가의 인공지능 규제 정책 특징 분석
2. 인공지능 규제 정책의 국제적 동향 분석
Ⅳ. 시사점

4장 인공지능 법제의 최신 동향과 과제 _김송옥
Ⅰ. 들어가며
Ⅱ. 유럽연합(EU)의 인공지능 관련 법제 동향
1. 윤리규범에서 법으로
2. 인공지능 법안의 주요 골자
Ⅲ. 우리나라의 인공지능 관련 법제 동향
1. 인공지능 정책 추진현황
2. 인공지능 관련 법률 제·개정 현황
Ⅳ. 편익의 최대화 및 위험성의 최소화를 위한 향후 과제
1. 법제의 형식적 측면
2. 법제의 내용적 측면
Ⅴ. 나오며

3부 인공지능 규제의 미래 - 알고리즘 규제와 거버넌스

5장 알고리즘 규제의 원리와 구조 _이상용
Ⅰ. 서론
Ⅱ. 알고리즘 규제의 원리
1. 규제는 어떻게 정당화되는가
2. 알고리즘 규제에는 원리적 차이가 존재하는가
Ⅲ. 알고리즘 규제의 구조
1. 신산업의 규제는 어떠한 구조를 갖는가
2. 알고리즘 규제의 구조는 어떠해야 하는가
Ⅳ. 알고리즘 규제의 내용
1. 알고리즘과 관련된 가치들
2. 알고리즘 규제의 내용은 어떻게 결정되는가
3. 의사결정의 자동화에 수반하는 규제의 특성은 무엇인가
Ⅴ. 결론

6장 알고리즘 규제와 입법 전략 _심우민
Ⅰ. 서론
Ⅱ. 인공지능과 알고리즘 규제
1. 알고리즘의 규범적 쟁점
2. 알고리즘 규제의 의미
3. 알고리즘 규제의 실천적·이론적 함의
Ⅲ. 알고리즘 규제와 입법 실천 전략
1. 알고리즘 규제의 실무적 양면성
2. 입법 유형과 규율 수준의 구분
3. 알고리즘에 대한 규제의 함의: 현실 규제의 유형
4. 알고리즘에 의한 규제의 함의: 정책 및 규제 옵션의 선택 방식
Ⅳ. 결론을 대신하여: 알고리즘 관련 입법정책을 위한 제언

부록 1
국내외 인공지능 윤리가이드라인의 현황
국가 인공지능윤리 기준 | 베이징 인공지능 원칙 |
아실로마 인공지능 원칙 | 구글 인공지능 원칙

부록 2
EU 인공지능 법안(규제안)
2022 미국 연방의회 알고리즘 책임법안