수학과 컴퓨터 과학 분야에서 문제를 해결하는 절차를 의미했던 알고리즘은 어느새 전 세계인의 일상에 큰 영향을 끼치는 기술로 자리잡았다. 알고리즘은 우리의 삶을 더 효율적이고, 재밌고, 편리하게 만들었지만, 동시에 인간의 기본권을 침해하는 사례도 급증하고 있다. 알고리즘으로 인한 개인 정보 유출, 통계 모델에 따른 인종차별, 성차별 등 문제를 해결하려면, 이 기술 뒤에 숨겨진 과학을 이해하고 개선하는 노력이 시급하다. 이 책은 과학에 기초한 프라이버시와 공정성, 투명성, 책임성 등의 윤리적 원칙을 제시한다. 또한 과학 탐구를 계속하면서도 윤리적 원칙을 어떻게 코드에 잘 포함시킬 수 있는지를 설명한다.

이 책에서 다루는 내용

최근 발행된 서적이나 뉴스, 과학 기사를 찾아보면 알고리즘이 개인이나 특정 그룹의 사람들에게 해를 끼친 사례를 쉽게 찾아볼 수 있다. 예를 들어, 온라인 대조 실험 결과에 따르면 구글 검색의 결과나 페이스북 광고나 그 외 인터넷 서비스들에서 인종이나 성별, 정치 및 기타 유형에 따른 편향이 존재한다는 사실을 알 수 있다. 최근에는 범죄 형량을 결정하는 데 사용된 예측 모델이 인종을 차별한다는 문제로 인해 통계학자와 범죄학자, 법학자들 간의 폭발적인 논쟁이 일어나기도 했다. 또한 알고리즘 분석 도구의 발전으로 인해 데이터의 상관관계를 빠르고 효율적으로 찾아낼 수 있게 되면서 돈과 시간을 들였지만 결국은 사실이 아닌 것으로 판명된 연구 결과가 빈번하게 나타났다. 현대 알고리즘은 사회의 가장 소중한 가치조차 짓밟을 수 있다는 사실이 점점 분명해지고 있다.

이 책에서 제시하는 이러한 노력은 알고리즘이 강화하거나 감시하는 사회적 가치를 결정하거나 결정하는 데 사용돼야 한다고 제안하는 것은 아니다. 공정성, 프라이버시, 투명성, 해석 가능성, 도덕성의 정의는 인간의 판단 영역에 확고히 남아 있어야 한다. 이것이 우리가 열정을 갖고 설명하는 이유 중 하나다. 궁극적으로는 과학자, 엔지니어, 변호사, 규제 기관, 철학자, 사회복지사 그리고 관련 시민 간의 협력이 있어야 한다. 그러나 프라이버시 같은 사회적 규범을 정확하고 정량적으로 정의할 수 있다면 알고리즘에게 이를 ‘설명’하고 따르게 할 수 있다.

여기서 가장 큰 어려움은 대중이 공감할 수 있도록 사회적 가치에 대한 정량적 정의를 개발하는 것이다. 그리고 프라이버시 같은 분야에서는 (완벽할 수는 없지만) 비교적 잘해왔고, 공정성 같은 분야는 어렵지만 발전하고 있다. 그리고 해석 가능성이나 도덕성 같은 가치는 아직 갈 길이 멀다. 그러나 어려움에도 불구하고 우리가 ‘프라이버시’와 ‘공정성’ 같은 단어를 사용할 때 의미하는 바를 극단적으로 정확하게 하려는 노력은 그 자체로 큰 의미가 있다. 왜냐하면 이는 알고리즘에 필수적이기도 하고, 이러한 개념에 대한 우리의 직관에 숨겨진 미묘함, 결함, 절충점 등이 종종 드러나기 때문이다.

지은이의 말

우리는 이른바 데이터의 황금기에 살고 있다. 사람이나 사회에 대해 궁금해 할 만한 모든 질문에 통계적으로 정확한 답변을 제공하는 데 활용할 수 있는 방대한 데이터가 존재한다. “친구의 행동은 당신이 어떤 TV 프로를 볼지 또는 어떤 사람에게 투표할지를 정하는 데 영향을 줍니까?”라는 질문에 대한 답변은 전 세계 사람들 수억 명의 사회적 활동을 기록하고 있는 페이스북 데이터로 할 수 있다. 운동을 자주 하는 사람들은 이메일을 비교적 덜 확인할까? 만약 애플 워치(Apple Watch)나 구글 핏(Google Fit) 앱을 설치한 안드로이드 폰 사용자들이라면 데이터로 답을 알 수 있을 것이다.

또한 타깃 마케팅을 원하는 유통 회사를 위해 고객이 어디서 주로 시간을 보내는지에 관한 데이터를 판매하는 수십 개의 회사가 이미 경쟁 중이다. 이는 우리를 매우 복잡한 상황으로 이끈다. 즉, 전례가 없던 풍요로운 데이터로부터 얻게 되는 통찰력을 통해 사회의 동작 방식을 새롭게 이해하고, 공중 보건과 서비스, 소비자 제품을 개선할 수 있다. 그러나 개인이 이런 데이터 분석의 수혜자가 되는 것이 아니다. 분석에 사용되는 데이터가 바로 나와 당신이며, 우리에 대한 중요한 결정을 내리는 데도 바로 그 데이터가 사용되는 것이다.

데이터 수집과 분석이 급증하면서 발생하는 걱정거리가 단지 프라이버시만은 아니다. 왜냐하면 휴대폰과 인터넷을 이용할 수 있게 해주는 작은 기계 코드, 알고리즘은 우리가 이동하면서 생성하는 데이터를 분석하는 정도에서 끝나지 않기 때문이다. 이는 우리 생활에 영향을 끼치는 결정을 내리는 데 활발히 사용된다. 예를 들어, 신용카드를 발급받으려고 신청서를 내면 아마도 그 신청서는 사람이 검토하지 않을 것이다. 대신 알고리즘이 신청자(또는 신청자와 유사한 그룹의 사람들)에 대한 정보를 여러 기관에서 수집한 후, 자동으로 발급 승인을 하거나 거절할 것이다. 이렇듯 요청이 승인될 때까지 5~10일 정도 기다리지 않고 바로 결과를 알 수 있다는 것은 장점이 많지만, 좀 더 생각해볼 필요가 있다. 미국의 많은 주에서는 이른바 머신러닝(machine learning)이라 부르는 알고리즘을 보석과 가석방, 형사 선고를 하는 데도 사용하고 있다. 또한 경찰관을 도시 전역에 배치하는 데도 알고리즘이 사용된다.

사람들의 삶에 직접적이고 실제적인 영향을 끼치는 모든 분야의 결정 과정에 알고리즘이 사용되고 있는 것이다. 이 모든 현상은 프라이버시뿐만 아니라 공정성이나 안전, 투명성, 책임성, 도덕성을 포함한 다양한 사회적 가치에 대해 의문을 제기한다. 따라서 앞으로도 계속 빅데이터를 생성하고, 이를 통해 중요한 결정을 자동화할 것이라면(그렇지 않을 가능성은 농경사회로 다시 돌아갈 것이라는 가정만큼 현실성이 없다), 반드시 몇 가지 중요한 주제를 진지하게 고려해야 한다. 여기에는 데이터와 알고리즘의 사용을 제한하는 것과 이런 제한을 법제화하는 것, 규제를 시행하는 조직이 모두 포함된다. 그러나 우리는 이러한 우려 사항을 과학적으로 해결하려는 시도, 좀 더 자세히 말하자면 우리 삶에 점점 깊이 들어오는 알고리즘을 설계하는 데 있어 윤리적 원칙을 직접 코딩해서 반영한다는 사실이 의미하는 바를 진지하게 고려해야 한다. 이 책은 바로 그러한 윤리 알고리즘의 설계를 다루는 최신 과학 분야의 책이다.

1장. 알고리즘 프라이버시 익명에서 소음으로

2장. 알고리즘 공정성 패리티에서 파레토까지

3장. 알고리즘 게임 이론

4장. (데이터에 미혹돼) 정원에서 길을 잃다

5장. 위험한 연구 해석 가능성과 도덕성 그리고 특이점