Close

[책] 대량살상 수학무기, 고발은 했는데 대안은?

한 줄평

데이터가 악용될 수 있는 여지를 낱낱이 드러내는 부분은 매우 공감하나 대안은 다소 부실한, 그래서 아쉬운 책

서평

데이터와 관련된 일을 업으로 하고 있기 때문에 제목만으로도 흥미가 동하는 그런 책이었다. 가뜩이나 정부가 주도하는 4차산업혁명이라는 단어 덕분에 세상이 모두 데이터의 장점만을 부르짖는 요즈음이다. 그런 분위기 속에서 데이가 가져올 사회적인 변화와 음지에 대해서 설명을 하는 책이 있다니 자연스럽게 읽어보게 되었다.

저자는 대량 살상 수학 무기의 세가지 특성, 즉 1. 불투명성, 2. 확장성, 3. 피해을 중심으로 교육, 광고, 노동, 치안 등에 관련된 사례를 집중적으로 파고들어감으로써 데이터 기반의 자동화된 사회가 가져올 수 있는 위험성을 논한다.

다른 사람도 아닌 수학과 박사까지 한 데이터 사이언티스트가 쓴 것이었기 때문에 저자는 인간이 배제된 데이터 기반의 자동화된 모델들이 가져올 수 있는 문제를 정확하게 짚는다. 데이터 기반의 모델이라는 것이 기본적으로 과거의 데이터를 기반으로 현실을 설명하는 것이 구조적으로 갖는 태생적 한계라는 부분부터 시작해서 효율성을 극단적으로 추구하는 부분, 마지막으로 부정적인 피드백 루프를 통해서 상황을 고착화시킨다는 부분들은 업계에 있는 입장에서 부인할 수 없었다.

하지만 이런 내용을 기반으로 대안으로 나온 부분들은 사실 매우 아쉬었다. 너무나도 큰 거시적 주제이기 때문에 대안을 내기가 어려운 것은 매우 어려우나 대안으로 제시했던 투명성 강화를 위한 감사같은 부분은 사실 이해가 쉽게 되지 않았다. 특히 요즘처럼 알고리즘과 같은 Asset이 하나의 자산으로 관리되는 상황에서는 더더욱 그러하였다.

그럼에도 불구하고, 고민할 수 있는 요소를 언급함으로써 논의할 수 있는 계기를 만든 부분들에 대해서는 유의미하다고 생각한다. 그리고 최근 저자의 블로그를 들어가보니 새로 출간할 책(2021년 출간 예정)을 언급하던데 이러한 고민들을 조금이나마 해소해줄 수 있는 내용이 포함되었으면 하는 바람이다.