이 책에서 나는 왜 페이스북이 스스로 변화하거나 변화될 필요가 있다고 확신하게 됐는지와 그런 변화를 시도하기 위해 어떤 노력을 기울였는지 설명한다. 페이스북은 대다수 이용자들에게 매력적인 경험을 제공했음에도 불구하고 미국에게는 끔찍한 일을 저질렀다. 페이스북에 대한 인식을 바꾼 내 경험담을 통해 독자들이 페이스북의 위협을 명확히 이해하는 데 도움을 얻기를 바란다. 그 과정에서 페이스북 같은 인터넷 플랫폼(Internet platform)이 사람들의 주의를 조작하기 위해 어떤 기술을 사용하는지 내가 아는 바를 공유하려고 한다. 나쁜 의도를 가진 개인이나 기관이 페이스북과 다른 플랫폼 디자인을 이용해 어떻게 무고한 사람들을 해치고, 심지어 죽이기까지 하는지를 설명할 것이다. 자신들의 디자인 선택과 비즈니스 결정에 따른 결과의 책임을 부정하는 인터넷 플랫폼 회사가 민주주의를 훼손하는 방법을 폭로한다. 이런 기업들의 문화가 어떻게 해서 직원들이 성공으로 인한 부작용에도 무관심하게 만드는지를 보여준다. 이 글을 쓰는 지금도 그런 현상을 막을 방도는 전혀 없는 것 같아 안타까울 뿐이다.
이것은 믿음에 관한 이야기다. 페이스북과 구글을 비롯한 기술 플랫폼들은 초기 IT 기업 세대가 지난 50여 년간 축적해 온 신뢰와 선의의 수혜자들이다. 이들은 사람들의 신뢰에 편승해 인간 심리의 약점을 파고드는 정교한 기법으로 개인정보를 수집하고 부당하게 이용했으며, 이용자들의 권리를 보호하지 않는 사업 모델을 교묘하게 만들었다. 이용자들은 이제 애용하는 제품을 의심해야 하고, 온라인 행태를 바꿔야 하며, 인터넷 플랫폼에 적절한 책임을 물어야 하고, 정책 입안자들에게 공익을 위해 플랫폼을 규제하라고 강력히 요구해야 한다.
이것은 특권에 관한 이야기다. 눈부신 성공을 거둔 이들이 자신들의 목표에만 몰두한 나머지 다른 사람들이 가진 권리와 특권을 망각할 수 있음을 보여준다. 다른 분야에서는 명석한 사람들이 그들의 이용자에게도 자기결정권이 있다는 사실을 어떻게 놓칠 수 있는지 드러난다. 어떻게 성공이 친구들의 비판은 고사하고 건설적인 피드백조차 수용하지 않을 만큼 심각한 자만으로 증폭될 수 있는지 알려준다. 세상에서 가장 열심히 일하고 생산적인 사람들 중 일부는 그들의 행동이 일으키는 결과에 눈이 멀어 자신들의 특권을 지키기 위해 기꺼이 민주주의조차 위험에 빠뜨릴 수 있다.
이것은 권력에 관한 이야기이기도 하다. 선의를 가진 사람들의 손에 있는 최고의 아이디어조차도 여전히 끔찍하게 잘못될 수 있음을 묘사한다. 규제되지 않은 자본주의, 중독성 있는 기술 그리고 권위주의적 가치가 실리콘밸리 특유의 매정한 경쟁 풍토 및 오만한 태도와 결합해 선량한 수십억 이용자들에 쏟아지는 불안을 상상해보라. 나는 페이스북이 지배하는 소셜미디어와 주목 경제(attention economy)의 혁명이 이용자들에게 가치를 안겨주는 것처럼 행세하지만, 실상은 우리의 민주주의, 공중보건 및 개인정보와 경제에 미치는 지독한 재앙을 은폐해 왔음을 세상이 알게 될 날이 2년 전 내가 생각했던 것보다 더 빨리 올 거라고 생각한다. 이를 바로잡는 데는 공동 노력이 필요할 것이다.
만약 이 책의 독자도 나처럼 민주주의의 지지자라면 이런 상황에 불안해하는 것이 당연하다. 페이스북은 대다수 민주주의 나라에서 강력한 뉴스 정보원으로 자리잡았다. 놀랍게도 페이스북은 각국이 투표소 밖에서 아이디어를 공유하고, 의견을 형성하며 사회 현안을 토론하는 공론장으로 발전했다. 그러나 페이스북은 단순한 포럼이 아니다. 이윤극대화를 꾀하는 개인이 경영하는 기업이다. 정치적 사안이든 다른 문제든 우리의 일거수일투족에 영향을 미치는 거대한 인공지능이다. 페이스북이 내리는 사소한 결정조차 페이스북이 접촉한 모든 이용자에게 영향을 주면서 공론장을 통해 반향을 일으킨다. 정작 이용자들은 그런 페이스북의 영향력을 제대로 인식하지 못한다는 사실은 효력을 더욱 증폭시킨다. 만약 페이스북이 선동적인 캠페인을 더 선호한다면 민주주의는 고통을 겪게 된다.
