Openness

구글의 무서운 상상: 사용자 정보 활용의 극한 모델, '이기적인 장부'

그 동영상이 소름끼치는 것은 이해합니다. 그런 의도로 만들어진 영상이기 때문입니다.

박상현 2018년 06월 08일

지난달, 구글이 수 년 전에 내부용으로 제작한 8분 짜리 동영상 하나가 유출되었다.

‘이기적인 장부(The Selfish Ledger)’라는 제목이 붙은 비디오는 유튜브에서 흔히 볼 수 있는 과학을 주제로 한 비디오처럼 시작한다. 찰스 다윈의 ‘자연선택’ 진화론에 앞서 ‘용불용설’이라는 이론을 내세웠던 장바티스트 라마르크의 이야기를 하면서, 개체가 습득한 형질이 후세에 유전된다는 그의 가설은 틀렸지만, 라마르크가 생각한 바를 사용자 데이터로 실현하게 될 가능성을 생각해보자고 말한다.

이를 설명하기 위해서는 한 명의 진화생물학자의 이론이 더 필요하다. 바로 빌 해밀튼이다. 우리에게는 리차드 도킨스의 '이기적인 유전자(The Selfish Gene)'으로 더 잘 알려진 이론, 즉 생물이라는 개체는 유전자의 보존을 위한 하나의 도구에 불과하다는 이론을 내세운 사람이다. 구글의 비디오 ‘이기적인 장부’에서 말하는 장부(ledger)는 사용자가 스마트폰을 비롯한 인터넷에 연결된 각종 기기를 사용하는 과정에서 발생하는 다양한 사용자 정보를 기록한 가상의 장부를 의미한다. 그 장부에는 우리의 행동과 결정, 우리가 선호하는 것들, 우리가 어디를 돌아다니고, 어떤 사람들과 관계를 맺는지가 기록된다.

image
진화생물학자 빌 해밀튼Bill Hamilton

하지만 그 장부는 고정된 것이 아니고, 우리가 살아가면서 끊임없이 바뀐다. 즉, 라마르크가 주장한 이론처럼 새로운 형질을 계속 더해나가는 것이다. 여기에서 구글의 3가지 가정이 나온다:

  1. 그 장부가 단순한 기록이 아니라, 스스로의 의지와 목적을 갖는다면?
  2. 우리가 그 장부에 수집하는 정보의 양을 늘려서 더 풍부한 장부로 만든다면?
  3. 만약 사용자/개체가 그 장부의 주인이 아니라, 단순한 관리인이라면?

그렇게 하기로 결정한다면, 그래서 각 개인이 추구하고자 하는 큰 이상과 목표(가령, 건강한 삶이나 환경보호)에 맞게 주어지는 옵션(가령, 검색의 결과)이 결정된다면, 그리고 구글이라는 기업이 추구하는 가치가 그 옵션에 반영된다면 어떤 결과가 일어날 것인가?

자신의 목적대로 사용자를 유도하는 장부

더 나아가 "목표를 추구하는 장부(goal-driven ledger)”가 많은 사람들의 동의를 얻기 시작하고, 그 목적을 개체/개인이 아니라 장부 스스로가 결정하게 된다면? 동영상이 제시하는 예는 다음과 같다:

사용자/개체의 건강을 추구하는 장부가 있다. 그런데 그 목적을 이루기 위해서는 사용자의 건강 상태를 알아야 하는데, (그 사용자가 직접 입력을 하지 않는 한) 체중이라는 데이터를 얻을 방법이 없다. 그런데, 어느날 사용자가 체중계를 구매하려고 검색을 시작하면 장부는 자신이 사용자의 체중 데이터를 얻을 수 있는 체중계를 찾거나, 더 나아가서 이제까지 쌓은 사용자의 디자인, 색상 등의 선호도를 기반으로 아예 새로운 (그리고 자신에게 사용자의 체중을 자동으로 입력시켜 줄) 체중계를 만들어서 제시해서 구매를 유도할 수 있다.

image

구글은 이것을 “생각실험(thought experiment)"라고 했다. 제품이나 서비스에 도입하려는 것이 아니라, 인류가 만들어내는 데이터를 어떻게 까지 이용할 수 있을지에 대한 순수한 가정이라는 것이다. 하지만, 인간 개인의 의지와 목적을 넘어서는, 자신만의 의지와 목적을 가진 장부가 우리의 결정을 유도하는 미래는 생각만 해도 소름이 끼친다. 하지만 상상은 거기에서 끝나지 않는다.

라마르크: 오래된 미래

장부에 기록된 데이터는 사용자/개체가 죽는다고 사라지는 것이 아니다. 대를 이어서 존재할 수 있다. 그렇다면, 새로운 사용자가 등장했을 때 그에게 제시하는 옵션, 그를 (장부의 목적대로) 이끌어갈 새로운 장부는 과거에 존재했던 사용했던 장부의 데이터를 기반으로 할 수 있다. 과거에 다른 사용자들에게 어떤 옵션을 제시했을 때 나온 결과를 바탕으로 새로운 사용자에게는 조금 수정된, 더 나은 옵션을 제시한다면?

그렇다면 우리는 인류의 오랜 숙원인 질병과 가난 같은 문제를 해결할 수 있을지도 모른다. '왜냐하면 인간 개체는 자신의 단기적인 이익과 만족만을 추구하다보니 많은 잘못된 결정을 내리기 때문이다,' 라는 말까지는 동영상에서 하지 않는다. 왜냐하면, 장부가 생각하는 더 큰 목표를 위해 사용자/개체의 의도를 거부, 혹은 유도한다면 우리는 필연적으로 스탠리 큐브릭의 영화 ‘2001 스페이스 오디세이’ 속에 등장하는 컴퓨터 HAL 9000이 주인공의 명령을 거부하는 장면을 떠올리게 되기 때문이다.

image

이 동영상이 유출되자 알파벳(구글)의 대변인은 이렇게 답했다. “그 동영상이 소름끼치는 것은 이해합니다. 그런 의도로 만들어진 영상이기 때문입니다. 그것은 저희의 디자인 팀에서 ‘상상 디자인(speculative design)’라는 기법을 사용해서 몇 년 전에 만들었던 생각실험이며, 상상하기 싫은 아이디어를 탐구하고 토론과 논의를 끌어내는 것이 목적이었습니다. 현재, 혹은 미래의 구글 제품과는 아무런 관련이 없습니다.”

구글의 분명한 해명에도 불구하고 씁쓸함이 남는 것은 구글이 그런 상상을 해봤다는 사실 때문이 아니라, 페이스북의 사용자정보를 사용한 케임브리지 애널리티카의 미국 대선개입을 비롯해 우리가 아직 파악하지 못하는 많은 곳에서 우리의 결정이 이미 유도 당하고 있음을 알기 때문이다. 하지만 문제는 특정 단체나 혹은 ‘이기적인 장부’가 우리의 결정을 유도하는 것을 허용하느냐 마느냐가 아니다. 우리는 무한에 가까운 옵션 중에서 선택을 내려야 하고, 그 기준은 누군가는 결정해야 하기 때문이다.

그 기준을 우리가 일일이 결정하지 못한다면 누군가 대신 해줘야 한다. 그 주체가 선거에 개입하는 세력이든, ‘장부’이든 그들은 이기적인 목적을 가지고 있을 수 밖에 없다. 구글이 만든 동영상은 그 현실을 깨닫게 해주었다.

cover