직장인 A씨는 SNS에 접속할 때마다 눈살이 찌푸려진다. 대학에 다니던 시절 사귀었던 전 남자친구 사진이 자꾸 ‘알 수도 있는 친구’에 뜨기 때문. SNS 알고리듬이 A씨와 그 사이의 친구 관계를 분석해 연결을 시도하는 것이다. 현실의 인간관계를 컴퓨터 속 알고리듬이 규정하는 셈이다. 흔히 사람들은 알고리듬을 컴퓨터와 수학의 세계라고만 생각하지만, 사실 알고리듬은 이미 우리 생활 곳곳에 파고들어 있다. 위 사례처럼 SNS가 대표적이다. 기자는 자동 친구 추천을 해주는 알고리듬 덕분에(?) 취재원에게 사생활을 다 들켜버리기 일쑤다.
미국 시카고 매터사이트 코퍼레이션이라는 글로벌 기업의 사례를 보자. 이 회사 콜센터는 고객을 상담원에게 연결할 때 국적(언어)이나 전문 지식을 기준으로 삼지 않는다. 고객이 말하는 패턴이나 구사하는 단어, 심지어 “음”이나 “어” 같은 사소한 감탄사를 알고리듬으로 분석해 고객 정서에 가장 적절하게 대응할 수 있는 상담원에게 연결해준다. 고객과 상담원을 성격 유형으로 분류해, 전화 업무를 더 빠르고 만족스럽게 처리하도록 해주는 것이다. 생활 속에서 알고리듬이 활약하는 예는 이뿐이 아니다. SNS의 개인 정보나 인터넷 검색 기록을 분석해 맞춤형 광고를 노출하는 건 이제 흔한 사례다.
그런데 이 책의 저자는 여기서 멈춰 묻는다. “이런 알고리듬이 과연 괜찮은 걸까”라고. 위의 사례에서 보듯, 인간은 알고리듬을 통해 수량화되고 분류된다. 물론 알고리듬 자체는 좋지도 나쁘지도 않다. 어디까지나 컴퓨터가 행동할 수 있도록 고안된 수학 규칙일 뿐이다. 하지만 알고리듬을 설계하는 사람이나 이를 운영하는 사람의 편견과 성향은 알고리듬에 반영될 수밖에 없다는 게 문제다. 예를 들어 돈이 덜 되는 고객에겐 질 낮은 서비스를, 돈을 많이 쓰는 고객에게는 최상의 서비스를 제공한다면 이는 명백한 차별이다. 심지어 기
사를 쓰거나 오페라를 작곡하는 훌륭한 인공지능이 나오면, 기자를 비롯한 몇몇 직군의 사람들은 눈물을 머금고 사직서를 내야 할지도 모른다. 저자는 “알고리듬의 발달로 우리는 모든 곳에서 감시 받고 분류된 뒤 결국 차별 받는, 새로운 형태의 파놉티콘에 갇힌 것인지도 모른다”고 경고한다.
이미 알고리듬이 우리 생활에 미치는 영향력은 너무 광대하다. 각종 알고리듬은 서로 꼬인 실타래처럼 복잡하게 얽혀 있다. 이제 알고리듬을 만든 엔지니어조차 어떤 결과가 나올지 예측할 수 없는 경우가 많다. 산발적인 알고리듬으로부터 고도의 지능이 창발한다는 어느 SF영화의 소재가 더 이상 상상 속 이야기만은 아닐 거라는 생각이 드는 이유다.
이해하지 못하는 알고리듬에 의해 움직이는 세상에서 윤리적으로 행동하는 것은 쉽지 않은 일이다. 전혀 의도하지 않았지만, 우리도 모르는 사
이에 우리는 인간성을 잃어버리고 있는지도 모른다. 그렇다고 알고리듬으로 돌아가는 세상에서, 알고리듬을 끊어내기란 불가능하다. 저자의 마지막 주장에 귀를 기울여야 하는 이유다. ‘만물의 공식’ 즉 알고리듬을 좀 더 이해하기 위해 노력하며 끊임없이 질문을 던져야 한다고. 그것만이 우리의 인간다움을 지킬 수 있는 방법이라고.
