기술은 거대한 흐름과도 같다. 인공지능 시대는 ‘어쨌든’ 올 것이다. 그러면 가만히 앉아서 그 시대를 기다리면 될까? 운전하지 않아도 자동차는 내가 원하는 곳으로 나를 데려가고 어떤 병이 생기기 전에 알아서 예방해 주는 그런 시대를?

지금은 어느 시대보다도 IT 기술이 발전된 사회이다. 우리 주변의 모든 것들 속에 소프트웨어가 들어가고 있고 그 안에는 알고리즘이 들어 있다. 우리에게 필요한 문제를 적절한 규칙으로 해결할 수 있게 하는 것이 알고리즘이다. 인공지능 기술인 머신러닝이 발전하면서 이 알고리즘도 거기에 발맞추어 발전했다. 이제는 규칙을 알려 주지 않아도 기계가 스스로 학습해 문제를 해결한다. 우리 시대는 프로메테우스가 전해준 ‘불’ 이후 최고의 도구를 손에 넣었는지도 모른다.

그러나 다음의 몇 가지 사례를 들어 보면 이 도구가 정말 유익하기만 한 건지 의심이 든다. 불도 조심스럽게 사용해야 하듯이 이 도구에 손이 데이지 않으려면 준비가 필요할 것이다.

#1

코로나로 전 세계가 시끄럽다. 그런 와중에 올해(2020년) 4월 영국에서는 5G 기지국에서 연달아 방화가 일어났다. 5세대 이동통신망이 코로나 바이러스 감염증을 확산시킨다는 가짜 뉴스가 퍼졌기 때문이다. 언뜻 보면 전혀 이해가 안 되는 내용이다. 도대체 누가 이런 걸 믿는단 말인가? 그러나 실제로 영국의 여러 도시에서 일어난 사건이다.

그렇다면 저 가짜 뉴스를 믿는 사람들이 특별히 잘 속는 것일까? 정도의 차이는 있지만 어쩌면 우리 모두의 이야기일 수도 있다. 노벨경제학상을 수상한 대니얼 카너먼은 ‘생각에 관한 생각’에서 이런 이야기를 한다. 우리의 사고체계에는 직관적인 시스템 1과 논리적인 시스템 2가 있다. 시스템 1은 우리가 무언가를 인식하기 전에 무의식적으로 처리한다. 시스템 2는 1과는 반대로 논리적으로 상황을 해석하고 결정한다. 시스템 1과 시스템 2의 경쟁에서는 대부분 시스템 1이 이긴다. 어쩌면 인간은 직관의 동물이라고 할 수도 있겠다. 이런 시스템 1은 우리가 평소에 접하는 정보들을 무의식에 차곡차곡 저장해 놓고 있다가 우리가 자동적으로 행동하게 만든다. 우리가 의식적으로 가짜 뉴스를 걸러내지 않는 이상 우리가 접하는 모든 정보들을 시스템 1은 진실이라고 믿는다.

인간은 어떤 이유에서건 가짜 뉴스에 더 크게 반응한다. 소셜미디어에서의 가짜 뉴스는 일반 뉴스보다 6배 더 빨리 퍼진다고 한다. 보다 자극적인 것에 우리 스스로가 반응하기 때문이다. 우리가 반응하면 시스템 속 알고리즘은 더 많은 사람들에게 가짜 뉴스를 보여준다. 좋아하는 것을 더 많이 보여주게 만들어졌기 때문이다. 처음엔 좋은 의도로 만들어졌을지 몰라도 이 기술에는 여러 가지 문제점이 있는 듯 보인다.

#2

케임브리지 애널리티카(이하 CA)라는 회사는 2016년 미국 대선과 영국의 브렉시트에 영향을 줬다고 말한다. 그리고 인도, 이탈리아 등의 다른 나라에서도 비슷한 캠페인을 벌여 투표에 영향을 줬다고 한다. 어떻게 이런 일이 가능한 걸까? 2015년 말부터 CA는 소셜미디어를 이용해 불법적으로 사용자 정보를 수집했다. 간단한 성격 퀴즈 앱을 활용해 그것을 사용한 사용자와 그 사용자의 친구들의 정보를 수집한 것이다. 페이스북에 따르면 총 8천7백만 명의 사용자 데이터가 유출되었다고 한다. 이를 고발하고 추적하는 몇몇 사람들이 있었고 2018년 내부고발자로 인해 이 사건은 제대로 밝혀지기 시작한다. 결국 케임브리지 애널리티카라는 회사는 사라졌지만 그것을 만든 사람들 중 일부는 또 비슷한 회사를 설립했다고 한다.

2010년에 일어난 아랍의 봄이 SNS 혁명이라고 말하는 사람들이 있다. 투쟁의 불씨가 SNS로 인해 퍼져나갔기 때문이다. 물론 반대되는 의견들도 있지만 소셜미디어가 어느 정도 기여를 한 건 맞는 거 같다. 2019년 홍콩 시위에서도 소셜미디어를 활용했기 때문에 모금 행위를 성공적으로 할 수 있었다고 한다. 이렇듯 똑같은 도구임에도 어떻게 활용하는지에 따라서 동전의 양면처럼 우리를 위협하기도 하고 돕기도 한다.

#3

2017년 미국의 자살예방재단 연구팀은 10대의 자살과 소셜미디어 사용 관계를 조사했다. 조사 결과 소셜미디어를 사용하는 10대들의 자살률이 크게 증가한 것으로 보고 있다. 2019년 미국 국립 어린이병원에서도 비슷한 조사를 해서 같은 결론에 이른다. 2018년 국내에서는 소셜미디어로 퍼지고 있는 청소년들의 자해 인증 문제를 막기 위해 교사-의료진들로 구성된 민간 네트워크를 만들기도 했다. 그러나 몇몇 사람들은 말한다. “정말 소셜미디어와 자살이 관련이 있는 걸까? 그것을 어떻게 증명할 수 있지? 단순히 사용량 증가와 자살률 증가만으로 연결 지을 수 있는 문제인가? 다른 곳에서 이유를 찾아야 하는 건 아닐까?” 그럴지도 모르겠다. 그러나 우리가 사용하는 도구가 의심스러울 때는 사회에서 노력을 기울여 원인을 찾아봐야 한다. 그렇지 않으면 큰 대가를 치를 수도 있다.

20세기에 우리는 이미 기술의 부작용을 경험을 한 적이 있다. 1874년에 만들어진 화학 물질 DDT는 말라리아 등 질병을 일으키는 모기나 여러 곤충으로부터 사람을 보호했다. 이 발견으로 1948년 ‘파울 헤르만 뮐러’는 노벨 생리학-의학상을 수상하게 된다. 그러나 1962년 해양 생물학자 레이첼 카슨이 쓴 『침묵의 봄』으로 인해 상황은 역전된다. 이 책에서 레이첼 카슨은 이 화학물질이 사람에게까지 영향을 끼친다고 말한다. 생물농축 현상으로 인해 오랜 시간에 걸쳐 사람들의 몸에 축적되고 그것이 암 등의 질환을 일으킨다는 것이다. 생물농축 현상은 오랜 시간에 걸쳐 일어나기 때문에 즉각적으로 상황의 심각성을 알기 힘들다. 그러나 이 책의 반향으로 미국의 케네디 대통령은 자문위원회를 구성했고 결국 앞서 말한 화학 물질이 암을 유발할 수 있다는 증거를 발견하게 된다. 이후 1972년 미국 내에서 사용을 금지하게 됐으며 현재는 전 세계적으로 사용이 금지되었다. 처음 만들어진 지 거의 100년이 지나고서야 위험성을 깨닫고 뒤늦게 금지가 된 것이다.

말콤 글래드웰은 『타인의 해석』이란 책에서 자살이 얼마나 쉽게 일어나는지 보여준다. 오래 전 영국의 가정의 도시가스는 틀어 놓으면 일산화탄소가 나왔는데, 이를 이용해 쉽게 자살을 할 수 있었다고 한다. 1960, 70년대를 거치면서 도시가스가 현대화되고 자살률은 그에 맞춰 낮아지기 시작한다. 단순히 쉽게 자살할 수 있는 환경을 조성하는 것만으로 자살률이 올라가고, 환경이 사라지니 자살률도 내려갔다. 비슷한 예로 눈앞에 보이는 강 위의 다리가 뛰어내리기 쉬울 땐 사람들이 그 다리에서 뛰어내리지만, 그러지 못하면 자살할만한 다른 장소를 찾는 게 아니라 자살을 하지 않는다고 한다.

우리 시대는 이미 많은 아이들을 잃었다. 그런데도 앞으로 100년간 아이들이 스스로 사라지는 걸 지켜보고 있어야 할까? 우리가 사용하는 도구가 아무리 좋은 도구일지라도 그 도구에 우리가 어떤 영향을 받고 어떤 변화가 일어나는지 확인하는 시간을 가져야 할 것이다. 지금이라도 잠시 멈춰 좋은 방향으로 도구를 사용할 수 있는 방법을 찾아 조치를 취하는 것도 좋지 않을까?

# 결론

마침 유럽에서는 ‘디지털 시장법’이라는 걸 준비하고 있다. 기업의 인수-합병 시 EU 당국에 알림, 플랫폼 사업자의 경쟁 방해 행위 제지, 데이터의 무분별한 사용 제한, 불법 콘텐츠에 대한 대응 강화 등이 주요 골자이다. IT 기술의 선두에 있는 글로벌 기업들이 우리 삶에 미치는 영향이 너무도 크기 때문에 만들어진 법이 아닐까 싶다. 과도한 제지는 역효과가 날 수도 있지만 우리가 원하는 미래를 맞이하기 위해서는 적절한 브레이크가 필요한 시점이다.

다큐멘터리 감독 제프 올로우스키는 2020년 개봉한 《소셜 딜레마》를 통해 우리가 매일같이 사용하는 소셜미디어로 인해 우리 사회가 분열되어 간다고 말한다. 소셜미디어는 사람들의 욕구를 자극하고 광고주로부터 돈을 번다. 우리는 언뜻 무료로 이용하고 있는 것 같지만 어떤 보이지 않는 위험한 대가를 치르고 있는 건지도 모른다. 아마도 지금까지 말해온 이 기술들을 만든 사람들은 처음엔 좋은 의도로 만들었을 것이다. 우리에게 삶에 필요한 편리한 기능들을 제공하고 돈도 벌 수 있다면 얼마나 좋은가. 하지만 프로그래밍에는 ‘사이드 이펙트(side effect)’라는 용어가 있다. 개발자가 만든 기능이 생각지 못한 어떤 효과를 발휘하는 상황이 발생하는 것을 말하는데 보통은 큰 시스템에서 미처 고려하지 못하는 곳에 효과가 생기는 현상을 일컫는다. 혹시라도 우리의 도구가 일반적인 기능적-기술적 사이드 이펙트가 아닌 사회에 예기치 못한 영향을 끼치는 ‘소셜 사이드 이펙트’가 있는 게 아닌지 의심해 봐야 하지 않을까? 더 늦게 전에 말이다.