폭력적인 영상, 왜 차단되지 않을까?

2022년 한국청소년정책연구원에서 우리나라 초등학생 4~6학년을 대상으로 어떤 앱을 가장 오래 사용하는지 질문했더니 90.3%가 유튜브라고 답했어요. 특히 이들 중 절반 가까이는 유튜브를 ‘매일 이용한다’고 했습니다. 그런데 재미있기도 하고 유익하기도 한 유튜브에 불법 콘텐츠가 너무 많아 심각한 문제가 발생하고 있어요.

한동안 유튜브에서 ‘당근칼’ 영상이 유행한 적이 있어요. 당근칼은 커터칼처럼 생긴 장난감인데, 많은 유튜버가 이 칼을 가지고 자극적인 내용의 영상을 올려 문제가 되었어요. ‘당근칼 돌리는 기술’, ‘당근칼로 파인애플 껍질 뚫기’, ‘당근칼로 친구 놀라게 하기’ 같은 영상들이 인기를 끌면서 학생들이 비슷한 장난을 치는 일이 생겼죠. 당근칼로 놀다가 다치는 아이들이 늘어나자 많은 사람이 불안해했고, 이 문제는 여러 뉴스에서 보도되었어요. 결국 교육부는 모든 학교에서 당근칼로 장난치지 않도록 안내하라고 지시했어요.

하지만 유튜브에 당근칼을 검색하면 여전히 다양한 당근칼 제품을 리뷰하는 영상이나 당근칼을 휘두르는 손기술이 나오는 영상을 쉽게 찾을 수 있어요. 우리나라 정부가 나서서 위험하다고 안내했음에도 유튜브에는 버젓이 당근칼 영상이 활개를 치고 있는 거죠. 당근칼뿐만이 아니에요. 가짜 뉴스, 폭력물, 음란물 등 부적절한 영상들도 제대로 차단되지 않아 심각한 문제가 되고 있어요. 도대체 유튜브에는 왜 이렇게 이상한 영상이 많은 걸까요? 그것을 막을 방법은 없을까요?

▲유튜브 채널 <채널A 뉴스> 영상 캡처

문제가 된 당근칼의 모습. 수박이나 파인애플도 쪼갤 수 있다.

나쁜 콘텐츠를 걸러주는 장치들

유튜브에는 나쁜 콘텐츠를 걸러주는 ‘심의 알고리즘’이 적용되어 있습니다. 과도한 노출, 폭력적인 내용, 증오를 조장하는 콘텐츠, 저작권 위반 콘텐츠 등이 심의 대상이고, 이렇게 걸러진 영상은 ‘노란 딱지’가 붙어 수익 창출 중단 등 불이익을 받아요. 하지만 노란 딱지에 따른 불이익보다 높은 조회수로 얻는 이득이 많아 나쁜 콘텐츠는 끊임없이 생산돼요.

심의 알고리즘 자체도 완벽하지 않아요. 걸러야 할 콘텐츠는 거르지 않고, 거르지 않아도 될 콘텐츠는 거르는 일도 생기죠. 예를 들어 생리대 리뷰 영상을 ‘성적 호기심을 유발한다’는 이유로 차단하는가 하면, 똑같은 영상인데 한국어판은 삭제되고 영어판은 삭제되지 않은 일도 있었어요.

그렇다면 유튜브의 심의 알고리즘이 더욱 발전하면 나쁜 콘텐츠들을 막을 수 있을까요? 그것도 아닐 거예요. ‘좋다’, ‘나쁘다’의 기준은 수학처럼 딱 나눠지지 않으니까요. 예를 들어 과학적인 원리를 재미난 실험으로 알려주는 유튜버가 전자레인지의 원리를 설명하는 영상을 올렸다고 할게요. 유튜버는 전자레인지에 개미를 넣고 작동시킨 뒤 개미가 살아있는 것을 보여주었어요. 그리고 개미가 무사할 수 있었던 이유를 전자레인지의 작동 원리를 통해 알려주었죠.

그렇다면 이 영상은 좋은 영상일까요, 나쁜 영상일까요? 과학의 원리를 ‘전자레인지’라는 친숙한 물건으로 설명해주니 학습에 도움이 되는 좋은 영상일 수도 있어요. 하지만 개미의 입장에서 보면 전자레인지에 들어가 불안과 공포에 떨어야 했으니 동물 학대라고 볼 수도 있죠. 이처럼 ‘좋다’, ‘나쁘다’를 정확히 판가름하기는 어려우므로 심의 알고리즘에도 한계가 있을 수밖에 없어요.

따라서 건전한 미디어 환경을 만드는 데는 기술의 발전 외에도 시청자의 적극적인 행동이 중요해요. 우선 나쁜 콘텐츠를 보면 즉시 영상을 종료하고 ‘나빠요’를 누르거나 영상을 신고하는 습관을 들여야 해요. 나빠요 수가 많은 영상은 추천되지 않아 다른 사람이 보게 될 확률이 줄어들고 신고가 많이 된 채널은 삭제되기도 하거든요. 그러면 나쁜 영상이 퍼져나가는 것을 늦출 수 있고 조회 수와 광고 수익이 떨어져 나쁜 콘텐츠를 만드는 유튜버도 줄어들 거예요.

또 유튜브는 심의 알고리즘을 발전시키는 한편 문제가 있는 영상을 만든 제작자에게 확실한 제재를 가하도록 시스템을 만들어야 해요. 모두의 노력이 더해지면 깨끗한 미디어 세상을 만들 수 있어요. 유튜브를 지키는 히어로는 우리라는 사실! 잊지 마세요.

d라이브러리

사라진 ‘6시간’은 어디에 모였을까?