d라이브러리

6월 9일, SBS 예능 프로그램 런닝맨 제작진은 시청자 게시판을 비공개로 바꿨어. 출연자에 대한 무분별한 악성 댓글 때문이었지.
악성 댓글은 상대방에게 큰 상처를 줄 수 있어. 그래서 과학자들은 악성 댓글을 막을 방법을 개발하고 있단다.

악성 댓글을 막아라!

악성 댓글은 연예인만 겪는 문제가 아니에요. 어린이과학동아 독자들을 대상으로 설문조사를 진행한 결과, 응답자 171명 중 39.2%가 “내가 쓴 게시글에 달린 악플을 보고 불쾌한 감정을 느낀 적이 있다”고 답했어요. 이를 해결할 방법으로 63.3%가 “댓글을 올리기 전과 후에 관리할 수 있는 시스템이 필요하다”고 했고, 27.1%는 “스스로 악플을 달지 않도록 노력해야한다”고 답했지요. 

여러 포털사이트들은 악성 댓글을 막기 위해 인공지능을 활용하고 있어요. 2018년 네이버가 개발한 인공지능 클린봇은 욕설뿐 아니라 글의 문맥을 파악해 악성 댓글을 확인한 뒤 감춰요.

클린봇은 어떻게 악성 댓글을 감출까요? 먼저, 클린봇은 포털사이트에서 7년간 수집한 약 10만 건 이상의 욕을 배웠어요. 그리고 국어사전을 공부해 문맥을 파악하는 방법을 학습한 뒤 비속어를 ‘○○○’으로 바꿔 사용자들이 볼 수 없도록 하지요. 

한편, 사용자 스스로 악성 댓글을 달지 않도록 분위기를 형성하는 것도 중요해요. 여러 포털사이트에서는 댓글 작성자가 그동안 쓴 댓글 이력을 공개해 스스로 악성 댓글을 줄이도록 하고 있어요. 

유해 영상물을 막아라!

최근 미성년자를 포함한 디지털 성범죄 사건이 보도돼 사회에 큰 충격을 줬어요. 성범죄 영상이 인터넷에 퍼지면 2차 피해로 이어져 우려의 목소리가 컸지요.

한국전자통신연구원(ETRI)는 불법 촬영물로 인한 2차 피해를 막기 위해 인공지능을 이용한 유해 영상물 검출 기술을 개발했어요. 그동안은 피해자가 신고하면 사람이 일일이 유해 영상물을 찾아 삭제하기까지 시간이 오래 걸렸어요. 하지만 인공지능은 불법 촬영물과 유사한 영상을 자동으로 찾아 삭제까지 걸리는 시간을 훨씬 앞당겼어요. 이 기술을 개발한 ETRI 연구팀은 “인공지능 덕분에 불법 촬영물을 삭제하는 속도가 10배 이상 빨라졌다”고 말했지요. 

ETRI가 개발한 기술은 피해자가 신고한 불법 촬영물을 쪼개 이미지로 만들고 특징을 추출한 뒤, 동영상을 올리는 사이트들을 검색해 이 특징과 비교해요. 그리고 유해 이미지의 특징과 일치할 경우 피해 영상물로 간주해 삭제를 요청하지요. 또, 누군가 영상을 올리려 할 땐, 유해 영상물인지 확인하지요. 유해 영상물을 올리려 한다면 사전에 차단하기 위해서예요. 

ETRI가 개발한 기술은 실시간으로 스트리밍되는 유해 영상물도 찾아내고 있어요. 연구를 이끈 이남경 책임연구원은 “현재, ETRI의 인공지능 검출 기술은 유해 영상물을 99% 이상 찾아낸다”고 말했어요. 이어 “스트리밍 서비스 이용자도 늘어나고, 코로나19로 온라인 수업도 증가했다”며 “온라인 세상을 이용하는 이용자들이 피해를 입지 않도록 노력하겠다”고 말했답니다.