[이미지 제작=대한민국청소년기자단 15기 정미강기자]

누리소통망(SNS)을 통해 지구 반대편 사람들과 기분을 공유하고 패션을 뽐내는 우리는 가만히 앉아 세상의 모든 것을 접하고, 느낀다. 누리소통망(SNS)의 등장이 전 세계 사람을 한곳에 모은 것이나 다름이 없다. 댓글이라는 짧은 글 무리를 서로 쓰고, 공유하며 사람들은 점점 하나로 연결되어 간다. 그렇지만 사람의 생각은 모두 다르기에 하나로 연결되어가는 것이 사람들의 생각이 하나로 통일된다고 볼 순 없을 것이다.

 

그래서일까, 우리는 인터넷상에서의 수많은 댓글을 보며 일명 선플과 악플이라는 꼬리표를 만들어 구별하며 읽는다. 서로의 생각을 공유하여 조화시키는 선플에 반해 서로의 생각이 맞지 않는다는 이유로 배척하는 악플은 사회에 큰 영향을 미치고 있다. 최근에는 연예인들의 잇따른 자살 사건의 원인으로 지목되며 악플의 사회적 무게감은 더욱 막중해지고 있다.

 

그렇다면 사람을 벼랑 끝에 몰아넣는 악플을 사회에서 분리할 방법은 없는 것일까? 이 질문에 답하기 위해서는 먼저 악플이 생기는 이유에 대해 알아야 한다. 이러한 악플은 서로의 생각 차이에서 일어난다. 즉, 서로의 생각을 억지로 끼워 맞추지 않는 한 해결될 수 없다는 말이기도 하다. 그렇기에 IT기업들은 악플의 생성을 막을 수 없다면, 악플의 노출을 줄이는 방식으로 악플을 사회에서 분리하기로 하였다.

 

예전에는 사람이 하나하나 분류하거나, 컴퓨터가 간단히 키워드를 가지고 분류하는 정도에 그쳤다. 하지만 요즘에는 AI(인공지능) 기술이 발달해 사람이 아닌 AI(인공지능)가 악플을 선별, 삭제하는 일명 ‘악플 제거 AI’가 인터넷에 적용되고 있다.

 

악플 제거 AI가 활동하는 방식은 다음과 같다.

 

[이미지 제작=대한민국청소년기자단 15기 정미강기자]

1단계, AI가 악플을 학습하는 과정이 필요하다. 악플 제거 AI가 악플을 분류할 수 있도록 미리 이미 악플로 분류한 댓글들을 악플 제거 AI에게 학습 시켜 악플 제거 AI가 제거해낼 악플을 찾아낼 수 있도록 한다.

 

2단계, 악플 제거 AI가 악플을 학습했다면, 미리 준비되어 있는 악플 목록을 가지고 악플 제거 AI가 악플을 걸러낸 결과를 사람이 검토하여 최종적으로 사람이 악플을 제거한다.

 

3단계, 악플 제거 AI가 사람이 검토한 정보를 바탕으로 기존 알고리즘들에 중요도를 부여하거나 새로운 알고리즘을 생성하여 실제 악플 제거를 위한 기반을 다진다.

 [이미지 제작=대한민국청소년기자단 15기 정미강기자]

4단계, 특정 부분(연예, 뉴스 등)의 댓글로 악플 제거 AI를 실제 환경에 시범 적용하여 악플 제거 AI의 정확도나 분류하지 못하는 댓글들을 파악한다.

5단계, 4단계 실험 결과를 바탕으로 최종적으로 문제점을 개선하고 보완하여 실제 환경에 정식으로 적용되었을 때 악플을 효율적으로 걸러낼 수 있도록 한다.

 

6단계, 실제 환경에 정식으로 적용하여 악플들을 제거해 나감과 동시에 악플 제거 AI가 정확히 처리하지 못하는 댓글은 사람이 검토할 수 있도록 따로 분류하여 악플을 걸러낸다.

 

[이미지 제작=대한민국청소년기자단 15기 정미강기자]

7단계, 사람이 검토한 정보를 분석하여 기존 알고리즘의 문제점과 개선 사항을 스스로 보완하여 학습해 다양한 유형의 악플에 사람의 개입을 최소화하면서 악플은 효율적으로 걸러내게 된다.

 

위의 악플 제거 AI를 사용한 대표적인 사례는 인스타그램과 네이버다. 인스타그램은 2년 전부터 ‘머신러닝 댓글 필터’라는 악플 제거 AI에 한국어 지원을 시작해서 현재까지도 사용되고 있으며, 사람이 최종 판단하여 처리하기에 정확도가 95%에 달한다. 최근에는 부적절한 댓글 작성 시 작성자에게 알림을 주는 ‘댓글 경고’ 또한 추가되면서 악플 방지에 공을 들이고 있다.

 

인스타그램이 사람이 최종 판단하여 정확도를 올리는 데 집중했다면, 네이버는 ‘클린봇’이라는 악플 제거 AI를 도입하였다. 기존 악플 제거 AI들이 단어를 보고 파악하는 경우가 많았지만, ‘클린봇’은 문맥을 읽고 판단하며, 이모티콘과 같이 악의적으로 필터에 걸리지 않도록 하는 댓글 또한 잡아내는데, 놀라운 점은 이 모든 과정에 사람의 개입이 최소화되었다는 것이다. 정확도 문제를 피하고자 인스타그램은 사람의 판단을 대책으로 세웠지만, 네이버는 이용자가 기능을 켜고 끌 수 있도록 해 이용자가 직접 사용 여부를 판단하는 방식으로 악플을 제거하고 있다.

 

악플은 완전히 제거할 수 없다. 그렇다고 방치할 수 없다. 그렇기에 악플 제거 AI가 필요한 것이다. 하지만 “우리가 악플을 달지 않았다면, AI가 악플을 제거할 필요가 있었을까?”라는 질문을 피할 순 없을 것이다.

우리는 어제 사람을 죽였다. 하지만 이제 우리는 오늘 사람을 살린다.

[대한민국청소년기자단 IT·과학부=15기 정미강기자]