[SSUPAGO] 혐오/차별 발언 필터링 서비스 🤬->😊

SSUPAGO

 

---

우리 사회의 혐오 문제와 그 심각성을 해결하고자,

AI 딥러닝 기술을 활용해 한국어 기반 혐오 발언 필터링 서비스를 개발하기로 하였습니다.

 

 

본 프로젝트 진행에 앞서, 우리 사회의 혐오 문제의 심각성에 관한 실제 사례들과 통계자료들을 분석한 결과, 해당 문제의 위험성과 이 위험성을 제대로 인지하지 못하는 사람들의 인식 편향 문제도 매우 심각함을 확인할 수 있었다. 대표적으로 코로나 19 이후 발생한 아시안 혐오 범죄가 있다. 코로나로 인해서 아시안들이 해외에서 각종 혐오 범죄와 발언들에 노출되는 빈도가 높아졌는데 이러한 상황은 우리나라에서도 똑같이 재현되었다. 한겨레 기사에 따르면 국내 코로나 확진자 발생 이후 한국 내 온라인상에서 중국인에 대한 혐오 발언이 급증한 것을 확인할 수 있었다.

이러한 문제 해결을 위해 신고제와 같은 여러 법안이 제안되고 있지만, 사람들의 자발적 신고에만 의존하거나 제대로 된 시스템 구축이 어렵다는 한계에 부딪히고 있다. 이에 슈파고 팀은 한국어를 기반으로 한 혐오 발언 필터링 서비스를 제공하고자 한다. 혐오 및 차별 발언을 분류해 낼 수 있는 딥러닝 모델을 구축하고 모델의 입력과 출력값을 HTTP 통신을 통해 전달할 수 있도록 하였다. API 방식으로 모델을 어디서나 사용할 수 있게 함으로써 사용자의 접근성과 활용성을 높인다. 또한, 한국어 기반 자연어 처리에 특화된 BERT 구조의 모델을 구축함으로써 더욱더 높은 정확도를 갖춘 서비스를 제공할 수 있도록 한다.