연구팀은 증오심 표현을 줄이기 위해 트위터에서 세 가지 다른 대응 전략을 테스트했습니다. (그래픽: 얼라이언스 F)
문제가 있는 댓글을 삭제하는 대신 여러 조직에서 온라인 증오심 표현을 해결하는 데 사용하는 표적 대응 연설을 사용하는 것이 대안입니다.
"counterspeech"에 대한 연구에 따르면 영향을 받는 사람들에 대한 공감을 유도하여 온라인 증오심 표현을 억제할 수 있습니다.
대조적으로, 유머의 사용이나 가능한 결과에 대한 경고는 거의 효과가 없다고 연구자들은 말합니다.
증오성 댓글을 완화하기 위해 많은 소셜 미디어 플랫폼에서 정교한 필터를 개발했습니다. 그러나 이것만으로는 문제를 해결하기에 충분하지 않습니다. 예를 들어 페이스북은 (2021년 5월에 유출된 내부 문서에 따르면) 사용자가 게시한 혐오 댓글의 XNUMX% 이상을 삭제할 수 없다고 추정합니다. 또한 자동 필터는 부정확 표현의 자유를 침해할 수 있습니다.
증오심 표현 댓글 삭제의 대안
문제가 있는 댓글을 삭제하는 대신 여러 조직에서 온라인 증오심 표현을 해결하는 데 사용하는 표적 대응 연설을 사용하는 것이 대안입니다. 그러나 지금까지 온라인 적대감을 해결하는 데 가장 효과적인 대응 전략이 무엇인지에 대해서는 알려진 바가 거의 없습니다.
ETH Zurich의 공공 정책 교수인 Dominik Hangartner가 이끄는 연구원 팀은 어떤 종류의 메시지가 증오심 표현의 저자들이 그것을 차단하도록 부추길 수 있는지 조사하기 위해 취리히 대학교의 동료들과 협력했습니다.
연구원들은 기계 학습 방법을 사용하여 1,350명의 영어 사용자를 식별했습니다. Twitter 인종 차별적이거나 외국인 혐오적인 콘텐츠를 게시한 사용자. 그들은 이러한 계정을 통제 그룹에 무작위로 할당하거나 자주 사용되는 다음 세 가지 대응 전략 중 하나에 할당했습니다. 인종 차별주의, 유머 또는 가능한 결과에 대한 경고의 대상이 되는 그룹에 공감을 이끌어내는 메시지
에 나타나는 결과는 과학 국립 아카데미의 절차, 명확합니다. 증오심 표현의 영향을 받는 사람들에게 공감을 불러일으키는 반대 연설 메시지만이 발신인이 행동을 바꾸도록 설득할 가능성이 높습니다.
증오심 표현에 대한 대응
그러한 응답의 예는 다음과 같습니다. "당신의 게시물은 유대인들이 읽기에 매우 고통스럽습니다..." 대조 그룹에 비해 증오 트윗 작성자는 공감을 유도하는 개입 후에 인종 차별적 또는 외국인 혐오 댓글을 약 XNUMX분의 XNUMX 더 적게 게시했습니다. . 또한 사용자가 자신의 증오 트윗을 삭제할 확률이 크게 증가했습니다.
이메일로 최신 정보 얻기
대조적으로, 증오 트윗의 작성자는 유머러스한 반박에 거의 반응하지 않았습니다. 보낸 사람에게 자신의 가족, 친구, 동료가 자신의 증오성 댓글을 볼 수 있음을 상기시키는 메시지조차 효과가 없었습니다. 이 두 가지 전략은 증오심 표현에 맞서 싸우는 데 전념하는 조직에서 자주 사용하기 때문에 놀라운 결과입니다.
Hangartner는 "인터넷에서 증오심 표현에 대한 만병통치약을 찾지는 못했지만 어떤 전략이 효과가 있고 어떤 전략이 효과가 없는지에 대한 중요한 단서를 발견했습니다."라고 말합니다. 연구해야 할 것은 모든 공감 기반 응답이 유사하게 잘 작동하는지 또는 특정 메시지가 더 효과적인지 여부입니다. 예를 들어, 증오심 표현 작성자는 피해자의 입장이 되거나 유사한 관점을 채택하도록 권장될 수 있습니다(“사람들이 당신에 대해 그렇게 이야기한다면 기분이 어떻습니까?”).
이 연구는 증오심 표현을 감지하는 알고리즘을 개발하고 추가 대응 전략을 테스트 및 개선하기 위한 보다 포괄적인 프로젝트의 일부입니다. 이를 위해 연구팀은 시민사회 프로젝트 '헤이트 스피치(Stop Hate Speech)'를 시작한 스위스 여성우산단체 연합 F와 협력하고 있다. 이 협력을 통해 과학자들은 F 연합이 그들의 연설 메시지의 디자인과 내용을 최적화할 수 있는 경험적 기반을 제공할 수 있습니다.
“연구 결과는 저를 매우 낙관적으로 만듭니다. 이제 처음으로 우리는 실제 상황에서 반말의 효능을 보여주는 실험적 증거를 갖게 되었습니다.
스위스 혁신 에이전시 Innosuisse는 각각 Blick 및 20 Minuten을 통해 미디어 회사인 Ringier 및 TX Group과 관련된 작업을 후원했습니다.
