연구원은 어떤 민간 온라인 대화가 돌아서거나 탈선 할지를 예측하는 모델을 만들었습니다.
연구자들은 Wikipedia 편집자 들간의 수백 가지 교류를 분석 한 후 반복적 인 직접적인 질문이나 단어 "you"의 사용과 같은 대화가 시작될 때 참가자의 언어로 경고 신호를 검색하는 컴퓨터 프로그램을 개발했습니다. 시민의 대화가 잘못 될 것입니다. (Edtor 's note : 온라인 퀴즈에 대한 정보는이 기사의 끝 부분을 참조하십시오.) ( "어떤 대화가 잘못 될지 추측하십시오"온라인 퀴즈 : http://awry.infosci.cornell.edu/)
인사, 감정 표현, "보이는 것"과 같은 헤지스와 "나"와 "우리"라는 단어가 포함 된 조기 교환은 시민으로 남을 가능성이 더 높다는 연구 결과가 나왔습니다.
"매일 수백만 건의 토론이 진행되고 있으며, 이들 모두를 실시간으로 모니터링 할 수는 없습니다. 이 발견을 기반으로 한 시스템은 인간의 사회자가 자신의주의를 더 잘 이끌어내는 데 도움이 될 것입니다. "라고 코넬 대학의 정보 과학 조교수 크리스티안 다 네스 쿠 - 니 컬레 쿠 - 밀실 (Cristian Danescu-Niculescu-Mizil) 종이.
"인간으로서의 우리는 대화가 잘못 될지에 대한 직관을 가지고 있지만 종종 의심 스럽습니다. 우리는 시간의 100 %를 할 수 없습니다. 우리는 이러한 직관을 뛰어 넘거나 복제 할 시스템을 구축 할 수 있을지 의문입니다. "라고 Danescu-Niculescu-Mizil은 말합니다.
"독성"을 평가하기위한 기계 학습 도구 인 Google의 관점을 고려한 컴퓨터 모델은 65 %의 시간 동안 정확했습니다. 인간은 시간의 72 %를 정확하게 추측했습니다.
사람들은 자신의 능력을 테스트하여 온라인 퀴즈에서 어떤 대화가 벗어날 지 짐작할 수 있습니다.
이 연구는 민간에서 시작되었지만 개인 공격으로 변질 된 1,270 대화를 분석했습니다. 편집자가 기사 또는 기타 문제를 토론하는 50 만 개의 Wikipedia "대화"페이지에서 16 백만 대화에서 추려 냈습니다. 그들은 쌍방의 교환을 조사하여, 끝내 버린 각 대화를 동일한 주제에 성공한 대화와 비교하여 결과가 정치와 같은 민감한 주제에 의해 왜곡되지 않도록했습니다.
연구원은이 모델이 특정 사용자를 금지하거나 특정 주제를 검열하기보다는 위험에 처한 대화를 구제하고 온라인 대화를 개선하는 데 사용될 수 있기를 바랍니다. 비영어권 영어 사용자와 같은 일부 온라인 포스터는 공격적인 것으로 인식 될 수 있다는 것을 인식하지 못할 수 있으며 그러한 시스템의 뾰족 함은 자기 조절에 도움이 될 수 있습니다.
Cornell의 박사 학생 인 조나단 피 장 (Jonathan P. Chang)은 "개인 공격을하는 도구가 있다면 너무 늦었습니다. 이미 공격이 있었기 때문에 사람들은 이미 그것을 보았습니다. "그러나이 대화가 나쁜 방향으로 가고 행동을 취하는 것을 이해하면 그 곳이 좀 더 환영받을 것입니다."
Jigsaw와 Wikimedia Foundation의 공동 연구원들과 공동으로 작성한이 논문은 호주 멜버른에서 열리는 Computational Linguistics 연례 회의 (July 2018)의 일원이 될 것입니다.
*****
어떤 대화가 잘못 될지 추측하십시오!
온라인 퀴즈 지침 :
이 작업에서는 15 쌍의 대화가 표시됩니다. 각 대화에 대해 대화의 처음 두 개의 댓글 만 보게됩니다. 귀하의 임무는 이러한 대화 시작에 기초하여 어떤 대화가 가능할지를 추측하는 것입니다. 결국 개인적인 공격을하게된다. 두 명의 초기 사용자 중 한 명이
각 질문에 답한 후에는 대답이 올바른지 (녹색으로 표시) 또는 부정확한지 (빨간색으로 표시)에 대한 즉각적인 피드백을 받게됩니다.
더 자세한 정보 :
추측을 할 때 다음과 같은 개인용 공격의 정의를 참조로 사용해야합니다.
A 개인적 공격 어떤 사람 / 그룹 또는 그 사람 / 그룹의 행동 및 / 또는 업무에 대해 무례하거나 모욕적이거나 무례한 의견입니다.
당신이 코멘트에있는 개인적인 공격을 찾고 있지 않다는 것을 명심하십시오 표시. 오히려, 당신은 참가자가 결국 개인 공격을 게시하도록 유도 할 가능성이있는 교환을 결정하기 위해 사회 역학의 직감을 사용해야합니다 (표시되지 않음).
때때로, 따옴표가 공격으로 이어질 가능성이 없거나 둘 다 똑같이 보일 수도있는 것처럼 보일 수 있습니다. 그러나 원본 대화에는 이미 사용자가 주석을 추가했으며 실제로는 개인 공격을 유도합니다. 기존 레이블을 '복구'하기 위해 최선을 다하십시오!
이것은 쉬운 일이 아니며 각 질문에 대답하는 데 몇 분이 걸릴 수 있습니다. 이것이 어려운 작업이므로 처음 세 가지 질문은 점수에 영향을 미치지 않는 "워밍업"질문입니다. 그들은 미래의 공격에 어떤 요소가 작용할지를 "조정"할 수 있도록 도와줍니다. 하지만 기억해, 가능한 한 많은 라벨을 복구하는 것이 당신의 임무입니다..
작업의 성격 상 이러한 주석에는 공격적인 내용이 포함될 수 있습니다. 죄송합니다.
관련 서적
at 이너셀프 마켓과 아마존
