잘못된 정보와 편견이 소셜 미디어를 고의적으로, 그리고 우발적으로 감염시킵니다

: By Giovanni Luca Ciampaglia 및 Filippo Menczer

방문해 주셔서 감사합니다 InnerSelf.com, 있는 곳에 20,000+ "새로운 태도와 새로운 가능성"을 홍보하는 삶을 변화시키는 기사. 모든 기사는 다음으로 번역됩니다. 30 개 이상의 언어. 확인 매주 발행되는 InnerSelf Magazine과 Marie T Russell의 Daily Inspiration에 게재됩니다. InnerSelf 매거진 1985년부터 출판되었다.

Fakey 게임의 스크린 샷. 미하이 아브람과 필리포 멘처

소셜 미디어는 미국의 주요 뉴스 출처 전 세계에 걸쳐 그러나 사용자는 다음을 포함하여 의심스러운 정확성의 콘텐츠에 노출됩니다. 음모 이론, 클릭 베이트, 초당파 콘텐츠, 의사 과학 심지어 조작 된 "가짜 뉴스"리포트.

스팸 및 온라인 사기가 너무 많아서 놀랍지는 않습니다. 범죄자들에게 유리하다., 정부와 정치 선전 당파 적 재정적 이익. 그러나 사실 신뢰도가 낮은 콘텐츠가 너무 빠르고 쉽게 퍼집니다. 사람들과 소셜 미디어 플랫폼의 알고리즘은 조작에 취약하다는 것을 암시합니다.

우리의 연구는 소셜 미디어 생태계가 고의적이거나 우발적 인 잘못된 정보에 취약하게 만드는 세 가지 유형의 편견을 확인했습니다. 그래서 우리의 소셜 미디어 전망대 인디애나 대학교 건물 검색을 사람들이 이러한 편견을 인식하고 악용하려는 외부 영향으로부터 자신을 보호 할 수 있도록 돕습니다.

Observatory on Social Media에서 개발 된 도구 설명 :

{유튜브}https://youtu.be/BIv9054dBBI{/youtube}

두뇌의 바이어스

인지 적 편견은 모든 사람이 매일 만나게되는 정보를 뇌가 처리하는 방식에서 유래합니다. 두뇌는 한정된 양의 정보 만 처리 할 수 있으며 너무 많은 들어오는 자극으로 인해 정보 과부하. 그것은 그 자체로 소셜 미디어에 대한 정보의 질에 심각한 영향을 미칩니다. 우리는 사용자의주의를 끌기위한 가파른 경쟁은 낮은 아이디어에도 불구하고 몇몇 아이디어는 바이러스 성을 나타냅니다. - 사람들이 고품질 콘텐츠를 공유하는 것을 좋아하는 경우에도.

압도당하는 것을 피하기 위해 뇌는 속임수. 이러한 방법은 일반적으로 효과적이지만 편견이있다 틀린 문맥에서 적용될 때.

하나의인지 적 지름길은 사람이 소셜 미디어 피드에 나타나는 이야기를 공유할지 여부를 결정할 때 발생합니다. 사람들은 표제의 감정적 인 의미에 의해 아주 영향을 미친다비록 기사의 정확성에 대한 좋은 지표는 아니지만. 훨씬 더 중요하다. 조각을 쓴 사람.

이 편견에 맞서 사람들이 공유하기 전에 클레임 소스에 더 많은 관심을 기울 이도록 돕기 위해 가짜, 모바일 뉴스 리터러시 게임 (무료 Android 과 iOS)는 주류 및 신뢰성이 낮은 소스의 뉴스 기사가 혼합 된 전형적인 소셜 미디어 뉴스 피드를 시뮬레이션합니다. 플레이어는 신뢰할 수있는 출처에서 뉴스를 공유하고 사실 확인을 위해 의심스러운 콘텐츠를 신고하기 위해 더 많은 포인트를 얻습니다. 그 과정에서, 그들은 과분한 주장이나 정서적으로 유행하는 헤드 라인과 같은 출처 신뢰성의 신호를 인식하는 법을 배웁니다.

사회의 편견

편견의 또 다른 원인은 사회에서 비롯됩니다. 사람들이 동료들과 직접 연결되면 친구 선택에 도움이되는 사회적 편향이 그들이 보는 정보에 영향을 미치게됩니다.

사실, 우리의 연구에서 우리는 트위터 사용자의 정치적 경향을 결정한다. 단순히 친구들의 편견을 바라 봄으로써 이 구조의 우리의 분석 당파 통신 네트워크 발견 된 소셜 네트워크는 정보를 유포하는 데 특히 효과적입니다. 그들은 서로 밀접하게 묶여 있고 사회의 다른 부분과 단절되어있다..

자신의 소셜 서클에서 나온 정보를 더 잘 평가하는 경향은 "반향 실"의식적이든 우연적이든 조작을 위해 익숙하다. 이렇게하면 왜 많은 온라인 대화가 "우리 대 그들"대치.

온라인 소셜 네트워크의 구조가 사용자를 허위 정보에 취약하게 만드는 방법을 연구하기 위해 허수아비, 신뢰성이 낮은 출처의 콘텐츠 확산을 추적하고 시각화하는 시스템 및 사실 확인 콘텐츠와 경쟁하는 방식 2016 미국 대통령 선거에서 Hoaxy가 수집 한 데이터를 분석 한 결과, 잘못된 정보를 공유 한 Twitter 계정이 거의 완전히 끊어짐 사실 확인자가 한 수정에서

우리가 잘못된 정보를 전수하는 계정을 뚫을 때, 우리는 몇 가지 봇을 포함하여 서로 배타적으로 얽혀있는 매우 밀집된 핵심 계정 그룹을 발견했습니다. 사실 확인 조직이 오보 그룹에 속한 사용자가 인용하거나 언급 한 유일한 시간은 정당성에 의문을 제기하거나 자신이 쓴 것과 반대라고 주장하는 경우입니다.

기계의 바이어스

세 번째 그룹의 편향은 사람들이 온라인에서 볼 수있는 것을 결정하는 데 사용되는 알고리즘에서 직접 발생합니다. 소셜 미디어 플랫폼과 검색 엔진 모두이를 사용합니다. 이러한 개인화 기술은 개별 사용자별로 가장 매력적이고 관련성있는 콘텐츠 만 선택하도록 설계되었습니다. 그러나 그렇게함으로써 사용자의인지 적, 사회적 편향을 강화시켜 결국 조작에 더욱 취약하게 만들 수 있습니다.

예를 들어, 상세한 많은 소셜 미디어 플랫폼에 내장 된 광고 도구 반기독교 운동가들이 악용하자. 확인 바이어스 by 메시지 맞춤 이미 그들을 믿을 의향이있는 사람들에게.

또한 사용자가 특정 뉴스 소스의 Facebook 링크를 자주 클릭하면 Facebook은 그 사람에게 그 사이트의 콘텐츠를 더 많이 보여주는 경향이있다.. 이른바 "필터 버블"효과는 사람들을 다양한 관점에서 격리시켜 확인 편견을 강화시킬 수 있습니다.

우리의 연구에 따르면 소셜 미디어 플랫폼은 사용자를 Wikipedia와 같은 비 소셜 미디어 사이트보다 덜 다양한 소스로 노출합니다. 이것은 단일 사용자가 아닌 전체 플랫폼 수준이기 때문에이를 동질성 편향.

소셜 미디어의 또 다른 중요한 요소는 클릭 수가 가장 많은 플랫폼에 따라 플랫폼에서 인기 급상승하는 정보입니다. 우리는 이것을 인기 편견왜냐하면 인기있는 콘텐츠를 홍보하기 위해 고안된 알고리즘이 플랫폼의 전반적인 정보 품질에 부정적인 영향을 줄 수 있기 때문입니다. 이것은 또한 기존의인지 편견에 영향을 미치고, 품질에 관계없이 대중적으로 보이는 것을 보완합니다.

이러한 모든 알고리즘 바이어스는 다음에 의해 조작 될 수 있습니다. 사교 봇, 소셜 미디어 계정을 통해 인간과 상호 작용하는 컴퓨터 프로그램. 트위터 같은 대부분의 소셜 봇 빅 벤 (Big Ben), 무해하다. 그러나 일부는 실제 성격을 숨기고 악의적 인 의도로 사용됩니다. 잘못된 정보를 부추 기다 또는 거짓으로 풀뿌리 운동의 모습을 창조한다., 또한 "astroturfing"이라고 불렀습니다. 이러한 유형의 조작에 대한 증거 2010 미국 중순 선거에 이르기까지.

이러한 조작 전략을 연구하기 위해 우리는 소위 말하는 사회 봇을 탐지하는 도구를 개발했습니다. 보톡터. Botometer는 기계 학습을 사용하여 게시물 시간, 트윗의 수, Twitter 계정의 수천 가지 기능을 검사하여 로봇 계정을 탐지합니다. 그것은 완벽하지는 않지만, 트위터 계정의 15 %는 봇이되는 징후를 보여줍니다..

Botaxometer를 Hoaxy와 함께 사용하여 2016 미국 대통령 캠페인 중 잘못된 정보 네트워크의 핵심을 분석했습니다. 피해자의인지, 확인 및 인기 편향과 Twitter의 알고리즘 편향을 이용한 많은 봇을 발견했습니다.

이러한 봇은 취약한 사용자 주위에 필터 버블을 생성하여 허위 주장 및 잘못된 정보를 제공 할 수 있습니다. 첫째, 그들은 후보자의 해시 태그를 tweeting하거나 그 사람을 언급하고 retweeting하여 특정 후보를지지하는 인간 사용자의 관심을 끌 수 있습니다. 그런 다음 봇은 특정 키워드와 일치하는 신뢰도가 낮은 출처의 기사를 다시 묶어 상대방이 번지는 거짓 주장을 증폭시킬 수 있습니다. 이 활동은 알고리즘이 널리 공유되는 다른 사용자의 허위 이야기를 강조 표시하도록합니다.

복잡한 취약점 이해

우리 연구와 다른 사람들이 개인, 기관, 심지어는 사회 전체가 어떻게 소셜 미디어에서 조작 될 수 있는지 보여 주지만, 많은 질문 답장을 남겼습니다. 이러한 다양한 편향 요소가 서로 어떻게 상호 작용 하는지를 발견하여 잠재적으로보다 복잡한 취약점을 발견하는 것이 특히 중요합니다.

우리와 같은 도구는 인터넷 사용자에게 그릇된 정보에 대한 더 많은 정보를 제공하므로 해로움으로부터 어느 정도 보호받을 수 있습니다. 해결책은 기술적 인 것만은 아니다., 아마 그들에게 기술적 측면이있을 것이다. 그러나 그들은 고려해야한다. 인지 및 사회적 측면 문제의