민간 기업은 독립적 인 감독이나 규제없이 온라인 혐오를 치안하고 있으며, 이는 심각한 영향을 미치고 기본 인권과 자유에 대한 위험을 제기합니다. (Shutterstock)

최근 버지니아 주 샬롯 스빌 (Charlottesville, Va.)에있는 무장 한 백인 우월 주의자들의 성화 봉송 행진은 증오 집단이 어떻게 통제되어야하는지에 대한 논쟁을 계속하고 있습니다. 3 월에 이어 대중의 압력이 커지면서 인터넷 회사들은 폭력적인 증오 발언을지지하는 웹 사이트를 삭제하기 위해 급히 출동했다.

에서 GoDaddy 도메인 서비스를 해지했다. 네오 - 나치 웹 사이트 데일리 스토머 구글. 웹 사이트를 온라인 공격으로부터 보호하는 Cloudflare 금지 플랫폼에서 증오 웹 사이트. 러시아는이 사이트의 금지 명령을 내렸다. 그 나라에서 주최되는 것에서.

내 연구 내 책 초크 포인트 (Chokepoints) : 인터넷상의 글로벌 개인 규제 많은 인터넷 회사들이 이미 내용을 삭제하고 사용자를 "자발적으로"금지한다는 것을 입증합니다. 즉, 법률이나 사법 절차가없는 경우입니다. Google, PayPal, GoDaddy, Twitter 및 Facebook을 포함한 주요 중개 기관은 아동 성적 학대 콘텐츠, 극단주의 및 모조품에 대한 불법 거래를 자발적으로 경찰에 위탁합니다.

많은 사람들이 증오 발언 및 기타 불쾌한 콘텐츠를 절취하려는 노력에 박수를 보냅니다. 그러나 사실상 인터넷 규제 기관인 인터넷 회사의 노력은 심각한 질문을 제기합니다. 온라인 콘텐츠는 어떻게 규제되어야합니까? 누구에 의해?

나는 백인 우월 주의자들을지지하지 않으며 나는 그러한 연설의 일부 치안에 반대하지 않는다. 오히려 나는 온라인 콘텐츠를 어떻게 규제 할 것인가를 심각하게 고려할 필요가있다.

강력한 회사에 의존하여 인터넷을 단속하는 데는 심각한 문제가 있습니다. 그 이유는 집행 절차가 대충 불투명하고 임의적 인 해석을하기 쉽기 때문입니다.

혼란스런 선례

클라우드 플레어의 CEO 인 매튜 프린스 (Matthew Prince)는 데일리 스토머 (Daily Stormer) 반대자들에 대한 인터넷 회사들의 환호성과는 대조적으로, 대중의 압력에 대한 반응으로 혐오 집단으로부터 서비스를 철회하면 온라인 연설을 단속하는 선례가 있다고 경고했다. .

안에 블로그 게시물 Prince는 Dailyflour에 대한 Cloudflare의 행동을 설명하면서 Prince는 적법 절차가 언론의 자유보다는 "더 중요한 원칙"이라고 생각한다고 주장했습니다. 적법 절차는 "시스템에 참여할 경우 시스템이 따르는 규칙을 알 수 있어야합니다."이 진술은 콘텐츠 및 온라인 행동의 실질적인 규제자로 일하는 중개자의 내재적 인 문제를 적절하게 파악합니다.

올해 초, 직원 관리 수백 수천명의 사람들이 촉구하는 탄원 한 Breitbart Media의 인터넷 상점을 호스팅하는 것을 막을 수있는 온라인 상거래 플랫폼. 복직 된 집행 위원장 스티븐 배넌 통화 Breitbart "alt-right 플랫폼." 이른바 "alt-right"- 리처드 버트 랜드 스펜서 백인 우월 주의자, 분리 주의자, 신 나치, 파시스트, 인종 차별 주의자, 반유대 주의자, 이슬람 포용 주의자 및 대중 주의자 보수 주의자들의 혼합을 다룬다.

Shopify CEO 인 Tobias Lütke는 언변 언론 오타와 회사가 Breitbart의 온라인 상점을 계속 위협하는 가운데 직원 사임. 공개 후 압박 와 풀뿌리 운동 #DeleteShopify 더 많은 것을 밝혀내는 조사로 이끌어 냈다. 의심스러운 사업, Shopify는 강제 입양아 "허용되는 사용 정책."

대조적 인 The Daily Stormer의 예와 인터넷 회사에 의한 삭제, Breitbart에 대한 Shopify의 확고한 지원은 극심한 딜레마를 보여줍니다.

임의의 정책, 규제

인터넷 중개인은 법원 명령없이 신속하게 행동 할 수 있기 때문에 다양한 문제에 대한 강력한 규제자가 될 수 있습니다. 중요한 것은 콘텐트를 검열하거나 서비스 약관 (Terms of Service) 계약에 따라 사용자를 차단할 수있는 자유가 있다는 것입니다.

PayPal은 사용자에게 서비스를 해지 할 권리가 있습니다. "어떤 이유로 든 언제든지, "대부분의 중개인의 서비스 계약에 에코되는 언어. 따라서 임의 규제에 대한 역량은 중개자의 내부 규칙으로 구워진다.

왕자는 데일리 스토머 (Daily Stormer)에 대한 클라우드 플레어 (Cloudflare)의 조치가 중재인이 법원 명령없이 경찰 연설을하도록 선례를 세웠다고 경고했다.

이러한 중개인은 종종 기업이 인터넷 규제의 공개 (그러나 대부분 설명 할 수없는)면을 선호하는 정부의 요구에 따라 행동합니다. 그러나 그 회사들은 일반적으로 합법성을 불법적 인 것과 구별하고, 부당한 처분을 야기하며, 합법적 인 행동을 잘못 표적으로 삼는 데 부적절합니다.

동등하게 문제 : 중재자의 시행 프로세스는 콘텐츠 중재자가 복잡하고 빠르게 변화하는 내부 규칙을 임의로 해석 할 때 종종 불투명합니다. 이러한 문제는 중개자가 플랫폼에서 문제가되는 콘텐츠를 식별하고 제거하는 자동화 된 도구를 사용함에 따라 복합적으로 발생합니다.

룰이 최초로 아동 학대 나 테러에 대항하여 제정 된 소위 미션 크리프에 대한 우려가 있습니다.이 행동은 나중에 저작권이있는 콘텐츠의 무단 다운로드와 같이 다른 덜 해로운 문제에 적용됩니다.

디스토피아 적 미래가 여기에 있습니다.

규제 노력은 일반적으로 폭력적인 증오 발언을 검열하는 것에서 블랙 라이프 스 물질 (Black Lives Matter)과 같이 일부 사람들이 논란의 여지가있는 다른 연설로 확대됩니다. 또한 전 세계 정부는 정기적으로 중개인에게 검열과 추적 비평가들과 정치적 반대자들.

주요 중개자가 정부를 대신하여 콘텐츠를 치안하거나 유명 인사의 시위에 대응하여 책임을 맡은 규제 당국이되면 그들의 이미 상당한 권한이 증가합니다. 미국계 인터넷 기업들은 이미 검색, 광고, 도메인 등록, 지불 및 소셜 미디어 등 많은 산업 분야를 장악하고 있습니다. 구름 마귀의 왕자. 경고 "소수의 거대한 네트워크"에 따라 "소수의 회사가 온라인에서 할 수있는 것과 할 수없는 것을 결정할 것"이라고 말했다.

이 dystopian 미래는 이미 여기 있습니다.

Daily Stormer의 게시 중단은 의심의 여지없이 세상을 더 좋은 곳으로 만듭니다. 그러나 Facebook이나 Twitter와 같은 회사가 독립적으로, 임의로, 비밀리에 우리가 액세스하고 공유 할 수있는 콘텐츠를 결정하기를 정말로 원하십니까?

이러한 겉보기에는 다루기 힘든 문제를 감안할 때 우리는 무엇을 할 수 있습니까? 첫째, 우리는 항의 나 언론의 압력에 근거하여 통치하는 것을 피해야합니다. 대신, 명확한 규칙이 필요하다. Prince가 추천 한대로 중개인이 일관성 있고 투명하게 그리고 적법 절차를 존중하여 대응할 수 있도록합니다.

정부는 중개 기관의 규제 책임의 성격과 중요성을 분명히해야한다. 마지막으로, 우리는 소위 "가짜 뉴스", 테러리즘, 증오 그룹과 같은 특정 위기에 대응하여 통치를 중단하고 인터넷을 어떻게 통제 할 수 있는지에 대해 비판적으로 생각해야합니다.

저자에 관하여

나타샤 투시 코프 (Natasha Tusikov) 조교수, 범죄학, 사회 과학과, 요크 대학교, 캐나다

이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.

관련 서적

at 이너셀프 마켓과 아마존