인공 지능 시스템이 민주주의를 위협 할 수있는 방법

개인 정보 보호

미국 기술 대기업 마이크로 소프트는 중국 군대와 협력했다. 발전시키다 인공 지능 시스템 잠재적으로 정부의 감시 및 검열 능력을 향상시킬 수 있습니다. 두 미 상원 원내 비난 파트너십,하지만 국방 기술 대학교 중국 마이크로 소프트가 바라는 것이 유일한 관심사는 아니다.

As 내 연구에, 디지털 억압의 도래는 중대한 영향을 미치고있다. 시민과 국가의 관계. 신기술은 각 개인을 감시, 추적 및 감시 할 수있는 전례없는 능력을 갖춘 정부를 무력화시키고 있습니다. 강한 전통을 가진 민주주의 국가의 정부조차도 법의 지배 학대하려는 유혹을 느낀다. 이 새로운 능력.

주에서 책임질 수없는 기관 및 빈번한 인권 침해인공 지능 시스템이 큰 피해를 줄 가능성이 높습니다. 중국은 저명한 사례입니다. 그 리더십은 AI 기술을 열정적으로 받아 들였고, 세계의 가장 정교한 감시 상태 in 신강시민의 일상적 움직임과 스마트 폰 사용을 추적합니다.

이러한 기술의 활용 차가운 모델을 제시하다 동료 독재자들에게는 민주 사회를 개방하려는 직접적인 위협이된다. 다른 정부가이 수준의 인공 지능 감시를 복제했다는 증거는 없지만 중국 기업들은 전 세계에 동일한 기본 기술을 적극적으로 수출하고 있습니다.

미국 인공 지능 도구에 대한 의존도 증가

인공 지능 시스템 현대 사회의 모든 곳에서 스마트 폰, 인터넷 검색 엔진, 디지털 음성 보조 장치 및 Netflix 영화 대기열을 운영합니다. 많은 사람들이 깨닫지 못한다. 분석 할 데이터의 양이 지속적으로 증가하고 알고리즘 및 고급 컴퓨터 칩이 향상되어 AI가 얼마나 빨리 확장되고 있는지 파악할 수 있습니다.

더 많은 정보가 이용 가능 해지고 분석이 용이 해지면 정부는 독점적 인 것이 아니라 관심을 갖게됩니다. 예를 들어, 미국에서 1970는 FBI, CIA 및 NSA와 같은 정부 기관이 설립 한 계시를 보았습니다 광대 한 국내 감시 네트워크 시민권 시위자, 정치 활동가 및 아메리카 인디언 그룹을 감시하고 괴롭 히고 있습니다. 이러한 문제는 사라지지 않았습니다. 오늘날 디지털 기술은 더욱 많은 관료 기관이 더 관여하는 감시를 수행하는 능력을 강화했습니다.

개인 정보 보호 경찰이 가장 집중해야 할 곳을 알고리즘이 얼마나 정확하게 예측합니까? 아르노 드 브리스

예를 들어, 미국 경찰은 열성적으로 인공 지능 기술을 채택했습니다. 그들은 소프트웨어를 사용하기 시작했습니다. 범죄가 어디에서 일어날 지 예측할 수있다. 경비원을 어디로 파견할지 결정할 수 있습니다. 그들은 또한 얼굴 인식 그리고, DNA 분석 형사 조사에서. 그러나이 시스템의 분석은 해당 시스템에 대한 교육을받은 데이터 종종 편향되어 불공정 한 결과같은 거짓으로 아프리카 계 미국인이 범죄를 저지를 가능성이 더 높다고 결정합니다. 다른 그룹보다.

전세계 AI 감시

권위주의 국가에서는 인공 지능 시스템이 직접 국내 통제 및 감시를 도울 수 있습니다. 내부 보안군은 엄청난 양의 정보를 처리합니다. - 소셜 미디어 게시물, 문자 메시지, 전자 메일 및 전화 통화 포함 -보다 빠르고 효율적으로. 경찰은 사회적 추세를 파악하고 특정인 누가이 시스템들에 의해 밝혀진 정보에 기초하여 정권을 위협 할지도 모릅니다.

예를 들어, 중국 정부는 AI를 중국 내의 소수 민족이 살고있는 지역에서 대규모 단속에 사용했습니다. 신장 및 티베트의 감시 시스템은 "오웰 인"이러한 노력에는 의무적 인 DNA 샘플, Wi-Fi 네트워크 모니터링 및 광범위한 안면 인식 카메라 (모두 통합 데이터 분석 플랫폼에 연결됨). 이 시스템의 도움으로 중국 당국은 미 국무부에 따르면 " 1 및 2 백만 명.

My 전세계 90 국가를 대상으로 한 조사 태국, 터키, 방글라데시, 케냐를 포함한 폐쇄적 인 권위주의에서 결함이있는 민주주의에 이르기까지 정부 유형이있다. 나는 중국 기업들이 인공 지능 감시 기술 수출 이 국가들의 54 이상. 종종이 기술은 중국의 주력 제품의 일부로 포장되어 있습니다. 벨트 및 도로 이니셔티브, 도로, 철도, 에너지 파이프 라인 및 통신 네트워크의 광범위한 네트워크에 자금을 공급하고있다. 세계 인구의 60 %에게 서비스 제공 그리고 세계 GDP의 40 %를 생성하는 경제.

예를 들어 중국 기업은 화웨이 와 ZTE는 "스마트 도시"를 파키스탄, 필리핀 그리고, 케냐광범위한 내장형 감시 기술을 특징으로합니다. 예를 들어, Huawei는 보니파시오 글로벌 시티 필리핀에서는 고화질 인터넷 연결 카메라를 통해 "24 / 7 지능형 보안 감시 데이터 분석을 통해 범죄를 탐지하고 트래픽을 관리 할 수 ​​있습니다. "

개인 정보 보호 필리핀의 Bonifacio Global City에는 많은 감시 장비가 내장되어 있습니다. alveo land / 위키 미디어 공용

히크 비전, 이투 그리고, 센스 타임 같은 장소에서 사용하기 위해 최첨단 안면 인식 카메라를 공급하고 있습니다. 싱가포르 -와 함께 감시 프로그램의 설립을 발표 램프 포스트에 장착 된 110,000 카메라 도시 국가 주변. 짐바브웨는 국가 이미지 데이터베이스 얼굴 인식에 사용할 수 있습니다.

그러나 이익을위한 첨단 장비 판매는 명시적인 지정 학적 목적을 가진 기술 공유와는 다릅니다. 이러한 새로운 기능은 세계 감시의 씨앗을 심을지도 모릅니다. 정부가 인구를 관리하고 권력을 유지하기 위해 점점 더 중국 기술에 의존하게됨에 따라 중국의 의제에 부응해야 할 더 큰 압력에 직면하게 될 것입니다. 그러나 현재 중국의 주요 동기는 신기술 시장을 장악하고 그 과정에서 많은 돈을 버는 것입니다.

인공 지능과 잘못된 정보

AI는 포괄적이고 세분화 된 감시 기능을 제공 할뿐만 아니라 억압적인 정부가 가용 정보를 조작하고 잘못된 정보를 전파하는 데 도움을 줄 수 있습니다. 이러한 캠페인은 자동화 또는 자동화 지원이 가능하며 과다 개인화 된 메시지 - 또는 -에 대항 - 특정인 또는 그룹.

인공 지능은 또한 일반적으로 "딥 페이크, "알고리즘이 생성됩니다 현실적인 비디오 및 오디오 위조. 진실과 허구 사이의 물을 혼란스럽게하는 것은 딱딱한 선거에서 유용 할 수 있습니다. 한 후보가 상대방을 보여주는 가짜 비디오를 만들어 실제로는 결코 일어나지 않은 것을 말하면됩니다.

초기 deepfake 비디오는 선진 기술의 위험성을 보여줍니다.

내 견해로, 민주주의 국가의 정책 입안자는 자신의 사회와 세계의 독재 정권 하에서 살아가는 사람들에게 인공 지능 시스템의 위험에 대해 신중하게 생각해야합니다. 중요한 질문은 얼마나 많은 국가가 중국의 디지털 감시 모델을 채택 할 것인가하는 것입니다. 그러나 당혹감을 느끼는 것은 독재 국가가 아닙니다. 또한이 기술을 널리 보급하는 것은 중국 기업에 국한되지 않습니다. IBM, Cisco 및 Thermo Fisher 또한 까다로운 정부에 정교한 기능을 제공했습니다. 인공 지능의 오용은 독재 국가에만 국한되지 않습니다.대화

저자에 관하여

스티븐 펠드 스타 인 (Steven Feldstein), 프랭크 (Frank)와 베 티네 (Bethine) 교회 공보과 교수, 보이시 주립 대학

이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.

관련 서적

{amazonWS : searchindex = Books, keywords = AI 감시, maxresults = 3}

enafar에서 zh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelf을 (를) 팔로우하세요.

페이스 북-아이콘지저귀다 아이콘rss 아이콘

이메일로 최신 정보 얻기

{emailcloak = 오프}