기술이 인권을 위협하는 이유

: By 비르기트 스키퍼스

방문해 주셔서 감사합니다 InnerSelf.com, 있는 곳에 20,000+ "새로운 태도와 새로운 가능성"을 홍보하는 삶을 변화시키는 기사. 모든 기사는 다음으로 번역됩니다. 30 개 이상의 언어. 확인 매주 발행되는 InnerSelf Magazine과 Marie T Russell의 Daily Inspiration에 게재됩니다. InnerSelf 매거진 1985년부터 출판되었다.

기술이 인권을 위험에 처하게하는 이유
Spainter_vfx / Shutterstock.com

같은 영화 2001 : 스페이스 오디세이, 블레이드 러너 과 터미네이터 불량 로봇과 컴퓨터 시스템을 영화관 스크린으로 가져왔습니다. 그러나 요즘에는 그러한 고전적인 공상 과학 안경이 현실과 그리 동떨어진 것 같지 않습니다.

점점 더 자율적이고 지능적인 컴퓨팅 기술로 살고 일하고 놀 수 있습니다. 이러한 시스템에는 독립적 인 추론 및 의사 결정 능력을 갖춘 소프트웨어 및 하드웨어가 포함됩니다. 그들은 공장 바닥에서 우리를 위해 일합니다. 그들은 우리가 담보를 얻을 수 있는지 여부를 결정합니다. 그들은 우리의 활동 및 체력 수준을 추적하고 측정합니다. 그들은 우리 거실 바닥을 청소하고 잔디를 자른다.

자율적이고 지능적인 시스템은 평범한 일상을 포함하여 사회, 경제, 정치 및 사생활의 거의 모든면에 영향을 줄 수 있습니다. 이 중 많은 부분이 결백 해 보이지만 걱정할 이유가 있습니다. 전산 기술은 권리에서 삶으로, 권리에서 사생활, 표현의 자유, 사회 경제적 권리에 이르기까지 모든 인권에 영향을 미친다. 그렇다면 로봇과 인공 지능 (AI)에 의해 점점 더 형성되는 기술 환경에서 인권을 어떻게 방어 할 수 있을까요?

인공 지능과 인권

첫째, 증가된 기계 자율성이 인간의 지위를 약화시킬 것이라는 진정한 두려움이 있습니다. 이러한 두려움은 지능형 기계가 해를 입힐 때 법적 또는 도덕적 의미에서 누가 책임을 져야 하는지에 대한 명확성의 부족으로 인해 더욱 심해집니다. 그러나 저는 인권에 대한 우리의 관심의 초점이 불량 로봇, 현재처럼 보입니다. 오히려 인간이 로봇과 인공 지능을 사용하고 부당하고 불평등한 정치적, 군사적, 경제적, 사회적 맥락에서 배치하는 것에 대해 걱정해야 합니다.

이러한 우려는 종종 킬러 로봇으로 묘사되는 치명적인 자율 무기 시스템(LAWS)과 관련하여 특히 적절합니다. 우리로 AI 무기 경쟁으로 나아가 다., 초법적, 약식 또는 자의적 처형에 관한 전 UN 특별 보고관인 크리스토프 하인스(Christof Heyns)와 같은 인권 학자 및 운동가들은 LAWS의 사용으로 자율 로봇 시스템이 삶과 죽음을 결정하는 사람인간의 통제가 제한적이거나 아예 없다.

AI는 또한 전쟁과 감시 관행 간의 연결을 혁신합니다. 다음과 같은 그룹 국제 로봇 암 제어위원회 (ICRAC) 최근 구글에 대한 반대 입장을 표명 프로젝트 메이븐, 초법적 살인에 사용될 수 있는 드론 감시 영상을 분석하기 위해 기계 학습을 사용하는 군사 프로그램입니다. ICRAC 호소 사용자에 대해 수집한 데이터가 군사적 목적으로 사용되지 않도록 Google에 제공하고 회사의 프로젝트 참여에 대한 Google 직원의 항의에 동참합니다. 구글이 최근 발표한 갱신하지 않을 것이다. 그것의 계약.

2013년 Edward Snowden은 감시 관행의 범위를 강조했습니다. 요한 계시록. 이를 통해 정보 기관, 정부 기관 및 민간 기업 간의 데이터 공유 및 프라이버시 권리에 대한 위협에 대해 많은 것을 배웠습니다. 최근 논란이 되고 있는 케임브리지 분석가가 Facebook과 같은 소셜 미디어 플랫폼을 사용하여 개인 데이터를 수집하는 것은 이번에는 표현의 자유에 대한 권리를 손상시키는 민주적 선거에 대한 조작 및 간섭에 대해 심각한 우려를 불러일으키고 있습니다.

한편, 중요한 데이터 분석가의 도전 차별 관행 그들이 AI의 "백인 문제"라고 부르는 것과 관련이 있습니다. 이는 기존 데이터로 훈련된 AI 시스템이 치안, 사법 결정 또는 고용과 같은 영역에서 차별적 관행을 영속시키는 기존의 인종 및 성별 고정관념을 복제한다는 우려입니다.

AI는 고정관념을 복제하고 강화할 수 있습니다. Ollyy / Shutterstock.com

모호한 봇

인권과 물리적, 정치적, 디지털 보안에 대한 컴퓨팅 기술의 잠재적 위협은 최근 발표된 연구에서 강조되었습니다. 인공 지능의 악의적 인 사용. 이 케임브리지 대학교 보고서에 표현된 우려 사항은 진지하게 받아들여야 합니다. 하지만 이러한 위협에 어떻게 대처해야 할까요? 인권은 로봇공학과 인공지능 시대를 맞이할 준비가 되었는가?

이 시대를 위한 기존의 인권 원칙을 업데이트하기 위한 지속적인 노력이 있습니다. 여기에는 다음이 포함됩니다. 사업 및 인권에 관한 UN 체제 및 지침, 쓰기 시도 디지털 시대의 마그나 카르타 미래의 생명 연구소 Asilomar 인공 지능 원리, 윤리적 연구, 가치 준수 및 AI의 장기적 유익한 개발에 대한 약속을 위한 지침을 식별합니다.

이러한 노력은 칭찬할 만하지만 충분하지는 않습니다. 정부 및 정부 기관, 정당 및 민간 기업, 특히 주요 기술 회사는 AI의 윤리적 사용에 전념해야 합니다. 우리는 또한 효과적이고 집행 가능한 입법 통제가 필요합니다.

우리가 도입하는 새로운 조치가 무엇이든, 우리의 삶이 점점 더 자율 기계 및 지능형 시스템과 얽혀 있음을 인정하는 것이 중요합니다. 이러한 얽힘은 의료 연구 및 치료, 운송 시스템, 사회 복지 환경 및 환경 보호 노력과 같은 영역에서 인간의 복지를 향상시킵니다.

그러나 다른 영역에서 이러한 얽힘은 걱정스러운 전망을 던졌습니다. 전산 기술은 우리의 행동과 행동을보고 추적하고, 단계, 위치, 건강, 취향 및 우정을 추적하는 데 사용됩니다. 이러한 시스템은 인간의 행동을 형성하고 우리의 자유를 축소하고 인권의 이상과 아이디어를 훼손하는 자기 감시 관행을 향해 우리를 움직입니다.

그리고 여기에는 핵심이 있습니다. 계산 기술의 이중 사용 능력은 수익성있는 행위와 악의적 인 행위 사이의 경계를 모호하게 만듭니다. 또한 계산 기술은 개별 시민, 주정부 및 정부 기관, 민간 기업 간의 불평등 한 권력 관계에 깊이 관여합니다. 효과적인 국내 및 국제 체킹 및 균형 시스템으로부터 벗어난다면, 그들은 우리의 인권에 대한 실질적이고 우려할만한 위협을 제기합니다.