단편 Slaughterbots는 가까운 미래에 마이크로 드론 떼가 정치적 신념으로 수천 명의 사람들을 암살한다고 묘사합니다. 11 월 2017에 출시 학계와 운동가들은 인공 지능 (AI)의 위험에 대해 경고하면서 3m의 조회수를 지금까지 끌어 모 으면서 급속히 퍼져 나갔습니다. 그것은 스파크를 도왔다 공개 토론 유엔의 자치 무기의 미래에 외교관 회의에 압력을 가하는 재래식 무기에 관한 협약.
그러나 이런 종류의 추론 적 공상 과학 소설은 단순히 관심을 끌기 위해 유용하지 않습니다. 첨단 기술을 설계하고 구축하는 사람들은 스토리를 사용하여 작업의 결과를 고려하여이를 잘 활용할 수 있습니다. 그리고 우리는 이런 종류의 "과학 소설 프로토 타입"또는 "디자인 소설"이 인간의 편견이 새로운 기술로 나아가는 것을 막아 사회의 편견과 불의를 더욱 강화시킬 수 있다고 생각합니다.
{vembed Y=9CO6M2HsoIA}
편견은 일부 범주 (결과, 사람 또는 아이디어)를 다른 범주보다 임의로 선호 할 수 있습니다. 예를 들어, 어떤 사람들은 의식이 있는지에 상관없이 임원 채용을 위해 여성을 고용하는 것에 대해 편견을 가질 수 있습니다. 그렇지 않은가.
그러한 편견을 기록하는 데이터를 기반으로 구축 된 기술 문제 복제. 예를 들어, 특정 직업에 가장 적합한 CV를 선택하도록 고안된 채용 소프트웨어는 무의식적 편견을 반영하는 특성을 찾도록 프로그래밍 될 수 있습니다. 이 경우 알고리즘은 남성의 이력서를 선호합니다. 그리고 이것은 이론적이지 않습니다 – 그것은 실제로 아마존에 일어났다.
부정적인 영향을 고려하지 않고 알고리즘 설계 비교되었습니다 의사에게“심각한 치료에 대해 주어진 치료의 이점에 대해 쓰고 부작용을 완전히 무시하는 것”.
일부 기술 회사와 연구원들은이 문제를 해결하려고 노력하고 있습니다. 예를 들어 Google은 윤리적 원칙의 집합 AI 개발을 안내합니다. 영국 학계는 같지 않음 기술의 설계와 사용에있어 공정성과 정의를 높이는 것을 목표로합니다.
문제는 공개적으로 기업이 가까운 미래 기술의 잠재적 결과에 대한 긍정적 인 비전만을 제공하는 경향이 있다는 것입니다. 예를 들어 무인 자동차는 종종 비용에서 안전까지 모든 운송 문제를 해결하는 것으로 묘사되며, 사이버 공격의 위험 또는 사람들이 걷거나 덜 순환.
디지털 기술의 작동 방식, 특히 모호한 알고리즘으로 인해 많은 기술을 이해하는 데 어려움을 겪으면 사람들이 문제에 대한 복잡하고 포괄적 인 견해를 갖기가 어려워집니다. 이러한 상황은 긍정적 인 내러티브와 편견이 우리 주변 기술에 어느 정도 포함되어 있다는 모호한 의심 사이에 긴장을 유발합니다. 디자인 소설을 통한 스토리 텔링이 등장 할 수 있습니다.
이야기는 가능성과 복잡한 상황에 대해 자연스럽게 생각하는 방법이며, 우리는 평생 듣고 있습니다. 공상 과학 소설은 Slaughterbots처럼 미래에 가까운 기술이 사회에 미치는 영향을 추측하는 데 도움이 될 수 있습니다. 여기에는 난민이나 이민자와 같은 특정 집단이 할 수있는 방식과 같은 사회적 정의 문제도 포함될 수 있습니다. 에서 제외 디지털 혁신.
(가능한) 미래를 공개
소설 이야기 디자인 디자이너, 엔지니어 및 미래 학자 (다른 사람들 중에서도)가 인간의 관점에서 기술의 영향에 대해 생각하고이를 가능한 미래의 요구와 연결하는 새로운 방법을 제공합니다. 논리와 상상력이 혼합 된 디자인 픽션은 기술에 대한 대화를 시작하면서 기술을 채택하고 사용하는 방법을 보여줍니다. 미래의 파급 효과.
예를 들어, 짧은 이야기 "범죄 소싱”AI가 크라우드 소싱 정보와 범죄 데이터베이스를 사용하여 누가 살인을 저지를 것인지 예측하는 경우 어떻게 될지 탐구합니다. 연구자들은 데이터베이스가 사회적 이유로 통계적으로 재범을 보일 가능성이 높은 소수 민족 집단으로 가득 차 있었기 때문에“범죄 소싱”모델이 소수를 잘못 의심하다 백인보다.
재능있는 작가가 아니거나 디자인 영화를 제작하기 위해 매끄러운 영화를 만들 필요는 없습니다. 카드 및 스토리 보드와 관련된 브레인 스토밍 활동 사용되었습니다 디자인 픽션을 개발하고 스토리 텔링 프로세스를 개발하는 데 도움을줍니다. 이러한 종류의 도구를 더 많이 사용하는 워크샵을 만들면 더 많은 엔지니어, 기업가 및 정책 입안자가이 평가 방법을 사용할 수 있습니다. 그리고 그 결과물을 공개적으로 이용 가능하게하면 기술이 사회에 영향을 미치기 전에 잠재적 인 편견을 노출시키는 데 도움이 될 것입니다.
이런 방식으로 더 많은 이야기를 만들고 공유하도록 디자이너를 장려하면 새로운 기술을 뒷받침하는 이야기가 긍정적 인 그림이나 극도로 부정적이거나 디스토피아적인 것만 제시하는 것은 아닙니다. 대신 사람들은 우리 주변에서 일어나는 일의 두 가지 측면을 모두 이해할 수있을 것입니다.
저자에 관하여
알레시오 말리 지아사용자 경험 디자인 교수 하트 퍼 드셔 대학 와 실비오 카르타예술 및 디자인 책임자 및 디자인 리서치 그룹 의장 하트 퍼 드셔 대학
이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.
