사진 : Norbert Aepli, 스위스 (사용자 : Noebu)

2016에서는자가 운전 차량이 주류를 이루었습니다. 우버의 자치 차량 유비 쿼터스가되었다. 피츠버그에 살고있는 지역 샌프란시스코에서 간단히. 미 교통부 발행 새로운 규제 지침 그들을 위해. 셀 수 없는 서류 과 열 자가 운전하는 방법을 설명하는 자동차 영상을 해결 윤리적 문제 일이 잘못 될 때. 불행하게도 2016는 자치 차량과 관련된 첫 번째 사망자.

자율 기술은 운송 부문을 넘어 빠르게 확산되고 있습니다. 건강 관리, 고급 사이버 방위 심지어 자율 무기. 2017에서는 이러한 기술을 신뢰할 수 있는지 여부를 결정해야합니다. 그것은 우리가 기대하는 것보다 훨씬 더 어려울 것입니다.

신뢰는 복잡하고 다양하지만 우리 삶의 핵심 부분이기도합니다. 우리는 종종 기술을 신뢰합니다. 예측 가능성에 기초: 이유를 모르더라도 특정 상황에서 어떤 일이 일어날지를 안다면 어떤 것을 신뢰합니다. 예를 들어, 내 컴퓨터를 신뢰하는 이유는 내 컴퓨터가 고장 날 때를 포함하여 어떻게 작동 하는지를 알고 있기 때문입니다. 다르게 또는 놀랍게 행동하기 시작하면 신뢰를 멈 춥니 다.

대조적으로, 나의 아내에 대한 나의 신뢰는 그녀의 신념, 가치 및 성격 이해. 더 일반적으로, 대인 관계의 신뢰는 다른 사람이 무엇을 할 것인지 정확하게 알지 못하는 것입니다. 제 아내는 때때로 저를 때로 놀라게합니다! - 오히려 그들은 그들이하는 것처럼 행동합니다. 그리고 물론, 우리는 그들이 무엇을 할 것인지, 왜 그렇게하는지 모두 알면 두 가지 방법으로 누군가 (또는 무언가)를 신뢰할 수 있습니다.

나는 윤리적 및 심리적 관점에서 자율 주행 자동차 및 기타 자율 기술에 대한 신뢰의 기반을 탐구 해왔다. 이것들은 장치이므로 예측 가능성이 핵심 요소처럼 보일 수 있습니다. 그러나 그들의 자율성 때문에 우리는 우리가 다른 인간을 신뢰하는 방식으로 그들을 신뢰하는 것을 배우는 것의 중요성과 가치, 그리고 도전을 고려해야합니다.

자율성 및 예측 가능성

우리는 스스로 운전하는 자동차를 포함한 우리의 기술이 우리가 예측하고 예상 할 수있는 방식으로 행동하기를 바랍니다. 물론 이러한 시스템은 다른 차량, 보행자, 기상 조건 등을 포함하여 상황에 매우 민감 할 수 있습니다. 그러나 일반적으로 같은 환경에 반복적으로 배치되는자가 운전의 자동차는 매번 유사하게 동작해야합니다. 그러나 이러한 예측 가능성이 높은 자동차는 어떤 의미에서 자동이 아닌 자율적 인 것입니까?

있다 된 . 다른 시도 에 밝히다 자치그러나 이들은 모두 공통점이 있습니다. 자율 시스템은 자체 (실질적인) 결정과 계획을 세울 수 있으며, 따라서 예상과 다르게 행동 할 수 있습니다.

사실 자율성을 채택하는 한 가지 이유는 (자동화와는 달리) 정확하게 시스템이 예기치 못한 놀랄만하지만 정당한 행동 과정을 추구 할 수 있다는 것입니다. 예를 들어, 딥 마인드의 알파고 Lee Sedol과의 최근 Go 시리즈의 두 번째 게임에서 우승했습니다. 인간의 플레이어는 만들지 않을 움직임이지만 그럼에도 불구하고 올바른 움직임. 그러나 이와 같은 놀라움으로 인해 예측 기반 신뢰를 수립하기가 어렵습니다. 예측 가능성만을 기반으로하는 강력한 신뢰는 시스템이 정상적으로 작동한다고 가정 할 때 예측 가능하기 때문에 자동 또는 자동 시스템에서만 가능합니다.

놀라움을 안겨다

물론, 다른 사람들은 종종 우리를 놀라게합니다. 그러나 우리는 그들을 놀라게 할 수 있으며, 심지어 우리 자신에게 생사가 힘을 줄 수 있습니다. 병사들은 복잡하고 적대적인 환경에서 동지들을 신뢰합니다. 환자는 그녀의 외과 의사가 종양을 절제한다고 믿는다; 좀 더 평범한 맥락에서 제 아내는 안전하게 운전할 수 있다고 믿습니다. 이런 대인 관계를 통해 우리는 놀라움을 포용 할 수있게되었으므로 아마도자가 운전의 자동차에 대인 관계의 신뢰를 쌓을 수 있습니까?

일반적으로 대인 관계 신뢰는 정확한 결정을 예측할 수 없더라도 누군가가 특정 방식으로 행동 한 이유를 이해해야합니다. 아내는 운전 방법을 정확하게 알지 못할 수도 있지만 운전할 때 내가 사용하는 추론을 알고 있습니다. 우리의 믿음, 욕망 및 경험과는 다른 "원료 성분"을 가지고 있지만, 우리 모두가 비슷하게 생각하고 추론하기 때문에 다른 사람이 무언가를하는 이유를 이해하는 것은 실제로 상대적으로 쉽습니다.

실제로, 우리는 계속해서 무의식적으로 다른 사람들의 행동에 근거한 다른 사람들의 신념과 욕구에 대해 추측합니다. 대개는 우리가 생각한대로 생각하고 추론하며 결정합니다. 공유 (인간)인지에 기반한 이러한 모든 추론과 추론은 우리가 다른 사람의 이유를 이해할 수있게하고, 시간이 지남에 따라 대인 관계를 구축 할 수있게합니다.

사람들처럼 생각하니?

자율 기술 - 특히자가 운전 방식의 자동차 - 사람처럼 생각하고 결정하지 마십시오. 두 가지 노력이있었습니다. 과거 과 최근인간처럼 생각하고 추론하는 컴퓨터 시스템을 개발하는 것입니다. 그러나 지난 20 년 동안 기계 학습의 한 일관된 주제는 인공 지능 시스템이 인간과 같은 방식으로 작동하지 않도록함으로써 엄청난 이득을 얻었습니다. 대신, AlphaGo와 같은 시스템 학습 알고리즘 및 시스템은 종종 인간 전문가보다 우월하다. 구체적이고 지역화 된 문제에 초점을 맞추고 인간과는 전혀 다른 방식으로 해결합니다.

결과적으로 인간과 같은 신념과 욕구의 관점에서 자율 기술을 해석하려는 시도는 대단히 잘못 될 수 있습니다. 인간의 운전자가 도로에서 볼을 볼 때 우리 대부분은 자동으로 속도를 줄여 차후에 쫓기고있는 어린이를 때리는 일이 없도록합니다. 우리가 자율 주행 차에 타고 거리로 공을 굴리는 경우, 우리는 차가 그것을 인식하고 아이들의 운행을 중단 할 준비를하길 기대합니다. 그러나 차는 피할 수있는 장애물 만 볼 수 있습니다. 속도를 늦추지 않고 움직이면 침입 한 사람이 놀랄 수 있습니다. 어린이가 위험 할 수 있습니다.

차가 어떤 인간 같은 신념이나 욕망을 가지지 않기 때문에, 자기 운전 차의 "신념"과 "욕망"에 대한 우리의 추측은 거의 틀림없이 중요한 방법으로 잘못 될 것입니다. 우리는 운전을 보면서 단순히 자기 운전 차량에 대한 대인 관계의 신뢰를 발전시킬 수 없습니다. 우리는 행동의 배후에있는 사람들을 정확하게 추론하지 않기 때문입니다.

물론 사회 나 시장 고객은 자기 운전 차량이 인간과 같은 (심리적 인) 특징을 지니고 있다고 주장 할 수 있습니다. 정확하게 우리는 그 차량에 대한 대인 관계를 이해하고 개발할 수있었습니다. 이 전략은 "인간 중심 디자인"시스템이 구체적으로 설계되어 그들의 행동이 인간에 의해 해석 될 수 있기 때문이다. 그러나 소설 알고리즘 과 기법 자가 운전 자동차 및 기타 자치 ​​기술에 대한 현재의 연구 및 개발 전략에서 엄청난 변화를 나타낼 것입니다.

자가 운전용 자동차는 운송 인프라를 근본적으로 바꿀 수있는 잠재력을 가지고 있지만 실제로 사용할 수있을만큼만 신뢰합니다. 아이러니하게도, 다양한 상황에서 유연하고 자율적 인 의사 결정을하는자가 운전용 자동차를 가치있게 만드는 바로 그 특징은 정확하게 그들을 믿을 수 없도록 만드는 것입니다.

위임장

David Danks, 철학 및 심리학 교수, 카네기 멜론 대학

이 기사는 원래에 게시되었습니다. 대화. 읽기 원래 기사.

관련 도서 :

at 이너셀프 마켓과 아마존