동물을 이해하는 것이 인공 지능을 최대한 활용할 수있는 방법자율주행 자동차는 이보다 더 똑똑하지 않습니다. X 긍정

매일 전 세계 수많은 소스에서 셀 수 없이 많은 헤드라인이 등장합니다. 끔찍한 결과에 대한 경고유토피아적인 미래를 약속하다 – 모두 인공 지능 덕분입니다. AI는 "직장을 변화시키고 있다"고 썼습니다. 월스트리트 저널반면 잡지에서는 우리가 “우리 삶을 변화시킬” “AI 혁명”에 직면해 있다고 말합니다. 그러나 우리는 AI와의 상호작용이 어떤 것인지, 또는 어떤 모습이어야 하는지 실제로 이해하지 못합니다. 대화

하지만 AI에 대해 생각할 때 사용할 수 있는 개념이 이미 있다는 것이 밝혀졌습니다. 바로 동물에 대해 생각하는 방식입니다. 사람들이 AI를 어떻게 사용하는지 연구하는 전직 동물 조련사(간단하긴 하지만)로서 저는 동물과 동물 훈련이 우리가 현재와 미래에 인공 지능에 대해 어떻게 생각하고, 접근하고, 상호 작용해야 하는지에 대해 많은 것을 가르쳐 줄 수 있다는 것을 알고 있습니다. 미래.

동물 비유를 사용하여 일반 사람들이 인공 지능의 많은 복잡한 측면을 이해하는 데 도움이 될 수 있습니다. 또한 이러한 시스템에 새로운 기술을 가장 잘 가르치는 방법과 아마도 가장 중요한 것은 AI의 새로운 가능성을 축하하면서도 한계를 적절하게 인식할 수 있는 방법에 대해 생각하는 데 도움이 될 수 있습니다.

제약조건 살펴보기

AI 전문가로서 매기 보덴 설명, “인공지능은 정신이 할 수 있는 일을 컴퓨터가 하게 만드는 것을 추구합니다.” AI 연구자들은 컴퓨터가 추론하고, 인지하고, 계획하고, 움직이고, 연관을 맺도록 가르치는 작업을 진행하고 있습니다. AI는 대규모 데이터 세트의 패턴을 확인하고, 이벤트 발생 가능성을 예측하고, 경로를 계획하고, 개인의 회의 일정을 관리하고, 심지어 전쟁 게임 시나리오를 플레이할 수도 있습니다.

이러한 기능 중 상당수는 그 자체로는 놀라운 일이 아닙니다. 물론 로봇은 공간을 굴러 다닐 수 있으며 어떤 것과도 충돌하지 않습니다. 그러나 컴퓨터가 이러한 기술을 결합하여 작업을 수행하기 시작하면 AI가 더욱 마법처럼 보입니다.


내면의 구독 그래픽


예를 들어 자율주행 자동차를 생각해 보세요. 무인자동차의 시초는 1980년대 국방고등연구계획국(Defense Advanced Research Project Agency) 프로젝트에서 비롯됐다. 자율 육상 차량. 이 프로젝트의 목표는 컴퓨터 비전, 인식, 계획 및 로봇 제어에 대한 연구를 장려하는 것이었습니다. 2004년에 ALV 노력이 처음으로 이루어졌습니다. 웅대 한 도전 자율주행차를 위해. 노력이 시작된 지 30년이 지난 지금, 우리는 민간 시장에서 자율주행 자동차의 벼랑 끝에 서 있습니다. 초창기에는 그런 일이 불가능하다고 생각하는 사람이 거의 없었습니다. 컴퓨터는 운전을 할 수 없었기 때문이죠!

DARPA 그랜드 챌린지는 자율주행차 개발을 추진했습니다.

{youtube}M2AcMnfzpNg{/youtube}

그러나 우리가 본 것처럼, 그들은 할 수있다. 자율주행차의 기능은 우리가 비교적 이해하기 쉽습니다. 그러나 우리는 그들의 한계를 이해하려고 노력합니다. 후 2015년 테슬라의 치명적인 충돌사고, 자동차의 자동 조종 장치 기능이 트랙터 트레일러가 차선을 가로지르는 것을 감지하지 못한 경우, Tesla의 자동 조종 장치가 실제로 얼마나 제한적인지 중력을 파악하는 사람은 여전히 ​​거의 없는 것 같습니다. 회사와 소프트웨어가 과실이 없어졌다 미국 고속도로 교통 안전국(National Highway Traffic Safety Administration)에 따르면 고객이 자동차가 할 수 있는 것과 할 수 없는 것을 실제로 이해하고 있는지 여부는 여전히 불분명합니다.

Tesla 소유자에게 자신이 그렇지 않다는 말을 들었다면 어떨까요? 자동 조종 장치의 "베타" 버전 운전 오히려 반자율 자동차에 가깝습니다. 벌레의 정신적 동등성? '를 제공하는 소위 '지능'완전한 자율주행 능력"는 실제로 물체를 감지하고 피하는 데 능숙하고 이미지의 항목을 인식하며 제한된 계획을 세우는 데 꽤 능숙한 거대한 컴퓨터입니다. 이는 인간의 개입이나 감독 없이 자동차가 실제로 얼마나 많은 일을 할 수 있는지에 대한 소유자의 관점을 바꿀 수 있습니다.

그것은 무엇인가?

기술자들은 AI가 어떻게 구축되었는지를 설명하려고 종종 노력합니다. 예를 들어, 깊은 학습. 사용하는 기술입니다 다층 네트워크 작업을 수행하는 방법을 배우기 위해. 네트워크는 방대한 양의 정보를 처리해야 합니다. 그러나 필요한 데이터의 양, 네트워크의 연관성 및 알고리즘의 복잡성으로 인해 인간이 자신이 하는 일을 어떻게 배우는지 불분명한 경우가 많습니다. 이러한 시스템은 특정 작업을 매우 잘 수행할 수 있지만 실제로는 이해하지 못합니다.

AI를 초인간적이거나 외계인으로 생각하는 대신, 우리가 훈련받은 지능적인 비인간인 동물에 비유하는 것이 더 쉽습니다.

예를 들어, 내가 사용한다면 강화 학습 개가 앉도록 훈련시키기 위해 나는 개를 칭찬하고 개가 명령에 따라 앉을 때 간식을 줄 것입니다. 시간이 지나면서 그는 명령과 행동을 대접과 연관시키는 법을 배웠습니다.

개에게 앉는 법을 가르치는 것은 인공 지능을 훈련시키는 것과 매우 비슷합니다.

{youtube}5-MA-rGbt9k{/youtube}

AI 시스템을 훈련시키는 것도 거의 동일할 수 있습니다. ~ 안에 강화 딥러닝, 인간 설계자는 시스템을 설정하고, 시스템이 배우고 싶은 것을 구상하고, 정보를 제공하고, 동작을 관찰하고, 원하는 것이 보일 때 피드백(예: 칭찬)을 제공합니다. 본질적으로 우리는 훈련하는 동물을 대하는 것처럼 AI 시스템을 대할 수 있습니다.

비유는 더 깊은 수준에서도 작동합니다. 나는 앉아 있는 개가 "사랑"이나 "좋은"과 같은 복잡한 개념을 이해할 것이라고 기대하지 않습니다. 나는 그가 행동을 배우기를 기대하고 있습니다. 개가 앉고, 머물고, 굴러다니게 할 수 있는 것처럼, AI 시스템이 공공 도로에서 자동차를 움직일 수 있도록 할 수 있습니다. 하지만 자동차에 기대하는 것은 너무 과한 일이다.”해결" 긴급 운전 시 발생할 수 있는 윤리적 문제.

연구자에게도 도움이 된다

AI를 훈련 가능한 동물로 생각하는 것은 단지 일반 대중에게 설명하는 데만 유용한 것이 아닙니다. 또한 기술을 구축하는 연구원과 엔지니어에게도 도움이 됩니다. AI 학자가 시스템에 새로운 기술을 가르치려고 한다면 동물 조련사의 관점에서 프로세스를 생각하면 잠재적인 문제나 합병증을 식별하는 데 도움이 될 수 있습니다.

예를 들어, 내가 내 개를 앉도록 훈련하려고 할 때마다 내가 "앉아"라고 말할 때마다 오븐의 부저가 울리면 내 개는 앉는 것을 내 명령뿐 아니라 개가 앉는 소리와도 연관시키기 시작할 것입니다. 오븐의 부저. 본질적으로 버저는 개에게 앉으라고 알리는 또 다른 신호가 되는데, 이를 '우연한 강화'라고 합니다. 제대로 작동하지 않는 AI 시스템에서 우발적인 강화나 신호를 찾으면 무엇이 잘못되었는지는 물론 어떤 특정 재교육이 가장 효과적인지 더 잘 알 수 있습니다.

이를 위해서는 AI 훈련 중에 우리가 제공하는 메시지와 AI가 주변 환경에서 무엇을 관찰하고 있는지 이해해야 합니다. 오븐 부저는 간단한 예입니다. 실제 세계에서는 훨씬 더 복잡할 것입니다.

AI의 지배자를 환영하고 우리의 삶과 직업을 로봇에게 넘겨주기 전에 우리는 잠시 멈춰서 우리가 만들어내는 지능의 종류에 대해 생각해 보아야 합니다. 그들은 특정 행동이나 작업을 매우 잘 수행하지만 개념을 이해하지 못하고 아무것도 모릅니다. 그래서 당신이 생각할 때 수천 명을 포격하다 새로운 Tesla 자동차의 경우 자동 조종 기능이 실제로는 매우 빠르고 섹시한 벌레라는 점을 기억하십시오. 정말로 당신의 삶과 당신이 사랑하는 사람들의 삶을 벌레에게 통제권을 주고 싶나요? 아마도 그렇지 않을 것입니다. 그러니 운전대를 잡고 잠들지 마십시오.

저자에 관하여

헤더 로프(Heather Roff), 옥스퍼드 대학교 정치 및 국제 관계학과 선임 연구원; 연구 과학자, 글로벌 보안 이니셔티브, 애리조나 주립 대학

이 기사는 원래에 게시되었습니다. 대화. 읽기 원래 기사.

관련 서적

at 이너셀프 마켓과 아마존