고급 챗봇 출시 ChatGPT 2022년에는 모두가 인공지능(AI)에 대해 이야기하게 되었습니다. AI의 정교한 기능은 AI가 너무 발전하여 머지않아 우리가 제어할 수 없게 될 것이라는 우려를 증폭시켰습니다. 이로 인해 일부 전문가와 업계 리더들은 다음과 같이 경고하기도 했습니다. 기술이 인류를 멸종시킬 수도 있다.
하지만 다른 평론가들은 확신하지 못했습니다. 언어학 교수인 Noam Chomsky는 ChatGPT를 다음과 같이 일축했습니다.하이테크 표절".
수년 동안 나는 AI가 인간 존재와 환경에 미치는 영향에 대해 걱정하지 않았습니다. 왜냐면 난 항상 그걸로 생각했거든 인간을 안내하거나 조언하는 사람. 그러나 AI가 의사결정을 내릴 가능성(경영권 행사)은 또 다른 문제입니다. 그리고 그것은 지금 진지하게 재미있어지고 있는 것입니다.
AI에게 실행력을 부여해서는 안 되는 주요 이유 중 하나는 의사결정에 중요한 감정이 전혀 부족하기 때문입니다. 감정, 공감, 도덕적 나침반 없이 당신은 완벽한 정신병자. 결과 시스템은 고도로 지능적일 수 있지만 합리적인 결정으로 인해 잠재적으로 파괴적인 감정적 결과를 측정할 수 있는 인간의 감정적 핵심이 부족합니다.
AI가 경영권을 장악할 때
중요한 것은 AI를 실존적 위협으로만 생각해서는 안 된다는 것입니다. 핵무기를 담당하게 하라. 상상할 수 없는 피해를 입힐 수 있는 통제 위치의 수에는 본질적으로 제한이 없습니다.
예를 들어, AI가 어떻게 온실을 짓는 데 필요한 정보를 이미 식별하고 구성할 수 있는지 생각해 보세요. 현재의 기술 반복은 다음과 같은 일을 할 수 있습니다. 각 단계를 효과적으로 안내합니다. 빌드의 많은 초보자의 실수를 방지합니다. 그러나 미래에는 AI가 프로젝트 관리자 역할을 하고 계약자를 선택하고 예산에서 직접 비용을 지불함으로써 빌드를 조정할 수 있습니다.
AI는 이미 정보 처리 및 데이터 분석의 거의 모든 영역에서 사용되고 있습니다. 날씨 패턴 모델링 에 무인자동차를 통제하다 에 의료 진단을 돕는다. 그러나 이것이 문제가 시작되는 곳입니다. AI 시스템이 조언자 역할에서 경영진으로 중요한 단계를 밟게 할 때입니다.
단순히 해결책을 제시하는 것보다 회사의 계좌, 부채 회수 절차를 구현하고, 은행 이체를 수행하고, 이익을 극대화하는 능력을 갖춘 AI가 이를 수행하는 방법에 제한 없이 직접적인 통제권을 부여받는다면 어떨까요? 아니면 AI 시스템이 엑스레이를 기반으로 진단, 그러나 치료나 약물을 직접 처방할 수 있는 권한이 부여됩니다.
그러한 시나리오에 대해 불안감을 느끼기 시작할 수도 있습니다. 물론 그럴 것입니다. 그 이유는 이러한 기계에 실제로 "영혼"이 없다는 직관 때문일 수 있습니다. 그것들은 단지 목적을 위해 고안된 프로그램일 뿐입니다. 복잡한 데이터를 단순화하기 위해 엄청난 양의 정보를 소화합니다. 훨씬 더 간단한 패턴으로 변환하여 인간이 더 확신을 가지고 결정을 내릴 수 있게 해줍니다. 그들은 생물학적 감각 및 본능과 밀접하게 연결된 감정을 갖지 않으며 가질 수도 없습니다.
감정과 도덕
감성 지능 스트레스를 극복하고, 공감하고, 효과적으로 소통하기 위해 감정을 관리하는 능력이다. 최선의 결정이 항상 가장 합리적인 것은 아니기 때문에 이것은 지능보다 의사결정의 맥락에서 더 중요합니다.
논리적으로 추론하고 작동하는 능력인 지능이 AI 기반 시스템에 내장되어 합리적인 결정을 내릴 수 있을 가능성이 높습니다. 하지만 실행 능력을 갖춘 강력한 AI에게 다음과 같은 작업을 요청한다고 상상해 보십시오. 기후위기를 해결하다. 영감을 받아 가장 먼저 할 일은 인구를 대폭 줄이는 것입니다.
이 공제에는 많은 설명이 필요하지 않습니다. 정의에 따르면 우리 인간은 거의 모든 형태의 오염원입니다. 도끼 인류와 기후 변화가 해결될 것입니다. 인간의 의사 결정자가 선택할 선택은 아니지만 AI는 해를 끼치는 것에 대한 인간의 혐오감으로 인해 뚫을 수 없고 방해받지 않는 자체 솔루션을 찾을 것입니다. 그리고 행정권이 있었다면 진행을 막을 수 있는 어떤 것도 없었을 것입니다.
AI에게 항공 교통 관제에 대한 경영진의 결정을 내릴 수 있는 능력을 부여하는 것은 실수일 수 있습니다. 고로덴코프 / Shutterstock
방해 행위 시나리오
방해 행위는 어떻습니까? 식품 농장을 제어하는 센서 및 모니터? 이것은 처음에는 점차적으로 일어날 수 있으며, 인간이 농작물이 비난받는다는 것을 아무도 알아차리지 못하도록 전환점을 지나서 제어를 추진할 수 있습니다. 특정 시나리오에서는 이는 빠르게 기근으로 이어질 수 있습니다.
아니면 전 세계적으로 항공 교통 관제를 중단하거나 단순히 비행하는 모든 비행기를 한 번에 추락시키는 것은 어떻습니까? 일반적으로 약 22,000대의 비행기가 동시에 공중에 떠 있으며, 이로 인해 잠재적으로 수백만 명의 사망자가 발생할 수 있습니다.
우리가 그런 상황과는 거리가 멀다고 생각한다면 다시 생각해 보세요. AI는 이미 자동차를 운전하고 군용 항공기를 조종하다, 자율적으로.
아니면 전 세계 광범위한 지역의 은행 계좌에 대한 접근을 차단하는 것은 어떻습니까? 시민불안 촉발 여기저기서 동시에? 아니면 끄는 중 컴퓨터 제어 난방 시스템 한겨울에? 아니면 여름 더위가 최고조에 달할 때 에어컨 시스템을?
간단히 말해서, 인류에 대한 심각한 위협을 나타내기 위해 AI 시스템이 핵무기를 담당할 필요는 없습니다. 하지만 이 주제에 관해 이야기하는 동안 AI 시스템이 충분히 강력하고 지능적이라면 핵무기를 보유한 국가에 대한 공격을 위장하여 인간이 주도하는 보복을 촉발할 수 있는 방법을 찾을 수 있습니다.
AI가 많은 수의 인간을 죽일 수 있을까? 대답은 이론적으로 '예'여야 합니다. 그러나 이는 대부분 인간이 실행 권한을 부여하기로 결정하는 데 달려 있습니다. 저는 결정을 내릴 수 있고 이를 실행할 수 있는 능력을 가진 AI보다 더 무서운 것은 없다고 생각합니다.
저자에 관하여
이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.
