미래 역사학자들은 2023년을 인공지능(AI) 도래의 획기적인 사건으로 여길 수도 있다. 하지만 그 미래가 증명될지는 이상향의, 묵시적인 or 어딘가에 누구나 추측입니다.
2월에는 ChatGPT가 가장 빠른 앱으로 기록을 세웠습니다. 100 만명. 그 뒤를 이어 Google, Amazon, Meta 및 기타 대형 기술 기업의 유사한 "대규모 언어" AI 모델이 뒤따랐으며, 이는 집합적으로 교육, 의료 및 기타 많은 지식 집약적 분야를 변화시킬 준비가 되어 있는 것으로 보입니다.
그러나 AI의 피해 가능성은 지난 5월에 한 보고서에 의해 강조되었습니다. 불길한 진술 주요 연구자들이 서명한 내용:
AI로 인한 멸종 위험을 완화하는 것은 전염병 및 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 전 세계적인 우선순위가 되어야 합니다.
지난 27월, AI 위험에 대한 우려가 커지면서 XNUMX개국(영국, 미국, 인도, 중국, 유럽연합 포함)이 영국 블레츨리 파크에서 열린 제XNUMX회 AI 안전 서밋에서 AI의 안전한 개발을 보장하기 위해 협력을 약속했습니다. 위해 모두의 이익.
이를 달성하기 위해 연구자들은 다음 사항에 집중합니다. AI 정렬 – 즉, AI 모델이 인간의 가치, 선호도 및 목표와 일치하는지 확인하는 방법입니다. 하지만 문제가 있습니다. 소위 AI는 “어두운 비밀”: 대규모 모델은 너무 복잡해서 블랙박스처럼 누구도 완전히 이해할 수 없습니다.
AI의 블랙박스 문제
AI 시스템의 투명성과 설명 가능성은 낮지만 중요한 연구 목표그러나 그러한 노력은 열광적인 혁신 속도를 따라잡을 수 없을 것 같습니다.
블랙박스 비유는 AI에 대한 사람들의 믿음이 왜 지도 전체에 퍼져 있는지를 설명합니다. 예측은 유토피아에서 멸종까지 다양하며, 많은 사람들은 인공 일반 지능(AGI)이 곧 등장할 것이라고 믿고 있습니다. 감각을 얻다.
그러나 이러한 불확실성은 문제를 더욱 악화시킵니다. AI 정렬은 양방향 도로여야 합니다. AI 모델이 인간의 의도와 일치하는지 확인해야 할 뿐만 아니라 AI에 대한 우리의 믿음이 정확해야 합니다.
우리는 자신도 모르게 그러한 믿음에 부합하는 미래를 창조하는 데 놀라울 정도로 능숙하기 때문입니다.
소위“기대 효과”, 즉 자기실현적 예언은 심리학에서 잘 알려져 있습니다. 연구 결과에 따르면 사용자의 신념을 조작하는 것은 사용자의 신념을 조작하는 것뿐만 아니라 AI와 상호작용하다, 하지만 AI가 어떻게 사용자에게 적응.
즉, 우리의 믿음(의식적이든 무의식적이든)이 AI에 어떻게 영향을 미치는지는 잠재적으로 재앙적인 결과를 포함한 모든 결과의 가능성을 높일 수 있습니다.
AI, 계산, 논리 및 산술
AI의 기초를 이해하려면 더 깊이 탐구해야 합니다. 마치 이상한 나라의 앨리스처럼 토끼굴로 내려가 우리가 어디로 가는지 확인해야 합니다.
먼저 AI란 무엇인가? 이는 컴퓨터에서 실행되며 자동화된 계산도 마찬가지입니다. 그 유래는 “퍼셉트론” – 1943년 신경생리학자가 수학적으로 정의한 인공 뉴런 워렌 맥컬록 그리고 논리학자 월터 피츠 – AI는 인지 과학, 신경 과학, 컴퓨터 과학과 얽혀 있습니다.
이러한 수렴은 마음, 두뇌 과 기계 AI는 기계에 의해 계산되기 때문에 자연 지능(마음)은 뇌에 의해 계산되어야 한다는 널리 알려진 믿음이 생겨났습니다.
그런데 계산이란 무엇입니까? 19세기 후반 수학자들은 리차드 데데킨트 과 주세페 페아노 일련의 공리를 제안했습니다. 논리의 관점에서 산술을 정의했습니다., 모든 수학을 안전한 기반 위에 두려는 영감 있는 시도 공식적인 기초.
비록 논리학자이지만 커트 고델 나중에 이 목표가 달성할 수 없는, 그의 작업은 수학자(그리고 암호해독자)의 출발점이었습니다. 앨런 튜링. 그의 "튜링 기”, 다음을 수행할 수 있는 추상 장치입니다. 범용 계산, 컴퓨터 과학의 기초입니다.
인식의 심층 구조
따라서 계산은 논리에서 산술을 정의하려는 노력으로 거슬러 올라가는 수학적 아이디어를 기반으로 합니다. 그러나 산술에 대한 우리의 지식은 존재합니다. 논리 이전에. AI의 기초를 이해하려면 더 나아가 산술 자체가 어디서 오는지 물어봐야 합니다.
내 동료들과 나는 최근에 산술이 다음을 기반으로 한다는 것을 보여주었습니다.깊은 구조” 인식의. 이 구조는 우리의 인식을 특정한 방식으로 형성하는 색안경과 같아서 세상에 대한 우리의 경험이 질서 있고 관리 가능하게 됩니다.
산술은 일련의 요소(숫자)와 요소 쌍을 결합하여 다른 요소를 제공하는 연산(덧셈, 곱셈)으로 구성됩니다. 우리는 질문했습니다. 모든 가능성 중에서 숫자가 요소이고 덧셈과 곱셈이 연산인 이유는 무엇입니까?
우리는 수학적 증명 지각의 심층 구조가 가능성을 제한한다고 가정했을 때 그 결과는 산술이었습니다. 즉, 우리 마음이 물리적 세계에 대한 경험을 형성하는 것과 동일한 "색 안경"을 통해 추상 세계를 볼 때 숫자와 산술을 "봅니다".
산술은 수학의 기초이기 때문에 수학은 마음의 반영, 즉 수학의 근본적인 성격과 창의성을 상징으로 표현한 것임을 의미합니다.
지각의 심층 구조는 다른 동물과 공유되어 진화의 산물이지만 수학을 발명한 사람은 오직 인간뿐입니다. 이는 우리의 가장 친밀한 창조물이며 아마도 가장 중요한 AI 개발을 가능하게 함으로써 가능합니다.
코페르니쿠스적 정신의 혁명
우리의 계정 산술의 유래 18세기 철학자 임마누엘 칸트의 견해와 일치한다. 그에 따르면, 세상에 대한 우리의 지식은 감각 경험 이전에 존재하는 공간과 시간에 대한 '순수한 직관'으로 구성됩니다. 이는 우리가 결코 제거할 수 없는 색안경과 유사합니다.
칸트는 자신의 주장을 철학 그것은 '마음의 코페르니쿠스적 혁명'이었다. 마찬가지로 고대 천문학자들은 지구의 운동을 알지 못하기 때문에 태양이 지구 주위를 돈다고 믿었고, 칸트는 모든 지식이 다음에서 유래한다고 믿었습니다. 감각 경험 (예를 들어 John Locke와 David Hume)은 마음이 어떻게 인식을 형성하는지 간과했습니다.
칸트의 견해는 다음과 같이 형성되었지만 그 시대의 자연 과학, 그들은 증명했다 현대 심리학에 영향을 미친.
산술이 하나라는 인식 우리 인식의 자연스러운 결과, 따라서 생물학적 기반은 계산에 대한 우리의 이해에 있어 유사한 칸트식 변화를 제안합니다.
계산은 수학적 진리의 추상적인 영역에서 우리와 분리되거나 "외부"에 있는 것이 아니라 우리 마음의 본성에 내재되어 있습니다. 마음은 계산 그 이상입니다. 뇌는 컴퓨터가 아니다. 오히려 AI의 기초인 계산은 수학과 마찬가지로 마음의 본성과 창의성을 상징적으로 표현한 것입니다.
프로메테우스의 불
AI에 미치는 영향은 무엇입니까? 첫째, AI는 마음이 아니며 결코 지각력을 가지지 않습니다. 우리의 마음을 클라우드에 업로드함으로써 생물학적 본성을 초월하고 불멸을 달성할 수 있다는 생각은 공상.
그러나 AI의 기반이 되는 마음의 원리가 모든 인류(그리고 다른 생명체도 마찬가지)가 공유한다면, 우리 개인의 마음의 한계를 초월하는 것이 가능할 수도 있습니다.
계산은 보편적이기 때문에 우리는 점점 더 연결되는 가상 세계와 물리적 세계에서 원하는 결과를 자유롭게 시뮬레이션하고 생성할 수 있습니다. 이처럼 AI는 진정으로 우리의 프로메테우스의 불, 신들로부터 훔친 인류에게 주어진 선물 그리스 신화.
글로벌 문명으로서 우리는 전환점에 있을 가능성이 높습니다. AI는 지각을 가지지 않고 다음을 결정합니다. 우리 모두를 죽여라. 그러나 우리는 그것으로 우리 자신을 “종말”할 수 있는 능력이 매우 뛰어납니다. 기대가 현실을 만들 수 있습니다.
AI 정렬, 안전 및 보안을 보장하기 위한 노력은 매우 중요하지만 인식과 집단적 지혜가 부족하면 충분하지 않을 수 있습니다. 앨리스처럼 우리도 꿈에서 깨어나 우리 마음의 현실과 힘을 인식해야 합니다.
이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.
