1956년, 20대 초반의 런던 여행 중 수학자이자 이론생물학자인 잭 D. 코완(Jack D. Cowan)은 윌프레드 테일러(Wilfred Taylor)와 그의 이상한 새로운 “학습 기계". 도착하자마자 그는 자신과 마주한 “거대한 장치 뱅크”에 당황했습니다. Cowan은 단지 서서 "기계가 그 일을 하는" 것을 지켜볼 수 있었습니다. 그것이 하고 있는 것처럼 보이는 것은 "연상 기억 체계"를 수행하는 것이었습니다. 연결을 찾고 데이터를 검색하는 방법을 배울 수 있는 것처럼 보였습니다.
그것은 수많은 전선과 상자에 손으로 납땜한 투박한 회로 블록처럼 보일 수도 있지만, Cowan이 목격한 것은 초기 아날로그 형태의 신경망이었습니다. 많이 논의됨 ChatGPT 거의 모든 명령에 응답하여 작성된 콘텐츠를 생성하는 기능이 있습니다. ChatGPT의 기본 기술은 신경망입니다.
Cowan과 Taylor는 서서 기계가 작동하는 것을 지켜보면서 기계가 이 작업을 어떻게 수행하고 있는지 정확히 알지 못했습니다. Taylor의 신비한 기계 두뇌에 대한 답은 "아날로그 뉴런" 어딘가, 기계 메모리에 의해 만들어진 연관성, 그리고 가장 중요하게는 자동화된 기능이 실제로 완전히 설명될 수 없다는 사실에서 찾을 수 있습니다. 이러한 시스템이 목적을 찾고 그 힘이 잠금 해제되는 데는 수십 년이 걸릴 것입니다.
신경망이라는 용어는 광범위한 시스템을 통합하지만 중앙 집중식으로 IBM에 따르면, 이러한 "인공 신경망(ANN) 또는 시뮬레이션 신경망(SNN)이라고도 알려진 신경망은 기계 학습의 하위 집합이며 딥 러닝 알고리즘의 핵심입니다." 결정적으로, 용어 자체와 그 형태 및 "구조는 인간의 두뇌에서 영감을 얻어 생물학적 뉴런이 서로 신호를 보내는 방식을 모방합니다".
초기 단계에서는 그 가치에 대해 약간의 의심이 있었을 수 있지만, 몇 년이 지나면서 AI 패션은 확고하게 신경망 쪽으로 방향을 틀었습니다. 이제는 종종 AI의 미래로 이해됩니다. 그것들은 우리와 인간이 된다는 것이 무엇을 의미하는지에 대해 큰 의미를 갖습니다. 우리는 들었다 최근 이러한 우려가 반영됨 그 의미에 대한 확신을 보장하기 위해 6개월 동안 새로운 AI 개발을 일시 중지할 것을 요청했습니다.
신경망을 단지 화려하고 눈길을 끄는 새로운 장치에 관한 것이라고 무시하는 것은 분명 실수입니다. 그것들은 이미 우리 삶에 잘 자리잡고 있습니다. 일부는 실용성이 강력합니다. 1989년에 AT&T Bell Laboratories의 Yann LeCun이 이끄는 팀은 역전파 기술을 사용하여 시스템을 훈련시켰습니다. 손으로 쓴 우편번호 인식. 최근 마이크로소프트의 발표 Bing 검색이 AI에 의해 구동되어 "웹의 부조종사"가 될 것이라는 점은 우리가 발견한 것과 이를 이해하는 방법이 점차 이러한 유형의 자동화의 산물이 될 것임을 보여줍니다.
패턴을 찾기 위해 방대한 데이터를 활용하는 AI도 마찬가지로 빠른 속도로 이미지 인식과 같은 작업을 수행하도록 훈련될 수 있습니다. 얼굴 인식, 예를 들어. 패턴을 식별하는 이러한 능력은 다음과 같은 다른 많은 응용 프로그램으로 이어졌습니다. 주식 시장 예측.
신경망은 우리가 해석하고 의사소통하는 방식도 변화시키고 있습니다. 흥미로운 제목으로 개발되었습니다. 구글 브레인 팀, 구글 번역 신경망의 또 다른 두드러진 적용입니다.
당신은 체스나 장기를 가지고 게임을 하고 싶지 않을 것입니다. 규칙을 이해하고 전략과 기록된 모든 동작을 기억한다는 것은 그들이 게임에 매우 능숙하다는 것을 의미합니다(ChatGPT는 Wordle과의 싸움). 인간 바둑 플레이어(바둑은 까다로운 전략 보드 게임으로 악명 높음)와 체스 그랜드마스터를 괴롭히는 시스템은 다음과 같습니다. 신경망으로 만든.
그러나 그 범위는 이러한 사례를 훨씬 뛰어넘어 계속해서 확장되고 있습니다. "신경망"이라는 정확한 문구에 대한 언급으로만 제한된 특허를 검색하면 135,828개의 결과가 생성됩니다. 이러한 급속하고 지속적인 확장으로 인해 AI의 영향력을 완전히 설명할 수 있는 가능성은 더욱 희박해질 수 있습니다. 제가 연구하면서 조사해 본 질문은 다음과 같습니다. 그리고 알고리즘적 사고에 관한 나의 새 책.
'알 수 없음'의 신비한 층
신경망의 역사를 되돌아보면 우리의 현재를 정의하는 자동화된 결정이나 미래에 더 심오한 영향을 미칠 결정에 대해 중요한 사실을 알 수 있습니다. 또한 그들의 존재는 우리가 시간이 지남에 따라 AI의 결정과 영향을 훨씬 덜 이해하게 될 가능성이 있음을 말해줍니다. 이러한 시스템은 단순한 블랙박스가 아니며, 보거나 이해할 수 없는 시스템의 숨겨진 부분이 아닙니다.
그것은 뭔가 다른 것, 즉 이러한 시스템 자체의 목표와 설계에 뿌리를 둔 것입니다. 설명할 수 없는 것에 대한 오랜 추구가 있습니다. 불투명할수록 시스템은 더욱 정통하고 발전된 것으로 간주됩니다. 이는 단지 시스템이 더욱 복잡해지거나 지적 재산에 대한 통제로 인해 액세스가 제한되는 것만이 아닙니다(이것이 일부이긴 하지만). 대신에 그들을 이끄는 정신은 “알 수 없음”에 특별하고 내재된 관심을 갖고 있다고 말하는 것입니다. 미스터리는 신경망의 형태와 담론 자체에도 코드화되어 있습니다. 여기에는 깊게 쌓인 레이어(그래서 딥 러닝이라는 표현)가 있으며, 그 깊이 안에는 훨씬 더 신비롭게 들리는 "숨겨진 레이어"가 있습니다. 이러한 시스템의 신비는 표면 아래 깊숙이 숨겨져 있습니다.
인공 지능이 우리 삶에 미치는 영향이 커질수록 우리는 그 방법과 이유를 덜 이해하게 될 가능성이 높습니다. 오늘날에는 설명 가능한 AI에 대한 강력한 추진이 있습니다. 우리는 그것이 어떻게 작동하는지, 어떻게 결정과 결과에 도달하는지 알고 싶습니다. EU는 잠재적으로 "허용할 수 없는 위험"과 심지어 "위험한" 적용에 대해 매우 우려하고 있어 현재 진행 중입니다. 새로운 AI 법안 "안전하고 신뢰할 수 있으며 윤리적인 인공 지능의 개발"을 위한 "글로벌 표준"을 설정하려는 의도입니다.
이러한 새로운 법칙은 설명가능성의 필요성에 기초할 것입니다. 그것을 요구 "고위험 AI 시스템의 경우 AI로 인한 기본권과 안전에 대한 위험을 완화하기 위해 고품질 데이터, 문서화 및 추적성, 투명성, 인간 감독, 정확성 및 견고성에 대한 요구 사항이 엄격하게 필요합니다." 이는 자율주행차 같은 것에만 해당되는 것이 아니라(안전을 보장하는 시스템은 EU의 고위험 AI 범주에 속하지만), 앞으로 인권에 영향을 미칠 시스템이 등장할 것이라는 걱정이기도 하다.
이는 AI 활동을 확인, 감사 및 평가할 수 있도록 AI의 투명성을 요구하는 광범위한 요구의 일부입니다. 또 다른 예는 왕립학회(Royal Society)의 것이다. 설명 가능한 AI 정책 브리핑 그들은 "전 세계의 정책 논쟁에서 AI 지원 시스템의 설계 및 배포에 윤리적 원칙을 포함시키려는 노력의 일환으로 AI 설명 가능성에 대한 요구가 점점 더 많이 나타나고 있다"고 지적합니다.
그러나 신경망의 이야기는 우리가 미래에 그 목표에 가까워지기보다는 그 목표에서 더 멀어질 가능성이 있음을 말해줍니다.
인간의 두뇌에서 영감을 얻었습니다
이러한 신경망은 복잡한 시스템일 수 있지만 몇 가지 핵심 원칙을 가지고 있습니다. 인간의 두뇌에서 영감을 받아 생물학적, 인간적 사고의 형태를 복사하거나 시뮬레이션하려고 합니다. 구조나 디자인 면에서는 다음과 같습니다. IBM도 설명한다, "입력 레이어, 하나 이상의 숨겨진 레이어 및 출력 레이어를 포함하는 노드 레이어"로 구성됩니다. 그 안에서 “각 노드, 즉 인공 뉴런은 다른 노드와 연결됩니다.” 출력을 생성하려면 입력과 정보가 필요하기 때문에 "시간이 지남에 따라 정확도를 배우고 향상시키기 위해 훈련 데이터에 의존합니다". 이러한 기술적 세부 사항은 중요하지만 인간 두뇌의 복잡성을 바탕으로 이러한 시스템을 모델링하려는 바람도 마찬가지입니다.
이러한 기술 세부 사항이 실제로 무엇을 의미하는지 이해하려면 이러한 시스템 뒤에 있는 야망을 파악하는 것이 중요합니다. 안에 1993 인터뷰, 신경망 과학자 Teuvo Kohonen은 "우리의 신경계가 본능적으로 수행하는 것과 유사한 것"을 작동시키는 "자기 조직화" 시스템이 "나의 꿈"이라고 결론지었습니다. 예를 들어, 코호넨은 스스로 모니터링하고 관리하는 시스템인 "자기 조직화" 시스템이 "모든 비행기, 제트기, 모든 원자력 발전소 또는 모든 기계에 대한 모니터링 패널로 사용될 수 있는 방법"을 설명했습니다. 자동차". 그는 이것이 미래에 “시스템이 어떤 상태에 있는지 즉시 알 수 있다”는 것을 의미한다고 생각했습니다.
가장 중요한 목표는 주변 환경에 적응할 수 있는 시스템을 갖추는 것이었습니다. 그것은 즉각적이고 자율적이며 신경계 스타일로 작동할 것입니다. 사람의 개입 없이 스스로 처리할 수 있는 시스템을 갖는 것이 꿈이었습니다. 뇌, 신경계 및 실제 세계의 복잡성과 미지의 내용은 곧 신경망의 개발 및 설계에 영향을 미치게 됩니다.
'뭔가 수상한데'
그러나 1956년으로 돌아가서 그 이상한 학습 기계로 돌아가서, Taylor가 그것을 만들 때 취한 실습 접근 방식이 즉시 Cowan의 관심을 끌었습니다. 그는 조각조각 조립하는 데 분명히 땀을 흘렸습니다. 테일러, 코완은 관찰했다 이러한 시스템에 대한 이야기에서 자신의 인터뷰에서 "이론적으로 한 것도 아니고 컴퓨터에서 한 것도 아닙니다"라고 말했습니다. 대신 그는 도구를 손에 들고 "실제로 하드웨어를 구축했습니다". 그것은 물질적인 것이었고, 부품들의 조합이었고, 심지어는 장치였을 수도 있습니다. 그리고 Taylor는 "그것을 만들고 가지고 놀기 위해 몇 년이 걸렸다"고 말하면서 "모든 것이 아날로그 회로로 이루어졌습니다"라고 말했습니다. 시행착오를 겪은 사례입니다.
당연히 Cowan은 자신이 보고 있는 것을 파악하고 싶었습니다. 그는 Taylor에게 이 학습 기계를 그에게 설명하도록 하려고 했습니다. 해명은 나오지 않았습니다. Cowan은 Taylor에게 그 일이 어떻게 작동하는지 설명하도록 할 수 없었습니다. 아날로그 뉴런은 미스터리로 남아있었습니다. 더 놀라운 문제는 Taylor가 "무슨 일이 일어나고 있는지 스스로 이해하지 못했다"는 점이라고 Cowan은 생각했습니다. 이는 서로 다른 전공을 가진 두 과학자 사이의 일시적인 의사소통 단절이 아니라 그 이상이었습니다.
에서 1990년대 중반 인터뷰, Taylor의 기계를 회상하면서 Cowan은 "현재 출판된 논문에서는 그것이 어떻게 작동하는지 잘 이해할 수 없습니다"라고 밝혔습니다. 이 결론은 미지의 것이 신경망에 어떻게 깊이 내장되어 있는지 암시합니다. 이러한 신경 시스템의 설명 불가능성은 거의 70년 전으로 거슬러 올라가는 기본 및 발달 단계에서부터 존재했습니다.
이 미스터리는 오늘날에도 남아 있으며 발전하는 AI 형태에서 발견될 것입니다. Taylor의 기계에 의해 만들어진 연관성의 기능에 대한 헤아릴 수 없음으로 인해 Cowan은 "뭔가 수상한 일"이 있는지 궁금해했습니다.
길고 얽힌 뿌리
Cowan은 몇 년 후 자신의 작품이 어떻게 받아들여졌는지 물었을 때 Taylor와의 짧은 방문을 다시 언급했습니다. Cowan은 1960년대에 사람들이 "아날로그 신경망의 요점을 파악하는 데 약간 느렸다"고 회상했습니다. Cowan은 Taylor의 1950년대 연구에도 불구하고 "아날로그 뉴런"을 기반으로 한 "연상 기억"에 대해 이렇게 회상했습니다. 노벨상을 수상한 신경 시스템 전문가, 레온 N. 쿠퍼(Leon N. Cooper), 결론 1960년대 뇌 모델 적용과 관련된 발전은 "심각한 미스터리 중 하나로" 간주되었습니다. 이러한 불확실성으로 인해 신경망이 무엇을 달성할 수 있는지에 대한 회의론이 남아 있었습니다. 그러나 상황은 서서히 변하기 시작했습니다.
약 30년 전 신경과학자인 Walter J. Freeman은 다음과 같은 사실에 놀랐습니다.주목할 만한” 신경망에 대해 발견된 다양한 응용 프로그램은 이미 그가 이를 “근본적으로 새로운 종류의 기계”로 보지 않는다는 사실을 언급하고 있었습니다. 기술이 먼저 나온 다음 후속 응용 프로그램이 발견되면서 천천히 소모되었습니다. 시간이 걸렸습니다. 실제로 신경망 기술의 뿌리를 찾으려면 Cowan이 Taylor의 신비한 기계를 방문했던 것보다 더 멀리 돌아갈 수도 있습니다.
신경망 과학자 제임스 앤더슨과 과학 저널리스트 에드워드 로젠펠드 지적했다 신경망의 배경은 1940년대로 거슬러 올라가며 그들이 설명하는 것처럼 "인간의 신경계를 이해하고 우리가 하는 방식으로 작동하는 인공 시스템을 최소한 조금이라도 구축"하려는 일부 초기 시도로 거슬러 올라갑니다. 그리하여 1940년대에는 인간 신경계의 신비가 컴퓨팅 사고력과 인공지능의 신비로 바뀌었습니다.
이 긴 이야기를 요약하면, 컴퓨터 과학 작가는 래리 하디스티(Larry Hardesty)는 다음과 같이 지적했습니다. 신경망 형태의 딥 러닝은 "70년 이상 유행했다가 사라졌다"고 합니다. 더 구체적으로 그는 이러한 "신경망은 1944년에 처음으로 제안되었습니다. Warren McCulloch와 Walter Pitts는 1952년에 MIT로 옮겨 최초의 인지 과학 부서라고도 불리는 부서의 창립 멤버였습니다."라고 덧붙였습니다.
다른 곳에서, 1943 때로는 기술의 첫 해로 주어진 날짜가 지정됩니다. 어느 쪽이든, 대략 70년 동안 신경망은 유행을 왔다 갔다 하며 종종 무시되었지만 때로는 더 주류적인 응용과 논쟁으로 자리잡아 이동했습니다. 불확실성은 계속됐다. 초기 개발자들은 종종 몇 년, 때로는 수십 년 후에 목적을 찾을 때까지 연구의 중요성이 간과되었다고 설명합니다.
1960년대부터 1970년대 후반으로 이동하면 이러한 시스템의 알려지지 않은 특성에 대한 추가 이야기를 찾을 수 있습니다. 1986년이 지난 지금도 신경망은 여전히 목적의식을 찾지 못하고 있었습니다. 심리학을 전공했으며 XNUMX년에 출판된 일련의 책의 공동 저자인 David Rumelhart는 나중에 신경망에 대한 관심을 다시 불러일으키고 신경망 개발에 협력하게 되었습니다. 동료인 Jay McClelland와 함께.
동료일 뿐만 아니라 그들은 최근 미네소타에서 열린 회의에서 서로 만났는데, 그곳에서 Rumelhart의 "스토리 이해"에 대한 강연은 대표자들 사이에서 토론을 불러일으켰습니다.
회의 후 McClelland는 모델을 결합하여 더욱 상호 작용할 수 있는 신경망을 개발하는 방법에 대한 생각을 가지고 돌아왔습니다. 여기서 중요한 것은 루멜하트의 기억 "컴퓨터를 만지작거리는 시간과 시간"에 관한 것입니다.
우리는 앉아서 이 모든 작업을 컴퓨터에서 수행하고 이러한 컴퓨터 모델을 만들었습니다. 하지만 우리는 그것들을 이해하지 못했습니다. 우리는 그들이 왜 일했는지, 왜 일하지 않았는지, 무엇이 그들에게 중요한지 이해하지 못했습니다.
Taylor와 마찬가지로 Rumelhart도 시스템을 만지작거리고 있었습니다. 그들 역시 작동하는 신경망을 만들었고, 결정적으로는 그것이 데이터로부터 학습하고 연관성을 찾는 것처럼 보이는 방식으로 작동하는 방식과 이유를 확신하지 못했습니다.
뇌를 모방 - 층층이
신경망의 기원을 논의할 때 뇌의 이미지와 이것이 불러일으키는 복잡성이 결코 멀지 않다는 것을 이미 알아차렸을 것입니다. 인간의 두뇌는 이러한 시스템에 대한 일종의 템플릿 역할을 했습니다. 특히, 초기 단계에서 여전히 잘 알려지지 않은 부분 중 하나인 뇌는 신경망이 어떻게 작동하는지에 대한 모델이 되었습니다.
따라서 이러한 실험적인 새로운 시스템은 그 기능 자체가 거의 알려지지 않은 것을 모델로 삼았습니다. 신경컴퓨팅 엔지니어 카버 미드(Carver Mead) 공개적으로 말을 하더군요 그가 특히 매력적이라고 생각한 "인지 빙산"의 개념에 대해. 우리가 알고 있고 눈으로 볼 수 있는 것은 의식의 빙산의 일각일 뿐입니다. 나머지 부분의 규모와 형태는 표면 아래에 알려지지 않은 채 남아 있습니다.
1998년에 제임스 앤더슨한동안 신경망 분야에서 일해 온 는 뇌에 대한 연구에 있어서 "우리의 주요 발견은 우리가 실제로 무슨 일이 일어나고 있는지 모른다는 인식인 것 같다"고 언급했습니다.
자세한 계정에는 2018년 파이낸셜 타임즈, 기술 저널리스트인 Richard Waters는 신경망이 어떻게 "인간의 뇌가 작동하는 방식에 대한 이론을 모델로 삼아 식별 가능한 패턴이 나타날 때까지 인공 뉴런 층을 통해 데이터를 전달"한다고 언급했습니다. Waters는 "전통적인 소프트웨어 프로그램에 사용되는 논리 회로와는 달리 이 프로세스를 추적하여 컴퓨터가 특정 답변을 제시하는 이유를 정확히 식별할 수 있는 방법이 없습니다"라고 제안하면서 이로 인해 연쇄 문제가 발생한다고 제안했습니다. Waters의 결론은 이러한 결과를 선택 취소할 수 없다는 것입니다. 여러 계층을 통해 데이터를 취하는 이러한 유형의 뇌 모델을 적용한다는 것은 답을 쉽게 추적할 수 없음을 의미합니다. 다중 레이어링이 그 이유 중 좋은 부분입니다.
강건한 또한 이러한 시스템은 "인간의 두뇌를 느슨하게 모델화"한 것으로 관찰되었습니다. 이는 뇌와 조화를 이루기 위해 훨씬 더 많은 처리 복잡성을 구축하려는 열망을 가져옵니다. 이 목표의 결과는 "촘촘하게 상호 연결된 수천 또는 수백만 개의 간단한 처리 노드로 구성되는" 신경망입니다. 데이터는 이러한 노드를 통해 한 방향으로만 이동합니다. Hardesty는 "개별 노드가 데이터를 수신하는 아래 계층의 여러 노드와 데이터를 보내는 위 계층의 여러 노드에 연결될 수 있다"는 사실을 관찰했습니다.
인간 두뇌 모델은 처음부터 이러한 신경망이 어떻게 구상되고 설계되었는지의 일부였습니다. 이는 뇌 그 자체가 당시의 미스터리였다는 점을 고려할 때 특히 흥미롭습니다(그리고 여러 면에서 여전히 그렇습니다).
'적응이 게임의 전부입니다'
미드(Mead)와 코호넨(Kohonen) 같은 과학자들은 자신이 속한 세계에 진정으로 적응할 수 있는 시스템을 만들고 싶었습니다. 그것은 그 조건에 반응할 것이다. Mead는 신경망의 가치가 이러한 유형의 적응을 촉진할 수 있다는 점을 분명히 했습니다. 당시 이러한 야망을 반성하면서, 미드 추가됨 적응을 생산하는 것이 "전체 게임"입니다. 그는 "현실 세계의 특성 때문에" 이러한 적응이 필요하다고 생각했고, "절대적인 작업을 수행하기에는 너무 가변적"이라고 결론지었습니다.
이 문제는 특히 "신경계가 오래 전에 알아낸" 문제이기 때문에 고려해야 할 필요가 있다고 그는 생각했습니다. 이 혁신가들은 뇌의 이미지와 그 미지의 이미지를 가지고 작업했을 뿐만 아니라 이를 "실제 세계"의 비전과 이것이 가져오는 불확실성, 미지의 요소 및 가변성과 결합했습니다. Mead는 시스템이 상황에 대응하고 적응할 수 있어야 한다고 생각했습니다. 없이 교수.
1990년대 비슷한 시기에 수학, 심리학, 생명의학 공학을 넘나드는 인지 시스템 전문가인 스티븐 그로스버그(Stephen Grossberg)는 또 이렇게 주장했다. 적응은 장기적으로 중요한 단계가 될 것입니다. Grossberg는 신경망 모델링 작업을 하면서 "생물학적 측정 및 제어 시스템이 급변하는 세상에 실시간으로 신속하고 안정적으로 적응하도록 설계하는 방법에 관한 것"이라고 생각했습니다. 앞서 "자기 조직화" 시스템에 대한 코호넨의 "꿈"에서 본 것처럼, "실제 세계"라는 개념은 반응과 적응이 이러한 시스템에 코드화되는 맥락이 됩니다. 현실 세계를 어떻게 이해하고 상상하느냐에 따라 이러한 시스템이 적응하도록 설계되는 방식이 결정됩니다.
숨겨진 레이어
레이어가 증가함에 따라 딥 러닝은 새로운 깊이를 더해갔습니다. 신경망은 훈련 데이터를 사용하여 훈련됩니다. 하디스티 설명, "최하위 레이어인 입력 레이어에 공급되고 후속 레이어를 통과하여 복잡한 방식으로 곱해지고 추가되어 최종적으로 출력 레이어에 도착하여 근본적으로 변형됩니다." 레이어가 많을수록 변환이 더 커지고 입력에서 출력까지의 거리가 멀어집니다. 예를 들어 게임 분야에서 그래픽 처리 장치(GPU)의 개발로 인해 Hardesty는 "1960년대의 1980계층 네트워크와 15년대의 50~XNUMX계층 네트워크가 XNUMX개, XNUMX개, 심지어 XNUMX개 계층으로 꽃피울 수 있었습니다"라고 덧붙였습니다. -오늘의 레이어 네트워크”.
신경망은 점점 더 깊어지고 있습니다. 실제로 Hardesty에 따르면 "'딥 러닝'의 '딥'이 지칭하는 것"이 바로 이러한 레이어 추가입니다. 그는 "현재 딥 러닝은 인공 지능 연구의 거의 모든 영역에서 최고의 성능을 발휘하는 시스템을 담당하고 있기 때문에" 이것이 중요하다고 제안합니다.
하지만 미스터리는 더욱 깊어집니다. 신경망의 계층이 높아질수록 복잡성도 커졌습니다. 이는 또한 이러한 깊이 내에서 "숨겨진 층"이라고 불리는 것의 성장을 가져왔습니다. 신경망에서 최적의 숨겨진 레이어 수에 대한 논의가 진행 중입니다. 미디어 이론가 베아트리체 파지(Beatrice Fazi)가 썼습니다. “심층 신경망이 뉴런의 첫 번째 계층(입력 계층)과 마지막 계층(출력 계층) 사이에 끼어 있는 숨겨진 신경 계층에 의존하여 작동하는 방식으로 인해 딥 러닝 기술은 종종 불투명하거나 읽기 어려운 경우가 많습니다. 원래 그것을 설정한 프로그래머”.
레이어가 증가하면(숨겨진 레이어 포함) 설명하기가 더욱 어려워집니다. 심지어 레이어를 만드는 사람에게도 마찬가지입니다. 저명한 학제간 뉴미디어 사상가 캐서린 헤일스(Katherine Hayles)도 비슷한 점을 지적했습니다. 또한 언급 “우리가 시스템에 대해 얼마나 알 수 있는지, 신경망과 딥러닝 알고리즘의 '숨겨진 레이어'와 관련된 결과"에는 한계가 있다는 것입니다.
설명할 수 없는 것을 추구하는 것
종합해 보면, 이러한 오랜 발전은 기술 사회학자가 주장하는 것의 일부입니다. 타이나 부커 '미지의 문제'라고 불렀습니다. 과학적 지식에 대한 영향력 있는 연구를 AI 분야로 확장하는 해리 콜린스 는 것을 지적했다 신경망의 목적은 적어도 처음에는 인간에 의해 생성될 수 있다는 것입니다. 그러나 일단 작성된 프로그램은 말하자면 그 자체의 삶을 살아갑니다. 큰 노력 없이도 프로그램이 정확히 어떻게 작동하는지 알 수 없는 상태로 남을 수 있습니다.” 이는 자기 조직화 시스템에 대한 오랜 꿈을 반영합니다.
여기에 덧붙이자면, 미지의 것, 심지어는 알 수 없는 것까지도 초기 단계부터 이러한 시스템의 기본 부분으로 추구해 왔다는 것입니다. 인공 지능이 우리 삶에 미치는 영향이 커질수록 우리는 그 방법과 이유를 덜 이해하게 될 가능성이 높습니다.
그러나 그것은 오늘날 많은 사람들에게 잘 어울리지 않습니다. 우리는 AI가 어떻게 작동하는지, 그리고 AI가 우리에게 영향을 미치는 결정과 결과에 어떻게 도달하는지 알고 싶습니다. AI의 발전이 세계에 대한 우리의 지식과 이해, 우리가 발견한 것, 대우받는 방식, 학습하고 소비하고 상호 작용하는 방식을 지속적으로 형성함에 따라 이해하려는 충동은 커질 것입니다. 설명 가능하고 투명한 AI에 관한 신경망의 이야기는 우리가 미래에 그 목표에 가까워지기보다는 그 목표에서 더 멀어질 가능성이 있음을 말해줍니다.
이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.
