실리콘 밸리가 빠르게 움직이고 방어에서 문제를 해결할 것인가?

: By 엘케 슈바르츠

이 기사에서 :

벤처 캐피탈리스트들은 군사용 AI 개발에 어떤 영향을 미치고 있는가?
실리콘밸리는 선거 간섭에 어떤 역할을 하는가?
"빠르게 움직이고 물건을 부수라"는 것이 방어에 위험한 주문인 이유는 무엇입니까?
통제되지 않는 AI 개발이 민주주의 자체를 위협할 수 있을까?
전쟁 기술 분야에 대한 벤처 캐피털의 윤리적 위험은 무엇입니까?

실리콘 밸리가 신속하게 움직여 방위 산업을 혁신할까?

엘크 슈바르츠의

나는 선전가입니다. 나는 진실을 왜곡하고, 내가 원하는 것을 사람들이 믿도록 선전하는 경우에만 내 버전을 내놓을 것입니다.

이것은 인기 TV 쇼 Mad Men에서 특히 활기찬 순간의 사운드바이트가 아닙니다. 이 단어들은 발화 실리콘 밸리에서 가장 인기 있는 군사 기술 스타트업의 CEO인 Palmer Luckey가 설립했습니다. Luckey의 회사인 Anduril Industries는 자율 무기 시스템을 포함한 인공지능 기반 시스템을 전문으로 합니다. 14억 달러의 가치를 지닌 Anduril은 달링 스 국방 스타트업 분야와 새롭게 떠오르는 벤처 캐피털(VC) 생태계에서는 큰 약속, 큰 투자, 선전적 경향이 성공에 필수적인 요소입니다.

인공 지능(AI)을 방위 프로그램, 더 나아가 무기 시스템에 통합하는 것은 여전히 논란의 여지가 있습니다. 영국 무기 시스템 위원회의 인공 지능 주의를 촉구하다 AI 기반 무기의 조달 프로세스에 대한 논의가 활발하지만 실리콘 밸리 제품의 경우와 마찬가지로 최근 몇 년 동안 AI 방위 프로그램의 개발, 조달 및 출시가 급격히 가속화되었습니다.

2017년에 설립된 Anduril은 이미 수백만 달러 규모의 여러 계약을 체결했습니다. 미국 국방부 (DoD) 및 영국 국방부 (MoD). 현재 진행 중인 러시아-우크라이나 전쟁, 가자 전쟁, 고조되는 세계적 긴장을 배경으로, 이는 놀라운 전개가 아닐 수 있습니다.

In 나의 최신 연구 군사 AI에 대해, 저는 자율 드론 및 기타 AI 기반 시스템과 같은 군사 스타트업 제품의 가속화된 조달의 주요 동인 중 하나가 막대한 벤처 캐피털 자금과 영향력의 유입이라고 파악했습니다. 이러한 벤처 캐피털 회사는 방위 기관이 기술 산업의 속도와 규모에 대한 정신과 벤처 캐피털 세계의 위험과 혁명에 대한 욕구를 채택해야 합니다. 이는 이러한 회사를 금융적 플레이어일 뿐만 아니라 정치적 플레이어이기도 하게 만듭니다.

내 연구, 금융과 사회에 게재됨, 벤처 캐피털의 이익에 의해 동기를 부여받은 실리콘 밸리의 이미지로 방위를 형성하는 이러한 추세가 더욱 두드러지고 널리 퍼질 가능성이 있음을 시사합니다. 이를 염두에 두고 벤처 캐피털이 생사의 문제에 눈을 돌릴 때 작용하는 역학을 더 자세히 살펴볼 가치가 있습니다.

부상하는 군사 금융화

군사 AI 산업과 글로벌 방위 지출은 모두 붐을 일으키고 있습니다. 현재 견적, 글로벌 군사 AI 시장은 13.3년에 2024억 달러 규모였으며, 향후 35년 동안 12억 달러로 성장할 것으로 예상됩니다. 이 수치는 컨설팅한 시장 데이터 서비스에 따라 다르지만, 지난 24개월 동안 정기적으로 상향 조정되었습니다. 글로벌 방위 예산도 지속적인 갈등과 지난 XNUMX개월 동안 군사화로의 전반적인 전환을 배경으로 급증했습니다.

글로벌 방위 지출 2년에는 2023조 달러가 넘는 기록적인 수준에 도달했습니다. 877억 달러로 미국 차지 40년 세계 국방비의 약 2023%를 차지합니다. 나토 동맹 1.47년에 2024조 XNUMX억 달러를 지출할 예정입니다. 이는 방위 시장에서 발판을 마련하려는 대형 기술 및 금융 회사들에게 크고 매력적인 숫자입니다.

The 인사이트 섹션 고품질을 위해 최선을 다하고 있습니다 장문 저널리즘. 저희 편집자는 다양한 배경을 가진 학자들과 협력하여 광범위한 사회적, 과학적 과제를 해결합니다.

한편, 방위 조직은 불가피하게 AI를 포함한 최첨단 기술에 더 많은 돈을 쓰기 시작했습니다. 2024 Brookings Institute Report 1200년 12월에서 2022년 2023월까지 XNUMX개월 동안 AI 관련 기술에 대한 방위 계약 가치가 약 XNUMX% 증가한 것으로 나타났습니다.

대부분의 새로운 AI 제품에는 민간 또는 그 외의 어떤 형태이든 벤처 캐피털 자금 조달이 종종 포함되는데, 특히 해당 AI 벤처가 은행 대출이나 기타 금융 상품을 통해 자금을 조달하기에는 너무 위험할 수 있는 경우 더욱 그렇습니다. 벤처 캐피털은 다른 자금 조달자가 기꺼이 하지 않거나 할 수 없는 혁신에 대한 베팅을 기꺼이 합니다.

지난 20년 동안 이러한 유형의 자금 조달은 주로 민간 시장을 위한 실리콘 밸리 제품에 집중되어 왔으며, 그 역동성 덕분에 투자자들은 엄청난 이익을 얻을 수 있었습니다. 하지만 방위 시장이 성장하고 상업 분야에서 엄청난 벤처 캐피털 수익의 기회가 줄어들면서, 투자할 자본이 많은 사람들은 방위에서 엄청난 이익을 얻을 수 있는 새로운 기회를 손이 닿는 곳에 보고 있습니다.

그렇다면 지난 2019년 동안 방위 기술에 대한 벤처 캐피털 투자가 급증한 것은 놀라운 일이 아닙니다. 2022년부터 XNUMX년까지 군사 기술 스타트업에 대한 미국 벤처 캐피털 자금 지원은 배, 그리고 2021년 이후로 방위 기술 부문은 주입 VC 자금은 130억 달러에 달합니다.

유럽 방위 산업의 벤처 캐피털 지출도 역대 최고치를 기록했습니다. 민간 VC 투자가 돌출한 대부분 미국 벤처 기업에 의해 주도된 기록적인 1억 달러에 도달했습니다. VC 지원 노력의 가능성과 방위 환경을 재편할 가능성에 대한 분위기가 공중에 감돌고 있습니다.

벤처캐피털-군사-실리콘밸리의 결합

벤처 캐피털은 항상 어떤 면에서 군사 부문과 연결되어 왔습니다. 사실, 벤처 캐피털 방위 투자의 현재 붐은 초기 시절로의 복귀로 볼 수 있습니다. 벤처 캐피털의 기원은 다음과 같습니다. 일반적으로 추적됨 1946년에 설립된 미국 연구개발기업(ARDC)은 제XNUMX차 세계대전 직후 미국이 최첨단 기술을 통해 최소한 부분적으로나마 승리를 거둔 데 힘입어 설립되었습니다.

ARDC는 높은 잠재력을 지녔지만 은행 대출에는 너무 위험한 신생 기업에 자금을 지원하기 위해 기관 투자자로부터 체계적으로 자본을 조달한 최초의 회사 중 하나였습니다. 이러한 접근 방식으로 ARDC는 투자 포트폴리오를 만든 최초의 벤처 캐피털 회사였으며, 이는 종종 매우 적은 수익이나 실제로 손실을 본 대부분의 회사를 상쇄하기 위해 하나 또는 두 개의 특별한 성공에 의존했습니다. 이런 방식으로 ARDC는 최초의 소위 "유니콘" 회사가 되었습니다.

유니콘은 1억 달러 이상의 가치를 받는 젊은 회사입니다(최근까지 스타트업에서는 매우 드문 경우였고 모든 투자자가 포트폴리오에서 탐내는 것입니다). 이것이 벤처 캐피털 투자의 핵심입니다. 잠재적으로 매우 높은 보상을 제공하는 위험 자본입니다.

특히 2차 세계대전 직후 초기에는 많은 투자가 신생 기업 지원에 투자되었습니다. 군사 혁신 및 기술. 이로 인해 다양한 분석 장비, 고전압 발전기, 방사선 감지 기술, 그리고 Digital Equipment Corporation과 같은 초기 미니 컴퓨터 회사가 생겨났습니다.

오늘날 우리가 알고 있는 디지털 풍경은 군대에서 유래되었습니다. 통신 이론의 혁신은 1950년대에 군사 미사일 기술을 위해 의도되었고, AI의 선조들은 거의 모두 XNUMX세기 중반 군사 프로젝트에 참여했으며 인터넷 자체도 군사 프로젝트, 당시에는 아르파넷이라고 불렸습니다.

많은 실리콘 밸리 기업들은 수십 년 동안 군사 부문과 얽혀 있었으며 인류학자 Roberto Gonzales가 말했듯이 쓴, 거의 "오늘날의 모든 기술 거대 기업은 방위 산업의 DNA를 가지고 있으며, 펜타곤과 협력한 오랜 역사를 가지고 있습니다." 따라서 벤처 캐피털의 DNA가 이 관계에 접목됩니다.

그러나 전통적으로 기술 혁신의 속도, 구조, 프로세스를 주로 결정한 것은 군사 조직과 정부의 요구였다는 점을 강조할 가치가 있습니다.

이제 군사 기술과 혁신의 속도와 초점은 점점 더 강력하고 목소리를 높이는 기술 스타트업 산업과 이를 지원하는 기관에 의해 설정되고 있으며, 이들은 "애국적 수도”와 같은 이니셔티브 미국의 역동성; 특별 경쟁 연구 프로젝트, 민주주의 무기고 재부팅 및 미국의 프론티어 펀드. 이러한 기업은 새로운 방위 기술 분야에서 소수의 저명한 회사와 개인이 방위 및 군사적 우선순위를 형성하고 그렇게 하면서 좋은 수익을 올리기 위해 고안했습니다. 막대한 벤처 캐피털의 지원을 받아 방위 분야에서 유니콘 기업이 급증하고 있으며, 여기에는 다음과 같은 새로운 군사 기술 유니콘이 포함됩니다. Anduril Industries , 실드 AI, 스카이 디오, AI 규모 및 놈의 (Palantir는 2020년에 상장된 이후 기술적으로 더 이상 신생기업은 아니지만 여전히 새로운 군사 기술 집단의 일부입니다.)

이는 최근의 발전입니다. 90년대 중반부터 2014년까지의 XNUMX년 동안 벤처 캐피털 부문은 번창하는 민간 기술 분야에 노력을 집중했는데, Google, Microsoft, Facebook, PayPal과 같은 기술 스타트업의 수익에는 하늘이 한계였습니다.

반면 방위 시장은 성숙하고 통합된 것으로 여겨졌으며, 엄격한 인수 규칙과 규정이 적용되었고, 투자에 대한 엄청난 수익에 대한 기회가 너무 적었습니다. 정부 계약이 실현되려면 종종 수년이 걸렸습니다. 방위는 또한 록히드 마틴, RTX 코퍼레이션, 노스롭 그루먼, 보잉, 제너럴 다이내믹스, BAE 시스템스를 포함한 소위 프라임이라는 소수의 핵심 산업 참여자가 주도했습니다.

이러한 프라임은 방위 시장에서 사자의 몫을 서로 나누었고 기술 스타트업이 주요 노력 없이는 문을 열 기회가 거의 없어 보였습니다. 예를 들어, Space X와 Palantir와 같은 회사는 각각 2014년에 특정 계약에 입찰할 수 있는 기회를 놓고 미 공군과 미 육군을 고소했습니다. 그 이후로 군사 스타트업을 위해 방위를 개방하기 위해 법을 사용하는 것이 더 널리 퍼졌습니다.

국방 부문에서 VC 투자에 대한 이러한 구조적 장애물 외에도 전쟁에서 이익을 취한다는 생각과 관련된 더 큰 명목상의 도덕적 비용이 있었습니다. 벤처 캐피털 투자자는 종종 기금, 재단, 보험 회사, 대학 및 연금 기금이기 때문에 "방위 포트폴리오"에 투자하는 것으로 여겨지는 것을 꺼리는 외부적 경향이 있었습니다. 다시 말해, 죽음의 도구에 투자하는 것입니다. 유럽 벤처 캐피털 투자자 특히 조심스러웠습니다.

그러나 이러한 두려움이 10년도 채 안 되어 가라앉은 속도는 놀랍습니다. 이는 벤처 캐피털 회사를 지원하는 투자자들이 다양한 배경을 가지고 있다 전쟁 사업에서 이익을 얻는 데 주저함이 덜했을 수도 있고, 전쟁은 항상 도덕보다는 주로 수학의 문제였을 수도 있습니다.

유니콘과 초고성장

오늘날 누구나 유니콘에 투자하고 싶어합니다. 유니콘은 가치가 엄청나게 상승할 수 있는 잠재력을 가지고 있기 때문입니다.

하지만 입증되지 않은 제품이나 개념으로 발판을 마련하기 위해 일부 스타트업은 자사 제품의 혁신적이고 변화를 만들어내는 본질에 대해 크고 대담한 주장을 하도록 동기를 부여받을 수 있습니다. 그리고 회사가 자금을 확보한 후에도 과도한 약속의 정신은 종종 하이퍼성장을 향한 성공을 유지하기 위해 그대로 유지됩니다.

최악의 경우, 과도한 약속이 너무 큰 규모로 이어져 범죄적 사기에 해당합니다. 악명 높은 혈액 검사 스타트업 테라노스가 그 예인데, 테라노스는 10년 정점에 도달했을 때 2015억 달러의 가치를 지닌 가장 흥미로운 헬스케어 스타트업 중 하나였지만 불과 XNUMX년 만에 완전히 망했습니다.

Theranos의 경우, 회사의 카리스마 넘치는 창립자는 이 기술의 역량을 엄청나게 과장해서 약속하면서, 단 한 방울의 피만으로도 할 수 있는 온갖 검사를 가능하게 할 것이라고 주장했습니다. 이 획기적인 기술 “의학을 혁신하고 전 세계의 생명을 구할 수 있습니다.".

그것은 미래 지향적 약속이었습니다. 그 기술은 아직 약속한 것을 할 수 없었습니다. 그럼에도 불구하고 회사는 이미 작동하는 테스트 장치가 있다고 주장했는데, 그것은 거짓말로 판명되었습니다. Theranos는 2018년에 문을 닫았고 카리스마 넘치는 창립자 엘리자베스 홈즈는 감옥에 갔습니다.

환상을 팔다

비슷한, 하지만 사기적이지 않은 방식으로 전개되는 덜 극적인 다른 이야기들이 많이 있습니다. 약속하는 회사 획기적인 기술을 이용해 일상적인 일을 하는 방식에 혁명을 일으키지만, 그런 기술은 지속 불가능하고, 실행 불가능하거나 그냥 사라져 버립니다.

하지만 결국 투자자들은 돈을 잃고, 더 중요한 것은 이 기술의 약속에 의지해 온 사람들이 피해를 보게 된다는 것입니다.

방위 맥락에서 새로운 군사 기술의 약속은 판매와 관련이 있습니다. 강력한 억제력의 민주주의를 보호하다포괄적이고 정확한 정보를 제공할 수 있는 능력을 갖추고 있습니다. 실시간 지식의 완전 투명한 지구본, 그리고 무엇보다도 깨끗한 것, 신속하고 결정적인 승리 원활하고 간편한 연결.

최악의 경우, 전지전능과 편재성에 대한 환상을 조장할 수 있고, 최상의 경우, 저항하기에는 너무 매력적이고 궁극적으로 더 많은 청중을 끌어들이는 불가능한 전쟁 혁명에 대한 욕망을 부추깁니다. 이러한 서사는 종종 AI가 있는 미래가 불가피하다는 일반적인 과대 광고에 의해 뒷받침됩니다. 이것은 결코 약속된 것을 제공하지 못할 수도 있는 기술을 신화화하고 가치 있게 만드는 강력한 스토리라인을 만듭니다. 그것은 종종 더 냉정한 목소리에 저항하는 강력한 혼합물입니다. 주의를 촉구하다.

방위 유니콘이 주장하는 내용은 종종 그럴듯해 보이지만, 대개는 검증할 수 없습니다. 왜냐하면 미래를 다루기 때문입니다. 그리고 종종 그 미래는 다음에 의해 형성된 비전을 반영합니다. 소설 및 과학 소설이는 항상 현실의 사회적, 정치적 과제에서 어느 정도 벗어나 있습니다.

과도한 약속과 가능한 기술에 대한 신화화의 유혹은 글로벌 투명성과 글로벌 도달 범위를 빠르게 실현하기 위해 노력하는 프로그램을 형성하고 있습니다. 공동-전-도메인 지휘 및 통제(JADC2) 프로그램은 펜타곤이 시작한 그러한 노력 중 하나입니다. 이 프로그램은 육지, 공중, 해상, 우주, 사이버 등 모든 도메인을 단일 네트워크로 연결하는 것을 목표로 합니다.예측 분석”과 “고속 전투”".

의회에서 프로그램을 수용할 수 있도록 하기 위해 JADC2는 종종 다음과 같이 비유됩니다. 승차 공유 플랫폼 Uber는 신속한 개입을 위한 시스템과 플랫폼 간의 원활한 상호 작용을 약속합니다. 이는 모든 군사 자산과 플랫폼에 대한 인프라적 필수 요소로서 AI에 다시 주목하게 합니다. 군사 AI를 확장하지 않으면 이 비전은 불가능할 것입니다. 군사 스타트업의 기회가 있는 곳이 바로 여기입니다.

두 개의 저명한 군사 기술 회사가 JADC2의 계약자입니다. 안두 릴 및 놈의두 회사 모두 방위 산업을 혼란에 빠뜨리고, 현존하는 최고 기업을 몰아내고, 시장에서 독점적 지위를 차지하여 점점 더 큰 이익을 확보하려는 야망을 거의 감추지 않습니다.

팔란티르는 눈을 돌리다 “미국의 모든 방위 프로그램을 위한 중앙 운영 체제가 되는 것”에 대해 Anduril은 “[국방부] 목록에 있는 모든 것 이후에” 이 부문에서 우위를 점하기 위해서입니다. 두 회사 모두에게 이것은 싸움입니다. 성장을 위한 싸움입니다.

Anduril의 Luckey가 말했듯이: “여러 영역에서 싸워서 이겨야 합니다.”. (그는 실제 전장이 아닌 기업 전략 측면에서 이를 의미합니다.) 마찬가지로 Palantir의 CEO이자 공동 창립자인 Alex Karp는 방위를 개방된 시장으로 만들기 위해 “끌고, 발로 차고, 달래고, 모욕했습니다.” 다양한 입법자, 정책 입안자 및 정부가 이 목표를 더욱 발전시키는 데 도움을 줍니다. 빠르게 움직이고 물건을 부수세요.

유니콘을 만드는 데는 이 분야에서 재정적으로 가장 많은 이익을 얻을 수 있는 사람들의 협력적인 노력과 공격적인 자세가 필요합니다. 이는 같은 생각을 가진 다른 사람들과 연합하여 가장 잘 수행할 수 있습니다. 현재의 방위 벤처 캐피털 환경에서는 창업자와 자금 제공자가 긴밀하게 얽혀 있습니다.

예를 들어 Peter Thiel은 Palantir의 공동 창립자이며, Space X, Anduril, Scale AI 등에 투자한 Founders Fund VC도 운영합니다. VC 회사인 Andreessen Horowitz도 SpaceX, Anduril, Shield AI, Skydio에 투자합니다. 이러한 VC 회사의 관리자들은 서로 오랜 인연을 맺고 있습니다. 마찬가지로 회사 간에도 얽힘이 있습니다. 예를 들어 Anduril은 Palentir에서 경험을 얻어 Anduril에 적용한 전 Palantir 직원들이 시작했습니다. 이전에 Oculus Rift에 근무했던 Palmer Luckey가 카리스마 있고 직설적인 CEO로 취임했습니다.

피터 티엘(Peter Thiel)과 에릭 슈미트(Eric Schmidt, 전 구글 CEO이자 미국 인공지능 국가안보위원회 위원장)는 투자 America's Frontier Fund 등에서. 긴밀하게 연결되어 있고 매우 잘 연결된 금융가와 스타트업 네트워크가 있으며, 모두 핵심적인 추진 메시지에 집중하기 위해 노력합니다. 즉, 방위 부문은 혼란이 필요하고, 상황을 뒤흔들 사람은 바로 우리입니다.

최근 패널에서 증거를 제시하다 미국 군사 위원회에는 5개 군사 스타트업 기업의 대표가 참석했습니다. 5개 기업 모두 VC 회사인 Andreessen Horowitz의 자금을 지원받았거나 다른 방식으로 회사와 제휴했습니다.

미국 군사위원회 청문회에서 Palantir의 최고기술책임자인 Shyam Sankar는 증거를 주었다 군사적 획득 및 조달 과정에서 "더욱 미친 짓"과 "혼란을 지배하게 두는 것"을 옹호하여 부서 간 경쟁을 통해 혁신에 필요한 인센티브를 육성할 수 있습니다.

그는 규제적 한계가 "감독을 제한"한다고 생각하고, "더 큰 재앙적 성공을 거두게 된다면 기꺼이 더 많은 실패를 감수할 것"이라고 말합니다. 이것이 어떤 종류의 성공일지, 또는 실패에 대한 의미는 아직 해결되지 않았지만 Palantir의 CTO가 벤처 캐피털 논리를 염두에 두고 말하고 있다는 것은 분명합니다. 그리고 최근 미국 국방혁신위원회 보고서, 정부는 더 많은 위험을 감수하고 그런 "독선적인 사람들"에게 최상의 보호를 제공할 준비가 된 것 같습니다.

'위기' 이야기

잠재력이 높은 신생 기업을 육성하는 것 외에도 실리콘 밸리 계약자와 VC 후원자의 요구에 맞게 방위 산업을 구부릴 수 있는 방법이 많이 있습니다. 여기서도 내러티브의 힘이 큰 역할을 합니다. 벤처 캐피털 관리자와 그들의 신생 기업은 종종 다음과 같은 유명 사설을 씁니다. (미국) 방위의 열악한 상태가 한탄스럽다, 여기서 필요성이 있습니다 가속화된 혁신 미국이 “중국, 러시아, 이란과의 3면 전쟁”에 “매우 유력하게” 휘말릴 가능성이 강조되고 있다. 상상해 냈다. 간단히 말해, 긴박한 위기에 대처하는 회사의 가치를 높이는 데 도움이 되는 긴박감 있는 스토리가 만들어집니다.

국방 구조 개편의 두 번째 기둥은 로비스트나 정부와 긴밀한 관계를 맺은 고문으로 활동하는 전직 정부 직원으로 구성된 복잡한 네트워크를 활용하는 것입니다.

전 공화당 의원 마이크 갤러거예를 들어, 2024년 XNUMX월 Palantir의 국방 운영 책임자가 되었고 전 국가 안보 보좌관이었습니다. HR 맥마스터 현재 Shield Capital의 수석 고문입니다. 이와 같은 "회전문” 신뢰할 수 있는 전문가들이 새로운 스타트업에 권위를 부여하는 순간. 대부분의 실리콘 밸리 창작물과 마찬가지로 군사 기술 스타트업 현장은 일정한 평판 캐시를 보유하고 있으며 돈도 매력적입니다.

Palantir로부터 배운 Anduril은 로비스트를 대거 고용했습니다. 첫번째 주, 더 많은 돈을 "에 지출엔지니어보다 변호사와 로비스트"Luckey가 The Economist와의 최근 인터뷰에서 지적한 바와 같습니다.

이를 통해 Anduril은 주요 방위 계약업체에서도 사용하는 방위 환경을 형성하는 비교적 전통적인 방식을 채택합니다. 2022 블로그 게시물"회사의 기존 기술에 맞춰 프로그램 요구 사항을 형성하기 위해 변호사와 로비스트 팀에 많은 비용을 지출하는" 인센티브입니다.

Anduril과 그 후원자들은 이제 자체 기술 제품군에 맞춰서 똑같은 일을 하고 있습니다. 변호사들은 종종 합병, 인수 및 파트너십을 감독하는 데 고용될 뿐만 아니라 법을 개혁을 강제하는 도구로 사용하는 방법으로 고용됩니다.

제가 앞서 언급한 미 육군과 공군에 대한 SpaceX와 Palantir 소송의 주요 목적은 반드시 이기는 것이 아니었습니다(Space X의 소송은 실패했지만 Palantir의 소송은 성공했습니다). 그 목적은 우주에서 인수 합병을 위한 길을 여는 것이었고, 두 소송 모두 바로 그러한 목적을 달성했습니다.

긴박감을 조성하고 로비스트를 두 배로 늘리고 방위 정비를 위한 구조적 가능성을 만드는 전략이 이제 잘 진행 중입니다. 분명히 말해서, 저는 방위 부문이 현대화나 구조 조정의 혜택을 받지 못할 것이라고 주장하는 것이 아닙니다. 모든 군사 스타트업 제품이 무의미하거나 지속 불가능하다고 주장하는 것도 아닙니다. 저는 또한 프라임을 새로운 벤처 캐피털 역학과 성장에 대한 집중에 맞서게 하려는 것도 아닙니다.

하지만 제가 살펴볼 가치가 있다고 생각하는 것은 이러한 새로운 회사와 그들의 암묵적인 우선순위와 관심사에서 작용하는 역학입니다. 왜냐하면 그것들이 관행과 우선순위를 형성할 것이기 때문입니다. 그리고 혼란이 일어나는 곳에서는 어느 정도의 파손이 예상됩니다. 그리고 이것은 생사의 문제에서 다른 분위기를 띱니다.

교란 잔해

방위 부문의 혼란은 잘 진행 중이며, 이를 실리콘 밸리의 이미지로 형성하려는 노력은 최근 몇 년 동안 여러 가지 구체적인 결과를 거두었습니다. 앞서 언급한 JADC2 프로그램이 그 중 하나입니다. 다른 프로그램은 미국 국방부의 복제기 이니셔티브실리콘 밸리 군사 스타트업이 제공하는 목표, 일정 및 제품을 통합한 것입니다.

높은 레벨 국방부 관리들 벤처 캐피털 산업과 다양한 인수 프로그램의 주요 내용을 반복하고 있습니다. 적응하도록 조정했습니다 필요한 속도와 규모. 이 회사들은 정책 입안자들의 귀 그리고 준영적인 "에 대한 요구"국방개혁”는 점점 더 많은 청중을 확보하고 있습니다.

그렇다면 어떤 결과가 발생할 수 있을까?

Uber가 개인 운송 산업을 혼란에 빠뜨렸을 때, 그것은 많은 것을 남겼습니다. 침식된 노동법, 운전자를 위한 근로자 권리 및 의료 규정. AirBnB가 숙박 산업을 뒤흔들었을 때, 그 결과 임대료 인상 인기 있는 관광지에서. 독점을 만들려고 할 때는 항상 사회적, 정치적 결과가 따른다. 종종 이러한 결과는 예측할 수 있지만, 때로는 그렇지 않다.

방위 인수 프로세스를 방해하는 것은 최소한 인수 프로세스에 대한 더 큰 감독을 희생하여 이루어집니다. 기술 부문은 규제 경계를 인식하는 것으로 알려져 있지 않습니다. 오히려 그 반대입니다. 새로운 군사 스타트업 환경의 가장 저명한 자금 지원자 중 일부는 다음과 같습니다. 가장 강력하게 반대 어느 규제의 종류.

예를 들어 VC의 거물인 Marc Andreessen은 유명하게 다음과 같이 썼습니다. 기술 낙관주의 선언문 그는 위험 관리, 신뢰와 안전 조치, 예방 원칙을 "적"이라고 명명했습니다.

규제가 줄면 지출뿐만 아니라 특정 기술이 어떻게, 어디에서, 어떤 효과를 내는지에 대한 감독과 책임도 줄어듭니다. 이는 분명한 사실입니다.

하지만 전투를 위한 군사 기술의 가속화된 획득과 출시로 인해 우리가 예상할 수 있는 다른 매우 그럴듯한 결과들이 많이 있습니다. 그 중 하나는 위험과 실험에 다시 초점을 맞추는 것입니다.

AI 기반 드론 및 AI 의사결정 지원 시스템과 같은 현재 군사 스타트업 기술은 러시아-우크라이나 전쟁과 가자지구와 같은 진행 중인 갈등에서 라이브로 테스트되고 개선되고 있습니다. 이는 프로토 타입 이는 점점 더 두드러지고 있으며, 효과적인 테스트, 반복 및 기술 최적화를 위한 활발한 전장이 필요합니다.

이는 또한 목적에 맞지 않는 기술이 현장에 투입되어 테스트하고 진행하면서 개선할 수 있음을 의미합니다. 결함이 있고 부적절할 수 있는 AI 제품의 출시 및 판매를 정상화하거나 촉진하는 것으로, 갈등의 표적이 된 무고한 시민에게 필연적으로 피해를 입힐 것입니다.

우리는 지금 기술 회사들이 대규모 언어 모델을 군사 조직에 판매하려는 움직임에서 이를 관찰할 수 있습니다. 예를 들어 Scale AI는 Meta와 협력하여 LLM 제품을 판매했습니다. 방어용 라마, 방위 목적으로. 이 회사는 인간의 참여가 시스템에 "절대적으로 필요하다"고 말합니다.

그러나 주어진 잘 알려진 사실 LLM이 환각이라고 알려진 것에 취약하다는 점을 감안할 때, 이러한 기술이 전쟁과 같이 복잡하고 역동적인 맥락에서 정확히 광고된 대로 작동할 가능성은 희박합니다. 이는 이러한 실험, 미세 조정 및 라이브 테스트의 중간에 갇힌 사람들에게 해를 끼칠 수 있습니다. 이 기술이 전쟁에서 예측하기 어렵거나 예측하기 어려운 요소에 적합하지 않을 수 있다는 것은 주요 우려 사항입니다. 여기에는 잠재적으로 부상하는 테러 위협이나 종종 비이성적이라고 여겨지는 국가의 움직임이 포함됩니다. 예를 들어 북한과 같은 경우입니다.

Anduril CEO인 Luckey는 제가 시작한 인터뷰에서 그렇게 인정했습니다. 그는 자신의 무기가 구축된 논리가 방어를 위한 AI 논리의 대부분이 기반을 두고 있는 게임의 이론적 접근 방식을 피하는 잠재적인 적들과 함께 무너진다는 것을 인정했습니다. "비게임 이론 최적 전략을 추구하는 사람들과 게임 이론에 참여하는 것은 매우 어렵습니다... 마치 모든 돈을 다른 사람에게 주고 중도에 포기할 사람과 모노폴리를 하는 것과 같습니다." 전쟁처럼 우연이 가득한 것에 대한 심각한 한계입니다.

벤처 캐피털 논리로의 이러한 변화에서 비롯되는 2차 및 3차 효과도 있습니다. 임박한 위협을 떠올리면 더 광범위한 글로벌 위험 및 보안 환경이 바뀔 수 있습니다. 무기 기술을 우선시하면 갈등을 해결하는 다른 방법에 대한 자금이 줄어들 수 있으며, 테스트되지 않고 영구성이 없을 수 있는 기술에 점점 더 많은 금액을 할당하면 다른 곳에 더 잘 할당될 수 있는 상당한 금액이 낭비될 수 있습니다.

하지만 이곳은 허구와 유니콘의 땅이며, 그런 고려 사항은 민주주의의 수호자로서 AI 무기에 대한 과장된 약속만큼이나 추측에 불과합니다.

실리콘 밸리에서 "빠르게 움직이고 물건을 부수자"라는 모토는 기술 출시에서 발생하는 문제는 항상 나중에 해결될 수 있다는 것을 의미합니다. 방위와 전쟁의 세계에서 이런 종류의 위험 감수로 인한 피해는 그렇게 쉽게 되돌릴 수 없습니다.

The Conversation은 이 기사에서 제기된 요점을 언급된 기술 및 벤처 캐피털 회사에 전달했습니다. 그들은 우리의 코멘트 요청에 응답하지 않았습니다.

엘케 슈바르츠, 정치 이론의 독자, 퀸 메리 런던 대학교

이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.

기사 요약 :

실리콘 밸리의 벤처 캐피털리스트들은 군사적 AI 혁신을 추진하는 동시에 파괴적 정신을 민주적 과정으로 확장하고 있습니다. 오랫동안 변화에 저항해 온 방위 산업은 이제 효율성을 약속하지만 혼란을 초래할 위험이 있는 벤처 지원 스타트업의 자비에 달려 있습니다. 이와 같은 파괴적 추진은 선거 간섭을 부추겨 약한 규제 감독을 악용하고 공공의 이익보다 이익을 우선시했습니다. 군사 시스템이 검증되지 않은 AI에 의해 점점 더 형성되고 기업의 야망에 의해 민주주의가 훼손됨에 따라 위험은 그 어느 때보다 높아졌습니다.

해시 태그 :
#실리콘밸리 #선거간섭 #군사AI #기술위험 #위협받는민주주의

방문해 주셔서 감사합니다 InnerSelf.com, 있는 곳에 20,000+ "새로운 태도와 새로운 가능성"을 홍보하는 삶을 변화시키는 기사. 모든 기사는 다음으로 번역됩니다. 30 개 이상의 언어. 확인 매주 발행되는 InnerSelf Magazine과 Marie T Russell의 Daily Inspiration에 게재됩니다. InnerSelf 매거진 1985년부터 출판되었다.