딥페이크와 정치 캠페인의 불안정한 혼합은 경계해야 할 좋은 이유입니다. 게티 이미지를 통한 Sean Anthony Eddy Creative/E+
상상 XNUMX월 서프라이즈 5년 2024월 XNUMX일 불과 일주일 전, 비디오 녹화는 Joe Biden과 Volodymyr Zelenskyy 사이의 비밀 회의를 보여줍니다. 미국과 우크라이나 대통령은 "특별 비상 가입 의정서"에 따라 즉시 우크라이나를 NATO에 가입시키고 러시아에 대한 핵무기 공격을 준비하는 데 동의합니다. 갑자기 세상은 아마겟돈의 정점에 있습니다.
기자들이 지적할 수 있지만 그러한 프로토콜이 존재하지 않습니다 소셜 미디어 사용자는 비디오의 이상한 비디오 게임 같은 품질을 알아차릴 수 있고 다른 사람들은 그들의 최악의 두려움 확인되었습니다. 선거일이 다가오면 우려하는 시민들은 실제로 일어난 적이 없는 사건인 딥페이크 상황에 조작당했다는 사실을 모른 채 동영상이 투표에 영향을 미치도록 내버려 둘 수 있습니다.
상황 딥페이크는 다음 단계의 기술을 나타냅니다. 이미있다 관객들의 현실 인식을 흔들었다. 우리 연구에서 디페이크 프로젝트, 내 동료들은 Rochester Institute of TechnologyWalk Through California 프로그램, 미시시피 대학교, 미시간 주립 대학 및 딥페이크가 만들어지는 방법과 유권자가 딥페이크로부터 자신을 방어하기 위해 취할 수 있는 조치를 연구합니다.
일어나지도 않은 사건 상상하기
누군가가 인공 지능 도구를 사용할 때 딥페이크가 생성됩니다. 특히 깊은 학습, 조작 또는 생성 확인은 목소리 또는 – 증가와 함께 큰 언어 모델 처럼 ChatGPT - 대화 언어. 이들은 "상황 딥페이크"를 형성하기 위해 결합될 수 있습니다.
상황 딥페이크의 기본 아이디어와 기술은 다른 딥페이크와 동일하지만 더 대담한 야망이 있습니다. 실제 이벤트를 조작하거나 허공에서 발명하는 것입니다. 예에는 다음과 같은 묘사가 포함됩니다. 도널드 트럼프의 퍼프 워크 과 앤서니 파우치를 안고 있는 트럼프, 어느 쪽도 일어나지 않았습니다. 허그샷은 트위터 계정 대선 캠페인과 관련된 트럼프 라이벌 Ron DeSantis의. 안 공격 광고 공화당 전국위원회가 발표한 조 바이든의 2024년 캠페인을 겨냥한 것은 전적으로 AI로 만든.
에서 디페이크 프로젝트, 우리의 연구는 발견했다 상황을 포함한 딥페이크는 일반적으로 한 미디어를 다른 미디어에 추가; 비디오를 사용하여 이미지에 애니메이션을 적용하거나 다른 비디오를 변경하려면, 인형극이라고 불리는; 일반적으로 다음을 사용하여 미디어 조각을 존재하게 만드는 것 생성 적 AI; 또는 이러한 기술의 일부 조합.
분명히 말하면, 많은 상황 딥페이크는 무고한 목적으로 만들어집니다. 예를 들어, 인피니트 오디세이 매거진 영화에서 가짜 스틸을 생성합니다. 생산된 적이 없다 or 결코 존재할 수 없었다. 그러나 순진한 딥페이크도 잠시 멈춰야 할 이유를 제공합니다. 영화 제작으로 아폴로 달 착륙.
선거 딥 페이킹
이제 다가오는 선거에 영향을 미치려는 사람의 입장에 서십시오. 만들 수 있는 가능한 상황은 무엇입니까?
우선, 특정 결과에 대해 투표를 기울일지 여부가 중요합니다. 과속 차량에서 보행자를 끌어내거나 반대로 공격적이거나 범죄적인 행동을 하는 등 영웅적으로 행동하는 후보를 묘사할 수 있습니다. Deepfake 상황의 형식도 중요합니다. 동영상 대신 스마트폰 카메라나 뉴스 에이전시의 위조된 로고를 시뮬레이트하는 흐림과 각도가 있는 사진일 수 있습니다.
귀하의 타겟 청중이 핵심이 될 것입니다. 일반 유권자나 정당 기반을 목표로 하는 대신 주요 투표 구역의 음모 이론가를 목표로 할 수 있습니다. 후보자나 그 가족이 사탄의 의식, 축제에 참여 배타적이고 논란이 많은 보헤미안 그 로브또는 외계인과의 은밀한 만남.
이에 대한 야망과 능력이 있다면 선거 자체를 딥페이크할 수도 있습니다. 2023년 XNUMX월 러시아의 텔레비전과 라디오 방송국이 해킹을 당했고 총동원령을 방송하다 로 블라디미르 푸틴 러시아 대통령 딥페이크. 이것은 미국 선거에서 더 어려운 일이지만, 원칙적으로 모든 뉴스 매체는 잘못된 결과를 발표하거나 후보자가 인정하는 앵커의 딥 페이크를 방송하기 위해 해킹될 수 있습니다.
현실 수호
상황 딥페이크를 감지하고 방어하는 다양한 기술 및 심리적 방법이 있습니다.
기술적인 면에서 모든 딥페이크는 그 진정한 본질에 대한 몇 가지 증거를 포함하고 있습니다. 이러한 정보 중 일부는 지나치게 매끄러운 피부, 이상한 조명 또는 건축물과 같이 인간의 눈으로 볼 수 있는 반면 다른 정보는 딥페이크 헌팅 AI에 의해서만 탐지 가능.
우리는 건축하고 있습니다 디페이크의 감지기는 AI를 사용하여 딥페이크의 숨길 수 없는 징후를 포착하고 2024년 선거에 맞춰 준비하기 위해 노력하고 있습니다. 그러나 우리와 같은 충분히 강력한 딥페이크 탐지기가 선거일까지 배치될 수 없더라도 유권자인 여러분이 딥페이크를 식별하는 데 사용할 수 있는 심리적 도구가 있습니다: 배경 지식, 호기심 및 건전한 회의론.
특징이 없어 보이는 사람, 장소 또는 사건에 대한 미디어 콘텐츠를 접하게 되면 배경 지식을 믿으십시오. 예를 들어, 펜타곤에서 화재의 최근 사기, 표시된 건물은 오각형보다 더 정사각형으로 보이며 이는 경품일 수 있습니다.
그러나 배경 지식에 전적으로 의존하지 마십시오. 잘못되거나 고르지 않을 수 있습니다. 사실이 확인된 뉴스 보도, 동료 검토 학술 기사 또는 자격을 갖춘 전문가와의 인터뷰와 같은 신뢰할 수 있는 출처에서 더 많은 것을 배우는 것을 두려워하지 마십시오.
또한 딥페이크를 사용하여 사용자의 정보를 믿는 경향이 사람, 장소 또는 사건에 대해. 이를 처리하는 가장 좋은 방법 중 하나는 단순히 당신의 편견을 알고 그들을 확인하는 것처럼 보이는 모든 미디어 콘텐츠에 대해 약간 경계하십시오.
완벽한 상황 딥페이크를 만들 수 있게 되더라도 그들의 주제가 얼마나 믿을 수 있는지가 그들의 아킬레스 건으로 남을 가능성이 높습니다. 따라서 기술적 솔루션이 있든 없든 여전히 가짜 사건의 영향으로부터 선거를 방어할 수 있는 힘이 있습니다.
저자에 관하여
크리스토퍼 슈워츠, 컴퓨팅 보안 박사후 연구원, Rochester Institute of Technology
이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.
관련 도서 :
폭정에 관하여: XNUMX세기의 XNUMX가지 교훈
티모시 스나이더
이 책은 제도의 중요성, 개별 시민의 역할, 권위주의의 위험성을 포함하여 민주주의를 보존하고 수호하기 위한 역사의 교훈을 제공합니다.
우리 시대는 지금이다 : 권력, 목적, 공정한 미국을위한 싸움
스테이시 에이브람스
정치가이자 활동가인 저자는 보다 포괄적이고 정의로운 민주주의에 대한 비전을 공유하고 정치적 참여와 유권자 동원을 위한 실질적인 전략을 제시합니다.
민주주의는 어떻게 죽는가
스티븐 레비츠키와 다니엘 지블라트
이 책은 민주주의 붕괴의 경고 신호와 원인을 조사하고 민주주의를 보호하는 방법에 대한 통찰력을 제공하기 위해 전 세계의 사례 연구를 활용합니다.
People, No: 반포퓰리즘의 간략한 역사
토마스 프랭크
저자는 미국의 포퓰리즘 운동의 역사를 제시하고 민주주의 개혁과 진보를 질식시켰다고 주장하는 "반포퓰리즘" 이데올로기를 비판합니다.
한 권 이하의 민주주의: 작동 방식, 작동하지 않는 이유, 문제 해결이 생각보다 쉬운 이유
데이비드 리트
이 책은 민주주의의 강점과 약점을 포함하여 개요를 제공하고 시스템을 보다 민감하고 책임 있게 만들기 위한 개혁을 제안합니다.
