딥 페이크는 의심을 뿌린다 4 14
 딥페이크를 생성할 수 있는 기술은 널리 사용 가능합니다. (Shutterstock)

XNUMX월 초, 볼로디미르 젤렌스키 우크라이나 대통령 조작 영상 유포. 그 안에 디지털로 생성된 Zelenskyy는 우크라이나 국군에게 항복하라고 말했습니다. 이 비디오는 온라인에 유포되었지만 인공 지능을 사용하여 제작된 초현실적이지만 가짜이며 조작된 비디오인 딥페이크로 빠르게 폭로되었습니다.

러시아의 허위 정보는 제한된 영향을 미치는 것으로 보이지만 이 놀라운 예는 딥페이크의 잠재적인 결과를 보여줍니다.

그러나 딥페이크는 보조 기술에서 성공적으로 사용되고 있습니다. 예를 들어, 파킨슨병을 앓고 있는 사람들은 음성 복제를 사용하여 의사 소통할 수 있습니다..

Deepfakes는 교육에 사용됩니다: 아일랜드 기반의 음성 합성 회사 CereProc은 John F. Kennedy의 합성 음성을 만들었습니다. 그의 역사적인 연설을 전달하기 위해 그를 되살리다.

내면의 구독 그래픽

그러나 모든 동전에는 양면이 있습니다. 딥페이크는 극도로 현실적일 수 있으며, 기본적으로 인간의 눈으로 감지할 수 없는.

따라서 동일한 음성 복제 기술이 피싱, 명예 훼손 및 협박에 사용될 수 있습니다. 딥페이크가 의도적으로 여론을 재편하고 사회적 갈등을 선동하며 선거를 조작할 때 민주주의를 약화시킬 가능성이 있습니다.

워싱턴 대학의 연구원들은 버락 오바마의 딥페이크를 제작했습니다.

혼란을 일으키다

Deepfakes는 다음과 같은 기술을 기반으로 합니다. 생성 적 적자 네트워크 두 알고리즘이 이미지를 생성하도록 서로를 훈련시키는 것입니다.

딥 페이크 이면의 기술이 복잡하게 들릴 수 있지만 하나를 만드는 것은 간단한 문제입니다. 다음과 같은 수많은 온라인 응용 프로그램이 있습니다. 페이스 스왑 과 자오 딥스왑 몇 분 안에 딥페이크를 생성할 수 있습니다.

여러 프로그래밍 언어로 된 코드의 온라인 저장소인 Google Colaboratory에는 다음과 같은 코드의 예가 포함되어 있습니다. 가짜 이미지 및 비디오를 생성하는 데 사용할 수 있습니다.. 이렇게 액세스 가능한 소프트웨어를 사용하면 일반 사용자가 잠재적인 보안 위험을 깨닫지 못한 채 딥페이크로 혼란을 일으킬 수 있음을 쉽게 알 수 있습니다.

얼굴 교환 앱 및 온라인 서비스의 인기 깊은 향수 일반 대중이 딥페이크를 얼마나 빠르고 광범위하게 채택할 수 있는지 보여줍니다. 2019년, 딥페이크를 사용하는 약 15,000개의 동영상이 감지되었습니다.. 그리고 이 숫자는 더 늘어날 것으로 예상됩니다.

Deepfakes는 진실을 밝히는 데 시간이 걸리는 믿을 수 있는 가짜 뉴스를 생성하기 때문에 허위 정보 캠페인을 위한 완벽한 도구입니다. 한편 딥페이크로 인한 피해, 특히 사람들의 평판에 영향을 미치는 피해는 종종 오래 지속되며 되돌릴 수 없습니다.

보는 것이 믿는 것입니까?

아마도 딥페이크의 가장 위험한 결과는 정치 캠페인에서 허위 정보를 제공하는 방법일 것입니다.

우리는 도널드 트럼프가 아첨하지 않는 언론 보도를 "가짜 뉴스.” 트럼프는 자신의 비평가들이 가짜 뉴스를 유포한다고 비난함으로써 자신의 잘못을 옹호하고 선전 도구로 잘못된 정보를 사용할 수 있었습니다.

트럼프의 전략을 통해 그는 “불신과 잘못된 정보로 가득 찬 환경에서 지지를 유지할 수 있다.실제 사건과 이야기는 가짜 뉴스 또는 딥페이크. "

당국과 언론의 신뢰가 훼손되고 있습니다., 불신의 분위기를 조성합니다. 그리고 딥페이크의 확산이 증가하면서 정치인들은 새로운 스캔들에 대한 책임을 쉽게 부인할 수 있었습니다. 비디오에서 누군가의 신원을 거부하는 경우 어떻게 확인할 수 있습니까?

그러나 언론의 자유를 옹호하려는 민주주의 국가에서는 허위 정보에 맞서 싸우는 것이 항상 도전 과제였습니다. 인간-AI ​​파트너십은 사람들이 정보를 확인하도록 하여 딥페이크의 증가하는 위험을 처리하는 데 도움이 될 수 있습니다. 정보를 위조하고 사람을 사칭하는 딥페이크 제작자를 처벌하기 위해 새로운 법률을 도입하거나 기존 법률을 적용하는 것도 고려할 수 있습니다.

국제 및 국가 정부, 민간 기업 및 기타 조직의 다학문 접근 방식은 모두 잘못된 정보로부터 민주 사회를 보호하는 데 필수적입니다.대화

저자에 관하여

이세풍, 정보 연구과 연구 조교, 맥길 대학 (McGill University) 과 벤자민 CM 펑, 사이버 보안을 위한 데이터 마이닝 교수 겸 캐나다 연구 위원장, 맥길 대학 (McGill University)

이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.