누군가의 목소리를 복제하는 것이 그 어느 때보다 쉬워졌습니다. 게티 이미지를 통한 D-Keine/iStock

긴 하루 일과를 마치고 막 집에 돌아와 저녁 식사를 하려고 하는데 갑자기 전화벨이 울리기 시작합니다. 상대방은 사랑하는 사람, 아마도 부모, 자녀 또는 어린 시절 친구가 즉시 돈을 보내달라고 간청합니다.

당신은 이해하려고 시도하면서 그들에게 질문을 합니다. 모호하거나 성격에 맞지 않는 대답에 뭔가 이상한 점이 있고, 때로는 너무 느리게 생각하는 것처럼 이상한 지연이 있습니다. 그러나 당신은 사랑하는 사람이 말하는 것이 분명하다고 확신합니다. 그것은 당신이 듣는 그들의 목소리이고 발신자 ID는 그들의 번호를 보여줍니다. 그들의 공황 상태에 이상함을 느끼면서 그들이 제공한 은행 계좌로 성실하게 돈을 보냅니다.

다음날 다시 전화를 걸어 모든 것이 괜찮은지 확인합니다. 사랑하는 사람은 당신이 무슨 말을 하는지 전혀 모릅니다. 그것은 그들이 당신에게 전화를 한 적이 없기 때문입니다 – 당신은 기술에 속아 왔습니다: 음성 딥 페이크. 수천 명의 사람들이 2022년에 이런 식으로 사기를 쳤다.

사람의 목소리를 복제하는 능력은 점점 더 컴퓨터를 가진 사람이라면 누구나 도달할 수 있는 범위에 있습니다.

As 컴퓨터 보안 연구원, 딥 러닝 알고리즘, 오디오 편집 및 엔지니어링, 합성 음성 생성의 지속적인 발전으로 인해 설득력있게 사람의 목소리를 시뮬레이션.

설상가상으로 ChatGPT와 같은 챗봇은 적응형 실시간 응답으로 현실적인 스크립트를 생성하기 시작했습니다. 에 의해 이러한 기술을 음성 생성과 결합, 딥페이크는 정적인 녹음에서 설득력 있게 전화 대화를 할 수 있는 생생한 생생한 아바타로 변합니다.

음성 복제

비디오든 오디오든 매력적인 고품질 딥페이크를 만드는 것은 쉬운 일이 아닙니다. 풍부한 예술적 및 기술적 기술, 강력한 하드웨어 및 상당히 많은 대상 음성 샘플이 필요합니다.

제공하는 서비스가 점점 늘어나고 있습니다. 유료로 중간에서 고품질의 음성 클론 생성, 일부 음성 딥페이크 도구에는 다음 샘플이 필요합니다. XNUMX분만, 또는 단 몇 초, 누군가를 속일 수 있을 만큼 설득력 있는 음성 복제본을 생성합니다. 그러나 사칭 사기에 사용하는 것과 같이 사랑하는 사람을 설득하려면 훨씬 더 많은 샘플이 필요합니다.

연구원들은 XNUMX초의 짧은 녹음 시간으로 음성을 복제할 수 있었습니다.

사기 및 허위 정보로부터 보호

모든 말로, 우리는 디페이크 프로젝트 Rochester Institute of Technology, University of Mississippi, Michigan State University 및 기타 연구자들은 비디오 및 오디오 딥페이크를 감지하고 이로 인한 피해를 제한하기 위해 열심히 노력하고 있습니다. 자신을 보호하기 위해 취할 수 있는 간단하고 일상적인 조치도 있습니다.

스타터를 들어, 보이스피싱, 또는 "비싱(vishing)" 사기는 위에서 설명한 것과 같이 직장과 가정에서 일상 생활에서 접할 수 있는 음성 딥페이크일 가능성이 가장 높습니다. 2019년에는 에너지 회사는 미화 243,000달러를 사기당했습니다. 범죄자들이 모회사 상사의 목소리를 흉내내 직원에게 공급업체에 자금을 이체하라고 명령했을 때. 2022년, 사람들은 약 11만 달러를 훔쳤다. 친밀하고 개인적인 연결을 포함하여 시뮬레이션된 음성으로

당신은 무엇을 할 수 있을까요?

잘 아는 사람에게서 온 전화라도 예상치 못한 전화에 주의하십시오. 이것은 모든 통화를 예약해야 한다는 말은 아니지만 최소한 미리 이메일이나 문자 메시지를 보내는 것이 도움이 됩니다. 또한 발신자 ID에 의존하지 마십시오. 그것도 위조 할 수 있습니다. 예를 들어 은행을 대표한다고 주장하는 사람으로부터 전화를 받으면 전화를 끊고 은행에 직접 전화를 걸어 통화의 적법성을 확인하십시오. 적어두었거나 연락처 목록에 저장했거나 Google에서 찾을 수 있는 번호를 사용해야 합니다.

또한 사회 보장 번호, 집 주소, 생년월일, 전화번호, 중간 이름, 심지어 자녀와 애완 동물의 이름과 같은 개인 식별 정보에 주의하십시오. 사기꾼은 이 정보를 사용하여 은행, 부동산 중개업자 및 다른 사람에게 귀하를 사칭하여 귀하를 파산시키거나 신용을 파괴하는 동시에 자신의 부를 축적할 수 있습니다.

여기에 또 다른 조언이 있습니다. 자신을 아십시오. 특히 자신의 지적, 정서적 편향과 취약성을 파악하십시오. 이것은 일반적으로 좋은 삶의 조언이지만 조종당하지 않도록 자신을 보호하는 것이 중요합니다. 사기꾼은 일반적으로 귀하의 재정적 불안, 정치적 애착 또는 기타 성향이 무엇이든 관계없이 고소하고 이를 노립니다.

이 경보는 음성 딥페이크를 사용하는 허위 정보에 대한 적절한 방어 수단이기도 합니다. Deepfakes는 당신의 확인 바이어스, 또는 당신이 누군가에 대해 믿는 경향이 있는 것.

지역 사회에서든 정부에서든 중요한 사람이 그들에게 매우 특이해 보이거나 그들에 대한 최악의 의심을 확인하는 말을 하는 것을 듣는다면 조심하는 것이 현명할 것입니다.

저자 정보

매튜 라이트, 컴퓨팅 보안 교수, Rochester Institute of Technology 과 크리스토퍼 슈워츠, 컴퓨팅 보안 박사후 연구원, Rochester Institute of Technology

이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.