윌리엄 페루지니/Shutterstock

많은 것 중 “사회와 인류에 대한 심각한 위험” 기술 전문가들이 인공지능(AI)을 걱정하는 만큼, 가짜 이미지의 확산은 인터넷 이용자라면 누구나 익히 알고 있는 일이다.

딥페이크(Deepfakes) – 누군가의 얼굴이나 신체가 디지털 방식으로 변경되어 자신이 하지 않는 일을 하고 있는 것처럼 보이는 동영상이나 사진 – 이미 확산되는 데 사용되었습니다. 정치적 허위정보 과 가짜 포르노.

이러한 이미지는 일반적으로 악의적이며 주제의 신용을 떨어뜨리는 데 사용됩니다. 딥페이크 포르노의 경우, 피해자 대다수는 여성. 텍스트, 이미지, 비디오를 생성하는 데 사용되는 기술인 생성적 AI(Generative AI)는 이미 만들고 있어요 이미지 기반 성적 학대는 자행되기 쉽습니다.

새로운 일련의 법칙 영국에서는 딥페이크 포르노 공유를 불법화할 예정이다. 그러나 AI와 딥페이크에 대한 관심을 보면, 덜 정교한 기술이 얼마나 덜 정교한 기술이 학대의 도구로 사용될 수 있으며 피해자에게 파괴적인 결과를 가져올 수 있는지를 잊을 수 없습니다.

기술 및 제어

제가 폭력적인 관계에서 기술에 대한 연구를 시작했을 때, 딥페이크는 단지 머지않아 나타난 일이었습니다. 내 작업은 다음에 중점을 두었습니다. 스마트폰의 역할 통제적인 관계에서 도망친 여성들에 대한 학대. 나는 가정 폭력의 가해자들이 자신의 권력 범위를 확장하고 파트너에 대한 통제력을 확장하기 위해 기술을 사용하고 있다는 사실을 발견했습니다. 이는 학대 전술에 대한 현대적인 해석이 사용되었습니다. 오래지 않아 모든 주머니에는 스마트폰이 있었습니다.

휴대폰은 GPS 추적을 사용하거나 문자, 비디오 및 음성 통화를 통해 피해자에게 폭격을 가하여 직접 모니터링하고 제어하는 ​​데 사용할 수 있습니다. 내 참가자 중 한 명 2019의 연구 그녀를 학대하는 파트너가 자신의 휴대폰을 사용하여 소셜 미디어에 액세스하고 인스타그램을 통해 모욕적인 사진과 지속적이고 공격적인 WhatsApp 메시지를 보낸 방법을 설명했습니다.

그녀가 친구들과 외출할 때 그는 먼저 그녀에게 문자를 보내고, 전화를 걸고, 영상 통화를 걸어 그녀가 어디에 있는지 확인하고 누구와 있는지 확인했습니다. 참가자가 휴대폰을 끄자 당시 파트너는 친구들에게 연락해 문자와 전화를 쏟아부었습니다.

이 참가자는 동료 그룹과의 만남을 준비하는 것이 너무 창피해서 외출을 중단했습니다. 친구가 친구를 학대하는 사람으로부터 연락을 받는 것을 피하고 싶어하는 경우 비슷한 상황에 있는 다른 사람들은 사회적 계획에서 제외될 수 있습니다. 그러한 사회적 고립은 가정 폭력의 빈번한 부분이자 관계 통제의 중요한 지표입니다.

가정폭력 자선단체인 Refuge에 따르면, 이상 72 % 서비스를 사용하는 사람들 중 기술과 관련된 남용을 신고하는 사람의 비율.

휴대폰은 웹에 연결되어 데이터를 교환할 수 있는 장치인 "사물 인터넷"을 통해 다른 장치로 연결되는 관문입니다. 이러한 도구는 학대자가 무기화할 수도 있습니다. 예를 들어 휴대폰을 사용하여 온도 설정 변경 가정용 온도 조절 장치에서 한 시간마다 극한 상황이 발생합니다.

이에 혼란스러워하는 사람들은 파트너에게 설명을 구하지만 이것이 틀림없이 상상의 산물임에 틀림없다는 말을 듣게 됩니다. 가스라이팅 기술 이는 피해자가 자신의 판단에 대한 자신감을 약화시키는 자신의 정신에 의문을 제기하게 만듭니다.

현대의 파놉티콘

버튼 하나만 누르면 휴대전화를 통해 전례 없는 타인 감시가 가능해졌습니다. 가해자의 주머니에서는 신호가 허용되는 한 언제 어디서나 현재 및 이전 파트너를 감시하는 데 사용할 수 있습니다. 이는 가해자에게 전능한 힘, 피해자들은 감시당하지 않을 때에도 감시당하고 있다고 믿게 됩니다.

이는 “파놉티콘”이라는 개념을 도입한 18세기 철학자 제러미 벤담의 작품을 생각나게 합니다. Bentham은 중앙에 가드 타워가 있고 개별 감방으로 둘러싸인 "완벽한" 감옥 시스템을 제안했습니다.

서로 고립된 수감자들은 탑만 볼 수 있습니다. 이는 탑 안에 있는 경비원을 볼 수 없음에도 불구하고 그들이 영구적으로 감시되고 있음을 지속적으로 상기시켜 줍니다. Bentham은 그러한 구조가 궁극적으로 자물쇠나 막대가 필요하지 않을 때까지 수감자들의 자체 감시를 가져올 것이라고 믿었습니다.

나의 최근 연구 이는 휴대폰이 학대적인 관계 내에서 유사한 역동성을 만들어냈다는 것을 보여줍니다. 전화기는 탑의 역할을 맡고 그 안의 경비원을 가해합니다.

이 현대 판옵티콘에서는 피해자가 낯선 사람, 친구, 가족의 눈에 띄게 외부에 있을 수 있습니다. 하지만 휴대폰이 있기 때문에 그들은 학대하는 파트너가 여전히 자신을 감시하고 통제하고 있다고 느낍니다.

한 참가자는 이렇게 말했습니다. “밖으로 나가도 자유가 없다고 느낍니다. 어딘가에 갇혀 있고, 자유가 없고, 누군가가 당신을 통제하고 있는 것 같은 느낌이 듭니다.”

학대 생존자들은 가해자가 없을 때에도 계속해서 자신을 모니터링합니다. 그들은 학대자를 기쁘게 할(또는 적어도 화나게 하지 않을) 방식으로 행동합니다.

이러한 행동은 종종 다른 사람들에게 이상하게 여겨지며 편집증, 불안 또는 더 심각한 정신 건강 문제로 너무 쉽게 무시됩니다. 초점은 피해자의 행동에 맞춰지고 원인(파트너의 학대 또는 범죄 행위)은 무시됩니다.

기술이 더욱 정교해짐에 따라 학대자가 사용할 수 있는 도구와 전략도 계속 발전할 것입니다. 이는 가해자의 범위를 확대하고 감시, 가스라이팅 및 학대에 대한 새로운 기회를 제공할 것입니다.

기술 회사가 가정 폭력 생존자의 경험을 고려하고 제품 설계에 안전 메커니즘을 구축할 때까지 학대는 계속 남아 있을 것입니다. 눈에 잘 띄지 않는 곳에 숨겨진.

티리온 하버드, 사회 복지 부교수, 런던 사우스 뱅크 대학

이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.