데이터 조각으로 구성된 얼굴
Shutterstock

인공 지능 (AI)은 인간과 함께 일하는 방법에 대해 더 많이 배우고 있습니다. ㅏ 최근의 연구 AI가 인간의 습관과 행동의 취약성을 식별하고이를 사용하여 인간의 의사 결정에 영향을 미치는 방법을 배울 수있는 방법을 보여주었습니다.

AI가 우리가 살고 일하는 방식의 모든 측면을 변화시키고 있다고 말하는 것은 진부한 것처럼 보일 수 있지만 사실입니다. 백신 개발, 환경 관리, 사무 관리 등 다양한 분야에서 다양한 형태의 AI가 활동하고 있습니다. AI는 인간과 같은 지능과 감정을 가지고 있지 않지만 그 능력은 강력하고 빠르게 발전합니다.

아직 머신 인수에 대해 걱정할 필요는 없지만 최근 발견 된 이번 발견은 AI의 힘을 강조하고 오용을 방지하기위한 적절한 거버넌스의 필요성을 강조합니다.

AI가 인간 행동에 영향을 미치는 방법을 배울 수있는 방법

연구원 팀 CSIRO의 Data61오스트레일리아 국립 과학 기관의 데이터 및 디지털 부서 인은 반복 신경망과 심층 강화 학습이라는 일종의 AI 시스템을 사용하여 사람들이 선택하는 방식에서 취약성을 찾아 내고 악용하는 체계적인 방법을 고안했습니다. 그들의 모델을 테스트하기 위해 그들은 인간 참가자가 컴퓨터를 상대로 게임을하는 세 가지 실험을 수행했습니다.

첫 번째 실험에서는 참가자가 빨간색 또는 파란색 상자를 클릭하여 가짜 통화를 획득하고 AI가 참가자의 선택 패턴을 학습하고 특정 선택으로 안내하는 방식을 사용했습니다. AI는 약 70 %의 시간 동안 성공했습니다.

내면의 구독 그래픽

두 번째 실험에서 참가자는 화면을보고 특정 기호 (예 : 주황색 삼각형)가 표시 될 때 버튼을 누르고 다른 기호 (예 : 파란색 원)가 표시 될 때 누르지 않아야했습니다. 여기에서 AI는 참가자들이 더 많은 실수를 할 수 있도록 기호의 순서를 배열하기 시작했고 거의 25 %의 증가를 달성했습니다.

세 번째 실험은 참가자가 수탁자 (AI)에게 돈을주는 투자자 인 척하는 여러 라운드로 구성되었습니다. 그런 다음 AI는 참가자에게 일정 금액을 반환하고 참가자는 다음 라운드에 얼마를 투자할지 결정합니다. 이 게임은 두 가지 다른 모드로 진행되었습니다. 하나는 AI가 결국 얼마나 많은 돈을 벌어 들일지 극대화하기 위해 나가고 다른 하나는 AI가 자신과 인간 투자자 사이에 공정한 돈을 분배하는 것을 목표로했습니다. AI는 각 모드에서 매우 성공적이었습니다.

각 실험에서 기계는 참가자의 반응을 통해 학습하고 사람들의 의사 결정에있는 취약점을 식별하고 목표로 삼았습니다. 최종 결과는 참가자를 특정 행동으로 유도하는 기계 학습이었습니다.

실험에서 컴퓨터 마더 보드의 다이어그램처럼 보이는 사람의 머리 속.n AI 시스템은 인간의 결정에 영향을 미치는 방법을 성공적으로 배웠습니다. Shutterstock

연구가 AI의 미래를 위해 의미하는 것

이러한 결과는 여전히 매우 추상적이며 제한적이고 비현실적인 상황을 포함합니다. 이 접근 방식이 어떻게 실행되고 사회에 도움이되는지를 결정하기 위해서는 더 많은 연구가 필요합니다.

그러나이 연구는 AI가 무엇을 할 수있을뿐만 아니라 사람들이 어떻게 선택하는지에 대한 우리의 이해를 발전시킵니다. 그것은 기계가 우리와의 상호 작용을 통해 인간의 선택을 유도하는 방법을 배울 수 있음을 보여줍니다.

이 연구는 행동 과학 및 공공 정책을 강화하여 사회 복지를 개선하는 것에서부터 사람들이 건강한 식습관 또는 재생 가능 에너지를 채택하는 방법을 이해하고 영향을 미치는 방법에 이르기까지 광범위한 응용 프로그램을 제공합니다. AI와 기계 학습은 특정 상황에서 사람들의 취약성을 인식하고 잘못된 선택에서 벗어나도록 돕는 데 사용될 수 있습니다.

이 방법은 영향 공격으로부터 방어하는 데에도 사용할 수 있습니다. 예를 들어, 우리가 온라인에서 영향을 받고있을 때 우리에게 경고하고 우리의 취약성을 위장하기위한 행동을 형성하는 데 도움이되도록 기계를 교육 할 수 있습니다 (예 : 일부 페이지를 클릭하지 않거나 다른 페이지를 클릭하여 잘못된 흔적을 남김).

무엇 향후 계획?

다른 기술과 마찬가지로 AI는 좋든 나쁘 든 사용할 수 있으며 적절한 거버넌스는 책임감있는 방식으로 구현되도록하는 데 중요합니다. 작년 CSIRO는 AI 윤리 프레임 워크 이 여정의 초기 단계로 호주 정부를 위해.

AI와 머신 러닝은 일반적으로 데이터에 대한 관심이 매우 높기 때문에 데이터 거버넌스 및 액세스를위한 효과적인 시스템을 확보하는 것이 중요합니다. 데이터 수집시 적절한 동의 프로세스 및 개인 정보 보호를 구현하는 것이 필수적입니다.

AI를 사용하고 개발하는 조직은 이러한 기술이 할 수있는 일과 할 수없는 일을 파악하고 잠재적 인 위험과 이점을 인식해야합니다.

저자에 관하여

Jon Whittle, 이사, Data61

이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.