AI가 건강 관리를 혁신할 수 있는 잠재력을 갖는 방법
게티 이미지

인공 지능(AI)은 빠르게 움직이고 있으며 임상 치료에서 중요한 지원 도구가 될 것입니다. 연구에 따르면 AI 알고리즘은 흑색종을 발견하다미래의 유방암을 예측하다.

그러나 AI가 일상적인 임상 사용에 통합되기 전에 알고리즘 편향 문제를 해결해야 합니다. AI 알고리즘에는 차별 및 개인 정보 보호 문제로 이어질 수 있는 고유한 편향이 있을 수 있습니다. AI 시스템은 필요한 감독이나 사람의 개입 없이 의사 결정을 내릴 수도 있습니다.

 AI의 잠재적으로 해로운 영향의 예는 국제 프로젝트 AI를 사용하여 획기적인 치료법을 개발하여 생명을 구하는 것을 목표로 합니다. 실험에서 팀은 "좋은" AI 모델을 뒤집어 새로운 AI 모델이 "해를 끼치는" 옵션을 만들었습니다.

XNUMX시간도 안 되는 훈련 시간에 역방향 AI 알고리즘은 수만 개의 잠재적인 화학전 작용제를 생성했으며 현재의 화학전 작용제보다 훨씬 더 위험합니다. 이것은 화합물에 관한 극단적인 예이지만 AI의 알려진 윤리적 결과와 상상할 수 없는 윤리적 결과를 평가하기 위한 경종을 울리는 역할을 합니다.

임상 치료의 AI

의학에서 우리는 사람들의 가장 사적인 데이터와 종종 삶을 변화시키는 결정을 다룹니다. 강력한 AI 윤리 프레임워크가 필수적입니다.

최대 XNUMXW 출력을 제공하는 호주 간질 프로젝트 사람들의 삶을 개선하고 임상 치료를 보다 광범위하게 이용할 수 있도록 하는 것을 목표로 합니다. 간질 환자 수천 명의 고급 뇌 영상, 유전 및 인지 정보를 기반으로 우리는 AI를 사용하여 다음을 수행할 계획입니다. 현재 대답할 수 없는 질문에 답하기.


내면의 구독 그래픽


이 사람의 발작이 계속될까요? 어떤 약이 가장 효과적입니까? 뇌 수술이 실행 가능한 치료 옵션입니까? 이것들은 현대 의학이 해결하기 위해 고군분투하는 근본적인 질문들입니다.

이 프로젝트의 AI 리드로서 저의 주요 관심사는 AI가 빠르게 움직이고 규제 감독이 최소화된다는 것입니다. 이러한 문제는 우리가 최근에 윤리적 틀 AI를 임상 지원 도구로 사용하기 위한 것입니다. 이 프레임워크는 우리의 AI 기술이 개방적이고 안전하며 신뢰할 수 있도록 보장하는 동시에 임상 치료의 포괄성과 공정성을 촉진하기 위한 것입니다.

그렇다면 편견을 줄이고 알고리즘에 대한 통제력을 유지하기 위해 의학에서 AI 윤리를 어떻게 구현해야 할까요? 컴퓨터 과학의 원칙인 "쓰레기가 들어가면 쓰레기가 나온다"는 것이 AI에 적용됩니다. 작은 샘플에서 편향된 데이터를 수집한다고 가정합니다. 우리의 AI 알고리즘은 편향되어 다른 임상 환경에서 복제할 수 없습니다.

편향의 예는 현대 AI 모델에서 찾기 어렵지 않습니다. 인기 있는 대규모 언어 모델(예: ChatGPT) 및 잠재 확산 모델(DALL-E 및 Stable Diffusion)은 어떻게 명백한 편향 성별, 민족, 사회경제적 지위와 관련하여 발생할 수 있습니다.

연구자들은 간단한 사용자 프롬프트가 인종, 성별 및 계급 고정관념을 영속시키는 이미지를 생성한다는 사실을 발견했습니다. 예를 들어, 의사에 대한 프롬프트 주로 생성 OECD 국가 전체 의사의 약 절반이 여성인 만큼 현실과 동떨어진 남성 의사 이미지다.

의료 AI의 안전한 구현

편견과 차별을 방지하기 위한 해결책은 사소하지 않습니다. 건강 평등을 가능하게 하고 임상 연구에서 포괄성을 촉진하는 것은 기본 솔루션 의료 AI의 편견과 싸우기 위해.

최근 미국 식품의약국(FDA)이 제안한 고무적인 다양성을 의무화 임상 시험에서. 이 제안은 덜 편향되고 커뮤니티 기반 임상 연구를 향한 움직임을 나타냅니다.

발전의 또 다른 장애물은 제한된 연구 자금입니다. AI 알고리즘에는 일반적으로 상당한 양의 데이터가 필요하며 이는 비용이 많이 들 수 있습니다. 연구자에게 AI 애플리케이션에 적합한 임상 관련 데이터를 수집하는 데 필요한 리소스를 제공하는 향상된 자금 조달 메커니즘을 구축하는 것이 중요합니다.

또한 우리는 항상 AI 알고리즘의 내부 작동 방식을 알고 있어야 하며 결론과 권장 사항에 도달하는 방법을 이해해야 한다고 주장합니다. 이 개념은 종종 AI에서 "설명 가능성"이라고 합니다. 이는 인간과 기계가 최적의 결과를 위해 협력해야 한다는 생각과 관련이 있습니다.

우리는 모델의 예측 구현을 "인공" 지능이 아닌 "증강"으로 보는 것을 선호합니다. 알고리즘은 프로세스의 일부여야 하며 의사 결정은 의료 전문가가 계속 제어해야 합니다.

설명 가능한 알고리즘의 사용을 장려하는 것 외에도 투명하고 개방적인 과학을 지원합니다. 과학자들은 AI 모델의 세부 사항과 그 방법론을 발표하여 투명성과 재현성을 향상시켜야 합니다.

의료 분야에서 AI를 안전하게 구현하려면 Aotearoa New Zealand에 무엇이 필요합니까? AI 윤리 문제는 주로 해당 분야의 전문가가 주도합니다. 그러나 EU 기반의 인공 지능 규제와 같은 표적 AI 규제 인공지능법 이러한 윤리적 고려 사항을 해결하기 위해 제안되었습니다.

유럽의 AI 법은 환영하며 "안전한 AI" 내에서 일하는 사람들을 보호할 것입니다. 영국 정부가 최근 발표한 AI 규제에 대한 선제적 접근, AI 안전에 대한 다른 정부 대응의 청사진 역할을 합니다.

Aotearoa에서 우리는 AI 안전에 대한 반응적 입장이 아닌 능동적 입장을 채택해야 한다고 주장합니다. 임상 치료 및 기타 분야에서 AI를 사용하기 위한 윤리적 프레임워크를 구축하여 해석 가능하고 안전하며 편견 없는 AI를 제공할 것입니다. 결과적으로 이 강력한 기술이 사회를 해로움으로부터 보호하면서 사회에 도움이 된다는 확신이 커질 것입니다.대화

저자에 관하여

망고르 페데르센, 심리학 및 신경과학 부교수, 오클랜드 기술 대학교

이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.

관련 도서 :

몸이 점수를 유지합니다: 트라우마 치유에서 뇌의 마음과 몸

베셀 반 데르 콜크

이 책은 트라우마와 신체적, 정신적 건강 사이의 연관성을 탐구하여 치유와 회복을 위한 통찰력과 전략을 제공합니다.

자세한 정보를 보거나 주문하려면 클릭하십시오.

호흡: 잃어버린 예술의 새로운 과학

제임스 네스터

이 책은 호흡의 과학과 실습을 탐구하고 신체적, 정신적 건강을 개선하기 위한 통찰력과 기술을 제공합니다.

자세한 정보를 보거나 주문하려면 클릭하십시오.

식물 패러독스: 질병과 체중 증가를 유발하는 "건강한" 식품의 숨겨진 위험

스티븐 알 건드리

이 책은 식습관, 건강 및 질병 사이의 연관성을 탐구하여 전반적인 건강과 웰빙을 개선하기 위한 통찰력과 전략을 제공합니다.

자세한 정보를 보거나 주문하려면 클릭하십시오.

면역 코드: 진정한 건강과 근본적인 노화 방지를 위한 새로운 패러다임

조엘 그린

이 책은 후생유전학의 원리를 바탕으로 건강과 노화를 최적화하기 위한 통찰력과 전략을 제공함으로써 건강과 면역에 대한 새로운 관점을 제시합니다.

자세한 정보를 보거나 주문하려면 클릭하십시오.

단식에 대한 완전한 가이드: 간헐적, 격일 및 장기 단식을 통해 몸을 치유하십시오

제이슨 펑 박사와 지미 무어

이 책은 전반적인 건강과 웰빙을 개선하기 위한 통찰력과 전략을 제공하는 단식의 과학과 실천을 탐구합니다.

자세한 정보를 보거나 주문하려면 클릭하십시오.