정보는 귀중한 상품입니다. 그리고 기술 덕분에 수백만 테라바이트 그것의 온라인.

ChatGPT와 같은 인공 지능(AI) 도구는 이제 우리를 대신하여 이 정보를 관리하고 요약하여 우리에게 다시 제시합니다.

그러나 정보 관리를 AI로 "아웃소싱"하는 것은 편리하기는 하지만 결과가 따릅니다. 영향을 미칠 수 있을 뿐만 아니라 뭐 우리는 생각하지만 잠재적으로 방법 우리는 생각한다.

AI 알고리즘이 어떤 정보가 영속되고 무엇이 남겨질지 결정하는 세상에서는 무슨 일이 일어날까요?

개인화된 AI의 등장

생성적 AI 도구는 수백 기가바이트의 데이터로 훈련된 모델을 기반으로 구축되었습니다. 기존 데이터. 이러한 데이터를 통해 그들은 텍스트, 이미지, 오디오 및 비디오 콘텐츠를 자율적으로 생성하는 방법을 배우고 "가장 가능성이 높은" 답변을 함께 패치하여 사용자 쿼리에 응답할 수 있습니다.

ChatGPT는 다음에서 사용됩니다. 수백만 명의 사람들, 공개된 지 XNUMX년도 채 되지 않았음에도 불구하고. XNUMX월에는 추가로 맞춤 응답 이미 인상적인 챗봇을 더욱 유용하게 만들었습니다. 이 기능을 통해 사용자는 봇을 사용하는 목적과 반응 방식을 설명하는 맞춤형 지침을 저장할 수 있습니다.

이는 "개인화 AI"의 여러 예 중 하나입니다. 즉, 사용자의 특정 요구와 선호도에 맞게 콘텐츠를 생성하는 AI 도구 범주입니다.

또 다른 예는 최근 출시된 Meta입니다. 가상 조수, 메타 AI. 이 챗봇 WhatsApp, 메신저, 인스타그램을 포함한 Meta 플랫폼 전반에 걸쳐 대화하고, 이미지를 생성하고, 작업을 수행할 수 있습니다.

인공지능 연구자이자 DeepMind의 공동 창업자인 Mustafa Suleyman은 기술하다 개인화된 AI는 기술이라기보다 관계에 가깝습니다.

친구입니다. [...] 그것은 정말로 항상 존재하고 당신과 함께 살며 기본적으로 당신의 팀에 있을 것입니다. 나는 그것을 당신의 구석에 훌륭한 코치가 있는 것과 같다고 생각하고 싶습니다.

그러나 이러한 기술 역시 논란의 여지가 있으며 우려가 제기되고 있습니다. 데이터 소유권, 바이어스 과 오보.

기술 회사들은 이러한 문제에 대처할 방법을 찾으려고 노력하고 있습니다. 예를 들어, Google은 AI가 생성한 검색 요약에 소스 링크를 추가했습니다. 검색 생성 경험 (SGE) 도구는 올해 초 공격을 받았습니다. 제물을 바치다 부정확하고 문제가 있는 답변.

기술은 이미 우리의 생각을 변화시켰습니다

생성적 AI 도구, 특히 우리에게 맞춤화된 도구는 우리가 생각하는 방식을 어떻게 변화시킬까요?

이를 이해하기 위해 인터넷이 우리 삶에 처음 들어왔던 1990년대 초반을 다시 살펴보겠습니다. 사람들은 은행 업무, 제빵, 교육, 여행 등 거의 모든 것에 대한 정보에 갑자기 접근할 수 있었습니다.

거의 30년이 지난 지금, 연구에 따르면 이 글로벌 "하이브 마인드"와 연결되면서 우리의 인지, 기억 및 창의성이 어떻게 변화되었는지가 밝혀졌습니다.

예를 들어, 다음과 같은 항목에 즉시 액세스할 수 있습니다. 305.5 억 페이지 정보의 양이 증가했습니다. 메타 지식 – 즉, 지식에 대한 지식입니다. 이로 인한 한 가지 영향은 다음과 같습니다.구글 효과”: 온라인 검색이 정보를 찾는 능력을 향상시키지만 그 정보가 무엇인지에 대한 기억력을 감소시키는 현상입니다.

한편으로, 우리의 생각을 검색 엔진에 맡기는 것은 우리의 정신적 예비력을 다음을 위해 확보하는 것으로 나타났습니다. 문제해결과 창의적 사고. 다른 한편으로는 온라인 정보 검색의 증가와 관련이 있습니다. 산만함과 의존성.

또한 연구에 따르면 검색된 정보의 양이나 질에 관계없이 온라인 검색을 하면 인지적 자존감. 즉, 우리 자신의 "스마트"에 대한 믿음이 커집니다.

이것을 사실과 결합하십시오 정보에 대한 질문은 힘들다 – 검색 엔진을 더 신뢰할수록 우리는 덜 비판적입니다. 그 결과에 참여하다 – 그리고 전례 없는 양의 정보에 접근한다고 해서 반드시 우리가 더 현명해지는 것은 아닌 이유를 알 수 있습니다.

우리는 생각을 '아웃소싱'해야 할까요?

오늘날의 생성 AI 도구는 단순히 검색 결과를 제공하는 것보다 훨씬 더 많은 기능을 수행합니다. 그들은 우리를 위해 정보를 찾고, 평가하고, 종합하여 우리에게 다시 제시합니다.

이것이 어떤 의미를 가질 수 있습니까? 인간 주도의 품질 관리를 추진하지 않는다면 전망은 밝지 않습니다.

친숙하고 객관적이며 매력적으로 느껴지는 응답을 생성하는 Generative AI의 능력은 우리가 인지 적 편견.

XNUMXD덴탈의 자동화 편향예를 들어, 기계에서 얻은 정보의 무결성을 과대평가하는 인간의 경향입니다. 그리고 단순한 노출 효과는 친숙하거나 개인적인 것으로 제시된 정보를 더 신뢰할 가능성이 높을 때 발생합니다.

소셜 미디어에 대한 연구는 그러한 편견의 영향을 이해하는 데 도움이 될 수 있습니다. 2016년 한 연구에서 Facebook 사용자는 다음과 같이 보고했습니다. 좀 더 "알고 있는" 느낌 온라인에 게시된 뉴스 콘텐츠의 양을 기반으로 하며 실제로 읽은 콘텐츠의 양이 아닙니다.

우리는 또한 “거품을 걸러 내다” 소셜 미디어 알고리즘에 의해 생성된 피드는 관심사에 따라 필터링되며 우리가 노출되는 콘텐츠의 다양성을 제한합니다.

이러한 정보 축소 과정이 증가하는 것으로 나타났습니다. 이념적 양극화 대안적인 관점을 고려하려는 사람들의 성향을 줄임으로써 또한 다음에 노출될 가능성이 증가하는 것으로 나타났습니다. 가짜 뉴스.

AI를 사용하여 멍청하게 굴지 않고 현명하게 행동하세요

생성적 AI는 의심할 여지 없이 사회를 위해 위대한 일을 할 수 있는 잠재력을 지닌 혁명적인 힘입니다. 이를 통해 교육 시스템을 재편할 수 있습니다. 맞춤 콘텐츠, 신속하게 업무 관행을 변경하십시오. 글쓰기와 정보 분석, 그리고 과학적 발견.

그것은 심지어 우리가 다른 사람들과 의사소통하고 연결하도록 도움으로써 우리의 관계를 긍정적으로 변화시킬 수 있는 잠재력을 가지고 있으며 때로는 합성 동반자의 형태.

그러나 미래를 판단하는 유일한 방법이 과거를 되돌아보는 것이라면 아마도 지금은 인터넷과 소셜 미디어가 우리의 인식을 어떻게 변화시켰는지 반성하고 일부를 적용해야 할 때일 것입니다. 예방 조치. 개발 중 AI 활용 능력 인간의 자율성과 비판적 사고를 장려하는 AI 도구를 설계하는 것과 마찬가지로 시작하기 좋은 곳입니다.

궁극적으로 우리는 우리 자신의 두 가지를 모두 이해해야 할 것입니다. 그리고 AI의 강점과 약점 이러한 "생각하는" 동료들이 우연히 목록의 맨 위에 있는 미래가 아니라 우리가 원하는 미래를 창조하는 데 도움이 되도록 보장합니다.

사라 비비안 벤틀리, 연구 과학자, 책임 있는 혁신, Data61, CSIRO; 클레어 메이슨, 수석 연구 과학자, CSIRO및 에이나트 그림버그, 기술 및 사회 과학 박사후 연구원, CSIRO

이 기사는에서 다시 게시됩니다. 대화 크리에이티브 커먼즈 라이센스하에 읽기 원래 기사.