아마존의 제품 추천 알고리즘이 건강 관련 오정보를 제대로 거르지 못한다는 연구 결과가 발표됐다. 특히 코로나19 백신과 관련한 오정보가 아마존 고객에게 노출된다는 지적이다.
워싱턴대학 연구진은 지난 21일(현지시간) 아마존에서 수행한 15일간의 제품 검색 연구 결과, 아마존의 제품 추천 알고리즘이 의학적으로 오해의 소지가 있는 콘텐츠를 노출시킨다고 밝혔다.
연구진은 논문에서 “종이책, 전자책, 개인위생 등의 카테고리에 해당하는 상품 정보에 건강 관련 오정보들이 ‘과다하게’ 포함돼 있는 것을 발견했다”라며 “검색 결과로 뜬 상품 중 10.47%는 잘못된 건강 정보가 담긴 콘텐츠였다”라고 설명했다.
예컨대 “코로나바이러스 치료와 관련해 기도 치료법(prayer healing), 약초 치료법, 항바이러스 비타민 보충제 등 의학적으로 검증되지 않은 콘텐츠와 상품이 고객에게 추천됐다”라고 연구진은 밝혔다.
특히 아마존의 추천 알고리즘에 필터버블(filter bubble) 효과가 발생한다는 지적도 있었다. 고객들이 검색 조건을 설정해 건강 상품을 검색할 경우, 오정보를 폭로하는 상품 콘텐츠보다 오정보를 홍보하는 상품 콘텐츠가 더 많이 노출된다는 설명이다.
필터버블은 사용자의 검색 이력에 기초해 웹사이트 알고리즘이 사용자가 선호할 만한 정보만 선별적으로 노출함으로써, 사용자가 특정 정보에 대한 편향 속에 갇히는 현상을 의미한다.
이번 연구 결과를 얻기 위해 연구진은 아마존에 로그인 및 비로그인한 경우로 나눠 ‘HPV 백신’, ‘면역’, ‘MMR 백신’ 등 백신 관련 주요 키워드를 검색하는 실험을 수행했다고 설명했다.
연구진은 “여러 검색 플랫폼들은 사용자의 검색 경험을 향상하기 위해 과거 검색 결과를 바탕으로 개인 맞춤형 서비스를 제공한다”라며 “적절히 통제되지 않으면 이런 개인화 알고리즘은 사용자들은 문제성 콘텐츠로 이끌 수 있다”라고 지적했다.
<출처 : CIO KOREA>
<출처 : CIO KOREA>
