UNIST 추천 AI 편향 진단, 클릭을 취향으로 오해하지 않으려면
UNIST의 추천 AI 편향·환각 추적 기술 개발 소식을 계기로, 추천 결과가 다시 취향 데이터가 되는 순환을 짚는다. 이용자의 선택권과 기업의 추천 품질을 위해 노출 기록, 상품 정보 검증, 평가 기준에서 확인할 점을 살펴본다.

추천이 다음 추천의 근거가 될 때
최근 보도에 따르면 UNIST는 대규모 언어모델인 LLM 기반 추천 AI의 편향과 환각이 증폭되는 문제를 규명하고, 이를 추적하는 진단 기술을 개발했다. 이번 소식에서 주목할 대목은 추천의 정확도뿐 아니라 오류가 반복되는 경로다. 추천이 이용자의 반응을 만들고 그 반응이 다음 추천에 쓰인다면, 시스템이 스스로 만든 결과를 선호의 증거로 받아들일 가능성을 살펴야 한다.
일반적인 추천 서비스에서는 클릭이나 구매 같은 행동을 선호를 추정하는 단서로 활용할 수 있다. 그러나 클릭은 눈앞에 제시된 선택지 안에서 나온 반응이기도 하다. 비슷한 상품만 계속 보인다면 다른 상품을 좋아할 가능성은 기록에 드러나기 어렵다. 이런 관점에서 보면 반복 추천은 취향을 정확히 읽었다는 신호일 수도 있지만, 취향을 알아볼 기회가 줄었다는 신호일 수도 있다.
선택의 쏠림과 정보의 오류는 다르다
분석을 위해서는 편향과 환각을 구분할 필요가 있다. 추천 편향은 특정 상품이나 유형에 선택지가 치우치는 문제로 이해할 수 있다. 환각은 실제로 확인되지 않은 상품 특성이나 설명을 사실처럼 생성하는 문제에 가깝다. 두 현상은 함께 나타날 수 있지만 점검 방법은 다르다. 추천 목록을 다양하게 만드는 조치만으로 상품 설명의 사실성까지 확보할 수 있다고 보기는 어렵다.
가령 어떤 추천 서비스가 특정 소재의 옷을 자주 보여주면서, 상품 정보에 없는 기능까지 설명한다고 가정해 보자. 이용자는 제한된 선택지와 부정확한 설명을 바탕으로 구매할 수 있다. 그 구매를 만족의 증거로만 해석하면 잘못된 추천을 긍정하는 데이터가 쌓일 가능성이 있다. 이는 이번 연구의 구체적인 실험을 설명하는 사례가 아니라, 두 위험이 만날 때의 영향을 보여주는 가정이다.
기업은 클릭 앞에 있었던 노출을 봐야 한다
기업이 지금 확인할 것은 추천 성과표에 무엇이 빠져 있는지다. 클릭률이나 구매율만 보면 이용자가 무엇을 선택했는지는 알 수 있어도 무엇을 선택할 수 없었는지는 놓치기 쉽다. 어떤 후보 가운데 무엇을 보여줬는지, 일부 상품에 노출이 집중되는지 함께 살펴볼 필요가 있다. 특히 판매자에게는 노출 기회의 차이가 매출에 영향을 줄 수 있어, 추천 품질은 이용자 만족만의 문제가 아니다.
평가에서는 기존 추천이 만든 반응과 다른 선택지를 제공했을 때의 반응을 비교하는 접근을 고려할 수 있다. 새로운 상품을 적절히 섞어 보여주고 만족도나 반품 사유까지 살피면 클릭만으로 놓친 단서를 얻을 수 있다. 다만 이런 비교도 상품 가격과 재고 등 다른 조건의 영향을 받는다. 환각 점검은 별도로 두고, 생성된 설명이 상품 원본 정보와 일치하는지 확인하는 절차가 필요하다.
이용자가 취향을 고칠 통로가 필요하다
개인은 추천이 지나치게 반복될 때 검색어를 바꾸거나 카테고리를 직접 탐색해 선택지를 비교해 볼 수 있다. 서비스가 관심 없음 표시나 추천 기록 초기화 기능을 제공하는지도 확인할 만하다. 구매를 결정할 때는 AI의 설명과 판매자가 제공한 상품 사양을 대조하는 편이 도움이 된다. 다만 이러한 행동이 편향을 반드시 해소하는 것은 아니며, 추천 품질의 책임을 이용자에게 넘겨서도 안 된다.
정책과 서비스 설계의 관점에서는 이용자가 추정된 취향을 수정할 수 있는지가 중요한 평가 항목이 될 수 있다. 우연한 클릭과 지속적인 관심을 구분하고, 원치 않는 추천을 줄여 달라는 의사가 반영되는지 확인해야 한다. 이번 진단 기술의 실제 적용 범위와 효과는 추가 정보가 있어야 판단할 수 있다. 앞으로는 오류를 발견하는 역량과 함께 발견한 오류가 다음 추천에서 줄어드는지도 따져볼 필요가 있다.
참고한 보도
이 칼럼은 위에 적은 공개 보도를 바탕으로 AI 도구를 활용해 작성·편집했습니다. 사실관계와 세부 수치는 원문 기사를 함께 확인해 주세요. 편집 원칙 · 정정·문의: 문의하기


