AI 가짜 참고문헌 논문 철회, 인용이 주장을 뒷받침하는지 살펴야
AI가 만든 가짜 참고문헌을 활용한 국내외 논문 철회가 이어지고 있다. 문헌의 존재 확인을 넘어 인용한 연구가 실제로 주장을 뒷받침하는지 살피는 기준과 연구자·기업·독자가 점검할 사항을 짚는다.

참고문헌은 주장을 확인하는 통로다
최근 보도에 따르면 AI가 만들어낸 가짜 참고문헌을 활용한 국내외 논문이 잇따라 철회되고 있다. 여기서 주목할 문제는 문서에 잘못된 항목이 들어갔다는 데 그치지 않는다. 참고문헌은 독자가 연구의 근거를 거슬러 확인하는 통로다. 그 통로가 존재하지 않으면 어떤 주장이 앞선 연구에 기대고 있는지, 어디부터 저자의 새로운 해석인지 판단하기 어려워진다.
이번 논란은 AI의 문장 생성 능력과 근거를 제시하는 능력을 구분해야 한다는 신호로 읽을 수 있다. 일반적으로 생성형 AI는 학술 문헌의 형식을 본뜬 답변을 만들 수 있지만, 그 형식만으로 실제 자료의 존재가 보장되지는 않는다. 저자명과 학술지명이 정교하게 배열돼 있어도 확인은 별개다. 참고문헌 목록이 길고 그럴듯하다는 이유로 본문의 신뢰도를 높여 평가해서는 곤란하다.
존재하는 논문도 엉뚱한 근거가 될 수 있다
분석의 초점을 한 단계 넓히면, 가짜 문헌을 걸러내는 일은 인용 검토의 출발점이다. 실제로 존재하는 연구라도 본문의 주장과 맞지 않을 수 있기 때문이다. 특정 조건에서 관찰된 결과를 모든 상황에 적용하거나, 가능성을 논의한 대목을 확정된 결론처럼 옮기면 근거의 의미가 달라진다. 이는 이번 철회 사례의 세부 원인에 대한 판단이 아니라, 인용을 다룰 때 필요한 일반적인 구분이다.
따라서 연구자와 보고서 작성자가 확인할 질문은 두 가지다. 해당 자료를 실제로 찾을 수 있는가, 그리고 그 자료가 바로 앞 문장을 뒷받침하는가다. 예컨대 일부 사용자의 경험을 다룬 연구를 제품 전체의 성능을 보장하는 근거로 쓰려면 추가 설명이 필요하다. 자료의 존재와 주장의 적합성을 나눠 살펴야 서지정보를 바로잡고도 본문에 남는 과도한 해석을 발견할 수 있다.
기업 보고서에도 필요한 주장별 점검
이 관점은 학술지 밖에서도 유용하다. 기업이 AI로 시장 조사나 기술 검토 초안을 만든다면, 참고문헌의 오류가 투자 검토나 제품 설명에 영향을 줄 가능성을 생각해야 한다. 특히 결론을 좌우하는 주장에는 근거 자료의 어느 부분을 읽고 판단했는지 함께 남기는 편이 좋다. 문서 끝에 출처 목록만 붙이는 방식보다 주장과 근거를 가까이 연결하면 검토자가 해석의 비약을 찾기 쉽다.
실무에서는 핵심 문장마다 원문 위치와 적용 조건을 짧게 적어둘 수 있다. 연구 대상이 누구인지, 어떤 환경에서 얻은 결과인지, 저자가 밝힌 한계는 무엇인지 확인하는 방식이다. 원문을 확보하지 못했다면 검토가 끝난 근거처럼 취급하지 않아야 한다. 확인되지 않은 인용에 기대는 문장은 삭제하거나 판단을 보류하고, 확인 가능한 범위로 표현을 좁히는 것이 문서의 정확성을 높이는 데 도움이 된다.
독자는 근거가 이어지는지 물어야 한다
일반 독자가 모든 참고문헌을 읽기는 어렵다. 대신 자신의 결정에 영향을 주는 핵심 주장부터 출처를 따라가 볼 수 있다. 링크가 열리는지에 더해, 연결된 자료가 같은 질문을 다루는지 살펴보는 것이다. 초록만 확인했다면 세부 조건까지 검증했다고 여기지 않는 태도도 필요하다. 출처를 찾지 못했을 때 곧바로 거짓으로 단정하기보다 작성자에게 원문과 해당 대목을 요청하는 편이 합리적이다.
앞으로 AI 활용 문서의 품질 관리는 참고문헌의 형식을 맞추는 작업에서 주장과 근거의 관계를 확인하는 방향으로 강화될 필요가 있다. 자동 검색이나 서지정보 대조는 존재 여부를 확인하는 데 도움을 줄 수 있지만, 연구 결과를 얼마나 넓게 해석할지는 별도의 판단이다. 이번 논란을 계기로 확인해야 할 것은 AI 사용 여부만이 아니다. 중요한 결론마다 독자가 따라갈 수 있는 근거가 연결돼 있는지다.
참고한 보도
이 칼럼은 위에 적은 공개 보도를 바탕으로 AI 도구를 활용해 작성·편집했습니다. 사실관계와 세부 수치는 원문 기사를 함께 확인해 주세요. 편집 원칙 · 정정·문의: 문의하기


