심평원 AI 윤리 확인마크, 건강정보 이용자가 살펴볼 권리

확인마크와 이용자의 권리 사이

최근 보도에 따르면 건강보험심사평가원이 ‘AI 윤리 준수기관’ 확인마크를 획득했다. 일부 매체는 이를 한국지능정보사회진흥원(NIA)의 확인마크로 소개하며 AI 활용 체계와 국민 건강정보 보호의 의미를 짚었다. 이번 소식을 이용자 관점에서 읽는다면, 기관의 윤리적 약속이 실제 서비스에서 어떤 설명과 선택의 기회로 이어질지 살펴보는 출발점으로 삼을 수 있다.

확인마크는 기관의 AI 활용을 바라보는 하나의 단서가 될 수 있다. 다만 획득 사실만으로 개별 서비스의 정확성이나 정보 보호 수준까지 판단하기는 어렵다. 어떤 업무와 절차를 대상으로 확인했는지, 이후 변화는 어떻게 관리하는지에 따라 이용자가 받아들일 의미도 달라질 수 있다. 분석의 초점은 표시 자체의 유무보다 그 약속을 이용자가 확인할 수 있는 방식에 둘 필요가 있다.

건강정보에서는 설명의 경계가 중요하다

건강정보는 개인의 질환이나 치료 경험처럼 사적인 내용을 포함할 수 있다. 일반적으로 이런 정보를 다루는 AI에서는 정보 유출 방지와 함께 이용 목적을 이해할 수 있는 설명이 중요하다. 같은 정보라도 행정 업무 지원에 쓰이는지, 개인과 관련된 판단을 보조하는지에 따라 당사자가 궁금해할 내용이 다르기 때문이다. 윤리 원칙이 현장에서 작동하려면 이러한 차이를 드러내는 안내가 도움이 될 것이다.

설명을 늘린다고 이해가 저절로 높아지는 것은 아니다. 이용자에게는 AI가 관여하는 업무, 사용하는 정보의 범위, 결과를 사람이 검토하는지 여부가 먼저 필요할 수 있다. 기술 용어나 긴 약관만으로 이를 대신한다면 중요한 내용을 찾기 어려워진다. 이는 심평원의 현재 운영에 대한 평가가 아니라, 건강정보를 다루는 기관이 윤리적 약속을 서비스 안내로 옮길 때 고려할 설계상의 과제다.

틀린 결과를 바로잡을 통로가 있는가

AI가 관여하는 서비스에서 이용자가 체감하는 신뢰는 문제가 생겼을 때 더 분명해질 수 있다. 일반적으로 AI의 결과에는 오류나 맥락 누락의 가능성이 있다. 개인에게 영향을 주는 업무라면 결과가 낯설거나 사실과 다를 때 누구에게 설명을 요청할 수 있는지가 중요하다. 담당 부서로 연결되는 경로와 재검토를 요청하는 방법이 명확할수록 이용자는 문제를 바로잡는 절차에 접근하기 쉬워진다.

개인은 관련 서비스를 이용할 때 AI 활용 안내와 문의 창구를 먼저 찾아볼 수 있다. 자신의 정보가 잘못 표시됐다면 어느 항목이 다른지 정리하고, 설명이나 정정을 요청한 내역을 보관하는 것이 도움이 된다. 다만 모든 결과를 AI 때문이라고 추정할 필요는 없다. 어떤 단계에서 문제가 생겼는지 확인해 달라고 요청하는 편이 원인을 파악하고 필요한 담당자에게 연결되는 데 더 유용할 수 있다.

협력 기업도 설명과 정정을 설계해야

건강정보를 다루는 기관과 협력하는 기업에는 이러한 관점이 제품과 계약을 점검하는 기준이 될 수 있다. AI 기능을 제공한다면 결과의 근거를 어디까지 설명할 수 있는지, 오류 신고가 들어오면 기관과 기업 중 누가 조사할지 정해 둘 필요가 있다. 이용자의 정정 요청이 시스템에 반영되는 경로도 살펴볼 만하다. 이는 특정 계약의 현황이 아니라 책임 있는 운영을 위한 일반적인 제안이다.

이번 확인마크 획득이 AI 활용 체계의 안착을 돕는 계기가 될지는 앞으로의 운영을 통해 살펴볼 일이다. 윤리적 약속이 이용자에게 의미를 가지려면 정보 보호뿐 아니라 이해할 수 있는 안내와 문제 해결의 경험으로 이어져야 할 것이다. 개인은 설명을 요청할 통로를, 기관과 기업은 그 요청에 답할 준비를 확인할 수 있다. 그 연결이 충실해질수록 확인마크의 의미도 더 구체적으로 드러날 수 있다.