시민 감정 읽는 AI, 행정 판단에 쓸 수 있는 정보인가
시민 감정을 분석하는 AI에 권리 보호 장치와 가이드라인이 필요하다는 논의가 나왔다. 핵심은 감정을 얼마나 잘 맞히느냐보다 행정 판단에 써도 되는 정보인지다. 시민과 도입 기관, 공급 기업이 확인할 기준을 짚는다.

감정을 읽는 기술과 행정에 쓰는 권한
최근 보도에 따르면 김길영 서울시의회 국민의힘 대표의원은 시민 감정까지 판단하는 AI와 관련해 권리 보호를 위한 제도적 기반이 필요하다고 강조했다. 감정 분석과 행정 판단을 둘러싼 가이드라인의 필요성도 함께 거론됐다. 다만 이 논의를 특정 행정기관이 이미 감정 점수로 시민을 평가하고 있다는 뜻으로 받아들여서는 안 된다. 제도 마련 요구와 실제 운영 여부는 구분해야 한다.
이번 논의에서 짚어볼 쟁점은 감정 분석의 정확도에 앞서 정보의 쓰임새다. 분석하자면, 시민이 불안하거나 화가 났다는 추정이 맞더라도 그것이 지원 자격이나 민원의 타당성을 판단할 근거가 되는지는 별개의 문제다. 기술이 어떤 특징을 포착할 수 있다는 사실만으로 행정이 그 정보를 사용할 이유까지 생기지는 않는다. 가이드라인은 이 두 질문을 나누는 데서 출발할 필요가 있다.
응대를 돕는 정보가 평가로 넘어갈 때
가령 민원 상담에서 목소리가 높아진 시민에게 잠시 쉬거나 다른 상담 방식으로 바꾸도록 안내하는 상황을 생각해볼 수 있다. 같은 신호를 근거로 그 시민의 주장을 덜 신뢰하거나 처리 순서를 뒤로 미룬다면 정보의 역할은 달라진다. 이는 실제 도입 사례가 아니라 용도의 차이를 보여주는 예시다. 응대 편의를 위한 분석이 시민을 평가하는 기준으로 넘어가는 지점을 살펴야 한다.
일반적으로 표정이나 말투만으로 내면의 감정을 확정하기는 어렵다. 같은 침묵도 긴장, 숙고, 의사소통의 어려움 등 여러 이유에서 나올 수 있다. 행정 창구에서는 낯선 절차와 급박한 사정이 표현 방식에 영향을 줄 가능성도 있다. 따라서 감정 추정값을 성실성이나 협조성으로 바꾸어 해석하면 신청 내용보다 표현 방식이 더 큰 비중을 차지할 수 있다는 점을 경계할 필요가 있다.
시민이 확인할 것은 분석의 사용처
시민에게 유용한 질문은 ‘AI가 내 감정을 읽는가’에서 한 걸음 더 나아간다. 감정 분석 기능이 안내돼 있다면 그 결과가 상담 방식만 바꾸는지, 신청 심사나 민원 처리에도 전달되는지 확인할 필요가 있다. 특히 분석에 참여하지 않을 때 이용 가능한 다른 경로와 처리상의 차이가 있는지 살펴볼 만하다. 동의 버튼의 존재만으로 선택의 실질적인 의미를 알 수 있는 것은 아니다.
불리한 결과를 받았다면 자신의 감정 상태를 해명하는 데만 매달릴 필요는 없다. 어떤 신청 요건이나 제출 자료가 판단 근거였는지, 감정 추정이 그 과정에 영향을 주었는지 설명을 요청하는 편이 쟁점을 분명히 하는 데 도움이 된다. 감정 추정의 타당성을 다투는 것과 별개로, 신청 내용과 관련된 근거를 다시 확인하는 접근이다. 구체적인 설명이나 재검토 절차는 해당 기관에 확인해야 한다.
기관과 기업은 사용 범위를 먼저 정해야
도입 기관은 감정 분석 기능을 검토할 때 활용 목적과 전달 범위를 구체적으로 정할 필요가 있다. 예를 들어 상담 화면의 참고 표시가 심사 담당자에게도 보이는지, 추정값이 다음 상담에 계속 따라붙는지 확인하는 방식이다. 분석 관점에서 보면 이런 연결 구조는 정확도만큼 중요하다. 일시적인 반응에 붙은 분류가 지속적인 인물 평가로 굳어지면 이후 응대와 판단에도 영향을 줄 수 있기 때문이다.
공급 기업도 감정 분류 성능을 설명하는 데 그치지 말고 결과를 어디에 쓰도록 설계했는지 제시할 필요가 있다. 기관은 도입 전에 감정 정보 없이도 업무 목적을 달성할 수 있는지 검토할 만하다. 앞으로의 가이드라인이 시민 권리 보호에 도움이 되려면 허용할 용도와 제한할 용도를 구체적으로 구분해야 할 것이다. 시민이 자신의 말투를 관리해야 권리를 인정받는 구조를 만들지 않는 것이 중요한 기준이다.
참고한 보도
이 칼럼은 위에 적은 공개 보도를 바탕으로 AI 도구를 활용해 작성·편집했습니다. 사실관계와 세부 수치는 원문 기사를 함께 확인해 주세요. 편집 원칙 · 정정·문의: 문의하기


