사내 AI와 외부 서비스 구분 논의, 직원의 이의제기 절차가 중요하다

사내라는 경계 안에 있는 사람

최근 보도에 따르면 한국경제인협회는 사내 AI를 외부 서비스와 구분해야 한다며 AI법 개선을 건의했다. 여기서 확인되는 것은 구분을 요구하는 건의가 있었다는 사실이다. 구체적으로 어떤 의무를 어떻게 바꾸자는 것인지, 실제 제도가 달라질지는 별개다. 이번 논의를 읽을 때는 기업의 도입 부담과 함께, 사내 AI의 영향을 받는 직원에게 어떤 설명과 대응 기회가 필요한지도 살펴볼 만하다.

분석의 초점을 AI를 사용하는 직원에서 AI의 판단을 받는 직원으로 옮겨보자. 일반적으로 사내 시스템은 문서 작성을 돕는 도구일 수도 있지만, 업무 배정이나 성과 검토에 참고자료를 제공할 수도 있다. 후자의 경우 직원은 도구를 직접 쓰지 않아도 그 결과에 영향을 받을 수 있다. 외부에 공개되지 않는 서비스라는 특징만으로 구성원에게 미치는 영향까지 작다고 보기는 어려운 이유다.

설명은 오류를 고칠 수 있어야 한다

가령 AI가 업무 기록을 요약하면서 공동 작업을 특정인의 성과로만 정리했다고 가정해보자. 관리자가 이를 평가 자료로 받아들이면 요약의 누락이 직원에 대한 판단으로 이어질 수 있다. 이는 특정 기업에서 확인된 사례가 아니라, 내부 AI를 운영할 때 생각해볼 상황이다. 중요한 질문은 AI가 얼마나 똑똑한가에 그치지 않는다. 당사자가 잘못된 내용을 발견하고 바로잡을 길이 있는가도 물어야 한다.

이 관점에서 유용한 설명은 복잡한 기술 구조를 모두 공개하는 것과는 다르다. 어떤 업무 기록을 참고했는지, 결과가 어느 결정에 쓰이는지, 누가 최종 판단을 하는지 알아야 오류를 짚을 수 있다. 설명을 제공하더라도 직원이 이해하기 어려운 점수나 추상적인 등급만 보여준다면 대응에 도움이 적을 수 있다. 기업은 안내문을 만들 때 직원이 실제로 정정을 요청할 수 있는 정보인지 확인할 필요가 있다.

사람의 검토를 실질적인 절차로

사람이 최종 결정을 내린다는 원칙도 운영 방식에 따라 의미가 달라질 수 있다. 검토자가 원자료를 볼 시간이나 권한 없이 AI 결과를 승인하기만 한다면 오류를 걸러내기 어렵다. 따라서 기업이 확인할 것은 승인자의 존재뿐 아니라 판단을 바꿀 수 있는 조건이다. 직원이 반대 자료를 제출했을 때 누가 다시 검토하고, 결론이 바뀌면 이미 전달된 평가나 업무 지시에 어떻게 반영할지도 정해두는 편이 좋다.

이의제기 창구를 두는 것만으로 충분하다고 보기도 어렵다. 자신의 평가를 결정하는 상사에게만 문제를 제기해야 한다면 직원은 부담을 느낄 수 있다. 분석상 별도의 검토 담당자나 비공개 접수 경로는 이런 부담을 낮추는 선택지가 될 수 있다. 다만 모든 조직에 같은 절차를 적용할 필요는 없다. 결정의 중요도와 조직 규모에 맞추되, 접수 이후의 처리 과정과 결과를 당사자가 확인할 수 있어야 한다.

규정 변화 전에도 확인할 수 있는 것

직원 개인은 회사가 AI를 쓴다는 사실만 묻기보다, 자신의 업무 기록이 어떤 판단에 활용되는지 확인하는 편이 실용적이다. 오류가 의심된다면 문제가 된 내용과 이를 바로잡을 근거를 회사가 허용한 경로로 전달하고 답변을 남겨두는 방식이 도움이 될 수 있다. 이때 자료를 확보하려고 동료의 정보나 회사 문서를 개인용 AI에 올리는 행동은 피해야 한다. 정정 요청 자체가 새로운 정보 노출로 이어질 수 있기 때문이다.

기업에는 규제 구분의 결론을 기다리는 동안에도 할 일이 있다. 직원에게 영향을 주는 AI 결과가 어디로 전달되는지 살피고, 오류 신고부터 수정 통보까지 한 번 따라가 보는 것이다. 전망하자면 사내 AI에 대한 신뢰는 도입 속도만큼이나 잘못된 판단을 되돌리는 경험에 좌우될 수 있다.

이번 건의에 관한 논의에서도 기업의 부담을 어떻게 조정할지와 함께, 내부 구성원이 설명을 듣고 판단에 이의를 제기할 통로를 살펴야 한다.