AI 기본법 규제 대상 논의, 사내 AI의 쓰임을 구분할 때

명확한 기준을 요구하는 이유

최근 보도에 따르면 한국경제인협회는 AI 기본법의 규제 대상과 책임 범위를 명확히 해야 한다며 개선과제 19건을 건의했다. 사내 업무용 AI와 인공지능사업자의 의무 대상이 주요 쟁점으로 거론됐다. 이번 논의를 이해하는 출발점은 규제의 강약만 따지는 데 있지 않다. 어떤 이용에 어떤 의무가 연결되는지 기업과 이용자가 함께 이해할 수 있는 기준이 필요한 이유를 살펴봐야 한다.

분석의 관점에서 기준의 모호함은 기업 규모에 따라 다른 부담으로 나타날 수 있다. 전담 인력이 있는 기업은 해석을 검토할 여지가 있지만, 작은 기업은 도입 여부부터 판단하기 어려울 수 있다. 반대로 이용자는 자신에게 영향을 준 AI에 누구의 설명을 요구해야 할지 알기 어렵다. 의무 대상을 명확히 하는 일은 사업의 예측 가능성과 이용자의 문제 제기 가능성을 함께 높이는 과제다.

사내 사용이라는 말로 묶기 어려운 차이

사내 업무용이라는 표현만으로 AI의 영향을 가늠하기는 어렵다. 예를 들어 회의 내용을 요약하는 도구와 직원 평가에 참고할 점수를 만드는 도구는 모두 회사 안에서 쓰일 수 있다. 그러나 결과가 틀렸을 때 영향을 받는 사람과 불이익의 크기는 다를 수 있다. 이는 특정 사례에 대한 법적 판단이 아니라, 적용 기준을 설계할 때 사용 장소와 함께 실제 용도를 살펴야 한다는 분석이다.

같은 AI도 쓰임이 바뀌면 점검할 문제가 달라질 수 있다. 처음에는 문장 초안을 만드는 데 사용하다가 이후 고객의 요청을 분류하거나 처리 순서를 정하는 데 활용하는 상황을 생각해 볼 수 있다. 구매 당시의 제품 설명만으로 현재의 영향을 설명하기 어려워지는 것이다. 기업에는 도구의 이름을 나열한 목록보다 어느 업무에서 누구에게 영향을 주는지 적은 사용 현황이 더 유용할 수 있다.

기업이 먼저 그려볼 업무의 연결 관계

기업이 지금 확인할 사항은 AI 결과가 실제 결정으로 이어지는 경로다. 입력 자료를 누가 고르는지, 결과를 누가 검토하는지, 최종 판단을 누가 내리는지를 한 업무 단위로 정리해 볼 수 있다. 이런 기록이 법적 의무의 범위를 대신 정해 주는 것은 아니다. 다만 공급업체의 기술 설명과 회사의 실제 이용 방식 사이에 어떤 차이가 있는지 파악하고, 필요한 해석을 질문할 근거가 된다.

특히 사람이 최종 승인한다는 설명만으로 검토가 충분하다고 보기는 어렵다. 담당자가 결과의 근거를 확인할 수 있는지, 오류를 발견했을 때 결정을 바꿀 권한과 시간이 있는지도 살펴야 한다. 이는 별도의 법적 의무를 단정하는 이야기가 아니라 업무 설계에 관한 점검 기준이다. 형식적인 승인과 실질적인 검토를 구분해야 AI가 보조하는 범위와 사람이 판단하는 범위를 구체적으로 설명할 수 있다.

이용자가 이해할 수 있어야 하는 기준

직원이나 고객에게도 확인할 지점은 있다. 자신에게 영향을 주는 처리 과정에서 AI가 어떤 역할을 하는지, 잘못된 정보가 반영됐다고 생각할 때 어디에 설명과 정정을 요청할 수 있는지 살펴보는 것이다. 모든 내부 도구의 기술 구조를 이해할 필요는 없다. 중요한 것은 자신의 평가나 요청 처리에 영향을 주는 단계와 담당 창구를 아는 일이다. 기업의 안내도 이러한 질문에 답할 수 있어야 한다.

향후 논의에서는 사내 사용을 하나의 범주로 묶기보다 용도와 영향에 따라 기준을 설명하는 접근이 도움이 될 것으로 보인다. 기업은 어떤 경우에 추가 검토가 필요한지 예측할 수 있고, 이용자는 어떤 판단에 AI가 관여했는지 이해하기 쉬워질 수 있다. 개선 논의를 평가할 때도 의무가 얼마나 줄었는지만 볼 일은 아니다. 실제 업무에 적용할 수 있는 구체적인 구분과 설명이 마련되는지를 함께 봐야 한다.