AI 에이전트 행동 감시, 보안 로그에 남는 정보도 점검해야

행동을 살피면 기록도 늘어난다

최근 보도에 따르면 쿤텍은 AI 에이전트의 행동까지 관리하는 전주기 통합 보안 전략을 제시했다. 안랩도 AI 사이버 공격에 AI로 대응하는 차세대 보안 전략을 공개했다. 이 흐름에서 주목할 대목은 보안 시스템이 무엇을 관찰하고 기록하게 되는가다. 감시 대상이 실행 중 행동으로 넓어질수록 그 기록에 담기는 정보의 성격도 함께 살펴야 한다.

일반적인 소프트웨어 보안에서 코드 검사는 프로그램에 숨어 있는 취약점을 찾는 데 쓰인다. AI 에이전트는 외부 자료를 읽고 도구를 호출하며 작업을 이어갈 수 있어, 실행 과정도 살필 필요가 있다는 분석이 가능하다. 다만 행동 관찰이 코드 검사의 필요성을 없애는 것은 아니다. 프로그램의 결함과 실행 중 이상 징후는 서로 다른 지점에서 드러날 수 있다.

문제는 행동을 이해하려고 모은 자료가 또 다른 민감정보 저장소가 될 수 있다는 점이다. 예를 들어 가상의 고객 상담 에이전트가 어떤 정보를 외부로 보냈는지 확인하려면 요청 내용이나 전송 대상이 기록될 수 있다. 이는 특정 제품의 수집 방식을 설명하는 것이 아니다. 행동 감시를 도입하는 기업이 사전에 검토해야 할 정보 흐름의 예시다.

원문을 얼마나 남길 것인가

기업이 먼저 확인할 것은 모든 대화와 문서를 원문 그대로 저장해야 하는지다. 이상 행동을 찾는 목적이라면 도구 종류, 실행 시각, 전송 대상처럼 내용 일부를 제외한 정보로도 가능한 일이 있을 수 있다. 반대로 사건을 조사할 때는 구체적인 내용이 필요할 수 있다. 따라서 탐지에 필요한 기록과 조사에 필요한 기록을 나눠 설계하는 접근이 유용하다.

그다음은 기록의 보관 기간이다. 오래 남겨 두면 과거 사건을 추적하는 데 도움이 될 수 있지만, 보관 자료가 유출되거나 다른 목적으로 쓰일 때의 부담도 커진다. 기업은 자료별로 필요한 기간을 정하고, 기간이 지난 원본뿐 아니라 복사본과 추출 파일도 어떻게 처리하는지 확인할 필요가 있다. 보관 설정 화면만으로 실제 삭제까지 보장된다고 보기는 어렵다.

누가 기록을 볼 수 있는지도 별개의 질문이다. 보안 담당자가 이상 징후를 확인할 권한이 있다고 해서 직원의 모든 대화 내용을 상시 열람해야 하는 것은 아니다. 일반 점검에서는 내용을 가리고, 사건 조사처럼 필요한 경우에 한해 열람 범위를 넓히는 방식을 검토할 수 있다. 기록을 조회하거나 내려받은 행위 자체도 남기면 사후에 적절성을 확인하는 데 도움이 된다.

보안 기록이 업무 평가로 번지지 않게

직원에게는 행동 감시가 자신의 업무를 얼마나 들여다보는지와 연결된다. 보안을 위해 수집한 요청 횟수나 작업 시간은 맥락을 빼면 생산성 지표처럼 오해될 수 있다. 반복 요청이 많다는 이유만으로 비효율적인 업무라고 판단하기 어려운 것과 같다. 기업은 보안 기록의 이용 목적을 설명하고, 인사 평가 등 다른 용도로 전환할 때의 기준도 분명히 할 필요가 있다.

개인 이용자도 회사에서 제공하는 AI에 어떤 자료를 입력해도 되는지 다시 확인할 만하다. 회사가 승인한 서비스라는 사실만으로 대화가 저장되지 않는다고 판단할 수는 없다. 입력 내용과 첨부 파일의 기록 여부, 이를 볼 수 있는 조직이나 서비스 제공자, 삭제 요청 방법을 살펴보는 편이 좋다. 안내가 불분명하다면 고객정보나 사적인 자료를 넣기 전에 내부 지침을 확인해야 한다.

향후 행동 분석을 활용하는 보안이 확대된다면 탐지 성능과 함께 기록 관리 방식도 제품 선택의 기준이 될 전망이다. 기업은 구매 검토 단계에서 민감한 입력을 넣은 가상 업무를 실행하고 무엇이 남는지 확인할 수 있다. 필요한 흔적을 확보하면서 불필요한 내용은 줄일 수 있는지가 핵심이다. 보안을 위한 기록 역시 보호해야 할 정보라는 관점이 도입 검토에 포함돼야 한다.