AI 에이전트 보안 경쟁, 업무 위임의 경계를 확인할 때

보안 경쟁이 던지는 업무 위임의 질문

최근 보도에 따르면 엔비디아는 하드웨어 수준 통제를 내세운 오픈쉘 아키텍처를, 센티넬원은 OneCon 2026에서 AI 에이전트 보안 제품을 공개했다. 세일포인트도 자율형 에이전트와 아이덴티티 보안 솔루션을 선보였다. 마이크로소프트의 통제 모델과 실시간 감시·권한 통제 역시 보도로 알려졌다. 접근 방식은 달라도 에이전트의 행동을 통제하려는 흐름으로 읽힌다.

이 흐름에서 주목할 점은 기업이 AI에 어디까지 일을 맡길 수 있느냐다. 일반적으로 답변을 작성하는 도구와 다른 시스템에서 작업을 실행하는 에이전트는 오류가 미치는 범위가 다를 수 있다. 잘못된 문장은 수정하면 되지만, 잘못 발송한 문서나 변경한 고객 정보는 후속 조치가 필요하다. 보안 경쟁은 이런 실행의 결과를 어떻게 제한할 것인가라는 질문으로 해석할 수 있다.

접근 권한보다 구체적인 작업 범위

분석의 출발점은 계정에 부여한 권한과 사용자가 맡긴 업무가 항상 일치하지는 않는다는 데 있다. 가령 회의 자료를 정리하라는 요청에 문서 열람은 필요해도 외부 공유까지 필요하지는 않을 수 있다. 같은 문서 서비스 안에서도 읽기, 수정, 발송은 결과가 서로 다르다. 기업은 서비스 접속 허용 여부에 더해 개별 작업에 필요한 행동의 범위를 구분해 살펴볼 필요가 있다.

실무에서는 업무 하나를 골라 에이전트가 읽을 자료, 바꿀 항목, 결과를 전달할 대상을 적어보는 방법이 유용하다. 고객 문의 분류라면 담당 부서 지정과 환불 실행을 별도 단계로 나눌 수 있다. 모든 동작에 승인을 붙이면 활용이 어려워질 수 있으므로, 금전 이동이나 외부 공개처럼 되돌리기 어려운 행동에 확인 절차를 두는 방식이 합리적인 선택지가 될 수 있다.

외부 자료가 업무 지시로 바뀌는 순간

일반적인 보안 관점에서 에이전트가 읽는 이메일이나 웹 문서에는 사용자의 요청과 충돌하는 지시가 섞일 수 있다. 외부 자료 속 문장을 따라 원래 업무를 벗어나게 만드는 문제가 프롬프트 인젝션이다. 이는 특정 제품에서 사고가 확인됐다는 뜻이 아니다. 자료를 참고하는 과정과 행동을 결정하는 과정이 연결되는 만큼, 도입 단계에서 살펴볼 위험 유형이라는 의미다.

기업이 확인할 것은 수상한 문장을 찾아내는 기능에 그치지 않는다. 외부 문서가 요구하더라도 전송 대상이나 업무 범위를 임의로 바꿀 수 있는지, 사용자가 정한 조건이 실행 단계까지 유지되는지가 중요하다. 예를 들어 문서를 요약하던 에이전트가 문서 안의 요청만으로 첨부파일을 다른 주소에 보낼 수 있는지 점검하면, 추상적인 보안 설명을 실제 업무의 문제로 바꿔볼 수 있다.

중단과 복구까지 포함해 맡겨야 한다

개인 이용자에게도 위임 범위를 좁히는 습관은 도움이 될 수 있다. 에이전트에 일을 맡길 때 초안 작성까지인지, 실제 발송까지인지 분명히 구분하고 연결된 서비스의 허용 항목을 살펴보는 식이다. 특히 여러 사람의 자료를 함께 다루는 업무라면 본인의 편의만으로 공유 범위를 정하기 어렵다. 실행 전에는 수신자와 첨부 자료처럼 결과를 좌우하는 항목을 확인할 필요가 있다.

앞으로 보안 제품을 평가할 때는 막을 수 있는 행동과 함께 실행을 멈추고 되돌리는 방법도 중요해질 것으로 전망된다. 연결을 해제하면 진행 중인 작업도 중단되는지, 변경 내역을 확인해 복구할 수 있는지 살펴볼 만하다. 기업은 작은 업무에서 이런 과정을 시험해 위임 범위를 넓힐 수 있다. 에이전트의 자율성은 맡길 일과 회수할 수 있는 일을 구체적으로 정할 때 활용하기 쉬워진다.