AI 데이터센터 전력 수요 급증, 작업 우선순위를 정할 때

전기를 늘리는 일과 쓰임을 정하는 일

최근 보도에 따르면 HD건설기계는 초대형 발전 엔진을 연간 1250대 생산하는 체제 구축에 나섰다. 골드만삭스는 AI 데이터센터 전력 수요 급증과 공급망 확충 필요성을 제기했다. 데이터센터 전력 수요가 2030년까지 170% 늘어날 것이라는 전망도 전해졌다. 다만 이 증가율을 읽을 때는 비교 기준과 대상 범위를 확인해야 한다. 전망치를 확정된 결과로 받아들여서는 곤란하다.

이 흐름을 운영 관점에서 분석하면, 발전 설비를 얼마나 확보하느냐와 함께 어떤 작업에 전기를 먼저 쓸지 묻게 된다. 일반적으로 데이터센터에는 즉시 응답해야 하는 요청과 처리 시간을 옮길 수 있는 작업이 함께 존재한다. 같은 AI 업무라도 긴급성과 지연의 영향은 다를 수 있다. 전력 수요 관리의 실효성은 이 차이를 구분하고, 이용자가 받아들일 수 있는 처리 기준을 마련하는 데서 갈릴 것이다.

미뤄도 되는 작업을 구별하는 기준

예를 들어 고객 문의에 답하는 기능과 다음 날 사용할 문서를 일괄 요약하는 기능은 요구되는 응답 시간이 다르다. 이는 특정 기업의 운영 사례가 아니라 업무를 나누기 위한 예시다. 기업은 AI 사용량을 일률적으로 줄이기에 앞서 업무별 마감 시각과 지연의 영향을 정리할 수 있다. 시간을 옮겨 처리할 여지가 있는 작업을 찾으면, 중요한 요청에 필요한 처리 여력을 남기는 데 도움이 될 수 있다.

다만 처리 시간이 길다는 이유만으로 작업의 우선순위를 낮추는 것은 적절하지 않을 수 있다. 접근성을 지원하는 기능이나 마감이 임박한 신청 업무처럼, 사용량은 작아도 지연이 이용자에게 큰 부담을 줄 수 있기 때문이다. 운영자는 요청의 크기뿐 아니라 이용 목적과 대체 수단의 유무를 함께 살펴야 한다. 우선순위는 기술 담당자의 편의만으로 정하기보다 해당 업무 담당자와 합의할 필요가 있다.

절전 운영에도 이용자가 알아야 할 변화

분석상 주의할 지점은 전력 수요를 조절하는 과정에서 서비스의 성격까지 달라질 가능성이다. 처리 대기 시간을 늘리는 것과 답변 생성 방식을 바꾸는 것은 이용자에게 서로 다른 영향을 준다. 전자는 일정 관리의 문제로 이어지고, 후자는 결과의 품질을 다시 확인해야 하는 문제가 될 수 있다. 운영 방식의 변경이 실제로 이뤄진다면, 무엇이 달라졌는지 이용자가 알아볼 수 있도록 안내하는 것이 바람직하다.

기업 이용자는 서비스 제공자에게 요청이 밀릴 때 대기 상태를 어떻게 표시하는지, 작업을 취소하거나 다시 실행할 수 있는지 확인할 수 있다. 특히 처리 완료 여부를 모른 채 같은 요청을 반복하면 중복 작업이 생길 수 있다. 내부 시스템에서도 요청 접수와 완료를 구분해 보여주고 재시도 기준을 정해 두는 편이 유용하다. 이는 전력 문제가 발생했다고 가정하는 것이 아니라, 지연에 대비하는 일반적인 운영 원칙이다.

사용량과 함께 완료한 업무를 살펴야

수요 관리의 성과를 평가할 때는 전력 사용량 감소만 보고 판단하지 않는 것이 좋다. 작업을 뒤로 미뤘다면 당장의 사용량은 줄어도 미처리 업무가 쌓일 수 있고, 결과가 부실해 재작업이 늘면 기대한 효과가 작아질 수 있다. 기업은 업무 완료 시간과 실패·재시도 현황, 결과의 품질을 함께 살펴볼 필요가 있다. 평가의 초점을 AI 호출 횟수에서 실제로 완료한 업무로 옮기자는 운영상의 제안이다.

개인 이용자는 마감이 있는 작업을 맡길 때 예상 소요 시간과 결과 저장 방법을 확인하고, 지연 시 직접 처리할 대안을 마련해 둘 수 있다. 기업은 업무별 우선순위와 이용자 안내 기준부터 정리할 수 있다. 발전 엔진 생산 확대가 개별 서비스의 처리 여유로 얼마나 이어질지는 별도로 확인해야 한다. 공급 확대가 추진되는 동안에도, 필요한 업무를 제때 끝내도록 사용 방식을 설계하는 과제는 남는다.