올트먼의 IAEA형 AI 국제기구 구상, 통제 권한과 대표성을 묻다

기구의 이름보다 통제의 범위

최근 보도에 따르면 샘 올트먼 오픈AI 최고경영자는 AI 안전 개발을 위한 세 가지 시나리오를 제안했고, 그중 국제원자력기구인 IAEA 방식의 국제기구를 가장 선호한다고 밝혔다. 여기서 주목할 대목은 국제기구라는 형식 자체보다 AI 안전을 국경을 넘는 통제의 문제로 다룬다는 점이다. 다만 알려진 내용만으로 세 시나리오의 구체적인 차이나 실행 방식을 판단하기는 어렵다.

분석의 출발점은 무엇을 감독할 것인지에 있다. AI 모델을 만드는 과정, 서비스를 제공하는 단계, 이용자의 악용은 서로 다른 문제다. 국제기구가 생긴다고 가정해도 모든 영역을 같은 방식으로 관리하기는 어려울 것이다. 개발사의 안전 평가를 검토할지, 국가 간 위험 정보를 공유할지, 특정 활동을 제한할지에 따라 필요한 권한과 책임도 달라질 수 있다.

안전 기준을 정하는 자리는 누구의 것인가

국제 감독 구상을 평가할 때는 참여자의 대표성을 함께 살펴볼 필요가 있다. 기술을 많이 보유한 국가와 기업의 전문성은 중요하지만, AI를 도입해 사용하는 국가와 시민도 결과의 영향을 받는다. 분석적으로 보면 개발 능력이 큰 주체의 관점에 기준이 치우칠 경우, 다양한 언어와 사회 환경에서 발생하는 문제는 충분히 반영되지 못할 가능성이 있다.

기업 경영자의 제안은 논의를 여는 계기가 될 수 있다. 다만 제안자의 선호와 공적인 감독 체계의 설계는 구분해 살펴야 한다. 일반적인 제도 설계 관점에서는 감독 대상 기업이 기준 마련에 참여하더라도 최종 판단의 독립성을 확보하는 장치가 중요하다. 누가 위원을 정하고, 이해관계를 어떻게 공개하며, 판단에 이의를 제기할 수 있는지가 신뢰를 가를 것으로 보인다.

공통 기준의 편익과 비용을 함께 보자

기업 입장에서 국제 공통 기준은 국가마다 다른 요구를 확인하는 부담을 줄일 가능성이 있다. 반대로 평가와 자료 제출에 큰 비용이 들면 자원이 적은 기업의 진입이 어려워질 수도 있다. 이는 아직 구체화되지 않은 구상에 대한 전망이다. 따라서 향후 논의를 볼 때는 안전 기준의 엄격함뿐 아니라 위험 수준에 맞게 의무를 나누는지, 작은 기업도 대응할 수 있는지를 살펴야 한다.

국내 기업이 지금 할 수 있는 일은 국제기구 출범을 전제로 사업 계획을 바꾸기보다 자사의 AI 사용 현황을 정리하는 것이다. 직접 모델을 개발하는지, 외부 서비스를 업무에 연결하는지부터 구분하면 된다. 이어 서비스 공급자에게 안전 평가 자료와 사고 통지 절차를 확인해 둘 만하다. 이런 준비는 향후 어떤 감독 방식이 논의되든 거래 상대에게 필요한 설명을 요구하는 데 도움이 된다.

개인은 국제 감독과 서비스 책임을 구분해야

개인 이용자에게 국제 감독 논의가 중요한 이유는 안전을 판단할 정보가 늘어날 수 있기 때문이다. 다만 장차 국제적인 평가 체계가 마련되더라도 개별 서비스의 모든 답변과 사용 상황을 보증하기는 어려울 것이다. 이용자는 안전 관련 설명이 어떤 모델과 기능을 대상으로 하는지, 평가 범위와 한계가 공개돼 있는지 살펴보는 편이 좋다. 인증의 이름만으로 신뢰를 결정하기는 어렵다.

이번 구상을 지켜보는 기준은 기구의 출범 여부에만 머물러서는 안 된다. 위험을 확인할 권한, 기업에 설명을 요구할 수단, 잘못된 판단을 고칠 절차가 어떻게 연결되는지가 더 실질적인 쟁점이 될 수 있다. 한국의 기업과 이용자에게도 기준을 따르는 역할뿐 아니라 기준을 만드는 과정에 의견을 전달할 통로가 중요하다. 국제적 합의의 가치는 그 통로가 얼마나 열려 있는지에서도 드러날 것이다.