딥페이크 피의자 59.5%가 10대, 생성 서비스의 책임을 묻다
사이버성폭력과 딥페이크 피의자의 10대 비중을 어떻게 읽어야 할까. 청소년 전체를 낙인찍지 않으면서 피해를 줄이기 위해, 이미지 생성 서비스의 동의 확인과 신고 절차에서 개인·기업이 점검할 기준을 짚는다.

피의자 비중이 말하는 것과 말하지 않는 것
최근 보도에 따르면 사이버성폭력 피의자의 44.6%가 10대이며, 딥페이크에서는 그 비중이 59.5%로 나타났다. 일부 보도는 이를 각각 약 45%, 60%에 육박하는 수준으로 표현했다. 이 수치에서 먼저 구분해야 할 것은 분모다. 피의자 가운데 10대가 차지하는 비율이지, 전체 청소년 가운데 범죄에 연루된 비율을 뜻하지는 않는다.
또한 피의자라는 지위와 유죄 확정은 구별해야 한다. 보도된 비율만으로 청소년 범죄가 얼마나 늘었는지, 어떤 서비스가 주로 사용됐는지까지 판단하기는 어렵다. 분석의 출발점은 특정 세대를 위험집단으로 묶는 데 있지 않다. 청소년도 접근할 수 있는 이미지 생성 기능에서 타인의 성적 이미지를 만드는 시도를 어떻게 막을지 살펴볼 필요가 있다.
사진 업로드 권한과 당사자 동의는 다르다
기술과 서비스 설계의 관점에서 보면, 사진을 갖고 있다는 사실과 그 사진 속 사람의 성적 이미지를 만들어도 된다는 동의는 별개의 문제다. 공개된 프로필 사진이나 지인에게 받은 사진 역시 마찬가지다. 생성 서비스가 파일 업로드 성공을 곧 이용 권한의 확인처럼 취급한다면, 사진을 올리는 사람의 편의 뒤로 사진 속 당사자의 의사가 밀려날 수 있다.
기업이 지금 확인할 지점은 이용약관에 금지 문구가 있는지에 그치지 않는다. 실제 인물의 사진을 넣고 성적인 변형을 요구할 때 서비스가 어떻게 반응하는지 점검해야 한다. 분석적으로는 요청 문구만 살피는 방식보다 입력 이미지와 결과물까지 함께 검토하는 접근이 필요하다. 다만 자동 판별도 틀릴 수 있으므로 차단 이유를 설명하고 이의를 검토할 절차를 함께 설계해야 한다.
나이 확인만으로 안전을 대신할 수 없다
10대 비중이 높다는 소식은 연령 확인을 강화하자는 논의로 이어질 수 있다. 그러나 나이를 확인하는 것과 타인을 대상으로 한 성적 합성을 막는 것은 서로 다른 과제다. 성인 계정에서도 같은 피해가 발생할 가능성을 고려해야 한다. 서비스 운영자는 연령에 따른 보호 조치와 별도로, 이용자의 나이에 관계없이 적용할 생성 제한 기준이 있는지 확인할 필요가 있다.
반대로 연령이나 동의를 확인한다는 이유로 신분증과 얼굴 사진을 무작정 더 모으는 것도 신중해야 한다. 보호 장치가 새로운 개인정보 보관 부담을 만들 수 있기 때문이다. 기업은 확인에 필요한 정보의 범위와 보관 기간을 설명할 수 있어야 한다. 개인 역시 사진 편집 앱을 고를 때 결과물의 품질뿐 아니라 원본 사진이 남는지, 삭제 요청 경로가 있는지 살펴보는 편이 좋다.
안전의 성과를 피해자의 수고로 측정하자
피해 대응의 관점에서는 신고 버튼의 존재보다 신고 이후의 과정이 중요하다. 사진 속 당사자가 해당 서비스의 회원이 아니어도 문제를 알릴 수 있는지, 문제 이미지의 위치를 전달할 수 있는지 확인해야 한다. 자신의 사진이 악용됐다고 의심하는 개인은 이미지를 다시 퍼뜨리기보다 발견한 주소와 계정 등 필요한 정보를 정리하고, 서비스의 신고·삭제 절차를 확인하는 것이 좋다.
앞으로 생성 서비스의 안전성을 평가한다면 차단 건수뿐 아니라 피해자가 같은 설명을 얼마나 반복해야 하는지도 살펴볼 만하다. 기업은 접수 확인, 검토 상황 안내, 결과 통지의 연결이 끊기지 않는지 점검할 수 있다. 이는 이번 수치에서 직접 확인된 사실이 아니라 서비스 개선을 위한 제안이다. 청소년에게 책임을 가르치는 일과 함께, 제품이 피해를 만들고 키울 여지를 줄이는 설계가 필요하다.
참고한 보도
이 칼럼은 위에 적은 공개 보도를 바탕으로 AI 도구를 활용해 작성·편집했습니다. 사실관계와 세부 수치는 원문 기사를 함께 확인해 주세요. 편집 원칙 · 정정·문의: 문의하기


