중국 최고인민법원, AI 분쟁 재판 기준 24개 조항을 공개

왜 지금 이 주제인가

중국 최고인민법원이 9월 7일 인공지능 관련 분쟁 사건의 심리에 관한 의견을 공개했습니다. 중국의 최고 심판기관이 AI 분쟁을 어떤 기준으로 판단할지 문서로 내놓은 것은 이번이 처음입니다. 중국에는 아직 AI를 정면으로 겨냥한 단일 법률이 없고, 그동안 법원은 민법전이나 개인정보보호법 같은 기존 법령을 사건마다 해석해 적용해 왔습니다. 이번 의견은 그 해석을 5개 부분 24개 조항으로 묶어 정리한 것입니다. 유럽연합이 AI Act라는 입법을 앞세우고 미국이 기술 특정 규제에 반대하는 방향으로 움직이는 가운데, 세 번째 경로가 어떤 모양인지 보여 주는 문서입니다.

핵심 내용

의견이 다루는 범위는 넓습니다. AI 얼굴 바꾸기와 음성 합성, AI 환각으로 인한 허위 정보, 개인 신상을 털어 공개하는 이른바 네트워크 개인정보 폭로, 알고리즘을 이용한 가격차별, 자율주행, 모델 학습이 모두 대상에 들어갔습니다.

얼굴과 목소리

동의 없이 타인의 영상이나 음성을 처리해 식별 가능한 디지털 형상을 만드는 행위는 인격권 침해로 규정됐습니다. 결과물만 보는 것이 아니라 재료도 함께 봅니다. 동의 없이 확보한 음성을 학습 데이터로 삼아 합성 음성을 만드는 것 자체가 금지 대상에 포함됐습니다. 만들어 낸 얼굴이나 목소리로 허위 사실을 퍼뜨려 명예를 훼손하면 별도의 책임이 붙고, 피해가 중대하고 되돌리기 어려운 경우에는 법원이 금지명령을 내릴 수 있다는 점도 명시됐습니다.

책임을 나누는 방식

서비스 제공자는 자사 시스템이 권리를 침해하는 콘텐츠를 생성했다는 통지를 받고도 제때 조치하지 않으면 책임을 집니다. 반대로 침해 콘텐츠가 나오도록 이용자가 고의로 유도했다면 그 이용자가 책임을 집니다. 플랫폼 일괄 면책도, 개발자 무한 책임도 아닌 통지와 조치를 축으로 한 구조입니다.

가격과 사칭

같은 상품이나 서비스인데도 합리적 근거 없이 알고리즘으로 거래 가격 등 거래 조건에 차별을 두어 손해를 입혔다면 침해 책임을 인정하도록 했습니다. 유명인을 사칭한 AI 영상으로 물건을 파는 행위가 사기에 해당하면 징벌적 배상을 인정할 수 있다는 내용도 담겼습니다. 저우자하이 최고인민법원 연구실 주임은 모든 소비자가 기만을 가려내는 전문가가 되기를 기대할 수는 없으며, 법이 제때 개입해 소비자의 정당한 권익을 보호해야 한다고 말했습니다.

법정 자체에 대한 규칙

소송 참여인이 AI로 생성한 서면을 낼 때는 검증 의무를 지도록 했고, 허위 소송과 위조 증거는 처벌 대상으로 삼았습니다. 존재하지 않는 판례가 서면에 섞여 들어가는 문제를 절차 규칙 차원에서 다룬 셈입니다.

비워 둔 두 칸

의미와 한계

이 문서는 법률이 아닙니다. 최고인민법원이 하급심에 제시하는 심리 지침이고, 근거로 삼는 것은 민법전, 네트워크안전법, 저작권법, 개인정보보호법, 민사소송법 같은 기존 법령입니다. 새 권리를 만들었다기보다 기존 권리가 AI 상황에서 어디까지 미치는지를 정리한 성격에 가깝습니다. 실무에서 하급심 판단을 사실상 끌어가는 무게를 갖겠지만, 그 자체로 새로운 처벌 조항을 만들지는 않습니다.

한계는 비워 둔 자리에 있습니다. 모델을 만드는 쪽이 가장 알고 싶어 하는 두 가지, 즉 학습 데이터를 어디까지 써도 되는지와 생성물의 권리가 누구에게 있는지가 그대로 남았습니다. 개인의 얼굴과 목소리에는 선이 분명해졌지만, 대규모 웹 수집과 저작물 학습은 판단이 미뤄졌습니다. 초상과 음성 사건은 예측 가능해지고 데이터 사건은 여전히 불확실한 이중 구조가 당분간 이어질 것으로 보입니다. 여기서부터는 추측입니다만, 미뤄 둔 쟁점은 개별 판결이 먼저 쌓인 다음에야 정리되는 순서를 밟을 가능성이 높습니다.